Instagram thắt chặt quy định về tài khoản ảo do AI tạo
Instagram vừa công bố chính sách mới nhằm quản lý chặt chẽ hơn các tài khoản ảo được tạo ra bằng trí tuệ nhân tạo (AI). Theo đó, tất cả tài khoản này phải hiển thị nhãn "AI-generated profile" (tài khoản do AI tạo) nếu không nội dung của họ sẽ bị hạn chế trong các thuật toán hiển thị, nhằm nâng cao nhận thức của người dùng và tránh nhầm lẫn giả định tương tác với người thật.
Cập nhật nhãn hiệu và áp dụng biện pháp kiểm soát
Trước đây, Instagram có lựa chọn nhãn "AI Creator" mà các tài khoản ảo có thể tự đăng ký. Nay, nhãn này được đổi thành "AI-generated profile" nhằm phân biệt rõ ràng hơn giữa người dùng thật và nhân vật ảo do AI điều khiển. Hệ thống sẽ tự động phát hiện các tài khoản AI không có nhãn này và loại bỏ chúng khỏi lưu lượng đề xuất để kiểm soát sự lan truyền của nội dung ảo.
Hiện tượng mạng ảo và lý do siết chặt quản lý
Các tài khoản AI này thường mô phỏng hình ảnh con người với độ chân thực cao, đặc biệt các nhân vật nữ ảo chuyên đăng tải nội dung phong cách sống giống influencer thật. Một số nhân vật AI nổi tiếng tiền thân như Lil Miquela đã khơi dậy sự quan tâm của ngành. Khi công nghệ AI ngày càng phổ biến, lượng tài khoản ảo thương mại như vậy tăng nhanh và họ còn tham gia đại diện thương hiệu, marketing kỹ thuật số.
Meta cho biết, phản hồi từ người dùng cho thấy nhiều người không hài lòng khi không biết trước họ tương tác với "người ảo", nên Instagram phải tăng cường minh bạch bằng cách bắt buộc đánh dấu rõ nguồn gốc tài khoản.
Tác động đến trải nghiệm người dùng và cộng đồng
Công nghệ tạo nội dung AI đang được ứng dụng rộng rãi trong mạng xã hội và sáng tạo nội dung. Yêu cầu dán nhãn rõ ràng giúp người dùng định hình được nguồn gốc thông tin, hạn chế tương tác sai lệch và tăng cường sự minh bạch trên nền tảng. Quy định này góp phần hỗ trợ xây dựng môi trường truyền thông xã hội đáng tin cậy hơn.
Động thái của Instagram phản ánh sự quan tâm sâu sắc với vai trò AI trong sáng tạo nội dung và đáp ứng kỳ vọng của cả người dùng lẫn cơ quan quản lý về tính xác thực của danh tính ảo. Đây có thể là hướng đi phổ biến được nhiều nền tảng áp dụng trong tương lai nhằm tăng cường kiểm soát nội dung do AI tạo.