Theo Reuters, Hội đồng quản trị của Meta sẽ sử dụng hai ví dụ để đánh giá hiệu quả tổng thể của các chính sách và thực tiễn thực thi của Meta đối với nội dung khiêu dâm giả được tạo bằng trí tuệ nhân tạo.
Người phát ngôn của hội đồng cho biết họ cung cấp mô tả về những hình ảnh được đề cập nhưng không nêu tên những người phụ nữ nổi tiếng được mô tả trong đó để “ngăn chặn tác hại thêm”.
Những tiến bộ trong công nghệ AI đã khiến hình ảnh, clip âm thanh và video giả trở nên thật đến mức hầu như không thể phân biệt được với nội dung thực do con người tạo ra, dẫn đến một loạt nội dung khiêu dâm giả mạo lan tràn trên mạng.
Trong một trường hợp đặc biệt nổi tiếng vào đầu năm nay, nền tảng truyền thông xã hội X thuộc sở hữu của Elon Musk đã nhanh chóng chặn người dùng tìm kiếm tất cả hình ảnh của ngôi sao nhạc pop Mỹ Taylor Swift sau khi gặp khó khăn trong việc kiểm soát sự lan truyền của những hình ảnh khiêu dâm giả mạo về cô.
Một số giám đốc điều hành trong ngành đã kêu gọi ban hành luật hình sự hóa việc tạo ra deepfake có hại và yêu cầu các công ty công nghệ ngăn chặn việc sử dụng sản phẩm của họ theo cách này.
Theo mô tả của Ủy ban Giám sát Meta, một trong hai trường hợp là hình ảnh khiêu dâm giả của một nhân vật của công chúng đến từ Ấn Độ, được đăng bởi một tài khoản trên Instagram chỉ chia sẻ hình ảnh do AI tạo ra về phụ nữ Ấn Độ.
Hội đồng cho biết, hình ảnh còn lại xuất hiện trong một nhóm Facebook để chia sẻ các sáng tạo của AI, với nội dung là một phụ nữ khỏa thân giống "nhân vật của công chúng Mỹ”.
Meta đã xóa hình ảnh mô tả người phụ nữ Mỹ vì vi phạm chính sách bắt nạt và quấy rối, trong đó cấm "các bức vẽ hoặc ảnh photoshop mang tính chất khiêu dâm xúc phạm", nhưng ban đầu vẫn để lại hình ảnh có người phụ nữ Ấn Độ và chỉ đảo ngược hướng đi sau khi hội đồng quản trị để ý tới nó.
