Ngày 16/1, Chính phủ Nhật Bản cho biết đã yêu cầu trang mạng xã hội X triển khai các biện pháp nhằm ngăn chặn việc sử dụng công cụ trí tuệ nhân tạo (AI) tạo sinh mang tên Grok để chỉnh sửa quá mức hình ảnh theo hướng khiêu dâm.
Phát biểu trước báo giới sau phiên họp Nội các, Bộ trưởng phụ trách chiến lược AI Kimi Onoda nhấn mạnh Nhật Bản sẽ đẩy nhanh tiến trình thảo luận, đồng thời tranh thủ sự phối hợp của các bộ ngành và cơ quan liên quan để ứng phó với vấn nạn nêu trên.
Dưới sự điều hành của tỷ phú Mỹ Elon Musk, vào năm ngoái, X đã giới thiệu Grok - công cụ AI tạo sinh giúp người dùng thao tác, chỉnh sửa hình ảnh thông qua việc tạo các câu lệnh.
Trong thời gian gần đây, X ghi nhận lượng bài đăng do AI tạo ra tăng mạnh, trong đó hàng loạt hình ảnh của người thật bị chỉnh sửa theo cách không phù hợp.
Các hình ảnh giả mạo có thể xâm phạm quyền lợi cá nhân, trong đó có quyền đối với hình ảnh cá nhân cũng như quyền về bảo đảm danh dự, uy tín.
Thực trạng lạm dụng công cụ AI tạo sinh để tạo ra các hình ảnh khiêu dâm giả mạo của người thật đã khiến chính phủ nhiều nước trên thế giới mở loạt điều tra đối với X.
Về phía Nhật Bản, đây là lần đầu tiên chính phủ nước này chính thức phản ứng công khai. Trong khi đó, chính phủ các nước như Anh, Canada và Malaysia cũng lên tiếng trước vấn đề đáng lo ngại này.
Phản hồi trước các chỉ trích, đại diện X cho biết nền tảng này đã ưu tiên gỡ bỏ các nội dung vi phạm nghiêm trọng, trong đó có tài liệu lạm dụng tình dục trẻ em và hình ảnh khỏa thân không có sự đồng thuận.
Trước đó, vào năm ngoái, Chính phủ Nhật Bản đã yêu cầu OpenAI cải thiện công cụ tạo video Sora do xuất hiện các video nhạy cảm có hình ảnh giống với phong cách anime Nhật Bản./.