Đã xuất hiện hình ảnh của những ngôi sao điện ảnh Ấn Độ (Bollywood) mặc trang phục lycra bó sát hay video về chính trị gia người Bangladesh trong bộ đồ bikini.
Tất cả đều không có thật, nhưng đã được lan truyền rộng khắp trên mạng xã hội để cư dân mạng buông ra những lời cay độc và thậm chí đe dọa giết người.
Điều đó cho thấy mức độ tinh vi của trí tuệ nhân tạo (AI) và những mối đe dọa mà công nghệ này đặt ra đối với nữ giới trên khắp châu Á.
Video và bức ảnh trên đều là Deepfake, một loại kỹ thuật sử dụng AI để tạo ra video/hình ảnh giả mạo. Những nội dung này bị phát hiện khi đang xuất hiện tràn lan trên mạng xã hội.
Trong bài đăng trên mạng xã hội X, ngôi sao Bollywood Rashmika Mandanna cho biết video mặc trang phục lycra bó sát "vô cùng đáng sợ." Điều này phơi bày sự thật rằng ngày nay, con người dễ bị tổn hại nghiêm trọng vì các đối tượng xấu đang lạm dụng công nghệ.
Nữ diễn viên nhấn mạnh rằng cộng đồng cần chung tay giải quyết vấn đề này một cách khẩn cấp trước khi nhiều người bị ảnh hưởng do hành vi giả mạo như vậy.
Mandanna không phải ngôi sao Bollywood duy nhất là nạn nhân của Deepfake khi bị tung video giả mạo và bị tấn công trên mạng xã hội.
Trong danh sách các ngôi sao hạng A của Ấn Độ còn có Katrina Kaif, Alia Bhatt và Deepika Padukone.
Sự bùng nổ của các công cụ AI tổng hợp như Midjourney, Stable Diffusion và DALL-E đã khiến việc tạo và nhân bản những hình ảnh hoặc video Deepfake trở nên dễ dàng hơn, có tính chân thực cao hơn so với các hình ảnh hoặc video sử dụng kỹ thuật số trước đây.
Theo các chuyên gia công nghệ, hơn 90% video Deepfake trực tuyến là nội dung khiêu dâm.
Mặc dù không có dữ liệu thống kê riêng đối với khu vực Nam Á, nhưng các chuyên gia về quyền kỹ thuật số cho biết vấn đề này đặc biệt đầy thách thức tại các quốc gia, nơi mà phụ nữ từ lâu đã bị quấy rối trực tuyến và lạm dụng hầu nhưng hành vi đó hầu như không bị xử phạt.
Các công ty truyền thông xã hội đang tìm cách kiểm soát những nội dung xấu độc này. YouTube của Google, các nền tảng của Meta - công ty sở hữu Facebook, Instagram và WhatsApp - đã cập nhật chính sách của họ, yêu cầu các nhà sáng tạo nội dung và nhà quảng cáo gắn nhãn cho tất cả nội dung do AI tạo ra.
Mặc dù vậy, các công ty này vẫn đang loay hoay tìm lời giải cho bài toán quản lý và giám sát công nghệ Deepfake có khả năng tạo ra những bản sao như thật, tiềm ẩn nguy cơ làm đảo lộn cuộc sống thực./.
Chính phủ Ấn Độ lên kế hoạch xử lý và ngăn chặn công nghệ Deepfake
Các quy định được Chính phủ Ấn Độ soạn thảo dựa trên 4 trụ cột bao gồm phát hiện Deepfake, ngăn chặn Deepfake, xây dựng cơ chế khiếu nại, báo cáo và nâng cao nhận thức.
