Mỹ báo động tình trạng gia tăng nội dung lạm dụng trẻ em do AI tạo ra

Các chuyên gia về an toàn trẻ em cảnh báo nguy cơ công nghệ AI tạo sinh có thể tạo ra văn bản và hình ảnh dựa trên các gợi ý, qua đó sẽ làm trầm trọng thêm tình trạng bóc lột, lạm dụng trực tuyến.

Ảnh minh họa. (Nguồn: Yahoo News)

Ngày 31/1, Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC) Mỹ cho biết trong năm 2023 đã nhận được 4.700 báo cáo về nội dung trực tuyến do Trí tuệ Nhân tạo (AI) tạo ra liên quan đến lạm dụng tình dục trẻ em.

NCMEC cho rằng con số trên phản ánh vấn đề mới được dự đoán sẽ gia tăng khi công nghệ AI phát triển.

Trong những tháng gần đây, các chuyên gia và nhà nghiên cứu về an toàn trẻ em đã cảnh báo nguy cơ công nghệ AI tạo sinh có thể tạo ra văn bản và hình ảnh dựa trên các gợi ý, qua đó sẽ làm trầm trọng thêm tình trạng bóc lột, lạm dụng trực tuyến.

Trong năm 2022, NCMEC đã nhận được báo cáo khoảng 88,3 triệu nội dung lạm dụng trẻ em từ tất cả các nguồn, trong đó có chính các công ty AI tạo sinh, nền tảng trực tuyến và từ người dân.

Giám đốc bộ phận tiếp nhận báo cáo về việc bóc lột trẻ em trực tuyến CyberTipline của NCMEC, bà Fallon McNulty, cho biết nội dung được xác định do AI tạo ra đang ngày càng giống ảnh thật, khiến việc xác định nạn nhân có phải là người thật hay không trở nên khó khăn hơn.

Theo bà McNulty, OpenAI, nhà phát triển chatbot ChatGPT, đã thiết lập quy trình gửi báo cáo tới NCMEC, trong khi NCMEC cũng đang làm việc với các công ty AI tạo sinh khác trong việc hợp tác báo cáo về các nội dung trực tuyến không an toàn cho trẻ em./.

Chatbot AI của Snapchat có thể đe dọa quyền riêng tư của trẻ em

Văn phòng Ủy ban Thông tin của Anh đang điều tra cách thức tính năng My AI trên Snapchat xử lý dữ liệu cá nhân của khoảng 21 triệu người dùng ở Anh, trong đó có cả trẻ em từ 13-17 tuổi.

(TTXVN/Vietnam+)