Hàn Quốc dự kiến mở rộng phạm vi giám sát của hệ thống Trí tuệ Nhân tạo (AI) nhằm phát hiện nội dung xâm hại tình dục trẻ em trên mạng, từ 79 nền tảng trong năm nay lên 139 nền tảng vào năm 2027.
Trong khi đó, Australia đang thúc đẩy hoàn thiện khung pháp lý, buộc các công ty Internet chủ động phát hiện và ngăn chặn nguy cơ gây hại cho người dùng.
Theo hãng thông tấn Yonhap, ngày 10/11, Bộ Bình đẳng giới và Gia đình Hàn Quốc cho biết, từ tháng 4 đến tháng 9, Trung tâm Quốc gia ứng phó với tội phạm tình dục trên môi trường số đã phát hiện 96.210 nội dung xâm hại tình dục trẻ em và gửi yêu cầu các nền tảng gỡ bỏ.
Trung tâm đưa hệ thống Trí tuệ Nhân tạo vào hoạt động từ tháng 4, giúp phát hiện nội dung vi phạm theo thời gian thực trên mạng xã hội và các ứng dụng trò chuyện với người lạ.
Hệ thống vận hành 24/7, tự động đánh dấu nội dung nghi vấn để nhân viên trung tâm kiểm tra trước khi gửi yêu cầu gỡ bỏ. Cách làm này giúp giảm khối lượng công việc so với phương thức nhân viên trực tiếp theo dõi các nền tảng như trước đây. Bộ Bình đẳng giới và Gia đình dự kiến tiếp tục huấn luyện hệ thống bằng dữ liệu của trung tâm nhằm nâng cao độ chính xác.
Được thành lập năm 2018, trung tâm hỗ trợ nạn nhân của tội phạm tình dục trên môi trường số, trong đó có gỡ bỏ nội dung vi phạm và hỗ trợ thực hiện các thủ tục pháp lý. Năm 2025, trung tâm đã hỗ trợ 10.637 lượt người, trong đó có 3.052 nạn nhân dưới 20 tuổi.
Trong khi Hàn Quốc tập trung ứng dụng công nghệ để phát hiện và xử lý nội dung vi phạm, Australia đang thúc đẩy dự luật về trách nhiệm bảo đảm an toàn trên môi trường số (Digital Duty of Care), yêu cầu các công ty Internet chủ động nhận diện và ngăn ngừa nguy cơ gây hại cho người dùng. Doanh nghiệp không thực hiện nghĩa vụ này có thể bị phạt tới 109 triệu AUD (khoảng 75 triệu USD).
Dự luật đã được Hạ viện thông qua nhưng cần sự ủng hộ của các nghị sĩ độc lập và các đảng nhỏ để vượt qua Thượng viện. Chính phủ Australia đặt mục tiêu hoàn tất việc thông qua trước cuối năm nay. Dự luật cũng cho phép người dùng tắt tính năng đề xuất nội dung theo thuật toán, thay vào đó chỉ xem bài đăng từ những tài khoản họ chủ động theo dõi.
Tuy nhiên, đề xuất này đang gây tranh luận. Những người ủng hộ cho rằng quy định bao quát là cần thiết để xây dựng cơ chế bảo vệ người dùng hiệu quả. Trong khi đó, các doanh nghiệp công nghệ và những người lo ngại về tự do ngôn luận cho rằng dự luật trao cho cơ quan quản lý quá nhiều quyền xác định nội dung có hại, có thể khiến các nền tảng kiểm duyệt quá mức để tránh bị xử phạt.
Tại phiên điều trần của Thượng viện ngày 9/11, đại diện Google tại Australia cảnh báo yêu cầu xác minh độ tuổi đối với các dịch vụ có nguy cơ khiến trẻ em tiếp cận nội dung khiêu dâm có thể buộc công ty chặn người dưới 18 tuổi sử dụng Gmail. Đại diện Meta, TikTok và Snap cũng bày tỏ lo ngại về phạm vi quyền hạn của cơ quan quản lý.
Phát biểu tại phiên điều trần ngày 10/11, Ủy viên An toàn trực tuyến Australia Julie Inman Grant bác bỏ cảnh báo về nguy cơ kiểm duyệt quá mức, cho biết trong hai năm qua bà chưa thấy dấu hiệu các công ty thực hiện việc này trên diện rộng.
Theo bà, mô hình kinh doanh của các nền tảng khuyến khích hiển thị tối đa nội dung để tăng tương tác, kể cả những nội dung có thể gây tổn hại cho cộng đồng. Bà cũng cho rằng phần lớn trường hợp gỡ bỏ nội dung quá mức xuất phát từ hệ thống kiểm duyệt tự động thiếu sự giám sát của con người, thay vì sức ép từ cơ quan quản lý./.
UNICEF: Việt Nam có nỗ lực vượt bậc trong bảo vệ trẻ em trên không gian mạng
Theo Trưởng đại diện UNICEF, Việt Nam đang thể hiện vai trò tiên phong với những cam kết chính trị mạnh mẽ và hành động quyết liệt để bảo vệ những công dân nhỏ tuổi nhất của mình trên không gian mạng.
