Mạng xã hội X đã đưa ra cam kết mạnh mẽ nhằm trấn an giới chức Anh giữa làn sóng lo ngại ngày càng gia tăng về nội dung cực đoan, kích động thù hận và deepfake trên không gian mạng.
Cơ quan quản lý truyền thông Anh Ofcom ngày 15/5 cho biết X đã nhất trí tăng cường kiểm soát nội dung bất hợp pháp để bảo vệ người dùng tại Anh, trong bối cảnh London đang gia tăng sức ép đối với các nền tảng mạng xã hội lớn.
Theo các cam kết mới, X sẽ xem xét các nội dung bị nghi ngờ liên quan đến khủng bố hoặc phát ngôn thù hận trong thời gian trung bình không quá 24 giờ kể từ khi nhận được báo cáo. Nền tảng này cũng cam kết chặn các tài khoản có liên hệ với những tổ chức khủng bố bị cấm hoạt động tại Anh.
Động thái trên diễn ra sau khi Ofcom triển khai chương trình giám sát từ năm ngoái nhằm buộc các “ông lớn” công nghệ xây dựng hệ thống đủ mạnh để xử lý nội dung bất hợp pháp lan truyền trên nền tảng của họ.
Ông Oliver Griffiths - Giám đốc an toàn trực tuyến của Ofcom - cho biết cơ quan này có bằng chứng cho thấy “nội dung khủng bố và phát ngôn thù hận bất hợp pháp vẫn tồn tại trên một số mạng xã hội lớn nhất hiện nay.”
Ông Griffiths công nhận những cam kết mới của X là “một bước tiến” nhưng ông cũng nhấn mạnh “vẫn còn rất nhiều việc phải làm.”
Dưới sức ép của Ofcom, X sẽ phải nộp dữ liệu hoạt động định kỳ hằng quý trong vòng 1 năm tới để cơ quan quản lý Anh giám sát xem nền tảng này có thực sự cải thiện mức độ an toàn cho người dùng hay không.
Nhà chức trách Anh cho biết các lo ngại liên quan đến an toàn trực tuyến đang trở nên đặc biệt nghiêm trọng sau hàng loạt vụ tấn công mang tính bài Do Thái xảy ra gần đây tại nước này.
Không chỉ đối mặt áp lực về nội dung cực đoan, X còn đang bị điều tra liên quan tới công cụ trí tuệ nhân tạo Grok - chatbot do công ty xAI (cũng thuộc sở hữu của tỷ phú Elon Musk) phát triển.
Hồi tháng 1 vừa qua, Ofcom đã mở cuộc điều tra đối với tính năng tạo ảnh của Grok sau khi công cụ này bị lạm dụng để tạo ra các hình ảnh deepfake mang tính khiêu dâm. Hiện cuộc điều tra vẫn đang được tiến hành./.
Pháp siết chặt kiểm soát nội dung của người có ảnh hưởng trên mạng xã hội
Trong số các biện pháp ưu tiên có việc xây dựng một cổng tiếp nhận phản ánh về các hành vi sai phạm trên không gian số, thay thế cho hệ thống hiện nay vốn bị đánh giá là phân tán và thiếu hiệu quả.
