Trung Quốc ban hành lệnh cấm tạo và phân phối nội dung deepfake

Theo quy định mới được công bố, cả nhà cung cấp và người dùng dịch vụ âm thanh, tin tức video trực tuyến đều không được phép sử dụng các công nghệ mới để tạo, phân phối và phát tin giả.
Ảnh minh họa. (Nguồn: The Verge)
Ảnh minh họa. (Nguồn: The Verge)

Trung Quốc mới ban hành các quy tắc mới cấm các nhà cung cấp video và âm thanh trực tuyến sử dụng công nghệ học sâu - một phận của trí tuệ nhân tạo (AI) - để tạo ra tin giả (fake news), trong bối cảnh các nước trên thế giới tiếp tục chống lại sự lan truyền tin thất thiệt trực tuyến và cái gọi là công nghệ deepfake.

Theo quy định mới được công bố vào thứ Sáu 29/11, cả nhà cung cấp và người dùng dịch vụ âm thanh và tin tức video trực tuyến đều không được phép sử dụng các công nghệ mới như học sâu và thực tế ảo để tạo, phân phối và phát tin giả.

Quy định này được đưa ra khoảng một tháng rưỡi sau khi bang California của Mỹ đưa ra luật cấm tạo các nội dung deepfake chính trị, bao gồm việc tạo hoặc phân phối video, hình ảnh hoặc âm thanh sai lệch về các chính trị gia trong vòng 60 ngày trước-trong vào sau cuộc bầu cử.

Vào tháng 4, Liên minh châu Âu đã đưa ra một chiến lược để điều tra thông tin sai lệch trực tuyến, bao gồm cả các nội dung deepfake.

[Công nghệ ‘deepfake" là gì và nó có thể gây nguy hiểm thế nào?]

Deepfake đề cập đến các video bị thao túng, hoặc các hình thức hiển thị kỹ thuật số khác được sản xuất bởi trí tuệ nhân tạo tinh vi, mang lại hình ảnh và âm thanh bịa đặt có vẻ như thật. Ví dụ, nó có thể được sử dụng để che phủ hình ảnh của khuôn mặt người nổi tiếng trên cơ thể người khác, nhằm đánh lừa người xem.

Nhưng quy định của Trung Quốc rộng hơn nhiều, gói gọn không chỉ tin tức chính trị mà còn sử dụng rộng rãi hơn các công nghệ này bao gồm học sâu và thực tế ảo.

"Với việc áp dụng các công nghệ mới, như deepfake, trong các ngành công nghiệp video và âm thanh trực tuyến, đã có những rủi ro khi sử dụng nội dung đó để phá vỡ trật tự xã hội và vi phạm lợi ích của mọi người, tạo ra rủi ro chính trị và gây ảnh hưởng xấu đến an ninh quốc gia và ổn định xã hội ," cơ quan quản lý không gian mạng của Trung Quốc nhấn mạnh trong một thông báo liên quan đến việc đưa ra quy định vào thứ Sáu.

Khi điện thoại thông minh và ứng dụng máy ảnh ngày càng tinh vi, giờ đây người dùng có thể kéo dài chân, thay đổi màu mắt và thêm vô số tính năng khác để tạo ra những bức ảnh và video giả về người trông giống thật, và công nghệ này hiện đã có sẵn cho công chúng.

Quy định mới của Trung Quốc do ba cơ quan chính phủ phối hợp công bố, trong đó có cơ quan giám sát Internet, Cục quản lý không gian mạng Trung Quốc, có hiệu lực từ ngày 1/1 /2020.

Quy định mới yêu cầu các nhà cung cấp và người dùng dịch vụ thông tin âm thanh và tin tức video trực tuyến phải dán nhãn rõ ràng vào bất kỳ nội dung nào liên quan đến các công nghệ mới như học sâu trong quá trình tạo, phân phối và phát sóng.

Nó cũng yêu cầu các nhà cung cấp nội dung sử dụng công nghệ để phát hiện nội dung tin tức âm thanh và video được sản xuất hoặc có khả năng bị thao túng.

Theo các cuộc điều tra của nhà chức trách Mỹ, những lo ngại về các cuộc tấn công deepfake đã gia tăng kể từ chiến dịch bầu cử năm 2016 ở nước này, trong đó chứng kiến sự gia tăng sử dụng thông tin sai lệch trực tuyến.

Tại Trung Quốc, deepfake bắt đầu nổi lên vào tháng 9 khi làn truyền một ứng dụng Trung Quốc cho phép người dùng thay đổi khuôn mặt của họ với các nhân vật trong phim hoặc tivi một cách rất thuyết phục.

Ứng dụng hoán đổi khuôn mặt này được gọi là Zao trở thành ứng dụng số 1 trong danh sách ứng dụng giải trí miễn phí trong kho ứng dụng App Store của Apple trong vòng hai ngày kể từ khi ra mắt./.

(Vietnam+)

Tin cùng chuyên mục