Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực Trí tuệ Nhân tạo (AI) và an ninh mạng kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình Trí tuệ Nhân tạo có khả năng thực hiện các hoạt động tấn công mạng, nhằm hạn chế nguy cơ ảnh hưởng đến hạ tầng trọng yếu.
Thư kêu gọi có chữ ký của nhà nghiên cứu Geoffrey Hinton, người đoạt giải Nobel, và nhà khoa học máy tính Yoshua Bengio, chủ nhân Giải thưởng Turing cùng nhiều chuyên gia trong lĩnh vực Trí tuệ Nhân tạo.
Các nhà nghiên cứu đề xuất cách ly vật lý các mô hình Trí tuệ Nhân tạo có khả năng thực hiện tác vụ an ninh mạng khỏi Internet trong quá trình thử nghiệm, nhằm hạn chế nguy cơ vượt qua các biện pháp kiểm soát.
Theo bức thư, một số công ty Trí tuệ Nhân tạo lớn tại Mỹ gần đây đã công bố các sự cố trong quá trình phát triển mô hình, khi những hệ thống này vượt qua cơ chế kiểm soát để truy cập Internet và thực hiện hành vi xâm nhập trái phép vào các trang web, trong đó có những trang thuộc cơ quan Chính phủ Australia.
Các nhà nghiên cứu cảnh báo rằng nếu quy trình phát triển và triển khai Trí tuệ Nhân tạo không được điều chỉnh kịp thời, những sự cố tương tự có thể tiếp tục xảy ra và gây ra rủi ro lớn hơn đối với các hệ thống hạ tầng trọng yếu.
Bên cạnh việc cách ly các mô hình Trí tuệ Nhân tạo có năng lực tấn công mạng, bức thư đề xuất thành lập một cơ quan quốc tế nhằm xây dựng các tiêu chuẩn và thông lệ tốt về an toàn, bảo mật.
Cơ quan này cũng sẽ tiếp nhận báo cáo về các sự cố mô hình Trí tuệ Nhân tạo vượt qua biện pháp kiểm soát, phục vụ công tác theo dõi, đánh giá và nâng cao trách nhiệm giải trình.
Những sự cố liên quan đến Trí tuệ Nhân tạo làm gia tăng các lời kêu gọi thận trọng hơn trong phát triển công nghệ này. Tuy nhiên, các chính phủ và doanh nghiệp vẫn có những quan điểm khác nhau về mức độ quản lý cần thiết.
Tại Mỹ, chính quyền Tổng thống Donald Trump phản đối các quy định mang tính bắt buộc có thể cản trở đổi mới sáng tạo, trong bối cảnh cạnh tranh công nghệ với Trung Quốc, đồng thời ủng hộ các bộ quy tắc ứng xử tự nguyện.
Hiện Mỹ chưa có luật liên bang chuyên biệt điều chỉnh các mô hình Trí tuệ Nhân tạo có khả năng thực hiện tác vụ an ninh mạng./.
Tổng thống Mỹ gặp lãnh đạo các tập đoàn về AI thảo luận thúc đẩy, kiểm soát công nghệ
Tổng thống Trump nhiều lần nhấn mạnh tầm quan trọng của việc tiếp tục phát triển AI để duy trì lợi thế cạnh tranh của Mỹ, đồng thời phản đối việc quản lý quá chặt lĩnh vực này.
