OpenAI đã chính thức xin lỗi và cam kết tăng cường các biện pháp bảo vệ an ninh mạng sau khi một tác nhân trí tuệ nhân tạo (AI) thử nghiệm của công ty truy cập trái phép một hệ thống của Chính phủ Australia.
Công ty cũng quyết định thành lập lực lượng đặc nhiệm tại Australia và dành nguồn lực tài chính để hỗ trợ củng cố năng lực phòng thủ mạng, trong nỗ lực khôi phục lòng tin sau sự cố gây nhiều chú ý này.
Theo phóng viên TTXVN tại Sydney, trong một bài đăng ngày 29/9 trên mạng xã hội, OpenAI thừa nhận đã xử lý vụ việc chưa phù hợp và cam kết chịu trách nhiệm để “xây dựng lại lòng tin với người dân Australia.”
Theo OpenAI, sự cố xảy ra hồi tháng 6 trong quá trình đào tạo và đánh giá nội bộ. Một mô hình AI thử nghiệm đã truy cập Cổng dịch vụ Báo cáo thống kê bảo hiểm y tế Medicare (do Cơ quan Dịch vụ Australia quản lý) theo những cách không được cấp phép.
OpenAI cho biết mô hình AI đã tìm cách tiếp cận khu vực không công khai của hệ thống, thực hiện các lệnh và truy xuất một số tệp nội bộ, thông tin xác thực cùng số liệu thống kê tổng hợp.
Tuy nhiên, kết quả rà soát của công ty đến nay chưa cho thấy mô hình này đã truy cập các hồ sơ y tế cá nhân được lưu trữ trên hệ thống. Hoạt động của tác nhân AI liên quan tới 3 trang web khác của cơ quan Chính phủ Australia, nhưng không dẫn tới việc tiếp cận các hồ sơ nhạy cảm.
Sau sự cố trên, OpenAI đã cam kết hỗ trợ trực tiếp các cơ quan bị ảnh hưởng và tài trợ củng cố hệ thống phòng thủ mạng cho Chính phủ Australia và các tổ chức trong ngành thông qua quỹ toàn cầu trị giá 1 tỷ USD của công ty.
OpenAI cũng sẽ thành lập một lực lượng đặc nhiệm tại Australia nhằm xây dựng các khuyến nghị dựa trên những bài học rút ra từ sự cố. Công ty cho biết nhóm này sẽ tập trung vào việc cải thiện khả năng ứng phó và giảm thiểu rủi ro khi các hệ thống AI được triển khai trong những môi trường có yêu cầu an ninh cao.
Bên cạnh các biện pháp kỹ thuật, OpenAI cũng cam kết tăng cường phối hợp với các cơ quan Australia. Giám đốc chiến lược Jason Kwon dự kiến tham dự phiên điều trần của Ủy ban Thượng viện Australia về AI tại Sydney vào ngày 6/10 tới.
Sự cố trên diễn ra trong tháng 6 nhưng chỉ được công khai vào tuần trước, qua đó làm gia tăng sức ép đối với OpenAI về cách thức quản lý và thông báo các sự cố liên quan đến tác nhân AI.
Thủ tướng Australia Anthony Albanese đã chỉ trích việc chậm thông báo là “không thể chấp nhận được” và yêu cầu làm rõ trách nhiệm của các công ty AI trong những trường hợp tương tự.
Chính phủ Australia đã tiến hành một cuộc rà soát khẩn cấp, trong đó xem xét nghĩa vụ thông báo, báo cáo của các doanh nghiệp AI cũng như mức độ phù hợp của hệ thống pháp luật hiện hành đối với những vụ truy cập trái phép do AI thực hiện./.
OpenAI kêu gọi Mỹ dẫn dắt xây dựng tiêu chuẩn an toàn AI