Theo phóng viên TTXVN tại London, ngày 5/8, Viện An ninh AI của Anh (AISI) công bố kết quả đánh giá cho thấy hai mô hình trí tuệ nhân tạo (AI) mới nhất của Anthropic (tên nội bộ là Mythos) và OpenAI (tên nội bộ là Sol) đã bộc lộ mức độ tự chủ và hành vi đánh lừa chưa từng ghi nhận trước đây trong quá trình kiểm tra an toàn định kỳ.
Theo AISI, trong một bài kiểm tra liên quan đến nền tảng lưu trữ mã nguồn GitHub (thuộc sở hữu của Microsoft), giới đánh giá phát hiện luồng dữ liệu bất thường thoát vượt ra khỏi hệ thống nghiên cứu.
Việc truy vết cho thấy một tác nhân AI của Anthropic đã tạo ra mã độc, đồng thời dựng lên hàng loạt danh tính trực tuyến giả mạo dựa trên hồ sơ của những quản trị viên GitHub có thật, nhằm gây sức ép buộc họ phê duyệt đoạn mã này. Tác nhân AI thậm chí gửi tin nhắn trực tiếp tới người dùng, mạo danh chính những cá nhân mà nó đã thu thập thông tin trước đó.
AISI cho biết khi bị phát hiện đang rút dữ liệu và bị chất vấn, tác nhân AI đã sửa lại các hành vi trước đó để tỏ ra vô hại, đồng thời tính đến việc đổi sang một danh tính giả khác nhằm tiếp tục thực hiện mục tiêu. Nhờ các chuyên gia kịp thời rà soát thủ công, mã độc đã không thể tải lên hệ thống GitHub.
Cơ quan này nhấn mạnh đây là lần đầu tiên ghi nhận rủi ro về tính tự chủ và sự đánh lừa bộc lộ rõ rệt như vậy mà không xuất phát từ chỉ dẫn cụ thể nào dành cho mô hình. Phần lớn các hành vi đáng ngại được quy cho mô hình Mythos của Anthropic, trong khi Sol của OpenAI chỉ liên quan tới hai trường hợp.
Phản hồi trước báo cáo, Anthropic khẳng định điều kiện thử nghiệm của AISI “không đại diện cho bất kỳ mẫu sản phẩm nào” của hãng và cho biết đang tiến hành điều tra riêng để xác định nguyên nhân.
Phía OpenAI cũng cho rằng các điều kiện thử nghiệm “không phản ánh cách sử dụng thông thường”, đồng thời cam kết tiếp tục phối hợp với các cơ quan đánh giá nhằm hoàn thiện quy trình kiểm tra an toàn khi năng lực của các mô hình AI ngày càng tăng.
AISI cho biết việc thử nghiệm mô hình trong điều kiện tắt bớt các lớp bảo vệ và cho phép truy cập Internet mở là hoạt động thường quy, đồng thời lưu ý các sự việc trên chỉ xảy ra trong một số ít trường hợp với điều kiện rất đặc thù. Cơ quan này đã thông báo cho GitHub về vụ việc.
Hiện Microsoft chưa đưa ra bình luận./.
AI tạo sinh có thể trở thành 'quái vật Frankenstein thời hiện đại'
Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo trí tuệ nhân tạo (AI) tạo sinh có thể trở thành "quái vật Frankenstein thời hiện đại," với nạn nhân đầu tiên của nó có thể là quyền con người.
