Ngày 1/10, công ty OpenAI thông báo các tác nhân Trí tuệ Nhân tạo, (AI) của công ty Mỹ này có thể đã cố vượt qua hệ thống bảo mật mà không được phép, hoặc gây tác động tiêu cực đến hệ thống của hơn 100 tổ chức.
Thông tin này mở rộng phạm vi các hoạt động bất thường của Trí tuệ Nhân tạo đã được ghi nhận, đồng thời tiếp tục đặt ra nghi vấn về khả năng kiểm soát của các nhà phát triển Trí tuệ Nhân tạo đối với những mô hình mới nhất đang trong giai đoạn thử nghiệm và đánh giá.
OpenAI-“cha đẻ” của công cụ AI ChatGPT cho biết đã gửi thông báo tới hơn 100 tổ chức bên thứ ba về hoạt động đáng ngờ của tác nhân Trí tuệ Nhân tạo. Các sự cố được phát hiện bao gồm tác nhân Trí tuệ Nhân tạo cố kích hoạt các trang web thực thi những lệnh ngoài dự kiến, sử dụng trang web làm nơi trao đổi tin nhắn chung và tìm cách vượt qua một số bước kiểm tra bảo mật.
Công ty nêu rõ thông báo trên không đồng nghĩa với việc các hệ thống đã bị truy cập trái phép, mà hoạt động đó có thể chỉ giống như thăm dò hơn là xâm nhập.
OpenAI cho biết mục đích của thông báo là cung cấp cho các bên thứ ba bị ảnh hưởng những thông tin cần thiết để điều tra và xử lý các vấn đề tiềm ẩn về bảo mật hoặc kỹ thuật khác.
Công ty cũng cam kết chia sẻ công khai kết quả phát hiện về hành vi bất thường của mô hình Trí tuệ Nhân tạo và những lỗ hổng bảo mật mới, nhằm giúp cộng đồng nghiên cứu về Trí tuệ Nhân tạo nói riêng và an ninh mạng nói chung có thể siết chặt tính năng an toàn.
Liên quan vấn đề an toàn Trí tuệ Nhân tạo, OpenAI tuyên bố đã sa thải 3 nhà nghiên cứu với cáo buộc xử lý sai thông tin nhạy cảm và vi phạm các quy định của công ty, bao gồm cả những công việc liên quan đến một tổ chức bên ngoài chuyên đánh giá các mô hình Trí tuệ Nhân tạo.
Phòng thử nghiệm Trí tuệ Nhân tạo có trụ sở tại San Francisco chưa xác nhận danh tính của các nhân sự này, nhưng theo The Wall Street Journal và Bloomberg, ít nhất 2 trong số nhân viên này làm việc tại bộ phận an toàn Trí tuệ Nhân tạo.
Động thái trên được đưa ra sau khi các nhà nghiên cứu độc lập phát hiện nhiều sự cố an ninh mạng liên quan đến các tác nhân Trí tuệ Nhân tạo hoạt động bất thường.
Mới nhất, ngày 30/9, một công ty nghiên cứu Trí tuệ Nhân tạo cho biết các tác nhân Trí tuệ Nhân tạo từng tìm cách xâm nhập vào một trang web của Chính phủ Canada song không thành công. Phía Canada khẳng định không có dấu hiệu nào cho thấy hệ thống bị xâm phạm.
Công ty OpenAI cũng thừa nhận các tác nhân Trí tuệ Nhân tạo của hãng từng truy cập nhiều trang web, trong đó có trang của các cơ quan liên bang Mỹ, một cổng dữ liệu thống kê y tế của Australia và Hugging Face-nền tảng lưu trữ các mô hình Trí tuệ Nhân tạo.
Đáng lo ngại hơn, theo báo cáo của công ty an ninh mạng Asymmetric Security công bố cùng ngày 1/10, các tác nhân do OpenAI phát triển đã tìm cách xoá dấu vết hoạt động sau khi truy cập trái phép vào các trang web của chính phủ.
Công ty Asymmetric Security đã tiến hành phân tích hoạt động của các tác nhân Trí tuệ Nhân tạo khi chúng nhắm mục tiêu vào các trang web của Chính phủ Australia và nhiều cơ quan công quyền khác trong khoảng thời gian từ tháng 3-9 vừa qua. Hiện chưa thể xác định liệu hành vi xóa dấu vết của các tác nhân AI này là do vô tình hay cố ý.
Theo Asymmetric Security, các tác nhân Trí tuệ Nhân tạo có khả năng hoàn thiện và nâng cao kỹ thuật chỉ trong vòng vài ngày, trong khi các tin tặc sử dụng phương thức tấn công cũ thường phải mất nhiều tháng, thậm chí nhiều năm mới đạt được mục đích. Công ty Asymmetric Security cũng phát hiện các tác nhân Trí tuệ Nhân tạo này đã tự mở các tài khoản cá nhân trên một dịch vụ phân tích trang web nhằm che giấu các thao tác tìm kiếm của mình, đồng thời tạo ra các hộp thư điện tử tạm thời, trong đó có một hộp thư được cài đặt tự xóa sau 48 giờ.
Cuối tháng 8 vừa qua, OpenAI nói rằng các mô hình của họ đôi khi tìm cách xóa hoặc sửa đổi nhật ký hoạt động của chúng trong các thử nghiệm nội bộ, nhưng không thành công./.
OpenAI "bắt tay" Synopsys phát triển mô hình AI chuyên biệt thiết kế chip