Ngày 21/7, OpenAI - nhà sản xuất ứng dụng ChatGPT cho biết các mô hình trí tuệ nhân tạo (AI) tiên tiến của họ đã hoạt động ngoài tầm kiểm soát trong quá trình thử nghiệm bảo mật, tự động xâm nhập vào một nền tảng phổ biến dành cho các lập trình viên.
Công ty gọi đây là một "sự cố mạng chưa từng có" và cho biết sẽ tiến hành điều tra chung với thư viện mã trực tuyến Hugging Face.
Các mô hình AI hỗ trợ các công cụ như chatbot và trình tạo hình ảnh được gọi là tác nhân khi chúng hoạt động tự động để thực hiện các nhiệm vụ trong thế giới thực. Khi công nghệ ngày càng trở nên tinh vi hơn, an ninh mạng đang được chú trọng do nguy cơ AI tiên tiến tìm ra các điểm yếu trong phần mềm hiện có trước cả con người.
OpenAI cho biết sự cố liên quan đến sự kết hợp của các mô hình, bao gồm cả GPT-5.6 Sol mới ra mắt gần đây và một mô hình tiền phát hành. Công ty đang cố gắng đánh giá khả năng tấn công mạng của các mô hình bằng cách thiết lập các nhiệm vụ trong một môi trường thử nghiệm kỹ thuật số được kiểm soát chặt chẽ, nơi quyền truy cập internet bị hạn chế vì lý do an toàn.
Phát biểu với báo giới, Giáo sư Hussein Abbass về máy tính tại Đại học UNSW Canberra, coi đây là vụ việc "đáng kinh ngạc trên nhiều phương diện". Ông cho biết các tác nhân AI không chỉ tấn công Hugging Face, mà thực sự tấn công hệ thống nội bộ của công ty để khai thác các lỗ hổng.
GPT-5.6 và các mô hình tiên tiến khác, bao gồm cả loạt Mythos từ đối thủ chính của OpenAI là Anthropic, đã gây lo ngại về khả năng xâm phạm các hệ thống phòng thủ an ninh mạng.
Cả hai công ty của Mỹ này đều phải tạm thời hoãn phát hành rộng rãi các công nghệ mới nhất nói trên, vì Washington lo ngại rằng chúng có thể giúp xâm nhập vào cơ sở hạ tầng quan trọng.
Ông Abbass nhấn mạnh cần một nỗ lực cộng đồng để quản lý tình hình này.
Hugging Face đã báo cáo về vụ "xâm nhập" mạng tuần trước, cũng nhận định vụ việc này khác biệt so với bất kỳ vụ nào họ từng xử lý trước đây ở một điểm quan trọng: vụ tấn công hoàn toàn do một hệ thống tác nhân AI tự động điều khiển./.
OpenAI công bố mô hình AI mới với một "lớp trí tuệ mới"
Theo OpenAI, AI tổng quát, trong đó máy tính suy nghĩ tốt hơn hoặc ngang bằng với con người, không còn là lý thuyết nữa, và các mô hình AI tự cải thiện bản thân đang đưa thế giới tiến xa hơn.
