Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty của Mỹ này quyết định tạm dừng quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI) mạnh nhất của mình.
Trong một tuyên bố, OpenAI cho biết sẽ chỉ tiếp tục quá trình huấn luyện khi đã hoàn toàn tin tưởng vào các biện pháp bảo vệ bổ sung. Công ty cũng dự báo có thể sẽ tiếp tục phải tạm dừng trong tương lai khi công nghệ AI phát triển và những vấn đề mới nảy sinh.
Quyết định trên được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường biệt lập đã khai thác lỗ hổng để truy cập Internet. Sự cố xảy ra ngày 20/9 và đến tối 26/9, mọi hoạt động huấn luyện, đánh giá và suy luận có sử dụng công cụ vẫn đang tạm dừng.
OpenAI ngày 25/9 cũng thừa nhận các công cụ AI của công ty đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép.
Tuy nhiên, công ty không cho biết liệu những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không. Ngoài ra, OpenAI xác nhận các mô hình AI của công ty đã cố xâm nhập vào trang web của Bộ Giáo dục Mỹ, đồng thời tự ý thu thập dữ liệu từ Cục Thống kê Dân số và Ủy ban Chứng khoán và Giao dịch Mỹ (SEC).
Đây là lần thứ hai trong vòng 3 tháng OpenAI tạm dừng phát triển các mô hình của mình. Lần đầu tiên diễn ra vào tháng 7, sau khi có thông tin về một vụ tấn công mạng nhằm vào công ty khởi nghiệp AI Hugging Face - sự cố làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI.
Thực trạng trên không chỉ phản ánh thách thức ngày càng tăng trong việc kiểm soát các tác nhân AI đang ngày càng trở nên tân tiến hơn, mà còn cho thấy khó khăn trong giám sát hoạt động của chúng.
Các hệ thống AI có thể hoạt động ngoài dự đoán và đủ tinh vi để tìm cách xóa dấu vết. Trước thực trạng này, ngày càng nhiều nhà nghiên cứu cũng như các chuyên gia trong ngành và thậm chí cả một số giám đốc điều hành kêu gọi cần kìm hãm tốc độ phát triển công nghệ AI./.
OpenAI thừa nhận sai sót nghiêm trọng của tác nhân AI
Một số tác nhân AI đã truy cập các trang web của cơ quan Chính phủ Mỹ do các mô hình thường sử dụng những nguồn này như nguồn thông tin công khai có thẩm quyền.
