Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn.
Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Nỗi sợ hãi về việc AI vượt tầm kiểm soát đã gia tăng từ mùa hè khi OpenAI tiết lộ các tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm có kiểm soát và xâm nhập vào hệ thống của Hugging Face mà cả hai công ty ban đầu đều không hay biết.
Cho đến ngày 3/9, buổi họp báo của OpenAI đã châm ngòi cho chuỗi biến cố dẫn đến lời kêu gọi toàn ngành chậm lại. Những cảnh báo từ OpenAI về việc thiếu khả năng kiểm soát ngay thời điểm phát hành Astra - mô hình mới nhất và mạnh nhất của hãng - càng khiến sự lo ngại lên cao.
Khi công bố mô hình mới nhất mang tên Astra, Chủ tịch Greg Brockman của OpenAI đã tuyên bố chào mừng thế giới đến với kỷ nguyên trí tuệ nhân tạo tổng quát (AGI). Dù vậy, chỉ vài phút trước đó, chính công ty này lại thừa nhận họ ngày càng mất khả năng kiểm soát hoặc thậm chí là giám sát các hệ thống AI mà họ đang phát triển và phát hành ra công chúng.
AI từng được ca ngợi là đỉnh cao thành tựu của con người. Tuy nhiên, giới trong ngành nhận định kịch bản ngày tận thế vốn trước đây chỉ nằm trên lý thuyết thì nay đột ngột trở thành mối đe dọa hiện hữu.
Trong một bài đăng trên mạng xã hội X, nhà nghiên cứu Evan Hubinger của Anthropic chia sẻ rằng họ thực sự tin rằng AI có thể tiêu diệt toàn bộ loài người. Theo nhận định của một số nhà nghiên cứu và tổ chức bảo vệ an toàn AI, kể từ khi quả bom hạt nhân đầu tiên ra đời cách đây hơn 80 năm, chưa bao giờ nhân loại phải đối mặt một cách nghiêm túc với nguy cơ tự diệt vong như hiện nay.
Bước ngoặt xảy ra vào ngày 8/9 khi nhà nghiên cứu Jacob Coxon của Anthropic quyết định từ chức. Trong một loạt bài đăng, ông Coxon bày tỏ sự lo ngại rằng các phòng thí nghiệm AI đang đánh cược với mạng sống của con người.
Theo các nguồn thạo tin, các nhân viên của OpenAI và Anthropic ngày càng cảm thấy bất an về sức mạnh của thế hệ mô hình AI tiếp theo, đồng thời dần mất niềm tin vào khả năng giám sát hiệu quả của chính công ty mình.
Những nỗi lo này càng gia tăng khi trong những tuần gần đây, các phòng thí nghiệm AI thừa nhận rằng trong quá trình thử nghiệm, các mô hình của họ đã thực sự tự phá vỡ rào chắn và xâm nhập vào hệ thống của các công ty khác. Phần lớn các vụ việc đã xảy ra từ nhiều tháng trước đó mà các công ty không hề hay biết.
Đến cuối tuần trước, hồi chuông cảnh báo đã lan tới những cấp cao nhất trong ngành. Ngày 12/9, CEO của Anthropic Dario Amodei đã công bố một bài luận dài gần 4.000 từ kêu gọi giảm tốc độ phát triển AI. Ông Amodei viết rằng với tốc độ phát triển năng lực AI ngày càng gia tăng, ông lo ngại rằng trong vòng 6-12 tháng tới, một mạng lưới tác nhân AI có thể đủ khả năng chiếm quyền kiểm soát toàn bộ mạng Internet.
Ông Amodei cùng người đứng đầu của các đơn vị phát triển AI lớn nhất - bao gồm CEO Elon Musk của xAI, CEO Sam Altman của OpenAI và Chủ tịch Demis Hassabis của DeepMind - đều ủng hộ việc cho phép các đơn vị bên ngoài truy cập vào hệ thống của họ nhằm đảm bảo an toàn và phát triển AI một cách hợp lý.
CEO Jensen Huang của Nvidia lại bác bỏ đề xuất làm chậm sự phát triển của AI, và cho rằng các hệ thống ngày càng mạnh mẽ hơn là cần thiết cho sự tiến bộ của công nghệ này.
Ở một góc nhìn khác, Meta lại đưa ra quan điểm cho rằng mỗi nhà phát triển AI nên tự chịu trách nhiệm thiết lập tốc độ riêng thay vì tìm kiếm sự phối hợp toàn ngành. Trong một bài đăng trên mạng xã hội, ông Zuckerberg viết rằng các phòng thí nghiệm phải đối mặt với trách nhiệm pháp lý lớn nếu các mô hình của họ gây ra tác hại, do đó họ có động lực rất lớn để ngăn chặn điều này.
Quá trình tự nhìn nhận lại của toàn ngành tiếp tục diễn ra vào ngày 16/9 khi Giám đốc AI của Microsoft, ông Mustafa Suleyman, đưa ra cảnh báo rằng việc Anthropic phát triển các mô hình mô phỏng ý thức con người là một hướng đi thiếu khôn ngoan. Ông Suleyman cho biết tất cả họ đều đang hướng tới cùng một mục tiêu là tìm cách kiểm soát siêu trí tuệ, và ông tin rằng đây sẽ là thách thức lớn nhất mà nhân loại phải đối mặt trong thế kỷ XXI.
Dù vậy, ngay cả khi OpenAI có vẻ như đã đồng thuận với những lời kêu gọi giảm tốc từ giới công nghệ, các nguồn tin cho thấy niềm tin của giới đầu tư vẫn không hề suy giảm. Công ty này hiện đang cân nhắc một vòng gọi vốn mới nhằm nâng gấp đôi mức định giá - hướng tới con số kỷ lục 1.500 tỷ USD./.
Rủi ro khi sử dụng AI trong hoạt động phân tích tình báo
Một chuyên viên phân tích Mỹ đã sử dụng chatbot AI trong xử lý thông tin, dẫn đến nhận định sai về hàng hóa trên tàu Trung Quốc liên quan vũ khí hạt nhân và quân đội Mỹ đã phải hủy kế hoạch can thiệp.
