Ngày 28/10, công ty phát triển trí tuệ nhân tạo (AI) Anthropic của Mỹ đề xuất chính quyền bang California cho phép các cơ quan chức năng yêu cầu tòa án ngăn phát hành những mô hình AI bị đánh giá có nguy cơ nghiêm trọng đối với công chúng.
Trong thư gửi Thống đốc California Gavin Newsom ngày 15/10, Anthropic cho rằng khi kết quả đánh giá kết luận một mô hình tiềm ẩn rủi ro nghiêm trọng, chính phủ cần đề nghị tòa án ban hành lệnh ngăn phát hành.
Người phát ngôn công ty xác nhận tính xác thực của bức thư, trong khi Văn phòng Thống đốc California chưa đưa ra bình luận.
Anthropic đồng thời phản đối yêu cầu các nhà phát triển xây dựng “công tắc ngắt” có khả năng vô hiệu hóa toàn bộ mô hình AI khi công ty mất quyền kiểm soát.
Thay vào đó, công ty ủng hộ các biện pháp can thiệp có mục tiêu cụ thể hơn, như vô hiệu hóa tác nhân AI gây vấn đề hoặc chặn một khách hàng truy cập mô hình, cho rằng cách tiếp cận này hiệu quả hơn.
Đề xuất được đưa ra sau khi Thống đốc Newsom triệu tập một hội đồng chuyên gia AI hồi tháng Chín để xây dựng các khuyến nghị về an toàn AI.
Trước đó, tháng Bảy, các nghị sỹ Hạ viện Mỹ đã đề xuất dự luật cho phép giới chức yêu cầu các công ty AI dừng hoạt động những mô hình gây rủi ro cho tính mạng con người hoặc nền kinh tế.
Bản thân Anthropic cũng từng đối mặt với hạn chế từ chính phủ. Tháng Sáu, chính quyền Tổng thống Donald Trump yêu cầu công ty hạn chế ngay lập tức quyền truy cập từ nước ngoài đối với các mô hình Mythos 5 và Fable 5 vì lý do an ninh quốc gia. Sau đó Bộ Thương mại Mỹ đã dỡ bỏ yêu cầu này./.
Singapore, Google phát triển mô hình AI nhận diện lừa đảo trên điện thoại
Hệ thống dùng AI phân tích nội dung trao đổi trên các ứng dụng nhắn tin, qua đó phát hiện dấu hiệu thao túng tâm lý hoặc dụ dỗ người dùng cung cấp thông tin cá nhân, chuyển tiền cho đối tượng lừa đảo.
