Ông Tom Siegel, cựu Phó Chủ tịch phụ trách an toàn và tin cậy của Google, cảnh báo ngành công nghệ có thể đang lặp lại những sai lầm từng xảy ra trong thời kỳ mạng xã hội phát triển, đồng thời kêu gọi giảm tốc độ phát triển trí tuệ nhân tạo (AI) trước những rủi ro đối với trẻ em.
Phát biểu với báo giới ngày 22/9, ông Siegel cho rằng không thể trông chờ các công ty công nghệ tự giải quyết những rủi ro mà AI có thể gây ra đối với trẻ em.
Theo ông, các doanh nghiệp đang triển khai những tính năng AI dành cho trẻ em trong khi chưa xây dựng đầy đủ cơ chế bảo vệ cần thiết. Những rủi ro có thể rất nghiêm trọng, từ tự tử, rối loạn tâm thần đến suy giảm khả năng tư duy khi người dùng ngày càng phụ thuộc vào AI để tìm kiếm câu trả lời.
Cảnh báo được đưa ra trong bối cảnh các công ty công nghệ đang đẩy nhanh phát triển và tích hợp những tính năng AI ngày càng tiên tiến vào các chatbot được hàng triệu người trẻ sử dụng.
Ông Siegel vừa gia nhập Common Sense Media, tổ chức phi lợi nhuận hoạt động trong lĩnh vực bảo vệ trẻ em trên môi trường trực tuyến. Thành lập năm 2003, tổ chức này nghiên cứu và đánh giá mức độ phù hợp của các sản phẩm truyền thông đối với trẻ em.
Tháng Năm vừa qua, Common Sense Media thành lập Viện An toàn AI cho thanh thiếu niên nhằm nghiên cứu việc trẻ em sử dụng AI và đánh giá những rủi ro liên quan.
Ông Siegel đảm nhiệm cương vị Giám đốc điều hành đầu tiên của viện. Anthropic và Quỹ OpenAI, tổ chức phi lợi nhuận kiểm soát OpenAI, nằm trong số các đơn vị hỗ trợ viện.
Trong cương vị mới, ông Siegel sẽ tập trung xây dựng các tiêu chuẩn đánh giá trách nhiệm của các công ty AI, đồng thời phối hợp với doanh nghiệp và các tổ chức độc lập.
Theo ông, các công ty AI có thể triển khai ngay một số biện pháp để tăng cường bảo vệ người dùng trẻ tuổi. Ông đề xuất Anthropic và OpenAI áp dụng các biện pháp xác minh độ tuổi chặt chẽ hơn để ngăn trẻ chưa đủ tuổi tiếp cận chatbot.
Với Google, ông cho rằng công ty có thể bổ sung tùy chọn cho phép người dùng tắt các tính năng AI Overviews và AI Mode trên công cụ tìm kiếm, tương tự chức năng lọc nội dung khiêu dâm hiện có.
Ông Siegel thừa nhận những biện pháp này có thể ảnh hưởng đến lượng sử dụng hoặc lợi nhuận của các công ty trong ngắn hạn. Tuy nhiên, ông cho rằng nếu không hành động, các doanh nghiệp có thể phải đối mặt với các vụ kiện và quy định pháp lý, gây tác động lớn hơn đến hoạt động kinh doanh.
Về phía Google, người phát ngôn của công ty cho biết phụ huynh có thể sử dụng các công cụ kiểm soát để tắt hoàn toàn quyền truy cập của trẻ vào công cụ tìm kiếm.
Người phát ngôn đồng thời khẳng định các tính năng AI trên công cụ tìm kiếm hữu ích cho trẻ em và thanh thiếu niên trong học tập, khám phá và tiếp cận thông tin.
Trong khi đó, người phát ngôn OpenAI cho biết công ty sử dụng các tín hiệu từ tài khoản và hành vi người dùng, bên cạnh thông tin tuổi do người dùng tự khai báo, để xác định những người chưa đủ tuổi.
OpenAI thừa nhận không có phương pháp xác minh độ tuổi nào hoàn hảo và cho biết đang liên tục thử nghiệm, cải thiện các hệ thống này, trong đó có khả năng ngăn người dùng vượt qua các cơ chế bảo vệ. Anthropic chưa đưa ra phản hồi ngay lập tức về những nhận xét của ông Siegel.
Ông Siegel cho biết một trong những ưu tiên tại Common Sense Media sẽ là mở rộng các tiêu chuẩn đánh giá độc lập, tương tự các bài kiểm tra an toàn ôtô, để đo lường mức độ rủi ro của những công cụ AI được cung cấp rộng rãi.
Theo ông, hiệu quả của các tiêu chuẩn này sẽ phụ thuộc một phần vào mức độ hợp tác của các công ty AI, dù khả năng này hiện chưa chắc chắn.
Trước khi gia nhập Common Sense Media, ông Siegel làm việc tại Google từ năm 2004-2019. Sau khi rời Google, ông đồng sáng lập TrustLab, công ty khởi nghiệp phát triển các công cụ giúp doanh nghiệp phát hiện các mối đe dọa về an toàn.
Đầu tháng này, ông rời cương vị CEO TrustLab để đảm nhận vai trò mới tại Common Sense Media./.