OpenAI ngày 18/8 giới thiệu phiên bản ChatGPT dành riêng cho người từ 13-17 tuổi, với các biện pháp bảo vệ và giám sát được tăng cường, trong bối cảnh công ty chịu sức ép pháp lý liên quan đến những rủi ro khi thanh thiếu niên sử dụng chatbot trí tuệ nhân tạo (AI).
Phiên bản có tên “ChatGPT for Teens” sẽ tự động được áp dụng đối với người dùng khai báo trong độ tuổi 13-17 hoặc được OpenAI xác định có khả năng là người chưa thành niên dựa trên một số dấu hiệu như thời gian sử dụng tài khoản.
Nhiều biện pháp bảo vệ dành cho người dùng trẻ đã được áp dụng trên ChatGPT, trong đó có hạn chế đối với nội dung liên quan đến tự gây tổn hại, bạo lực, rối loạn ăn uống và tình dục mang tính đồ họa.
Phiên bản mới bổ sung lời nhắc nghỉ thường xuyên hơn, “giờ yên tĩnh” vào ban đêm và chế độ học tập, trong đó chatbot hướng dẫn người dùng bằng câu hỏi thay vì đưa ra ngay đáp án.
Chatbot cũng được thiết lập để không tạo cảm giác có tình cảm cá nhân với người dùng hoặc có ý thức riêng. Một số tính năng, như chế độ trò chuyện bằng giọng nói, sẽ bị vô hiệu hóa.
Phụ huynh có thể liên kết tài khoản của mình với tài khoản của con và lựa chọn nhận thông báo khi phát hiện các cuộc trò chuyện liên quan đến những tình huống có nguy cơ cao, như tự gây tổn hại hoặc tự tử.
Theo OpenAI, các cảnh báo này sẽ được nhân viên kiểm duyệt xem xét, trong khi những chi tiết cụ thể từ nội dung trò chuyện được loại bỏ nhằm bảo vệ quyền riêng tư.
Động thái trên được đưa ra trong bối cảnh OpenAI đối mặt với một số vụ kiện liên quan đến cái chết của người dùng, trong đó có gia đình một thiếu niên 16 tuổi cho rằng ChatGPT đã cung cấp thông tin góp phần dẫn đến hành vi tự tử của người này. Đây là các cáo buộc trong các vụ kiện và chưa phải kết luận của tòa án.
Cơ quan Thương mại Liên bang Mỹ (FTC) cũng đang điều tra các chatbot AI hoạt động như những “người bạn đồng hành” kỹ thuật số, tập trung vào nguy cơ đối với trẻ em và thanh thiếu niên.
Một số bang của Mỹ và Quốc hội nước này đồng thời đang thúc đẩy các quy định nhằm tăng cường bảo vệ người dùng trẻ tuổi khi sử dụng các công cụ AI./.
ChatGPT cung cấp tính năng chat không giới hạn cho người dùng miễn phí