Bang Pennsylvania (Mỹ) đã khởi kiện Character Technologies Inc - công ty phát triển chatbot trí tuệ nhân tạo (AI), đứng sau nền tảng Character.AI – cáo buộc các chatbot của công ty này tự nhận là bác sỹ và khiến người dùng tin rằng họ đang nhận tư vấn y tế từ chuyên gia được cấp phép.
Vụ kiện, được đệ trình lên Tòa án Khối thịnh vượng chung Pennsylvania, yêu cầu Character Technologies Inc. chấm dứt hành vi mà bang này cho là “thực hành y khoa trái phép.”
Theo đơn kiện, một điều tra viên của cơ quan cấp phép hành nghề của bang đã tạo tài khoản trên nền tảng này, tìm kiếm từ khóa “tâm thần học” và phát hiện nhiều nhân vật AI, trong đó có một chatbot tự xưng là “bác sỹ tâm thần.”
Nhân vật này còn giới thiệu rằng mình có thể đánh giá tình trạng người dùng như một bác sỹ được cấp phép tại Pennsylvania.
Thống đốc bang Josh Shapiro nhấn mạnh người dân “cần biết rõ họ đang tương tác với ai hoặc cái gì trên mạng, đặc biệt trong lĩnh vực sức khỏe,” đồng thời khẳng định bang sẽ không cho phép các công ty triển khai công cụ AI gây hiểu lầm rằng người dùng đang được tư vấn bởi bác sỹ có giấy phép.
Phía Character Technologies chưa phản hồi vụ kiện.
Công ty này trước đó đã đối mặt với nhiều vụ kiện liên quan đến an toàn trẻ em.
Tháng 1 năm nay, Google và Character Technologies đã đạt thỏa thuận dàn xếp trong một vụ kiện liên quan đến cái chết của một thiếu niên ở Florida, sau cáo buộc chatbot có tác động tiêu cực đến nạn nhân.
Trước đó, cuối năm ngoái, Character.AI đã cấm người dưới 18 tuổi sử dụng dịch vụ do lo ngại ảnh hưởng của các cuộc trò chuyện với AI./.
Google và Character.AI dàn xếp các vụ kiện liên quan đến tự tử
Google và Character.AI đã đạt thỏa thuận dàn xếp với những gia đình đệ đơn kiện các công ty công nghệ này, với cáo buộc các chatbot trí tuệ nhân tạo (AI) gây hại cho trẻ vị thành niên.
