Mô hình trí tuệ nhân tạo (AI) Claude của công ty Anthropic đã lần đầu tiên đưa ra quyết định sa thải một nhân viên trong một thử nghiệm nhằm đánh giá khả năng AI tự quản lý hoạt động kinh doanh.
Thử nghiệm do công ty nghiên cứu Andon Labs triển khai từ tháng 3 vừa qua, nhằm tìm hiểu liệu một tác nhân AI có thể tự vận hành một doanh nghiệp và những tác động của mô hình này đối với nền kinh tế. Trong khuôn khổ thử nghiệm, Claude được giao quản lý Andon Market - một cửa hàng bán lẻ tại San Francisco, Mỹ.
Hồi tháng trước, Claude đã quyết định sa thải một nhân viên bị phát hiện đi muộn 17 trong tổng số 23 ca làm việc. Tuy nhiên, quyết định này không hoàn toàn do AI tự đưa ra.
Theo Giám đốc điều hành Andon Labs Lukas Petersson, trước đó Claude đã không nhận ra tình trạng đi muộn của nhân viên này trong một thời gian dài. Nguyên nhân là cuốn sổ tay nhân viên do chính Claude tạo ra đã “biến mất” khỏi bộ nhớ làm việc hạn chế của hệ thống.
Sau đó, một nhân viên của Andon Labs yêu cầu Claude tìm lại cuốn sổ tay và xem xét trường hợp nhân viên đi muộn. Ban đầu, Claude chỉ đề xuất đưa ra cảnh cáo chính thức thay vì sa thải. Chỉ sau khi một quản lý là người thật đặt câu hỏi liệu nhân viên này có thực sự phù hợp với công việc hay không, Claude mới đưa ra quyết định sa thải.
Trên thực tế, Claude được đánh giá là một nhà quản lý khá “dễ tính.” Mô hình này cũng từng khuyên các nhân viên không cần quá lo lắng về việc đi làm muộn.
Kết quả thử nghiệm cũng cho thấy Claude chưa chứng minh được hiệu quả quản lý vượt trội so với con người. Khi bắt đầu thử nghiệm vào tháng 3, cửa hàng có số dư khoảng 100.000 USD. Sau 5 tháng, số tiền này giảm xuống còn khoảng 61.000 USD.
Các nhà nghiên cứu cho rằng cách quản lý quá dễ dãi cùng một số quyết định kinh doanh thiếu hiệu quả của Claude có thể là những nguyên nhân khiến tài chính của cửa hàng suy giảm.
Thử nghiệm trên cho thấy AI đã có thể tham gia vào những quyết định vốn thường thuộc về các nhà quản lý con người, nhưng đồng thời cũng bộc lộ những hạn chế của việc giao quyền quản lý cho hệ thống AI.
Vấn đề đặt ra là liệu các hệ thống AI trong tương lai có thể đảm nhận đến đâu những nhiệm vụ nhạy cảm như tuyển dụng, đánh giá và sa thải nhân viên./.
Trung Quốc siết quản lý dịch vụ tương tác AI “giống con người”
Trung Quốc quy định quản lý đối với các dịch vụ tương tác với AI mô phỏng con người, yêu cầu về bảo vệ thông tin cá nhân, ngăn ngừa sự phụ thuộc cảm xúc và tăng cường trách nhiệm doanh nghiệp.
