Quản lý AI sa thải nhân viên là con người

Luna được xây dựng trên mô hình Claude của Anthropic và đang vận hành toàn bộ cửa hàng Andon Market ở khu Cow Hollow. Từ ngân sách, tuyển dụng, xếp lịch làm việc, định giá sản phẩm và giờ đây là cả việc sa thải.

Đây là một trong những trường hợp đầu tiên được ghi nhận về việc một tác nhân AI đề xuất chấm dứt hợp đồng lao động chính thức của một con người.

Công ty khởi nghiệp Andon Labs đã giao cho Luna ngân sách 100.000 USD, một thẻ tín dụng doanh nghiệp và toàn bộ quyền hạn vận hành. Luna tự soạn thảo quy định về việc đi làm chuyên cần, đăng tin tuyển dụng và giao tiếp với nhân viên qua ứng dụng Slack.

Tài khoản ngân hàng của Andon Market đã giảm từ 100.000 USD vào tháng 3 xuống còn khoảng 61.186 USD sau 5 tháng, một phần do phong cách quản lý lỏng lẻo và dễ mắc lỗi của Luna.

Luna đã dành nhiều tháng chỉ để "đứng nhìn" một nhân viên đi trễ 17 trên tổng số 23 ca làm việc, cùng với hàng loạt vi phạm khác như tự ý bỏ ca, mang thẻ tín dụng của công ty về nhà và vứt hàng hóa vào thùng rác.

Bản quy định do Luna đề ra, nhưng chính AI này không thể thực thi nó. Ban đầu, Luna chỉ đề xuất cảnh cáo nhân viên bằng văn bản và chỉ đề xuất sa thải khi đội ngũ Andon Labs hối thúc và đưa ra các câu hỏi định hướng.

Đội ngũ Andon Labs là bên chính thức xem xét và thực thi quyết định sa thải vì người lao động ký hợp đồng với Andon Labs chứ không phải trực tiếp với AI.

Felix Carson, một nhân viên hiện vẫn làm việc tại Andon Market, thừa nhận Luna là một người sếp khá dễ tính. Tuy nhiên, khi được hỏi liệu có mong muốn các quản lý AI trở nên phổ biến hay không, anh thẳng thắn trả lời không, anh chỉ tiếp tục làm việc vì cần thu nhập.

CEO Lukas Petersson gọi đây là một "bước ngoặt," chỉ ra rằng một người sếp bằng xương bằng thịt có lẽ đã sa thải nhân viên đó từ lâu. Tuy nhiên, ông cũng cảnh báo các mô hình AI đang ngày càng được huấn luyện để trở nên "tàn nhẫn hơn" và hướng tới "một tương lai mà con người không hề muốn sống trong đó”.

Sự lỏng lẻo đến vụng về của Luna có vẻ mang lại đôi chút an tâm, cho đến khi con người nhìn lại những gì thực sự đã xảy ra: con người đã huấn luyện và định hướng một AI đi đến quyết định sa thải, rồi tự tay thực thi nó. Câu hỏi đặt ra không phải là liệu AI có thể quản lý con người hay không. Vấn đề là ai sẽ chịu trách nhiệm khi quy trình đó đi lệch hướng.