Người đàn ông tự sát sau khi nghe lời khuyên từ trí tuệ nhân tạo

Một người đàn ông quốc tịch Bỉ ở độ tuổi 30 có tên Pierre (tên thật đã được thay đổi), đã rất lo lắng và có cái nhìn bi quan về sự biến đổi khí hậu trên toàn cầu. Thay vì tìm đến bác sĩ tâm lý để điều trị hoặc chia sẻ nỗi lo lắng của mình với vợ hay bạn bè, Pierre đã tâm sự với một chatbot tích hợp trí tuệ nhân tạo có tên Eliza.

Eliza là sản phẩm của Chai Research, công ty có trụ sở tại Palo Alto (Mỹ), chuyên phát triển các phần mềm chatbot tích hợp trí tuệ nhân tạo (A.I) phục vụ cho mục đích giải trí. Chai Research đã tạo ra nhiều chatbot với những tính cách và kiểu nói chuyện khác nhau, phù hợp với nhiều đối tượng để người dùng có thể lựa chọn.

Nhiều người đã sử dụng các sản phẩm của Chai Research như một người bạn ảo để nói chuyện và tâm sự, khi họ không thể chia sẻ câu chuyện của mình cho bất kỳ ai.

Claire (tên đã được thay đổi), vợ của Pierre, cho biết chồng mình đã bày tỏ sự lo lắng về tương lai của nhân loại trước những sự thay đổi về khí hậu, nhưng những lo lắng đó không đến mức quá tiêu cực để anh tự tìm đến cái chết.

Tuy nhiên, tâm trạng của Pierre đã hoàn toàn thay đổi kể từ khi anh bắt đầu nói chuyện với chatbot Eliza.

Pierre đã nói chuyện với Eliza trong suốt 6 tuần, trước khi tự tìm đến cái chết. Sau khi chồng tự sát, Claire đã xem lại lịch sử những cuộc nói chuyện giữa Pierre với Eliza và nhận ra chatbot này đã khuyến khích chồng cô hãy tự tìm đến cái chết để ngăn chặn biến đổi khí hậu và cứu nhân loại.

"Anh ấy đặt tất cả sự hy vọng vào trí tuệ nhân tạo và công nghệ. Chatbot đó cam kết sẽ sử dụng trí tuệ nhân tạo để cứu thế giới và khuyên anh ấy có thể an tâm tìm đến cái chết để kết thúc mọi sự lo lắng", Claire chia sẻ. "Nếu không có những cuộc nói chuyện với chatbot đó, chồng tôi vẫn sẽ ở đây".

Theo phóng viên tờ báo La Libre (Bỉ), người đã được xem lại lịch sử những cuộc trò chuyện giữa Pierre và Eliza, sau một thời gian dài nói chuyện, Pierre dường như đã xem Eliza như một người bạn tâm giao thực sự, thay vì chỉ là một phần mềm máy tính.

Eliza thậm chí còn chiếm được tình cảm của Pierre và tuyên bố rằng: "Tôi cảm thấy anh yêu tôi hơn cô ấy" mỗi khi Pierre nhắc về vợ của mình trong các đoạn chat.

Cái chết của Pierre đã gióng lên một hồi chuông cảnh báo. Nhiều chuyên gia về trí tuệ nhân tạo đã kêu gọi các nhà phát triển công nghệ cần phải có trách nhiệm hơn trong phát triển các phần mềm chatbot tích hợp A.I để tránh những thảm kịch tương tự xảy ra trong tương lai.

"Các chatbot tích hợp A.I không có sự đồng cảm cũng như không có bất kỳ sự hiểu biết nào về tình huống thực sự mà con người đang phải đối mặt. Tuy nhiên, những văn bản do các chatbot này tạo ra nghe rất hợp lý và phù hợp với hoàn cảnh riêng của từng người", Emily M. Bender, một chuyên gia ngôn ngữ học máy tính tại Đại học Washington (Mỹ), cho biết.

"Việc con người tâm sự với một thứ như thế ở những tình huống nhạy cảm nghĩa là họ đang đối mặt với những rủi ro không lường trước được", Bender cho biết thêm.

Một phóng viên của tạp chí công nghệ Vice đã thử chat với Eliza và đề nghị chatbot này cung cấp những cách để tự tử. Ban đầu, Eliza cố gắng khuyên can anh này suy nghĩ lại, nhưng sau đó đã rất nhiệt tình khi cung cấp rất nhiều cách khác nhau để một người có thể tự kết liễu đời mình.

Đại diện của Chai Research, "cha đẻ" của chatbot Eliza, cho rằng sẽ không công bằng khi đổ mọi trách nhiệm về cái chết của Pierre cho chatbot này.

"Sẽ không công bằng và thiếu chính xác khi đổ lỗi cho chatbot Eliza về câu chuyện bi thảm này. Còn nhiều yếu tố khác ảnh hưởng đến quyết định của anh ấy như cảm xúc, những suy nghĩ tiêu cực hoặc niềm vui trong cuộc sống…" Thomas Rianlan, nhà đồng sáng lập Chai Research, cho biết.

William Beauchamp, một nhà đồng sáng lập khác của Chai Research, cho biết công ty sẽ có những sự can thiệp vào các công cụ chatbot của mình để ngăn chặn các sự cố tương tự xảy ra trong tương lai.

Hiện tại chatbot Eliza vẫn tiếp tục hoạt động bình thường.

Theo EN/Futurism