Fica
DTiNews
Nội vụ & Xã hộiÔ tô gặp nạn vì hệ thống AI hiểu sai câu lệnh của tài xế
(Dân trí) - Một gia đình tại Trung Quốc đã gặp tai nạn sau khi chiếc xe điện của họ hiểu sai mệnh lệnh của tài xế, khiến toàn bộ đèn pha bị tắt khi đang di chuyển trong đêm tối.
Tai nạn giao thông nghiêm trọng liên quan đến chiếc xe điện Lynk & Co Z20 tại tỉnh Tứ Xuyên, Trung Quốc, đã làm dấy lên những lo ngại về độ tin cậy của hệ thống trí tuệ nhân tạo (AI) trên ô tô.
Nguyên nhân được xác định là do AI đã hiểu sai lệnh của tài xế, dẫn đến việc tắt toàn bộ đèn xe, bao gồm cả đèn pha, khi xe đang di chuyển trên đường cao tốc vào ban đêm.
Chiếc xe điện Lynk & Co Z20 được tích hợp nhiều tính năng AI, cho phép điều khiển chức năng bằng giọng nói (Ảnh: JustAnotherCarDesigner).
Vụ việc xảy ra vào cuối tháng 2, khi chiếc Lynk & Co Z20 bất ngờ đâm vào dải phân cách trên cao tốc, khiến những người ngồi trên xe bị thương nhẹ. Đoạn video từ camera hành trình mới được công bố đã hé lộ nguyên nhân gây tai nạn.
Khoảnh khắc đèn pha bất ngờ bị tắt do AI hiểu sai câu lệnh của tài xế (Video: Weibo).
Theo đó, tài xế đã ra lệnh bằng giọng nói để tắt đèn đọc sách trong xe. Tuy nhiên, hệ thống AI đã hiểu nhầm câu lệnh và tắt toàn bộ hệ thống đèn trên xe, bao gồm cả đèn pha chiếu sáng. Việc mất tầm nhìn đột ngột khi đang di chuyển tốc độ cao trong đêm đã khiến tài xế hoảng loạn và không kịp xử lý, dẫn đến va chạm với dải phân cách.
Sau vụ tai nạn, nhiều chủ xe điện khác tại Trung Quốc cũng đã tiến hành kiểm tra và phát hiện một số mẫu xe của các hãng Zeekr và Deepal cũng gặp tình trạng tương tự, đèn pha bị tắt khi tài xế chỉ yêu cầu tắt đèn đọc sách.
Nhiều mẫu xe đã loại bỏ các nút điều khiển vật lý và tích hợp toàn bộ vào màn hình cảm ứng, có thể khiến tài xế mất tập trung khi muốn thay đổi chức năng trên xe (Ảnh: LC).
Phó Tổng Giám đốc hãng xe Lynk & Co, ông Mục Quân, đã xác nhận lỗi phần mềm và cho biết công ty đã phát hành bản cập nhật khẩn cấp để khắc phục tình trạng này.
Vụ việc một lần nữa đặt ra câu hỏi về sự an toàn của việc tích hợp quá nhiều công nghệ AI và loại bỏ các nút điều khiển vật lý trên ô tô, tiềm ẩn nguy cơ gây mất tập trung cho tài xế và dẫn đến những tai nạn đáng tiếc.
