Cảnh báo AI với nhân loại: Giao diện não–máy tính có thể bị tấn công bởi rô-bốt

Một nhóm các nhà nghiên cứu, trong đó có Elon Musk và Cơ quan Dự án Nghiên cứu Quốc phòng Cao cấp Quốc phòng Hoa Kỳ (DARPA), đang nghiên cứu vi mạch cho não để có thể tăng cường hiệu suất hoạt động của con người.

Mục tiêu của giao diện não – máy tính (BCI) bao gồm việc giúp đỡ những người bị khuyết tật về thể chất lấy lại được khả năng vận động, giúp điều trị bệnh tâm thần, và cũng tăng cường tốc độ học tập và chức năng bộ nhớ cho người bình thường.

Tuy nhiên, những người lãnh đạo nhiệm vụ này đang kêu gọi đưa ra các quy định nghiêm ngặt để ngăn ngừa khả năng AI tấn công các vi mạch này và gây thiệt hại cho nhân loại.

Sự hợp tác của 27 chuyên gia-nhà thần kinh học, nhà công nghệ thần kinh, bác sĩ lâm sàng, nhà đạo đức và kỹ sư trí tuệ nhân tạo - những người tự gọi mình là nhóm Morningside - đã viết bình luận trong tạp chí Nature

Họ cảnh báo: "Những tiến bộ như vậy có thể là cuộc cách mạng hóa trong việc điều trị nhiều bệnh từ chấn thương não và tê liệt đến động kinh và tâm thần phân liệt, và thay đổi trải nghiệm của con người một cách tốt hơn.

Nhưng công nghệ này cũng có thể làm trầm trọng thêm sự bất bình đẳng xã hội và cung cấp cho các tập đoàn, các hacker, chính phủ hoặc bất cứ ai khác cách thức mới để khai thác và điều khiển con người.

Và nó có thể làm thay đổi sâu sắc một số đặc tính cốt lõi của con người: đời sống tinh thần cá nhân, cơ quan cá nhân và sự hiểu biết của các cá nhân khi các thực thể bị ràng buộc bởi cơ thể họ.

Đối với các công nghệ thần kinh để bắt đầu trên thị trường tiêu dùng chung, các thiết bị này sẽ không xâm lấn, rủi ro tối thiểu và đòi hỏi chi phí triển khai thấp hơn nhiều so với các thủ tục phẫu thuật thần kinh hiện tại.

Tuy nhiên, ngay cả bây giờ, các công ty đang phát triển thiết bị phải chịu trách nhiệm về sản phẩm của họ, và được hướng dẫn bởi một số tiêu chuẩn nhất định, thực tiễn tốt nhất và các chuẩn mực đạo đức.

Cuổi cùng, họ kết luận "Lợi ích lâm sàng và xã hội có thể của các công nghệ thần kinh là vô cùng to lớn. Để gặt hái được những điều đó, chúng ta phải hướng dẫn cho sự phát triển chúng theo hướng tôn trọng, bảo vệ và đưa ra những gì tốt nhất cho nhân loại."

Đào Hiền (Theo Express)