Khi AI xâm nhập vào thần kinh con người, kéo theo rủi ro mới

Năm ngoái, trí tuệ nhân tạo (AI) đã mở rộng ranh giới ứng dụng trong cuộc sống khi các ngành công nghiệp đều đã bước vào cuộc đua tích hợp AI để tăng năng suất và tự động hóa các nhiệm vụ, công việc phức tạp.

Tiến bộ của AI giờ đây vượt xa những cải tiến công nghệ cao trước đó, tạo tiền đề cho sự phát triển vượt bậc, nhưng nó cũng đi kèm rủi ro: nếu không có sự giám sát của con người, những sai lầm của AI có thể cũng to lớn như những đột phá của nó.

AI tạo sinh và AI tác nhân đang nâng cao khả năng của người dùng trong việc thu thập nội dung phức tạp, trong khi các công cụ chăm sóc sức khỏe hỗ trợ AI đang định hình lại chẩn đoán - vượt trội hơn bác sĩ con người trong một số nhiệm vụ nhất định.

Sự phát triển này báo hiệu một sự chuyển đổi sắp xảy ra trong việc cung cấp dịch vụ chăm sóc sức khỏe.

Sức mạnh của AI cũng sẽ sản sinh ra các tác nhân giống người trong bối cảnh công nghệ đang phát triển nhanh chóng.

Nhà đầu tư trong lĩnh vực công nghệ tiên tiến Anders Indset chia sẻ: "Thế giới đang bắt đầu phấn khích xung quanh các mô hình ngôn ngữ lớn (LLM), cùng với những tiến bộ đột phá trong lĩnh vực robot mang hình người tự động".

Sự phát triển của robot tăng vọt cả về số lượng và chất lượng đã khiến công nghệ này xuất hiện trong cuộc sống hằng ngày của chúng ta, trong khi trước đó vốn chỉ được ứng dụng trong công nghiệp.

Năm nay, việc áp dụng rộng rãi AI trong ngành robot, tương tác giữa người và robot được cải thiện đã biến chúng như một dịch vụ. Điều này sẽ giúp các giải pháp robot tiên tiến có thể tiếp cận được với nhiều ngành công nghiệp hơn.

Ông dự đoán: "Các tác nhân giống người sẽ định hình lại sự tương tác của chúng ta với công nghệ và mở rộng khả năng ứng dụng AI trên nhiều lĩnh vực khác nhau".

AI tấn công con người

Giám đốc toàn cầu về giám định kỹ thuật số và ứng phó sự cố tại NCC Group, ông Alejandro Rivas-Vasquez cảnh báo rằng, AI sẽ đóng vai trò ngày càng quan trọng trong chiến tranh mạng.

Alejandro cho biết AI và máy học (ML) sẽ khiến chiến tranh mạng trở nên nguy hiểm với thiệt hại ngoài tầm kiểm soát do kết nối siêu tốc.

Các biện pháp phòng thủ an ninh mạng, vốn đã là một công cụ thành công cho các chiến binh kỹ thuật số, sẽ mở rộng vào con người trực tiếp thông qua công nghệ cấy ghép như giao diện thần kinh, tăng cường sinh học, chip xác thực và cấy ghép y tế tiên tiến. Chúng sẽ cách mạng hóa tương tác của con người với công nghệ.

Tuy nhiên, đổi mới này cũng sẽ mang đến những rủi ro nghiêm trọng.

Bobbie Walker, cố vấn quản lý tại NCC Group cảnh báo, tin tặc có thể khai thác giao diện thần kinh để kiểm soát hành động hoặc thao túng nhận thức, điều này vi phạm quyền tự chủ cá nhân.

Việc theo dõi liên tục dữ liệu sức khỏe và hành vi người dùng thông qua các thiết bị cấy ghép làm dấy lên những lo ngại đáng kể về quyền riêng tư, khi các tác nhân độc hại sử dụng sai mục đích hoặc giám sát xâm phạm chính phủ các quốc gia. 

Để giảm thiểu những rủi ro này, các chính sách liên quan đến kết nối công nghệ, chăm sóc sức khỏe và các quy định về quyền riêng tư sẽ là điều cần thiết để đảm bảo an toàn khi tích hợp công nghệ vào cơ thể con người.

"Lĩnh vực an ninh mạng sinh học mới nổi sẽ thúc đẩy chúng ta phải xem xét lại ranh giới an ninh mạng, đảm bảo rằng công nghệ tích hợp vào cơ thể là an toàn, có đạo đức và bảo vệ những cá nhân sử dụng", Bobbie Walker nêu quan điểm.

Các nghiên cứu ban đầu về giao diện não - máy tính (BCI) cho thấy, các đầu vào đối nghịch có thể đánh lừa các thiết bị này, làm nổi bật khả năng bị lạm dụng.

Khi các thiết bị cấy ghép phát triển, rủi ro về chiến tranh mạng và vi phạm quyền riêng tư ngày càng tăng, điều này nhấn mạnh nhu cầu cần có các biện pháp bảo mật mạnh mẽ và chính sách về đạo đức đối với AI.

Mối lo ngại về bảo mật

Kỹ sư AI Sebastian Straub tại N2WS tuyên bố rằng, những tiến bộ của AI giúp các tổ chức có thể tiếp tục hoạt động tốt hơn khi xảy ra thảm họa thiên nhiên, mất điện hoặc tấn công mạng.

Tự động hóa AI sẽ nâng cao hiệu quả hoạt động khi nó có thể giải quyết những thiếu sót của con người, do chúng sẽ giúp làm giảm nhu cầu can thiệp hành chính xuống gần bằng không.

"AI sẽ học các mô hình phức tạp về việc sử dụng dữ liệu, các yêu cầu tuân thủ và nhu cầu của tổ chức đưa ra. Hơn nữa, AI sẽ trở thành chuyên gia quản lý dữ liệu chủ động, tự động xác định những gì cần được sao lưu và khi nào", ông giải thích.

Tuy nhiên, khi mức độ thống trị của AI làm thay đổi đáng kể các quy trình phục hồi sau thảm họa, lỗi sẽ xảy ra trong quá trình học.

"Năm nay, chúng ta sẽ thấy rằng AI không phải là giải pháp hoàn hảo, việc dựa vào máy móc để tự động hóa quá trình phục hồi sau thảm họa sẽ dẫn đến sai lầm", Sebastian Straub cảnh báo.

Rủi ro tiềm ẩn của các mô hình hỗ trợ AI

Theo Michael Lieberman, nhà sáng lập nền tảng bảo mật Kusari, AI sẽ trở nên phổ biến và khó phát hiện hơn.

Mối quan tâm của ông nằm ở các mô hình miễn phí được lưu trữ trên các nền tảng đám mây.

"Chúng tôi đã thấy nhiều trường hợp một số mô hình trên các nền tảng này được phát hiện là phần mềm độc hại. Tôi dự đoán các cuộc tấn công như vậy sẽ gia tăng, chúng có thể bao gồm các cửa hậu ẩn hoặc được cố ý đào tạo để hoạt động có hại trong các tình huống cụ thể", Lieberman giải thích.

Các cuộc tấn công đầu độc dữ liệu nhằm mục đích thao túng LLM ngày càng phổ biến vì  hầu hết các tổ chức đều không đào tạo mô hình của riêng mình.

"Thay vào đó, họ dựa vào các mô hình được đào tạo trước, thường có sẵn miễn phí. Việc thiếu minh bạch về nguồn gốc của các mô hình này khiến những kẻ xấu dễ dàng đưa vào những mô hình có hại", Lieberman cho biết.

Nhiều chuyên gia AI cảnh báo, vấn đề đầu độc dữ liệu trong tương lai có thể sẽ nhắm vào các công ty lớn như OpenAI, Meta hoặc Google - những công ty có bộ dữ liệu khổng lồ khiến các cuộc tấn công như vậy khó bị phát hiện hơn - Điều này sẽ gây ra những ảnh hưởng toàn cầu tới người dùng.