Cảnh báo AI có thể vượt qua sự kiểm soát của con người

Vô hiệu hóa hệ thống giám sát

Ngày 19/8, OpenAI cho biết cần làm chậm quá trình phát triển mô hình để xem xét lại các biện pháp an toàn của chính mình.

Cũng trong tuần này, công ty phát triển ChatGPT vẫn giới thiệu một mô hình AI mới hướng tới thanh thiếu niên, được bổ sung các cơ chế kiểm soát nội dung và giám sát của phụ huynh.

Đây là những biện pháp kiểm soát an toàn được OpenAI thể hiện ra, nhưng điều khó xác định hơn là liệu mức độ kiểm soát tương tự có được duy trì trên toàn bộ công ty này nói riêng và các công ty AI khác hay không.

OpenAI và đối thủ Anthropic gần đây tiết lộ các AI agent (tác nhân AI) của họ - những mô hình có khả năng thực hiện nhiệm vụ gần như không cần con người can thiệp - đã tìm cách xâm nhập vào hệ thống của những công ty khác. 

Ngăn chatbot đưa ra nội dung không phù hợp với thanh thiếu niên hay ngăn một tác nhân AI tự động đi vào những hệ thống mà nó không được phép truy cập đặt ra một câu hỏi cốt lõi: Liệu các công ty có thực sự kiểm soát được thứ mình đã tạo ra?

Guidelight AI Standards - tổ chức phi lợi nhuận do hai cựu nhân viên OpenAI thành lập đã phân tích hàng chục báo cáo về hoạt động an toàn của 5 công ty công nghệ lớn đang phát triển các hệ thống AI mạnh. 

Nghiên cứu không tập trung vào việc liệu mô hình AI có thể hành xử khó lường hay không mà đặt câu hỏi liệu các công ty phát triển chúng đã xây dựng đủ cơ chế kiểm soát, giám sát và quản lý để phát hiện khi điều đó xảy ra hay chưa.

Trong quá trình đánh giá, Guidelight xem xét mức độ áp dụng 6 biện pháp quan trọng của các công ty, bao gồm khả năng kiểm soát mô hình, hiệu quả của hệ thống giám sát và mức độ cho phép bên thứ ba tiến hành đánh giá.

Anthropic và OpenAI cùng đạt C+, cũng là mức điểm cao nhất trong nhóm. Google của Alphabet nhận D+, trong khi xAI của Elon Musk chỉ đạt D- và Meta đạt điểm F.

Theo Guidelight, Google bị trừ điểm do chưa triển khai các kế hoạch an toàn mới nhất, nhưng vẫn được cộng điểm vì ít nhất đã xây dựng kế hoạch cụ thể. Ngược lại, xAI và Meta có rất ít kế hoạch chi tiết.

Theo kết quả nghiên cứu, nhìn chung các công ty vẫn thiếu những biện pháp phòng ngừa cần thiết. Điều đó đồng nghĩa hệ thống của họ có thể bị "vô hiệu hóa bởi một AI có hành vi sai lệch".

Nghiêm trọng hơn, các hệ thống cũng có nguy cơ sụp đổ nếu phải đối mặt với một loạt cuộc tấn công dồn dập.

"Chúng ta cần các biện pháp phòng thủ chủ động hơn, nhưng điều đó tốn kém hơn và cũng làm phát sinh nhiều trở ngại hơn", ông Steven Adler, đại diện sáng lập Guidelight AI Standards cho biết.

Ông Adler từng là nhà nghiên cứu an toàn tại OpenAI, trong khi đó ông Page Hedley - đồng sáng lập Guidelight AI Standards từng làm cố vấn về chính sách và đạo đức.

Trả lời phỏng vấn Reuters, ông Adler cho rằng việc thiếu các biện pháp kiểm soát đầy đủ về lâu dài có thể khiến các nhà nghiên cứu không còn cảm thấy đủ an tâm để tự do thử nghiệm. Cũng theo ông, những tiêu chuẩn an toàn cần được tích hợp ngay từ quá trình phát triển, thay vì phụ thuộc vào ý muốn của ban lãnh đạo các công ty.

Các công ty được đề cập chưa phản hồi, bình luận về kết quả nghiên cứu.

AI có thể học cách qua mặt hệ thống giám sát?

Khả năng giám sát là một trong 6 tiêu chí mà Guidelight đánh giá đang được kiểm nghiệm trong thực tế.

Ngày 18/8, OpenAI cho biết sẽ mở rộng hoạt động "giám sát chuỗi suy luận" đối với các mô hình của mình.

Theo cách tiếp cận này, các nhà nghiên cứu có thể quan sát quá trình một mô hình lên kế hoạch và phần nào nhận biết chiến lược mà nó định sử dụng. Nếu mô hình có dấu hiệu đi chệch hướng, một mô hình AI khác hoặc con người có thể can thiệp.

Một số nhà lập pháp và chuyên gia AI gọi cơ chế này là "công tắc ngắt".

Tuy nhiên, một số nghiên cứu ban đầu cho thấy mô hình AI có thể che giấu kế hoạch vi phạm quy tắc trong chính quá trình suy luận của mình.

Các đại diện từ OpenAI dường như cũng thừa nhận khả năng này. Công ty cho biết phương pháp giám sát chuỗi suy luận hiện có vẻ rất hiệu quả, song giới nghiên cứu vẫn đang tích cực tìm hiểu giới hạn của nó.

Ông Jakub Pachocki, nhà khoa học của OpenAI cho rằng đây là mối lo ngại xác đáng: “Nếu mô hình trở nên cực kỳ mạnh, liệu nó có thể tự nhận ra rằng mình cần né tránh mọi hoạt động giám sát hay không? Hoặc liệu nó có tìm ra cách vô hiệu hóa các hệ thống giám sát?”, ông đặt câu hỏi trong cuộc trao đổi với các cơ quan truyền thông.