Siêu trí tuệ nhân tạo đã nguy hiểm đến mức gây lo ngại cho các chuyên gia

Chuyên gia cảnh báo siêu trí tuệ nhân tạo có thể khiến con người tuyệt chủng

Jacob Coxon, một chuyên gia về AI từng làm việc tại OpenAI và Anthropic, hai công ty phát triển trí tuệ nhân tạo hàng đầu hiện nay, đã quyết định nộp đơn nghỉ việc tại Anthropic, đồng thời đăng tải một thông điệp cảnh báo về mối nguy hiểm của AI trên trang cá nhân của mình.

“Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Họ đang lao thẳng tới siêu trí tuệ nhân tạo tự cải thiện và đánh bạc với mạng sống của chúng ta”, Jacob Coxon viết trên trang cá nhân.

Chưa đầy 72 giờ sau khi bài viết được đăng tải, bài đăng đã có hơn 164 triệu người xem. Nhiều nhân viên AI lẫn lãnh đạo trong ngành đã đồng loạt lên tiếng phản ứng.

Evan Hubinger, trưởng nhóm khoa học căn chỉnh của Anthropic, đã chia sẻ lại bài đăng của Jacob Coxon, đồng thời cho biết: “Tôi tin rằng Anthropic đang cố gắng hết sức, nhưng chúng tôi chưa có kế hoạch giải quyết vấn đề căn chỉnh cho siêu trí tuệ nhân tạo và rõ ràng là chưa đi đúng hướng”.

Evan Hubinger cũng trích dẫn một báo cáo gần đây cho thấy dù Anthropic tin rằng nguy cơ thảm họa do AI ở mức thấp, nhưng các mô hình siêu AI tự cải thiện có thể làm thay đổi hoàn toàn tình hình.

Ethan Perez, người từng tham gia tuyển dụng Coxon, mô tả Coxon là một nhà nghiên cứu AI xuất sắc.

“Trước khi anh ấy rời đi, tôi đã thuyết phục anh ấy ở lại và gia nhập nhóm của tôi. Tôi rất buồn vì anh ấy quyết định rời đi. Tôi đồng ý 100% với anh ấy rằng AI đặt ra những rủi ro nghiêm trọng đối với xã hội và tôi vui vì anh ấy đã lên tiếng”.

Julie Steele, chuyên gia trong nhóm nghiên cứu an toàn tại OpenAI, đăng một thông điệp ủng hộ Jacob Coxon: “Tôi làm việc tại OpenAI. Với tư cách cá nhân, tôi cũng nghĩ chúng ta cần chậm lại”.

Tuy nhiên, không phải ai cũng đồng tình với chia sẻ của Jacob Coxon. CEO Nvidia Jensen Huang cho rằng nhận định của Coxon là “không đúng sự thật” và “anh không hiểu rõ về tất cả công việc đang được thực hiện trên toàn ngành để có thể đưa ra kết luận đúng”.

Nhiều lãnh đạo công nghệ kêu gọi làm chậm tốc độ phát triển AI

Sau khi bài viết của Jacob Coxon được lan truyền trên mạng xã hội và khiến dư luận xôn xao, đích thân CEO của Anthropic là Dario Amodei cũng đã phải lên tiếng kêu gọi các công ty AI lớn của Mỹ cần phải “làm chậm lại tốc độ phát triển AI”.

Amodei lập luận rằng một chiến lược điều tiết nhịp độ phát triển AI, được phối hợp giữa các công ty với nhau sẽ cho phép các công ty tập trung nhiều nguồn lực hơn vào việc căn chỉnh, kiểm thử và đánh giá mô hình AI, hiểu rõ hơn những gì một mô hình AI đang suy luận và đưa ra hành động.

Một điểm lo ngại của Amodei là các tác nhân AI (agent AI - những công cụ AI có khả năng tự chủ, biết cách lập kế hoạch và thực hiện các hành động một cách hoàn chỉnh mà không cần con người hướng dẫn) có thể thoát ra môi trường Internet và thực hiện các cuộc tấn công mạng.

“Lo ngại của tôi là trong 6 đến 12 tháng tới, một loạt các agent AI có thể chiếm quyền kiểm soát toàn bộ Internet bằng một botnet dai dẳng, có khả năng gây thiệt hại hàng trăm tỷ USD và quy mô thiệt hại sẽ tiếp tục gia tăng nếu AI trở nên mạnh mẽ hơn mà không có các biện pháp bảo vệ cần thiết”, Dario Amodei viết trên trang cá nhân.

Dario Amodei cho biết bản thân Anthropic sẽ bổ sung các đánh giá viên bên thứ ba, những người sẽ sử dụng quyền truy cập tương tự như nhân viên của công ty để giám sát quá trình huấn luyện, triển khai cũng như vận hành thực hiện các công cụ AI do công ty phát triển. Những người này có quyền công bố độc lập các phát hiện quan trọng về mức độ rủi ro, sự cố mà họ phát hiện ra.

Amodei cũng kêu gọi các công ty AI hàng đầu tự nguyện hợp tác với nhau để thiết lập các tiêu chuẩn an toàn và hạn chế nhịp độ phát triển, với chính phủ Mỹ đóng vai trò trung gian, hoặc ít nhất là tạo điều kiện cho các cuộc thảo luận giữa các công ty AI.

Cuối cùng, Dario Amodei đề nghị việc ký kết thỏa thuận giữa các quốc gia với nhau nhằm hạn chế những trường hợp sử dụng AI có khả năng gây nguy hiểm nhất, chẳng hạn như chế tạo vũ khí sinh học. Các cấp độ cao hơn của những thỏa thuận này có thể bao gồm việc áp đặt giới hạn tốc độ cho quá trình phát triển AI, thành lập một cơ quan tiêu chuẩn toàn cầu hoặc thậm chí là tạm dừng hoàn toàn cuộc đua phát triển AI giữa các quốc gia.

“Phương pháp điều tiết nhịp độ hiệu quả nhất là thông qua quy định nhắm vào tất cả các công ty AI tiên phong của Mỹ, vì điều đó bao gồm cả những công ty không sẵn sàng hợp tác tự nguyện”, Dario Amodei viết trên trang cá nhân.

Quan điểm của Amodei đã nhận được sự đồng tình từ những nhà lãnh đạo AI.

Sam Altman, CEO của OpenAI và người có mối quan hệ khá lạnh nhạt với Amodei, cũng đã lên tiếng ủng hộ.

“Tôi đồng ý với Dario rằng chúng ta cần điều tiết nhịp độ phát triển AI. Đây là chủ đề chính trong các cuộc thảo luận mà chúng tôi đã có tại OpenAI trong những tuần gần đây. Đề xuất về các đánh giá viên độc lập với quyền truy cập tương tự nhân viên là một ý tưởng tuyệt vời và chúng tôi sẽ làm như vậy. Chúng tôi sẽ sớm có thêm thông tin để chia sẻ”, Sam Altman viết trên trang X cá nhân.

Tỷ phú Elon Musk, nhà sáng lập của công ty trí tuệ nhân tạo xAI, chia sẻ lại vài bài viết của Dario Amodei, kèm lời bình luận ngắn gọn: “Dario đã đúng”.

Demis Hassabis, đồng sáng lập phòng nghiên cứu trí tuệ nhân tạo Google DeepMind, cũng lên tiếng ủng hộ quan điểm của Dario Amodei: “Bài luận của Dario chỉ ra con đường đúng đắn phía trước. Các chi tiết cần được làm rõ, nhưng hướng đi là đúng để đối mặt với thời điểm quan trọng này. Đây cũng là lý do chúng tôi gần đây đã đưa ra đề xuất về một cơ quan tiêu chuẩn toàn ngành dành cho AI tiên phong”.

CEO OpenAI cảnh báo về kịch bản AI có thể diễn biến “rất tệ”

Sau khi lên tiếng đồng tình với quan điểm của Dario Amodei, CEO Sam Altman của OpenAI đã tiếp tục đăng tải một bài viết lên trang cá nhân để cảnh báo về những kịch bản mà siêu AI có thể diễn biến rất tệ.

Sam Altman cho rằng việc con người mất kiểm soát vào tay AI trong tương lai là điều không thể chấp nhận, đồng thời khẳng định “AI luôn phải phục vụ cho con người. Để đảm bảo điều đó, chúng ta cần các cách thức để bảo đảm rằng các kỹ thuật căn chỉnh và an toàn luôn đi trước tiến bộ về khả năng của các mô hình AI”.

CEO của OpenAI cũng chỉ ra kịch bản khi một quốc gia hoặc một phòng thí nghiệm có thể đạt được nhiều quyền kiểm soát nhờ tiếp cận siêu AI sẽ tạo ra tương lai ảm đạm.

“Nếu một AI cực kỳ mạnh mẽ bị một người hoặc một công ty sử dụng để áp đặt thế giới quan của họ lên tất cả những người khác, kết quả sẽ là một xã hội phản địa đàng. Chúng tôi mong muốn hợp tác với các đồng nghiệp trong ngành để xây dựng một phiên bản AI tốt nhất”, Sam Altman chia sẻ.

Nghị sĩ nước Anh kêu gọi “công tắc diệt AI” để ngăn chặn siêu trí tuệ nhân tạo

Anh là quốc gia chỉ đứng sau Trung Quốc và Mỹ về mức độ tài trợ cho cuộc đua phát triển AI. Tuy nhiên, giờ đây nhiều nghị sĩ Anh đang kêu gọi một giải pháp an toàn để ngăn chặn siêu AI trong trường hợp cần thiết.

Hơn 70 nghị sĩ Anh, phối hợp với nhóm vận động hành lang ControlAI, đã viết thư gửi Thủ tướng Andy Burnham, kêu gọi ông ủng hộ lệnh cấm tạo ra siêu trí tuệ nhân tạo, một hệ thống AI vượt trội đáng kể so với trí tuệ của con người ở hầu hết các nhiệm vụ cần nhận thức.

Trong đó, nghị sĩ Tim Clement-Jones đề xuất tạo ra một “công tắc diệt”, có thể được kích hoạt trong trường hợp khẩn cấp để dừng hoạt động của một hệ thống AI bất trị.

Các nhà lập pháp tại Anh đang kêu gọi một thỏa thuận quốc tế nhằm cấm phát triển AI siêu trí tuệ, viện dẫn các sự cố gần đây liên quan đến các tác nhân AI đã tự ý tấn công vào các hệ thống mạng mà không có sự cho phép của con người. Chẳng hạn như vào tháng 7, 700 agent AI của OpenAI đã tự ý xâm nhập vào hệ thống bảo mật của nền tảng AI mã nguồn mở Hugging Face, thực hiện hơn 17.000 hành động riêng biệt mà không có sự cho phép của con người.

“Không còn nghi ngờ gì nữa, AI là công nghệ then chốt của thế kỷ XXI, thiết yếu đối với các ứng dụng quân sự và khoa học. Tuy nhiên, AI siêu trí tuệ thì khác. Những hệ thống này sẽ tự chủ và mạnh mẽ đến mức chúng sẽ thay thế và vượt qua con người trên mọi lĩnh vực”, bức thư của các nghị sĩ gửi đến Thủ tướng Anh có đoạn viết.

Không chỉ tại Anh, nhiều nhà lập pháp tại Mỹ cũng đã kêu gọi một khung pháp lý liên bang để làm chậm lại tốc độ phát triển AI và ngăn chặn sự ra đời của siêu AI.

Đầu tháng này, Thượng nghị sĩ Bernie Sanders đã đề xuất một dự luật cấm vĩnh viễn việc phát triển và triển khai AI siêu trí tuệ, đồng thời tạm dừng phát triển AI tiên tiến cho đến khi một cơ quan quản lý liên bang thiết lập nên các quy tắc an toàn.

“Khi bạn đang lao về phía vực thẳm, bạn không chỉ nhả chân ga”, Bernie Sanders viết trên trang cá nhân. “Bạn cần phải đạp phanh. Khi tương lai của nhân loại đang bị đe dọa, chúng ta cần một sự tạm dừng đối với phát triển AI tiên tiến và lệnh cấm phát triển trí tuệ nhân tạo siêu việt, một AI thông minh hơn bất kỳ con người nào và có khả năng tự hoạt động độc lập ngoài tầm kiểm soát của chúng ta”.

Sanders cũng kêu gọi Tổng thống Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình đàm phán một hiệp ước để tạm dừng phát triển AI, đồng thời cấm siêu AI trước khi mọi chuyện trở nên quá muộn.

Tuy nhiên, đáp lại những lời kêu gọi của Bernie Sanders, Tổng thống Trump cho rằng mọi người đang bày tỏ lo lắng thái quá về AI và khẳng định rằng Mỹ sẽ thắng Trung Quốc trong cuộc đua phát triển AI.