Liên hợp quốc kêu gọi hành động khẩn cấp để kiểm soát AI

Trong bức thư gửi tới các quốc gia cùng các nhà phát triển AI, quan chức cơ quan nhân quyền Liên hợp quốc Volker Turk cảnh báo, thế giới đang "ở bờ vực của sự thay đổi không thể đảo ngược, ảnh hưởng không chỉ đến chúng ta mà còn đến các thế hệ tương lai của nhân loại".

"Cuộc đua hiện tại hướng tới các hệ thống AI ngày càng mạnh mẽ hơn là một bước ngoặt tiến tới những rủi ro sinh tồn lớn hơn đối với mọi khía cạnh của cuộc sống”, ông nói.

Ông lập luận: "Trong thế giới ngày nay, chúng ta hầu như phụ thuộc hoàn toàn vào một số ít các công ty quyền lực trong việc đưa ra những lựa chọn đúng đắn về phát triển AI cho toàn nhân loại”.

Quan chức này cảnh báo về "những rủi ro chưa từng có" mà các tác nhân AI có thể gây ra.

"Toàn bộ quần thể dân cư có thể bị cắt nước sạch, hệ thống sưởi và các dịch vụ tài chính. Các tác nhân AI đã và đang gia tăng tốc độ cùng phạm vi tác động, đồng thời bào mòn các hàng rào bảo vệ ngăn cách chúng ta với việc kích hoạt các vũ khí hủy diệt hàng loạt", ông cho biết.

Ông nhấn mạnh: "Tôi kêu gọi các quốc gia và các công ty khẩn trương huy động nguồn lực thông qua các diễn đàn đa phương để vạch ra một lộ trình hành động nhằm quản trị các mô hình AI tiên phong, nâng cao, dựa trên nền tảng luật nhân quyền quốc tế”.

Ông đặc biệt nhấn mạnh tầm quan trọng của hợp tác quốc tế, khẳng định rằng "không một quốc gia nào có thể tự mình quản trị công nghệ này, không một công ty nào được phép tự mình quyết định những rủi ro mà thế giới phải chấp nhận".

Kêu gọi được đưa ra giữa lúc nổ ra cuộc tranh luận gay gắt về việc liệu có nên làm chậm tốc độ phát triển AI hay không. Một số lãnh đạo công nghệ gần đây lo ngại công nghệ AI có thể vượt tầm kiểm soát của con người. Họ kêu gọi giảm tốc độ phát triển công nghệ này. Một nhân viên công ty Anthropic của Mỹ cảnh báo: "Chúng tôi thực sự tin là AI có thể hủy diệt toàn bộ loài người. Xác suất là 10% trong vòng một thập niên tới".

Tuy nhiên, Tổng thống Mỹ Donald Trump cùng các đồng minh then chốt phản đối làm chậm sự phát triển của công nghệ này. Ông Trump cho rằng những cảnh báo của giới công nghệ đang “thổi phồng” mối đe dọa từ AI.

Ông cũng nhấn mạnh, ưu tiên của Washington phải dẫn trước Trung Quốc trong cuộc đua công nghệ.

"Chúng ta đang dẫn trước Trung Quốc về AI, chúng ta là quốc gia tiên tiến nhất thế giới, và thẳng thắn mà nói tôi muốn giữ nguyên vị thế đó… Bất kỳ ai chiến thắng trong cuộc đua AI sẽ là bên chiến thắng tất cả", ông nói.