Giáo hoàng cảnh báo rủi ro từ AI

Trong thông điệp nhân Ngày Thế giới Truyền thông Xã hội, Giáo hoàng Leo XIV cho biết các hệ thống AI phản ánh thế giới quan của những người tạo ra chúng và có thể định hình các khuôn mẫu tư duy bằng cách tái tạo những thiên kiến tồn tại trong dữ liệu mà chúng xử lý.

“Thách thức là vấn đề bảo vệ bản sắc con người và các mối quan hệ đích thực”, Giáo hoàng nói.

Cảnh báo của Giáo hoàng Leo XIV được đưa ra trong bối cảnh AI đang có những bước tiến vượt bậc trong việc tái tạo, chỉnh sửa và tạo ra hình ảnh, âm nhạc và văn bản, đôi khi đạt mức khó phân biệt với các tác phẩm do con người tạo ra.

Năm 2023, người tiền nhiệm của Giáo hoàng Leo, Giáo hoàng Francis, từng là chủ thể của một hình ảnh AI giả lan truyền mạnh mẽ.

Kể từ đó, AI đã trở thành công cụ quen thuộc của một số nhân vật nổi tiếng, trong đó có Tổng thống Mỹ Donald Trump, người đã đăng hoặc chia sẻ lại các hình ảnh do máy tính tạo trên các tài khoản trực tuyến của mình.

Giáo hoàng Leo XIV cảnh báo, chỉ một số ít công ty đang nắm giữ quyền lực đáng kể đối với sự phát triển AI, và các công cụ AI làm gia tăng “khó khăn trong việc phân biệt giữa thực tế và mô phỏng”.

Kể từ khi được bầu vào tháng 5 năm ngoái với tư cách là giáo hoàng đầu tiên đến từ Mỹ, Giáo hoàng Leo XIV liên tục cảnh báo về ảnh hưởng ngày càng lớn của các công nghệ AI.

Ông cũng chỉ trích các hệ thống coi xác suất thống kê là tri thức đáng tin cậy, cho rằng những công cụ như vậy rốt cuộc chỉ đưa ra các giá trị xấp xỉ.

Ông nói thách thức phía trước là thiết lập cơ chế quản trị hiệu quả và kêu gọi giáo dục giới trẻ về cách các thuật toán ảnh hưởng đến nhận thức về thực tế.

Vào tháng 12, ông lên án việc AI ngày càng được sử dụng trong các ứng dụng quân sự, cảnh báo không nên giao các quyết định sinh tử cho máy móc.