AI của Google bị lạm dụng tạo nội dung khủng bố giả mạo

Theo luật pháp Úc, các công ty công nghệ phải báo cáo cho Ủy ban An toàn Điện tử thông tin định kỳ về các nỗ lực giảm thiểu tác hại người dùng khi trực tuyến hoặc sẽ phải đối mặt với tiền phạt.

Kể từ khi ChatGPT của OpenAI trở nên phổ biến, các quốc gia trên toàn thế giới đã kêu gọi xây dựng các biện pháp bảo vệ chặt chẽ hơn để AI không thể được sử dụng cho mục đích khủng bố, gian lận, khiêu dâm deepfake (giả mạo) và các hành vi lạm dụng khác.

Ủy ban An toàn Điện tử Úc gọi tiết lộ của Google là "cái nhìn sâu sắc đầu tiên trên thế giới" về cách người dùng có thể khai thác công nghệ để tạo ra nội dung có hại và bất hợp pháp.

"Điều này nhấn mạnh tầm quan trọng trong việc các công ty phát triển sản phẩm AI phải xây dựng và kiểm tra hiệu quả các biện pháp bảo vệ để ngăn chặn việc lạm dụng để tạo ra rủi ro", đại diện ủy ban này cho biết.

Trong báo cáo, Google cho biết họ đã nhận được 258 báo cáo từ người dùng về nội dung khủng bố hoặc bạo lực được tạo ra bằng AI Gemini, 86 báo cáo khác cáo buộc nội dung lạm dụng hoặc bóc lột trẻ em.

Người phát ngôn của Google khẳng định, công ty này không cho phép tạo hoặc phân phối nội dung liên quan đến việc thúc đẩy chủ nghĩa cực đoan bạo lực hoặc khủng bố, bóc lột, lạm dụng trẻ em và các hoạt động bất hợp pháp khác.

"Chúng tôi cam kết mở rộng nỗ lực để giúp người dân Úc được an toàn khi trực tuyến", người phát ngôn Google tuyên bố.

Lưu ý rằng, số lượng báo cáo từ người dùng Gemini mà Google cung cấp cho chính quyền Úc là tổng khối lượng báo cáo của người dùng trên toàn cầu.

Google đã sử dụng tính năng hash-matching - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa tài liệu lạm dụng trẻ em được tạo bằng Gemini.

Tuy nhiên, cơ quan quản lý Úc cho rằng, Google không sử dụng cùng hệ thống để loại bỏ các tài liệu khủng bố hoặc cực đoan bạo lực được tạo ra thông qua Gemini.

Trước đó, cơ quan này đã phạt Telegram và X (Twitter) vì những gì thiếu sót trong báo cáo của họ.