Chatbot AI của Elon Musk bị cấm vì cho người dùng tạo ảnh khiêu dâm

Grok là công cụ AI được phát triển bởi xAI, công ty trí tuệ nhân tạo do Elon Musk thành lập vào năm 2023. Công cụ AI này cho phép trả lời những câu hỏi, tạo ảnh và video theo yêu cầu của người dùng.

Đặc biệt, Grok thậm chí còn cho phép người dùng tạo ra các hình ảnh khỏa thân hoặc khiêu dâm từ một hình ảnh bất kỳ. Nhiều kẻ xấu đã lợi dụng Grok để tạo nên các hình ảnh khiêu dâm và khỏa thân giả mạo của người nổi tiếng hoặc của người khác, gây nên một làn sóng phản đối nhằm vào công cụ AI này.

Vì lý do đó, chính phủ Indonesia và Malaysia đã ra lệnh chặn và cấm sử dụng Grok tại 2 quốc gia này.

“Lệnh cấm nhằm bảo vệ phụ nữ, trẻ em và công chúng khỏi rủi ro của nội dung khiêu dâm giả mạo được tạo ra bằng công nghệ trí tuệ nhân tạo”, Meutya Hafid, Bộ trưởng Kỹ thuật số Indonesia, cho biết.

Trong khi đó, chính phủ Malaysia cho biết lệnh cấm Grok được ban hành vì công cụ này được sử dụng để tạo ra các hình ảnh khiếm nhã, khiêu dâm, không đứng đắn và cực kỳ xúc phạm, bao gồm cả những nội dung liên quan đến phụ nữ và trẻ vị thành niên.

Indonesia và Malaysia đều là các quốc gia có đa số người dân theo Hồi giáo và sở hữu luật chống khiêu dâm nghiêm ngặt. Những lệnh cấm Grok tại hai quốc gia này chỉ mang tính chất tạm thời và có thể được gỡ bỏ trong tương lai nếu Grok siết chặt lại hoạt động của mình.

Trước đó, các quan chức chính phủ Anh, Ấn Độ và Liên minh châu Âu cũng bày tỏ nhiều sự lo ngại về việc Grok cho phép người dùng tạo ảnh khiêu dâm và khỏa thân.

Bộ trưởng Bộ Khoa học, Đổi mới và Công nghệ của Vương quốc Anh Liz Kendall đã kêu gọi hành động nhanh chóng để chống lại những hình ảnh khiêu dâm giả mạo do Grok tạo ra.

“Việc tạo ra hình ảnh khiêu dâm của phụ nữ và trẻ em là đáng khinh và kinh tởm. Tôi mong Văn phòng truyền thông sẽ sử dụng toàn bộ quyền lực pháp lý mà Quốc hội đã trao cho họ để ngăn chặn điều này”, bà Liz Kendall phát biểu.

Trên thực tế, điều khoản sử dụng của Grok và các chatbot AI khác như ChatGPT, Gemini, Claude AI… đều cấm người dùng tạo ảnh khỏa thân hoặc khiêu dâm. Tuy nhiên, người dùng có thể qua mặt Grok bằng một vài mánh khóe và câu lệnh đơn giản để yêu cầu công cụ AI này tạo ảnh khiêu dâm theo ý mình.

Trước những lời chỉ trích nhằm vào Grok, Elon Musk và xAI cho biết họ đang giải quyết vấn đề bằng cách cấm vĩnh viễn những tài khoản người dùng sử dụng Grok để tạo ảnh khiêu dâm và cam kết hợp tác với chính phủ các quốc gia để ngăn chặn lan truyền các hình ảnh khiêu dâm giả mạo được tạo ra bởi Grok.

Bất chấp những cam kết của Elon Musk và xAI, những hình ảnh khiêu dâm được tạo ra bởi Grok vẫn được chia sẻ tràn ngập trên các nền tảng mạng xã hội như Facebook, Reddit hay chính nền tảng X do Elon Musk làm chủ, điều này đã khiến nhiều người lo ngại chính bản thân họ sẽ trở thành nạn nhân của Grok.