X "ra tay" khi deepfake khiêu dâm của Taylor Swift bị lan truyền

Cuối tuần trước, hàng loạt hình ảnh được tạo ra bằng công nghệ deepfake, ghép gương mặt của nữ ca sĩ nổi tiếng Taylor Swift vào những hình ảnh khiêu dâm, đã được lan truyền nhanh chóng trên các nền tảng mạng xã hội.

Những hình ảnh này ban đầu được lan truyền trên mạng xã hội Telegram, sau đó tiếp tục được chia sẻ rộng rãi trên nền tảng mạng xã hội X (trước đây là Twitter). Telegram và X là 2 nền tảng mạng xã hội khá "thoáng" và không cấm chia sẻ các nội dung khiêu dâm.

Những hình ảnh giả mạo này đã khiến cộng đồng người hâm mộ Taylor Swift phẫn nộ. Nhiều người hâm mộ nữ ca sĩ này đã lên tiếng kêu gọi ngăn chặn và gắn cờ báo cáo các bài viết chia sẻ hình ảnh giả mạo của cô trên mạng xã hội.

Mạng xã hội X cũng đã lập tức "ra tay hành động" để bảo vệ danh tính của Taylor Swift. Theo đó, mạng xã hội này đã ngăn chặn người dùng tìm kiếm các từ khóa liên quan đến Taylor Swift.

Chẳng hạn khi người dùng tìm kiếm các từ khóa như "Taylor Swift", "Taylor Swift AI" hay "Taylor AI"… trên X, họ sẽ nhận được phản hồi "Nội dung không được hiển thị, hãy thử lại".

Joe Benarroch, Quản lý hoạt động kinh doanh của X, cho biết chặn tìm kiếm các nội dung liên quan đến Taylor Swift là "một hành động tạm thời nhưng hết sức cần thiết vì mạng xã hội X ưu tiên sự an toàn cho người dùng và ngăn chặn các nội dung sai sự thật".

Nhiều tài khoản X chia sẻ các hình ảnh khiêu dâm giả mạo của Taylor Swift cũng đã bị mạng xã hội X khóa lại hoặc cấm đăng bài.

Taylor Swift là nạn nhân mới nhất của công nghệ deepfake. Trên thực tế, từ lâu công nghệ này đã được sử dụng để tạo ra những hình ảnh, video giả mạo với gương mặt của những người nổi tiếng, trong đó nhiều người đã bị lồng ghép vào các nội dung khiêu dâm.

Bên cạnh những người nổi tiếng, không ít người bình thường cũng trở thành nạn nhân của deepfake, khi bị kẻ xấu ghép mặt của họ vào các hình ảnh, video khiêu dâm, sau đó sử dụng các nội dung này để tống tiền, nếu không sẽ phát tán các nội dung giả mạo này lên mạng xã hội.

Sự việc xảy ra với Taylor Swift đã khiến những nhà làm luật tại Mỹ kêu gọi thông qua đạo luật ngăn cấm phát tán hình ảnh nhạy cảm sử dụng công nghệ deepfake. Nếu đạo luật này được thông qua, hành vi chia sẻ nội dung hình ảnh nhạy cảm giả mạo của người khác sẽ bị xem là phạm tội và những ai tạo ra, cũng như chia sẻ nội dung đó, sẽ bị xử phạt hành chính hoặc ngồi tù.

Dự kiến, CEO của các mạng xã hội lớn tại Mỹ như Meta, X, TikTok, Snapchat… sẽ phải dự buổi điều trần trước Ủy ban Tư pháp Thượng viện vào ngày 31/1 tới để trả lời các câu hỏi về nỗ lực của các nền tảng trong việc ngăn chặn các nội dung khiêu dâm giả mạo được tạo ra bởi deepfake.

Deepfake là công nghệ trí tuệ nhân tạo, sử dụng kỹ thuật tổng hợp hình ảnh của một người nào đó để kết hợp và chồng hình ảnh gương mặt lên một video hoặc hình ảnh của người khác.

Deepfake sẽ trải qua một "quá trình học", dựa vào các dữ liệu đầu vào nhằm tạo ra mô hình và lựa chọn thuật toán phù hợp để liên tục xử lý và học từ các mô hình đó. Sau một thời gian "học", deepfake đã có thể ghép khuôn mặt với độ chính xác cao mà khó có thể nhận ra bằng mắt thường.

Theo PCMag/DTrends