Deepfake đáng sợ ra sao?

Trong video này, ông Zelensky xuất hiện với một chiếc áo màu xanh lá cây sẫm, đứng phía sau bục phát biểu của Tổng thống và nói một cách chậm rãi. Ngoại trừ phần đầu, cơ thể của vị Tổng thống gần như không cử động. Với giọng nói méo mó và khô khan một cách kỳ lạ, ông khuyên người dân Ukraine hãy đầu hàng Nga.

"Tôi yêu cầu các bạn hạ vũ khí và trở về với gia đình. Cuộc chiến này không đáng để hy sinh. Tôi mong muốn các bạn có thể tiếp tục sống và tôi cũng sẽ làm như vậy", thông tin sai lệch được đưa ra ở đoạn video.

Ngay lập tức, người nghe đã xác định rằng đây chỉ là một video giả mạo và được tạo ra bằng công nghệ deepfake. Các trang mạng xã hội như Facebook, Twitter,... cũng lập tức gỡ bỏ và chặn đoạn video này khỏi nền tảng của họ không lâu sau đó.

5 năm trước, hầu như không có ai biết đến deepfake - cụm từ ám chỉ những đoạn video và âm thanh trông giống như thật, nhưng lại hoàn toàn giả mạo. Chúng được tạo ra với sự trợ giúp của trí tuệ nhân tạo. Tuy nhiên, đến hiện tại, chúng đã được sử dụng để thao túng thông tin trong một cuộc xung đột. 

Bên cạnh video giả mạo về Tổng thống Zelensky, một video deepfake khác cũng được lan truyền rộng rãi, chứa hình ảnh Tổng thống Nga Vladimir Putin tuyên bố tình trạng hòa bình, kết thúc cuộc chiến với Ukraine.

Trong nhiều năm, các chuyên gia đã bày tỏ sự lo lắng về khả năng lan truyền những thông tin giả mạo, có thể gây ra tình trạng hỗn loạn của các video deepfake. Theo CNN, công nghệ deepfake đã có được nhiều bước phát triển chỉ trong một khoảng thời gian ngắn. Chẳng hạn, các video về cảnh Tom Cruise tung đồng xu và hát các bài hát của ban nhạc Dave Matthews vào năm ngoái đã cho thấy công nghệ deepfake có thể tạo ra những video "thật" đến mức nào.

Những video giả mạo gần đây về Tổng thống Zelensky hay Putin đều không đạt được mức độ lan tỏa cao như video về Tom Cruise. Nguyên nhân là do chúng có độ phân giải thấp, nhằm che giấu những sai sót dễ bị phát hiện.

Tuy vậy, các chuyên gia vẫn nhận thấy rằng chúng vô cùng nguy hiểm. Đó là bởi những thông tin sai lệch sử dụng công nghệ cao có thể phát tán rất nhanh trên quy mô toàn cầu. Khi những video deepfake phổ biến, việc chọn lọc thông tin trên mạng sẽ trở nên khó khăn hơn.

"Một khi ranh giới giữa thật và giả bị lu mờ, sự thật sẽ không còn tồn tại. Bạn sẽ không dám tin vào những điều mà chính mắt mình nhìn thấy. Chúng ta sẽ mất niềm tin vào mọi thứ", Wael Abd-Almageed, phó giáo sư nghiên cứu tại Đại học Nam California, kiêm Giám đốc sáng lập Phòng thí nghiệm phân tích đa phương tiện và trí tuệ thị giác, nhận định.

Siwei Lyu, Giám đốc phòng thí nghiệm máy học và tầm nhìn máy tính tại Đại học Albany, cho rằng trong vài năm trước, việc tạo ra một video deepfake chất lượng cao không phải là điều dễ dàng. Tuy nhiên, điều này đã trở nên đơn giản hơn nhiều ở thời điểm hiện tại.

Các chuyên gia cũng nhận định rằng việc sử dụng công nghệ này để tác động đến mọi người trong chiến tranh là vô cùng nguy hiểm. Nó có thể gây ra sự nhầm lẫn, từ đó kéo theo vô số các rủi ro.

"Trong những trường hợp thông thường, deepfake có thể không gây ra nhiều tác động, ngoài việc thu hút sự quan tâm và chú ý trên mạng xã hội. Tuy nhiên, trong những tình huống nguy cấp như chiến tranh hay thảm họa, mọi người chỉ có thể tiếp nhận thông tin trong một khoảng thời gian rất ngắn và sẽ không thể suy nghĩ một cách thấu đáo. Những video giả mạo sẽ trở thành một vấn đề lớn", Lyu cho biết.

Khi deepfake ngày càng trở nên tốt hơn, nhiều nhà nghiên cứu và các công ty đã cố gắng cập nhật công cụ để phát hiện ra chúng. Abd-Almageed và Lyu sử dụng nhiều thuật toán để phát hiện ra deepfake. 

Giải pháp của Lyu được đặt tên là DeepFake-o-meter, cho phép bất kỳ ai tải video lên để kiểm tra tính xác thực của nó. Tuy nhiên, công cụ này có thể mất vài giờ để tìm ra kết quả. Một số công ty khác như Zemana cũng đang phát triển phần mềm riêng của họ để phát hiện deepfake. Dĩ nhiên, nếu muốn hoạt động một cách hiệu quả, tính năng này cũng cần được cập nhật thường xuyên để theo kịp với khả năng giả mạo của deepfake.

"Chúng ta sẽ thấy những video deepfake nhiều hơn. Việc dựa vào các nền tảng như Google, Facebook, Twitter là không đủ", Lyu nói.