Hé lộ cách Facebook dùng AI để đối phó nội dung xấu độc

Là mạng xã hội lớn nhất hành tinh, Facebook cho biết họ đang dần cải thiện công cụ kiểm duyệt nội dung của mình với trí tuệ nhân tạo (AI) nâng cao và máy học (machine learning) để chống lại các bài đăng thù địch, thông tin xấu độc, sai sự thật,... một cách hiệu quả hơn.

Ryan Barnes, giám đốc sản phẩm thuộc đội ngũ Community Integrity của Facebook, tiết lộ rằng hệ thống mới sẽ cho phép ưu tiên nội dung thông qua các yếu tố gồm mức độ lan truyền, mức độ nghiêm trọng và tác động của chúng.

Cần phải nói thêm rằng từ trước tới nay, các bài đăng được cho là vi phạm quy tắc của Facebook thường được đích thân các kiểm duyệt viên can thiệp bằng cách "gắn cờ" cảnh báo. Điều này được thực hiện trong mọi tình huống từ chủ động cho tới ứng biến.

Tuy nhiên giờ đây, Facebook sẽ cho phép thuật toán AI can thiệp mạnh mẽ hơn vào việc nhận diện, cũng như kiểm duyệt các nội dung xấu độc. Tất nhiên, con người vẫn đóng vai trò quan trọng khi họ là người được ưu tiên xử lý các bài đăng quan trọng, và AI chỉ đóng vai trò là "phụ tá".

Lý do là bởi AI không hoàn hảo, và Facebook cũng khẳng định điều này. "Con người đôi khi cũng xử lý sai, và AI cũng không ngoại lệ. Chúng chắc chắn sẽ bị lỗi", Chris Palow - kỹ sư phần mềm tại Facebook cho biết.

Chia sẻ thêm, đại diện Facebook cho biết AI sẽ chỉ xử lý các nội dung đơn giản, dễ nhận biết, hoặc ứng phó nhanh với các bài đăng có tính lan truyền cao và mức độ ảnh hưởng nghiêm trọng. Đây là những hạn chế của con người, xuất phát từ việc chúng ta thường phản ứng chậm hơn so với máy móc.

Dẫu vậy, mục tiêu cuối cùng mà Facebook hướng đến đó là tăng cường mức độ thông minh của AI để chúng giống như con người trong hệ thống nhận dạng, phát hiện hình ảnh/bài đăng vi phạm, điều mà cho đến nay vẫn thực sự hoàn thiện.

Trung bình mỗi ngày Facebook hiện có khoảng 1,82 tỷ người truy cập từ khắp nơi trên thế giới. Họ đăng tải hàng tỷ nội dung mỗi ngày - từ ảnh, video, cho đến văn bản, và sử dụng hàng trăm ngôn ngữ khác nhau. Do đó, nếu như chỉ sử dụng sức người để kiểm duyệt hết số lượng nội dung này, thì sẽ là điều "không tưởng".

Trong vài năm gần đây, Facebook đã bị chỉ trích nặng nề vì xử lý sai các bài đăng kích động thù địch và thông tin sai lệch trên nền tảng của mình.

Trong đại dịch Covid-19, Facebook cũng đối mặt với hàng loạt thách thức từ việc nhận diện thông tin sai lệch liên quan đến dịch bệnh, số ca nhiễm, cách phòng dịch,... trên mọi nền tảng. Những thông tin này khi được lan truyền đã gây nhiễu loạn thông tin và tâm lý lo lắng, bất an trong cộng đồng.

Tin vui là Facebook cũng đang nỗ lực để khắc phục vấn đề này. Hồi đầu tháng 10, gã khổng lồ truyền thông xã hội đã cấm mọi hội nhóm, bài đăng, và tài khoản liên quan tới phong trào thuyết âm mưu QAnon - vốn bị cáo buộc phát tán thông tin sai lệch liên quan đến Covid-19 từ Facebook. Công ty cũng thực hiện một số bước để hạn chế thông tin sai lệch trong thời điểm diễn ra cuộc bầu cử Tổng thống Mỹ.

Theo thống kê trong 3 tháng từ 4/2020 đến 6/2020, đã có 99,6% tài khoản giả mạo, 99,8% tin rác, 99,5% nội dung và hình ảnh bạo lực, 98,5% nội dung khủng bố và 99,3% ảnh khỏa thân trẻ em và nội dung xâm hại tình dục, đã được xác định và xóa bằng công nghệ, mà không cần đến sự can thiệp của con người.

Được biết, các bài đăng nhận được mức độ ưu tiên cao nhất bao gồm thông tin khủng bố, bóc lột trẻ em, tự làm hại bản thân và các khía cạnh liên quan khác.