Đây không phải là lần đầu tiên Facebook thông báo họ đang sử dụng AI để nhắm mục tiêu nội dung gây hiểu lầm. Máy học không thể tự động kiểm tra các tin tức hoặc đưa ra đánh giá về các tiêu đề gây hiểu lầm mà nó còn có thể nhận ra các tín hiệu dễ nhận biết về một tài khoản không tốt. Ví dụ, nó phát hiện các bản sao những câu chuyện mà người kiểm tra thực tế đã xác định là giả mạo.
Trong một cuộc phỏng vấn với
BuzzFeed News, quản lý sản phẩm Facebook – Tessa Lyons đã đi sâu vào chi tiết về cách Facebook sử dụng máy học, nói rằng các bộ lọc của hãng hiện đang cố gắng dự đoán trang nào có khả năng chia sẻ nội dung xấu. Điều này bao gồm việc tìm kiếm quản trị viên trang sống ở một quốc gia nhưng nhắm mục tiêu người dùng ở một quốc gia khác. Những quản trị viên này thường có tài khoản đáng ngờ, dù không phải là giả mạo nhưng được xác định trong hệ thống của Facebook là có hoạt động đáng ngờ.
Lyons thừa nhận rằng các hệ thống tự động này có thể nhắm mục tiêu các trang web hợp pháp một cách tình cờ, nhưng cô cho biết công ty cảm thấy khá tốt khi nó đã đánh dấu đúng nhãn hiệu. Facebook cho biết sẽ có hành động chống lại các trang web lây lan tin tức giả mạo và lừa đảo.
Trong bài đăng trên blog của mình, Facebook đã nêu chi tiết về một số bước mà công ty đang thực hiện, bao gồm làm việc với công cụ kiểm tra thực tế của bên thứ ba ở nhiều quốc gia hơn (hiện hoạt động ở 14 quốc gia và có kế hoạch mở rộng hơn vào cuối năm nay).
Cuối cùng, đó là các kế hoạch liên quan đến việc kiểm tra thực tế bởi con người – một bước hiệu quả trong việc xác định tin tức giả mạo. Tuy nhiên AI vẫn được xem là bước đi hữu ích.