Những kẻ làm nội dung rác tận dụng câu chuyện làm việc thiện của cầu thủ Peyton Manning để trục lợi – Ảnh: FACBOOK/SNOPES
Hiểu theo cách nào đó, nội dung rác AI (AI slop) là sự tiến hóa từ tin nhắn rác. Nội dung kém chất lượng, dễ dàng tạo ra từ các công cụ AI, tràn ngập mạng xã hội, khiến người dùng không phân biệt được đâu là thật đâu là giả.
Rác AI thách thức truyền thông
Nội dung rác do AI tạo ra có thể xuất hiện trên nhiều nền tảng: từ mạng xã hội, sách trên Amazon, nhạc trên Spotify, các trang tin kém uy tín, và đáng lo là đôi khi còn len lỏi vào hãng tin uy tín hay tạp chí khoa học.
Từ năm 2023, các chuyên gia của Snopes đã bóc trần nhiều trường hợp. Điển hình là các bài đăng giả về người nổi tiếng làm từ thiện trên YouTube, Facebook, như vụ cầu thủ bóng bầu dục Peyton Mannin. Video giả về động vật cũng thường xuyên xuất hiện.
Đặc biệt, Snopes kiểm chứng hàng loạt tin đồn liên quan chính trị gia: bác bỏ bài phát biểu do AI tạo ra gán cho Tổng thống Mỹ Donald Trump, hoặc xác nhận một số trường hợp chính quyền Mỹ đăng nội dung do AI viết.
Snopes nhận định sự bùng phát của rác AI là hệ quả tất yếu của “enshittification” – thuật ngữ nhà văn Cory Doctorow đưa ra năm 2022 để mô tả sự xuống cấp của các nền tảng trực tuyến như Amazon, Facebook. Ông viết: “Ban đầu, họ ưu ái người dùng; sau đó tận dụng người dùng để phục vụ khách hàng doanh nghiệp; cuối cùng, họ khai thác doanh nghiệp để thu lợi tối đa cho riêng mình. Và rồi họ sụp đổ”.
Hình ảnh được chia sẻ trên X này thực ra không phải xảy ra trong bão Helene vào tháng 9-2024 ở Mỹ – Ảnh: SNOPES
Hậu quả khôn lường của rác AI
Nội dung rác AI không phục vụ con người mà nhắm đến các thuật toán quyết định nội dung hiển thị. Chiến lược chính của nó là thao túng hệ thống, bơm ồ ạt dữ liệu AI cho đến khi lan truyền rộng rãi.
Một bài báo năm 2024 trên New York Magazine cho biết nhiều người coi việc quảng bá nội dung AI như nghề tay trái.
“Kẻ tạo rác” có thể bán sách trên Amazon, nhạc trên Spotify để hưởng bản quyền, đăng tin tức lên blog WordPress đầy quảng cáo, hoặc khai thác các chương trình có lượng tương tác lớn trên mạng xã hội.
Theo trang 404 Media, khoản tiền thu được từ nội dung rác AI thường nhỏ, nhiều nhất chỉ “hàng trăm USD”.
Tuy nhiên, ở những nước như Ấn Độ, Việt Nam hay Philippines, số tiền này lại khá đáng kể. Snopes cho biết phần lớn nội dung rác AI xuất phát từ các quốc gia này.
Sự tràn ngập rác AI khiến cả người dùng lẫn doanh nghiệp khó phân biệt thật giả.
Càng nhiều bài đăng, không gian quảng cáo càng có giá trị, giúp các nền tảng như Facebook tăng giá. Doanh nghiệp muốn quảng cáo buộc phải chi nhiều hơn.
Hệ quả rõ rệt là gánh nặng phân biệt thật giả dồn lên vai người dùng. Quá tải thông tin từ rác AI có thể khiến họ mất niềm tin vào nguồn tin uy tín, thậm chí chọn cách phớt lờ tất cả.
“Khi con người thấy không còn có thể tin vào những gì mình đọc, họ sẽ ngừng cố gắng xác minh”, một cây bút của tạp chí Forbes nhận định. Báo The Guardian gọi hiệu ứng này là “sự mất phương hướng sâu sắc”.
Rác AI còn cản trở ứng phó thảm họa. Đài ABC dẫn chứng, trong cơn bão Helene tàn phá đông nam Mỹ tháng 9-2024, lực lượng cứu hộ dùng mạng xã hội để xác định khu vực khẩn cấp, nhưng hình ảnh giả mạo đã gây nhiều khó khăn cho công tác cứu nạn.
