Ngập tràn video AI giả dạng phóng viên mặc bikini trên mạng xã hội

Cơn lũ nội dung giả tạo trên mạng xã hội

Hãy tưởng tượng bạn lướt Instagram và bắt gặp video một nữ phóng viên mặc bikini đang phỏng vấn người qua đường tại Ấn Độ hoặc Anh. Những người đàn ông được phỏng vấn đưa ra các câu trả lời thô tục, kèm theo những bình luận mang tính chất phân biệt giới tính, thậm chí có hành động quấy rối. Đám đông xung quanh cười đùa và video nhanh chóng đạt hàng chục triệu lượt xem. Nhưng điều đáng sợ là: tất cả đều không có thật.

Tại Ấn Độ, hàng trăm video như vậy đã tràn ngập Instagram, nhiều trong số đó sử dụng tiếng Hindi. Chúng được tạo ra bởi các công cụ AI như Google’s Veo 3, một phần mềm tạo video có khả năng biến những dòng lệnh văn bản đơn giản thành hình ảnh sống động, gần như không thể phân biệt với thực tế. Những video này không chỉ thu hút sự chú ý mà còn kiếm tiền từ lượng tương tác khổng lồ, thường bằng cách quảng bá các ứng dụng trò chuyện người lớn với lời mời gọi “kết bạn với phụ nữ mới”.

Nhưng điều gì khiến những video này trở nên đáng lo ngại? Chúng không chỉ giả mạo mà còn mang nội dung phân biệt giới tính, từ những câu nói mang tính xúc phạm đến hành vi quấy rối được mô phỏng. Nirali Bhatia, một nhà tâm lý học mạng tại Ấn Độ, nhận định: “Những định kiến phân biệt giới tính từng ẩn náu trong các cuộc trò chuyện kín giờ đây được khoác lên lớp vỏ hình ảnh AI, trở thành một phần của văn hóa trực tuyến”. Bà gọi đây là “tác hại giới tính do AI gây ra”, đồng thời nhấn mạnh rằng xu hướng này đang tiếp tay cho chủ nghĩa phân biệt giới tính.

AI Slop đang lấn át thực tế

Thuật ngữ “AI slop” dùng để chỉ nội dung được sản xuất hàng loạt bởi các công cụ AI giá rẻ, từ hình ảnh, video đến meme, thường được tạo ra để thu hút sự chú ý mà không cần đầu tư nhiều công sức. Những nội dung này đang cạnh tranh trực tiếp với các bài đăng chân thực, làm mờ ranh giới giữa thực và giả. Emmanuelle Saliba từ công ty an ninh mạng GetReal Security cảnh báo: “Nội dung AI không được gắn nhãn đang dần làm xói mòn niềm tin vào những gì chúng ta thấy trên internet”.

Không chỉ dừng ở các video phỏng vấn giả, nội dung AI còn đi xa hơn với những nội dung gây sốc để thu hút lượt xem. Theo Wired, một số video trên TikTok sử dụng Veo 3 để miêu tả phụ nữ da đen một cách phân biệt chủng tộc, ví họ như “những loài linh trưởng chân to”. Một tài khoản TikTok nổi tiếng khác chế giễu phụ nữ bằng những danh sách mang tính xúc phạm, như “những cô gái đào mỏ sẽ làm gì vì tiền”. Thậm chí, các video giả mạo về một huấn luyện viên hải quân tên “Jessica Radcliffe” bị cá voi sát thủ tấn công đã lan truyền trên TikTok, Facebook và X, gây phẫn nộ toàn cầu từ những người dùng tin rằng câu chuyện là thật.

Sự bùng nổ của nội dung AI không chỉ là vấn đề công nghệ mà còn là hệ quả của các cơ chế khuyến khích tài chính trên mạng xã hội. Nhiều nền tảng trả tiền cho người tạo nội dung dựa trên lượt xem, biến việc sản xuất video AI thành một ngành công nghiệp “cottage industry”. Theo Alexios Mantzarlis, Giám đốc Sáng kiến An ninh, tin cậy và an toàn tại Cornell Tech, năm ngoái đã có tới 900 tài khoản Instagram của các “người mẫu” AI - chủ yếu là phụ nữ với trang phục hở hang - thu hút tổng cộng 13 triệu người theo dõi và đăng hơn 200.000 hình ảnh. Những tài khoản này thường chuyển hướng người dùng đến các nền tảng chia sẻ nội dung thương mại để kiếm tiền.

Hiện nay, con số này chắc chắn đã tăng lên đáng kể. Mantzarlis dự đoán: “Chúng ta sẽ thấy ngày càng nhiều nội dung vô nghĩa, tận dụng các chuẩn mực cơ thể không chỉ phi thực tế mà còn hoàn toàn không có thật”. Từ sinh viên đến các bậc phụ huynh ở nhà, nhiều người đang biến việc sản xuất video AI thành công việc bán thời gian, với các khóa học trực tuyến dạy cách kiếm tiền từ nội dung AI lan truyền trên YouTube và TikTok.

Thách thức trong kiểm soát

Việc kiểm soát nội dung AI slop ngày càng trở nên khó khăn khi các nền tảng giảm bớt đội ngũ kiểm duyệt nội dung và phụ thuộc nhiều hơn vào thuật toán. Dù YouTube gần đây đã tuyên bố rằng các nhà sáng tạo nội dung “không xác thực” và “sản xuất hàng loạt” sẽ không được phép kiếm tiền, nhưng việc thực thi vẫn là một thách thức lớn. Các công cụ như Veo 3 có thể tạo ra video với chất lượng gần như hoàn hảo, khiến việc phát hiện nội dung giả trở nên khó khăn hơn bao giờ hết.

Divyendra Jadoun, một chuyên gia tư vấn AI, nhấn mạnh: “AI không tạo ra phân biệt giới tính - nó chỉ phản ánh và khuếch đại những gì đã tồn tại trong xã hội”. Khi người dùng thưởng thức và tương tác với những nội dung này bằng hàng triệu lượt thích, thuật toán và những người tạo nội dung sẽ tiếp tục sản xuất thêm. Jadoun nói: “Cuộc chiến lớn hơn không chỉ là về công nghệ - mà còn là về xã hội và văn hóa”.

Những video AI mang tính phân biệt giới tính không chỉ gây tổn thương cho phụ nữ mà còn làm suy giảm niềm tin vào nội dung trực tuyến. Khi ranh giới giữa thực và giả ngày càng mờ nhạt, người dùng có nguy cơ bị thao túng bởi những thông tin sai lệch. Đối với phụ nữ, những nội dung này củng cố các định kiến có hại, biến họ thành đối tượng của sự chế giễu và quấy rối.

Để giải quyết vấn đề, cần có sự phối hợp từ nhiều phía. Các nền tảng mạng xã hội cần tăng cường kiểm duyệt và gắn nhãn rõ ràng cho nội dung AI, đồng thời hạn chế việc kiếm tiền từ nội dung giả tạo.

Nhà phát triển AI cần cải thiện các mô hình để giảm thiểu hiện tượng “hallucinations” (tạo nội dung sai lệch) và hợp tác với các tổ chức để đảm bảo nội dung được xác thực. Người dùng cần nâng cao nhận thức, kiểm chứng thông tin từ các nguồn đáng tin cậy thay vì tin ngay vào những gì họ thấy trên mạng.