Video AI giả về cuộc chiến Iran gây nhiễu loạn mạng xã hội

Làn sóng video AI giả lan rộng trên mạng xã hội

Theo New York Times, các nhà báo đã sử dụng nhiều phương pháp kiểm chứng như phân tích dấu hiệu hình ảnh, siêu dữ liệu tệp và tổng hợp từ nhiều tổ chức xác minh. Kết quả cho thấy chỉ trong vòng hai tuần đầu của cuộc chiến tại Trung Đông, đã có hơn 110 hình ảnh và video do AI tạo ra liên quan đến xung đột.

Những nội dung này bao trùm nhiều khía cạnh của giao tranh, từ cảnh người dân Israel hoảng loạn, các vụ nổ lớn trong thành phố, đến hình ảnh tàu quân sự Mỹ bị tên lửa và ngư lôi tấn công. Tổng cộng, các video và hình ảnh này đã thu hút hàng triệu lượt xem trên các nền tảng như X, TikTok và Facebook, đồng thời được chia sẻ rộng rãi qua các hộp tin nhắn riêng.

Marc Owen Jones, Phó Giáo sư phân tích truyền thông tại Đại học Northwestern ở Qatar, cho rằng mức độ lan truyền của nội dung do AI tạo ra trong cuộc xung đột này là chưa từng có. Theo ông, so với giai đoạn chiến sự ở Ukraine, lượng nội dung liên quan đến AI trong cuộc chiến giữa Mỹ, Israel và Iran đã tăng lên đáng kể.

Một trong những video giả lan truyền mạnh nhất được cho là quay từ ban công một căn hộ tại Tel Aviv, cho thấy đường chân trời thành phố liên tiếp bị tên lửa tấn công. Video này nhanh chóng thu hút hàng triệu lượt xem và được nhiều tài khoản có ảnh hưởng chia sẻ lại.

Theo các chuyên gia, những video chiến tranh do AI tạo ra thường được dựng với mức độ kịch tính cao, nhiều vụ nổ lớn và cảnh pháo kích dồn dập. Trong khi đó, các video ghi lại chiến sự thực tế thường ít kịch tính hơn, tên lửa chỉ xuất hiện như những đốm sáng ở xa hoặc các cột khói.

AI trở thành công cụ trong cuộc chiến thông tin

Không chỉ lan truyền những cảnh chiến đấu giả, một số nội dung do AI tạo ra còn đóng vai trò trong việc khuếch đại các thông tin sai lệch. Nhiều người dùng tại Iran đã chia sẻ các video này và coi đó là bằng chứng cho thấy cuộc phản công đang gây tổn thất cho liên minh đối phương.

Theo nghiên cứu của Cyabra – công ty phân tích dữ liệu mạng xã hội, phần lớn các video AI liên quan đến cuộc chiến mang quan điểm ủng hộ Iran, thường nhằm phóng đại sức mạnh và mức độ tinh vi của quân đội nước này.

Marc Owen Jones cho rằng việc sử dụng hình ảnh AI về các địa điểm ở vùng Vịnh ngày càng trở thành một phần trong chiến lược truyền thông. Những hình ảnh này có thể tạo cảm giác rằng cuộc chiến tàn khốc hơn và gây tổn thất lớn hơn so với thực tế.

Các chuyên gia cũng cảnh báo rằng bên cạnh video deepfake, nhiều đoạn phim trò chơi điện tử đã bị chỉnh sửa để trông giống cảnh chiến đấu thật, trong khi chatbot có thể tạo ra các câu chuyện sai lệch để lan truyền trên mạng.

Theo New York Times, các nền tảng mạng xã hội hiện vẫn chưa có biện pháp hiệu quả để ngăn chặn làn sóng nội dung AI giả mạo. Người dùng thậm chí có thể dễ dàng che hoặc xóa watermark đánh dấu nội dung do AI tạo ra.

Trong tuần trước, nền tảng X thông báo sẽ tạm ngừng chia sẻ doanh thu trong 90 ngày đối với các tài khoản đăng nội dung AI liên quan đến “xung đột vũ trang” mà không gắn nhãn rõ ràng. Tuy nhiên, Cyabra cho biết nhiều tài khoản có liên hệ với Iran dường như chỉ tập trung vào việc lan truyền thông tin.

Bà Valerie Wirtschafter, nghiên cứu viên tại Brookings Institution chuyên về chính sách đối ngoại và AI, nhận định: “Mạng xã hội và trí tuệ nhân tạo đang trở thành một công cụ của chiến tranh.”

Theo các chuyên gia, sự bùng nổ của nội dung sai lệch cho thấy nhu cầu cấp thiết phải phát triển các công cụ phát hiện nội dung giả mạo hiệu quả hơn, đồng thời nâng cao nhận thức truyền thông của người dùng và tăng trách nhiệm của các nền tảng công nghệ trong việc kiểm soát thông tin.