Nội dung deepfake tràn lan trước thềm tổng tuyển cử Ấn Độ

Ngày 21.1 vừa qua, hội nghị thanh niên Dravida Munnetra Kazhagam (DMK) trên địa bàn bang Tamil Nadu có một diễn giả chẳng ai ngờ tới: nhà sáng lập đảng Muthuvel Karunanidhi đã qua đời từ năm 2018. Đoạn video cố chính trị gia phát biểu nhận được nhiều tràng pháo tay, đặc biệt khi đến đoạn ông chỉ trích chính phủ Thủ tướng Narendra Modi.

Một tháng sau, ông “Karunanidhi” với chiếc khăn choàng màu vàng cùng kính đen đặc trưng lại xuất hiện tại buổi ra mắt tự truyện của nghị sĩ T.R.Baalu. Đoạn video này được phát sóng trên một số kênh tin tức thu hút rất nhiều người xem, trong đó có bà Frieda Devadasan. Vài ngày sau bà mới biết đây là nội dung AI tạo ra.

“Tôi hoàn toàn bị lừa! Tôi tưởng đang phát sóng video cũ”, Devadasan chia sẻ.

Nội dung tạo ra bởi AI đang trở thành công cụ hữu ích cho các chính đảng tại Ấn Độ. Họ thử nghiệm sử dụng chúng rồi tinh chỉnh để phục vụ cho hoạt động vận động tranh cử trước lúc cử tri toàn quốc đi bỏ phiếu vào tháng tới.

Theo phát ngôn viên DMK Dharanidharan Selvam: “Vì nội dung AI có yếu tố mới lạ nên chúng tôi muốn dùng chúng như trò giải trí thu hút quần chúng. Nội dung AI sẽ nhiều lên khi tổng tuyển cử đến gần”.

Không muốn bị thờ ơ, đảng All India Anna Dravida Munnetra Kazhagam (AIADMK) vào cuối tháng 2 tung ra đoạn âm thanh nhà lãnh đạo J.Jayalalithaa qua đời năm 2016 lặp lại câu nói quen thuộc “Tôi vì nhân dân, tôi làm việc cho nhân dân” rồi kêu gọi người dân ủng hộ đương kim lãnh đạo Edappadi Palaniswami.

Nhà sáng lập Muonium AI (công ty tạo ra video cố chính trị gia Karunanidhi phát biểu tại buổi ra mắt tự truyện) Senthil Nayagam cho biết: “Trước đây để tạo ra nội dung như vậy người làm hiệu ứng hình ảnh phải mất 3 ngày. Nhưng công nghệ AI đã cắt giảm lượng lớn chi phí lẫn thời gian. Chúng tôi có thể tạo bất cứ giọng nói hay khuôn mặt nào, xóa hay thêm người vào video, khiến họ nói bất cứ điều gì”.

Ban đầu Nayagam giới thiệu sản phẩm cho ngành điện ảnh, tuy nhiên hiện tại ông đang làm việc với các chính đảng muốn dùng nội dung AI vận động tranh cử.

Tại bang Telangana nơi có thủ phủ là thành phố công nghệ Hyderabad, đảng Bharat Rashtra Samithi (BRS) vào năm ngoái công bố loạt ảnh đội ngũ lãnh đạo hàng đầu gặp gỡ người lớn tuổi, thăm viếng bệnh nhân, vẫy tay chào đám đông. Chỉ có điều, tất cả đều không có thật.

Chuyên gia dữ liệu Archis Chowdhury (nền tảng kiểm chứng nội trung trực tuyến Boom Live) cảnh báo bên cạnh nội dung AI rõ ràng do đảng chính trị nào đó đăng tải, trên mạng còn lan truyền nội dung không rõ nguồn gốc có thể đem lại rủi ro thực. Chẳng hạn vào ngày bầu cử đại biểu cơ quan lập pháp Telangana 30.11.2023 bỗng xuất hiện video chủ tịch BRS K.T.Rama Rao kêu gọi bỏ phiếu cho đối thủ. Trước thềm bầu cử bang Madhya Pradesh cùng tháng, trên mạng lan truyền video chính trị gia đứng đầu cơ quan lập pháp địa phương Kamal Nath tuyên bố bãi bỏ chương trình hỗ trợ trẻ em gái, cùng video chủ tịch đảng Bharatiya Janata (BJP) Shivraj Chauhan tự nghi ngờ khả năng quay lại nắm quyền của đảng mình.

“Sau khi nội dung AI được sử dụng trong bầu cử ở Pakistan và Bangladesh, các công ty như Open AI và Midjourney đều tiến hành hạn chế sử dụng nền tảng họ phát triển cho mục đích chính trị bằng cách đặt bộ lọc theo lời nhắc, nhưng tại Ấn Độ cơ chế này lại dễ dàng bị qua mặt”, theo chuyên gia Chowdhury. Ông chỉ ra các đảng có nguồn lực tài chính hùng hậu như BJP, DMK, AIADMK, Trinamool Congress đều chi tiền tạo nội dung AI.

Tại bang Andhra Pradesh, đảng Telugu Desam (TDP) tuyên bố họ dùng AI theo cách tích cực, chẳng hạn như nghiên cứu nhiều khu vực bầu cử nhằm soạn thảo bài phát biểu hiệu quả hơn. Đảng vô cùng lo ngại về nguy cơ AI bị dùng cho mục đích xấu, sau khi vài tháng trước trên mạng xuất hiện hình ảnh chủ tịch TDP Chandrababu Naidu ngồi tù vì tham nhũng.

Nhà sáng lập Medianama (trang web phân tích chính sách công nghệ) Nikhil Pahwa nhận định 2024 là “năm của các cuộc bầu cử nội dung giả mạo”. Ông cảnh báo nội dung xấu độc tung ra sát ngày bỏ phiếu sẽ dễ khiến lực lượng chức năng trở tay không kịp.

Bộ trưởng Điện tử - Công nghệ thông tin Ấn Độ Rajeev Chandrasekhar từng tuyên bố tất cả nền tảng trực tuyến có nghĩa vụ xóa nội dung bị người dùng hay cơ quan nhà nước báo cáo trong vòng 36 giờ. Ủy ban bầu cử cũng giao trách nhiệm phát hiện và xóa nội dung giả mạo cho mạng xã hội. Nhưng cách tiếp cận này không hiệu quả.

Nhà tư vấn chiến dịch chính trị Shivam Shankar Singh cho biết trong cuộc bầu cử năm 2019, Ủy ban bầu cử quốc gia áp dụng cơ chế tương tự nhưng số báo cáo nhiều đến nỗi họ không thể chuyển chúng đến các nền tảng kịp thời. Giới chuyên gia tin rằng giải pháp khả dĩ là cấm sử dụng nội dung giả mạo cho chiến dịch vận động hoặc ghi rõ nội dung nào do AI tạo ra.