Nguy cơ AI tác động đến bầu cử ở Mỹ

Tạp chí Fortune lưu ý rằng phần mềm sao chép giọng nói từ ElevenLabs cùng loạt nền tảng tạo hình ảnh DALL-E 2, Stable Diffusion, Midjourney có khả năng bị sử dụng cho hoạt động tung tin giả.

Theo giáo sư danh dự Gary Marcus (Đại học New York): “Chúng ta nên lo sợ. Thông tin sai lệch tạo ra bởi AI sẽ là yếu tố lớn trong cuộc bầu cử sắp tới”.

Dù công nghệ tạo video từ đầu vào văn bản còn sơ khai, nhưng người có chuyên môn về deepfake đủ sức tạo ra video giả rất thuyết phục.

Deepfake là công nghệ tổng hợp hình ảnh con người dựa trên AI. Sau khi nhận dữ liệu (mô tả văn bản về ảnh chân dung) của một người cụ thể, công nghệ này sẽ hợp nhất hình ảnh với video riêng biệt nhờ AI và thay thế chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói giống như thật. Dữ liệu đầu vào càng nhiều thì AI càng hoạt động chính xác, video giả mạo càng có có độ giống cao.

Chuyên gia Chris Meserole (Viện Nghiên cứu Brookings) nhận định phần mềm giả giọng nói có thể đóng vai trò quan trọng trong bầu cử năm tới, chẳng hạn như một đoạn ghi âm nói gì đó về tai tiếng của ứng viên Tổng thống Mỹ được tung ra ngay thời điểm then chốt.

Dùng AI đối phó AI

Tại Tây Ban Nha, Công ty Newtral đang sử dụng các mô hình ngôn ngữ lớn tương tự mô hình hỗ trợ nền tảng ChatGPT để kiểm tra phát ngôn của chính trị gia.

Giám đốc công nghệ Newtral Ruben Miguez Perez cho biết loạt công nghệ mà họ sử dụng có thể giúp xác định một nội dung nào đó có phải thật hay không, phân tích cảm xúc mà phát ngôn truyền tải nhằm đánh giá khả năng đó là thông tin sai lệch.