Microsoft giới thiệu công cụ phát hiện video xuyên tạc sự thật

Thuật ngữ Deepfake là sự kết hợp giữa deep learning và fake. Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google. Deepfake sẽ quét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt nhờ trí tuệ nhân tạo (AI) và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngac.

Theo thống kê của Deeptrace, công ty có trụ sở tại Amsterdam (Hà Lan) chuyên nghiên cứu về những nội dung được tạo ra bởi AI, 96% video Deepfake có nội dung đồi truỵ. Hầu hết nạn nhân là ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Không những thế, Mark Zuckerberg (CEO Facebook), Elon Musk (CEO Tesla), Tổng thống Donald Trump hay cựu Tổng thống Barrack Obama từng là nạn nhân của Deepfake.

Thử tưởng tượng, nếu những ngày đầu tháng 11.2020, ông Trump và Biden xuất hiện trong video trên mạng xã hội với những lời lẽ cực đoan về phân biệt chủng tộc hoặc giới tính khiến cử tri phẫn nộ thì chắc chắn sẽ ảnh hưởng đến kết quả bầu cử dù nội dung không có thật.

Deepfake đang được sử dụng rộng rãi bởi nhiều người trên thế giới như các hãng thông tấn, chính trị gia, người làm phim và meme. Điều quan trọng không kém với các tổ chức là tăng cường và xây dựng công nghệ có thể phát hiện các video giả tạo trông giống như thật nhờ Deepfake.

Trước thềm cuộc bầu cử Tổng thống Mỹ vào ngày 3.11, Microsoft đã giới thiệu công cụ mới để phát hiện các video xuyên tạc sự thật (bị thao túng) có thể giúp các nhà vận động chính trị và các tổ chức truyền thông. Công cụ Microsoft Video Authenticator sẽ phân tích từng khung hình để cung cấp cho bạn điểm tin cậy và cho biết video có bị sửa đổi hay không.

Do Microsoft Research phát triển với sự trợ giúp từ hai nhóm AI của hãng này, thuật toán đó xác định các yếu tố xuyên tạc sự thật hay tự chế trong video mà mắt thường không dễ dàng phát hiện.

Microsoft đã đào tạo AI bằng cách sử dụng các bộ dữ liệu có sẵn công khai như Face Forensic và được thử nghiệm trên tập dữ liệu của DeepFake Detection Challenge. Đây là hai mô hình hàng đầu để đào tạo và thử nghiệm công nghệ phát hiện Deepfake.

Hiện Microsoft làm việc với công ty trí tuệ nhân tạo AI Foundation của Reality Defender 2020 (RD2020), một doanh nghiệp có trụ sở tại Mỹ, để cung cấp trình xác thực video cho các tổ chức bầu cử.

Microsoft cũng hợp tác với các hãng truyền thông như BBC và New York Times để phát hiện video xuyên tạc sự thật.

Microsoft thừa nhận rằng công cụ của họ không hoàn hảo và các công nghệ tạo ra có thể luôn đi trước chúng. Do đó đại gia công nghệ Mỹ phải tiếp tục làm việc để làm cho thuật toán trở nên mạnh mẽ.

Hiện tại, trọng tâm của Microsoft là ngăn chặn việc lừa đảo làm ảnh hưởng đến cuộc bầu cử Tổng thống Mỹ. Tuy nhiên, Microsoft nên làm công nghệ này có nguồn mở trong tương lai để nhiều nhà nghiên cứu đóng góp thêm.

Nhân Hoàng