Microsoft giới thiệu công cụ phát hiện video xuyên tạc sự thật

Kiến thức - Học thuật - Ngày đăng : 17:30, 02/09/2020

Microsoft trình làng công cụ phát hiện các video xuyên tạc sự thật (hay bị thao túng) trước thềm cuộc bầu cử Tổng thống Mỹ vào ngày 3.11.

Thuật ngữ Deepfake là sự kết hợp giữa deep learning và fake. Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google. Deepfake sẽ quét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt nhờ trí tuệ nhân tạo (AI) và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngac.

Theo thống kê của Deeptrace, công ty có trụ sở tại Amsterdam (Hà Lan)chuyên nghiên cứu về những nội dung được tạo ra bởi AI, 96% video Deepfake có nội dung đồi truỵ. Hầu hết nạn nhân là ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Không những thế, Mark Zuckerberg (CEO Facebook), Elon Musk (CEO Tesla),Tổng thốngDonald Trump hay cựu Tổng thống Barrack Obama từng là nạn nhân của Deepfake.

Video Deepfake hình ảnh Tổng thống Donald Trump do một người dùng YouTube tạo (bên phải).

Thử tưởng tượng, nếunhững ngày đầu tháng 11.2020, ông Trump và Biden xuất hiện trong videotrên mạng xã hội với những lời lẽ cực đoan về phân biệt chủng tộc hoặc giới tính khiến cử tri phẫn nộ thì chắc chắn sẽ ảnh hưởng đến kết quả bầu cử dù nội dung không có thật.

Deepfake đang được sử dụng rộng rãi bởi nhiều người trên thế giới như các hãng thông tấn, chính trị gia, người làm phim vàmeme. Điều quan trọng không kém với các tổ chức là tăng cường và xây dựng công nghệ có thể phát hiện các video giả tạo trông giống như thật nhờDeepfake.

Trước thềm cuộc bầu cử Tổng thống Mỹ vào ngày 3.11, Microsoft đã giới thiệu công cụ mới để phát hiện các videoxuyên tạc sự thật (bị thao túng) có thể giúp các nhà vận động chính trị và các tổ chức truyền thông. Công cụ Microsoft Video Authenticator sẽ phân tích từng khung hình để cung cấp cho bạn điểm tin cậy và cho biết video có bị sửa đổi hay không.

Do Microsoft Research phát triển với sự trợ giúp từ hai nhóm AI của hãng này, thuật toán đóphát hiện ranh giới của các khung hình giả chèn lên khung hình thật, đặc biệt là ranh giới mờ dần ở các phần biên trong video, mà mắt thường không dễ dàng phát hiện.

Microsoft đã đào tạo AI bằng cách sử dụng các bộ dữ liệu có sẵn công khai như Face Forensic vàđược thử nghiệm trên tập dữ liệu của DeepFake Detection Challenge. Đây là hai mô hình hàng đầu để đào tạo và thử nghiệm công nghệ phát hiện Deepfake.

Hiện Microsoftlàm việc với công ty trí tuệ nhân tạo AI Foundation của Reality Defender 2020 (RD2020), một doanh nghiệp có trụ sở tại Mỹ, để cung cấp trình xác thực video cho các tổ chức bầu cử.

Microsoft cũng hợp tác với các hãng truyền thông như BBC và New York Times để phát hiện video xuyên tạc sự thật.

Microsoft thừa nhận rằng công cụ của họ không hoàn hảo và các công nghệ tạo ra có thể luôn đi trước chúng. Do đó đại gia công nghệ Mỹphải tiếp tục làm việc để làm cho thuật toán trở nên mạnh mẽ.

Hiện tại, trọng tâm của Microsoft là ngăn chặn việc lừa đảo làm ảnh hưởng đến cuộc bầu cử Tổng thống Mỹ. Tuy nhiên, Microsoft nên làm công nghệ này có nguồn mở trong tương lai để nhiều nhà nghiên cứu đóng góp thêm.

Xem thêm:Facebook bóc mẽ tổ chức truyền thông Nga chơi xấu ông Biden, chiến dịch Trump nói gì?

Nhật Bản xem xét tiêm vắc xin COVID-19 miễn phí cho mọi người dân

43 triệu người Mỹ thoát cảnh bị đuổi khỏi nhà thuê nhờ lệnh mới từ chính quyền Trump

Công nhân mắc COVID-19, 14 người tự cách ly, nhà máy Samsung vẫn hoạt động

‘Vắc xin COVID-19 của Nga, Trung Quốc có thể kém hiệu quả, tăng khả năng lây nhiễm HIV’

Bệnh nhân đầu tiên mắc COVID-19 hai lần với hai phiên bản coronavirus khác nhau

Trung Quốc ra quy tắc mới có thể khiến công ty Mỹ muốn mua TikTok sợ hãi

Bị ép trả nhiều tiền, Facebook dọa chặn người dùng chia sẻ tin tức

ByteDance lên tiếng khi Trung Quốc siết chặt luật xuất khẩu, từ chối bán TikTok cho đối thủ

Clip Tổng thống Trump nói cảnh sát rao bán chữ ký của mình kiếm 10.000 USD

Bác sĩ phát hiện liệu pháp xạ trị liều thấp điều trị hiệu quả bệnh nhân COVID-19

Chàng trai không biết nuốt kim bị đâm vào tim, bác sĩ nói gì?

Nhân Hoàng

Phạm Hồng Quân