Sự nguy hiểm của AI từ những bức ảnh giả mạo

Warner cho biết, các nhà phát triển AI sẽ phải chịu trách nhiệm pháp lý nếu tạo ra các sản phẩm gây hại.

Các bức ảnh giả việc ông Trump bị bắt giữ đã nhanh chóng lan truyền sang Facebook. Dù đại diện Meta nói Facebook và Instagram có chức năng kiểm tra tính xác thực của ảnh, một trong các bức ảnh giả vẫn tiếp tục tồn tại và được chia sẻ hàng nghìn lần.

"Cựu Tổng thống Trump bị bắt và áp giải tới tòa án liên bang, đây là sự kiện chưa có tiền lệ. Bức ảnh gây sốc cho thấy cảnh sát đang giữ cả hai tay của ông Trump lan truyền nhanh chóng trên mạng xã hội", một người sử dụng Facebook viết khi chia sẻ bức ảnh giả.

Sau đó, Higgins đã phải nhận hình phạt nhưng không phải từ chính quyền Mỹ mà là từ Midjourney, công ty chủ quản của AI đã tạo ra các bức ảnh giả. Họ đã chặn Higgins truy cập vào mạng của Midjourney. Tuy nhiên, công ty không làm rõ Higgins đã vi phạm điều khoản nào.

Higgins nói: "Tôi vô cùng lấy làm tiếc khi nhận ra việc làm của mình đã gây ra hậu quả như vậy". 

Cuối tuần qua, ông Trump đã viết trên mạng xã hội Truth Social rằng ông có thể sẽ bị bắt vào ngày 21.3, khiến những người ủng hộ ông bất bình. 

Angelo Carusone, Chủ tịch tổ chức theo dõi truyền thông Media Matters for America, cho biết: "Bức ảnh giả là thông tin trực quan đầu tiên việc ông Trump bị bắt, cho dù đây không phải là sự thật. Song nó sẽ là những gì khiến mọi người ghi nhớ ngay cả khi ông Trump không bị truy tố".

Khi chia sẻ ảnh ông Trump bị bắt trên Twitter, Higgins đã nói rõ đây là các bức ảnh giả. Song việc những bức ảnh này lan truyền khắp mạng xã hội đã cho thấy một bước tiến lớn trong khả năng tạo ra những hình ảnh giả mạo giống như thật với số lượng lớn.

Greogory, người phụ trách nhóm gồm các chuyên gia từ nhiều ngành như công nghệ, luật, nghệ thuật và giải trí cho biết, ảnh do AI tạo ra vẫn tồn tại những khuyết điểm như bàn tay người có 6 ngón, làn da kim loại... song những lỗi này không làm giảm đi khả năng tạo ra những hình ảnh giả của nó. 

"Mục đích của việc này có thể không phải là thuyết phục mọi người tin rằng một sự kiện nào đó đã xảy ra mà cho thấy rằng không thể tin vào bất cứu điều gì và làm suy yếu niềm tin của mọi người vào mọi hình ảnh", Gregory nói thêm.

Công nghệ đang ngày càng phát triển nhanh chóng. Higgins cho biết anh đã sử dụng phiên bản 5 AI của Midjourney để tạo ra hình ảnh ông Trump bị bắt. Anh cho biết đã phải trả 30 USD/tháng cho phiên bản mới này nhưng nó được cải tiến nhiều hơn so với phiên bản trước. Trước đó, Higgins sử dụng phiên bản 4 để tạo ra bộ ảnh các tổng thống Mỹ đóng vai giáo hoàng.

Higgins cho biết, AI tạo ra ảnh dựa trên những kiến thức mà nó có được về hình ảnh của đối tượng. "Tôi chắc chắn rằng những người càng nổi tiếng thì AI sẽ tạo ra những bức ảnh càng chính xác". 

Ngay sau khi bức ảnh giả việc ông Trump bị bắt giữ thu hút được sự quan tâm lớn, Higgins còn có ý định tạo ra một câu chuyện bằng cách tạo thêm những hình ảnh giả về một phiên tòa và một cuộc vượt ngục của ông Trump.

Hiện nay, AI đã trở thành công cụ để lan truyền những thông tin sai sự thật. Tháng trước, một video giả mạo lan truyền trên Twitter cho thấy Thượng nghị sĩ Elizabeth Warren tuyên bố cử tri đảng Cộng hòa không được phép bỏ phiếu. Twitter sau đó dán nhãn video này là "âm thanh đã bị chỉnh sửa", một trong các tài khoản lan truyền video này nhiều nhất đã bị khóa.

Một đoạn video khác được chia sẻ trên Twitter trong đó Tổng thống Biden tuyên bố tổng động viên nhằm đáp trả Nga. Twitter dán nhãn video này là "giả mạo" được tạo ra bởi AI.

Những năm gần đây, các công ty công nghệ đã siết chặt chính sách chống lại các thông tin sai lệch, sau video của cựu Chủ tịch Hạ viện Mỹ Nancy Pelosi lan truyền trên mạng xã hội năm 2019.

Năm 2020, Meta cấm người sử dụng đăng video giả bị thao túng nội dung. Twitter cũng cấm người dùng chia sẻ các nội dung lừa đảo, mang tính thao túng có thể gây hại, ví dụ các bài đăng có thể dẫn tới bạo lực, bất ổn dân sự, đe dọa bí mật cá nhân.

Angelo Carusone, Chủ tịch Media Matters for America, nói: "Kể từ đó, công nghệ đã trở nên phức tạp và khó phân biệt thật giả hơn. Không công ty công nghệ nào đầu tư đúng mức để đối phó các nội dung giả mạo. Những gì cần làm bây giờ là phải có những động thái mạnh trong cuộc chiến chống lại thông tin sai lệch". 

Jessica González, đồng Giám đốc Điều hành của nhóm vận động truyền thông Free Press, cho biết những gã khổng lồ công nghệ đã không được trang bị đầy đủ để chống lại các thông tin sai lệch sau khi sa thải nhân viên trên diện rộng.