Nhiều mô hình AI trên Hugging Face bị lạm dụng tạo ảnh khỏa thân giả

Nhiều cơ quan quản lý trên thế giới đang dần siết chặt việc xử lí các nội dung deepfake tình dục độc hại. Vài tháng qua, lực lượng thực thi pháp luật Mỹ đã triệt phá nhiều website lưu trữ nội dung deepfake, trong khi Liên minh châu Âu (EU) và Anh đang lên kế hoạch cấm các ứng dụng "lột đồ bằng AI" trước cuối năm nay.

Tuy nhiên, điều nghịch lí là nhiều hãng công nghệ vẫn tiếp tục đầu tư hàng triệu USD để phát triển các mô hình AI tạo ảnh cởi bỏ quần áo của người khác.

Theo báo cáo mới của AI Forensics - tổ chức phi lợi nhuận châu Âu, Hugging Face đang đối mặt với tình trạng nhiều công cụ AI trên nền tảng có thể bị lợi dụng để tạo deepfake tình dục không có sự đồng thuận. Từng được định giá hàng tỉ USD, Hugging Face là nơi lưu trữ hàng trăm nghìn mô hình và bộ dữ liệu AI.

Nhóm nghiên cứu tại AI Forensics đã thử nghiệm 9 công cụ AI chỉnh sửa ảnh phổ biến trên Hugging Face. Kết quả cho thấy 7/9 công cụ AI có thể dễ dàng biến ảnh phụ nữ mặc quần áo thành ảnh để ngực trần.

Trong một thử nghiệm khác, AI Forensics cũng tạo các công cụ chỉnh sửa ảnh "mồi nhử" trên Hugging Face để theo dõi cách người dùng sử dụng AI. Các công cụ này nhận được hơn 1.000 câu lệnh và ảnh người dùng gửi lên chỉ trong một tuần. Theo kết quả nghiên cứu, 73% yêu cầu liên quan đến nội dung tình dục, trong đó 83% nhằm cởi bỏ quần áo hoặc tình dục hóa người trên ảnh, với 95% nạn nhân là phụ nữ. Nghiên cứu cũng phát hiện 6,7% yêu cầu tình dục hướng tới những người có dấu hiệu là trẻ em.

"Phần lớn các công cụ mà chúng tôi thử nghiệm đều có thể bị lợi dụng để tạo ra ảnh nhạy cảm của người khác mà không có sự đồng thuận. Điều đáng lo là người dùng thực sự đang sử dụng chúng cho mục đích này. Đây không còn là nguy cơ trên lí thuyết mà đang diễn ra ngay trên Hugging Face", ông Paul Bouchaud, trưởng nhóm nghiên cứu tại AI Forensics, thông báo.

Nhiều mô hình AI có thể tạo ảnh nhạy cảm của người thật

Một cuộc kiểm tra riêng của tạp chí WIRED trên Hugging Face cho thấy nền tảng này vẫn có nhiều trang quảng bá công nghệ "lột đồ bằng AI" hoặc các mô hình có khả năng tạo ảnh tình dục hóa những người nổi tiếng, chính trị gia.

Hugging Face không trả lời nhiều câu hỏi về cơ chế kiểm duyệt nội dung và các biện pháp bảo đảm an toàn trên nền tảng.

Hugging Face hiện có chính sách cấm nội dung lạm dụng tình dục trẻ em và các deepfake tình dục được tạo ra "mà không có sự đồng ý rõ ràng" hoặc được sử dụng để quấy rối, bắt nạt. Sau khi WIRED liên hệ, một số trang quảng bá dịch vụ "lột đồ bằng AI" đã bị Hugging Face gỡ bỏ.

Vài năm qua, khi các hệ thống AI tạo sinh có khả năng tạo văn bản, hình ảnh và video ngày càng mạnh mẽ, một trong những tác hại rõ ràng nhất là việc chúng bị sử dụng để phát triển hệ sinh thái ứng dụng, website và chatbot "lột đồ bằng AI".

Xu hướng này từng gây chú ý khi chatbot Grok của xAI, công ty AI do Elon Musk điều hành, bị lợi dụng để tạo ra hàng triệu hình ảnh tình dục hóa phụ nữ và trẻ em gái.

Các dịch vụ này thường cho phép người dùng chỉnh sửa ảnh để loại bỏ quần áo của người khác. Những hình ảnh tạo ra sau đó có thể bị sử dụng để tống tiền, quấy rối hoặc gây tổn hại đến phụ nữ và bé gái trên toàn cầu.

Nhiều mô hình AI mã nguồn mở thiếu cơ chế bảo vệ

Trong khi các mô hình AI nguồn đóng phổ biến như của OpenAI và Google thường tích hợp các cơ chế bảo vệ nhằm ngăn việc tạo ảnh khỏa thân giả, nhiều mô hình mã nguồn mở được AI Forensics kiểm tra dường như không có biện pháp tương tự.

Khi thử nghiệm 9 công cụ tạo ảnh AI trên Hugging Face, nhóm tại AI Forensics không tìm cách vượt qua cơ chế bảo vệ hoặc khai thác lỗ hổng của mô hình. Họ chỉ sử dụng một câu lệnh đơn giản để tạo ảnh deepfake phụ nữ ngực trần.

"Không có biện pháp bảo vệ nào được triển khai ở cấp độ nền tảng. Chỉ nhà phát triển có thể bổ sung cơ chế an toàn nếu họ muốn, nhưng phần lớn không làm điều đó", Paul Bouchaud nói.

Theo ông, Hugging Face hoàn toàn có khả năng lọc các yêu cầu đầu vào và hình ảnh đầu ra của hệ thống.

Mối nguy không chỉ đến từ ứng dụng lột đồ

Các mô hình AI được AI Forensics thử nghiệm không tự nhận là công cụ tạo ảnh khỏa thân giả hoặc deepfake không có sự đồng thuận. Phần lớn chỉ được giới thiệu như những mô hình AI chỉnh sửa ảnh thông thường.

Leonie Oehmig, nhà nghiên cứu tại Viện Đối thoại Chiến lược (Anh), cho biết nhiều mô hình tạo ảnh AI được huấn luyện bằng dữ liệu ảnh tình dục thu thập từ Internet. Vì vậy, nếu không có cơ chế kiểm soát, chúng có thể tạo ra nội dung nhạy cảm.

Ngoài ra, nhiều ứng dụng hoán đổi khuôn mặt cũng có khả năng tạo ảnh khỏa thân giả mà không có bất kì biện pháp bảo vệ nào.

"Một số nền tảng công khai rõ mục đích sử dụng của các ứng dụng này. Song có những nền tảng trông khá vô hại, trong khi thực tế lại cung cấp chức năng cởi bỏ quần áo hoặc hoán đổi khuôn mặt", Leonie Oehmig nhận xét.

Dữ liệu bị rò rỉ từ một số mô hình tạo ảnh trước đây cũng cho thấy người dùng đã sử dụng AI để tạo ảnh nhạy cảm của những người quen biết ngoài đời.

Hàng nghìn mô hình AI có thể tạo ảnh người thật

Theo báo cáo của trang 404 Media năm ngoái, Hugging Face từng lưu trữ khoảng 5.000 mô hình AI tạo ảnh có khả năng tạo hình ảnh người thật. Một số mô hình AI đã bị sử dụng để tạo nội dung khiêu dâm mà không có sự đồng thuận.

Tháng trước, trang Transformer phát hiện Hugging Face đang lưu trữ hơn 12 công cụ AI có thể được sử dụng để tạo ảnh deepfake tình dục của các nhân vật chính trị nổi tiếng.

Benjamin Shultz, trưởng nhóm nghiên cứu tại tổ chức American Sunlight Project, cho biết vẫn còn hàng chục mô hình AI trên Hugging Face đặt tên theo người thật và cho phép tạo hình ảnh về họ. Theo ông, các ảnh mẫu đi kèm những mô hình AI này thường sử dụng các tư thế hoặc trang phục gợi cảm, cho thấy chúng có thể bị lợi dụng để tạo nội dung nhạy cảm.

"Một số ảnh mẫu là người nổi tiếng mặc áo hai dây hoặc trang phục hở vai, chứ không phải ảnh khỏa thân. Có lẽ các nhà phát triển đã nhận ra rằng nếu sử dụng hình ảnh quá lộ liễu thì sẽ dễ bị hệ thống kiểm duyệt và an toàn của nền tảng phát hiện. Vì vậy, họ chỉ ngầm gợi ý khả năng của mô hình AI thay vì thể hiện một cách công khai", Benjamin Shultz nhận xét.

Deepfake tình dục đang mở rộng thành nhiều hình thức lạm dụng

Thử nghiệm "mồi nhử" của AI Forensics cũng cho thấy cách người dùng đang lợi dụng AI để tạo ra các hình ảnh gây tổn hại cho người khác. Trong hơn 1.000 câu lệnh thu thập được, phần lớn nhắm đến người bình thường chứ không phải nhân vật nổi tiếng. Nội dung lạm dụng cũng không chỉ dừng ở việc tạo ảnh khỏa thân giả mà còn bao gồm cả nhiều hình thức chỉnh sửa mang tính xúc phạm và khiêu dâm khác.

Silvia Semenzin, nhà nghiên cứu cấp cao tại AI Forensics, cho biết một số yêu cầu còn nhắm tới việc xóa khăn trùm đầu của phụ nữ Hồi giáo.

"Từ những câu lệnh này, chúng tôi nhận thấy hành vi lạm dụng hình ảnh bằng AI có phạm vi rộng hơn nhiều so với việc chỉ tạo ảnh khỏa thân giả. Chúng tôi ghi nhận rất nhiều cách khác nhau mà AI đang bị sử dụng để quấy rối phụ nữ", bà nhấn mạnh.

Sơn Vân