Nudify tràn lan, nhóm phụ nữ sốc vì bị bạn nam tạo deepfake khiêu dâm
Hè năm 2024, nhóm phụ nữ ở khu vực Minneapolis phát hiện một bạn nam đã dùng ảnh Facebook của họ kết hợp với AI để tạo ra ảnh và video khiêu dâm.
Người đàn ông tên Ben bí mật sử dụng website AI có tên DeepS*** để tạo deepfake khiêu dâm về nhóm bạn và hơn 80 phụ nữ khác trong khu vực Twin Cities (bang Minnesota, Mỹ). Sự việc này khiến nhóm phụ nữ tổn thương tinh thần nặng nề và phải tìm đến một thượng nghị sĩ Minnesota có thiện chí để nhờ giúp đỡ.
Twin Cities là tên gọi chung để chỉ hai thành phố Minneapolis và St. Paul (thủ phủ bang Minnesota). Hai thành phố này nằm sát cạnh nhau, được ngăn cách bởi sông Mississippi, phát triển song song và gắn bó chặt chẽ về kinh tế, văn hóa, xã hội, nên thường được gọi chung là "cặp thành phố sinh đôi" (Twin Cities).
Theo cuộc điều tra của kênh CNBC, sự gia tăng của các ứng dụng và trang web nudify khiến việc tạo deepfake khiêu dâm mà không có sự đồng thuận trở nên dễ dàng hơn bao giờ hết.
Các chuyên gia cho biết những dịch vụ này xuất hiện tràn lan trên internet, thậm chí nhiều ứng dụng được quảng cáo trên Facebook, có mặt trên Apple App Store, Google Play Store và dễ dàng tìm thấy chỉ với vài thao tác tìm kiếm.
“Đó là thực trạng của công nghệ hiện nay, bất kỳ ai cũng có thể trở thành nạn nhân”, Haley McNamara, Phó chủ tịch cấp cao phụ trách các sáng kiến chiến lược và chương trình tại Trung tâm Quốc gia Mỹ về Chống bóc lột tình dục (National Center on Sexual Exploitation), nhận định.
Nudify là thuật ngữ trên internet dùng để chỉ các công cụ, ứng dụng hoặc trang web sử dụng AI để “khỏa thân hóa” ảnh, tức là tự động tạo hình ảnh và video khiêu dâm giả mạo bằng cách làm cho người trong ảnh (thường là ảnh mặc quần áo bình thường) trông giống đang khỏa thân. Điểm đáng nói là quá trình này không cần sự đồng ý của người trong ảnh, vì vậy nudify thường gắn liền với vấn đề xâm phạm quyền riêng tư và lạm dụng hình ảnh.
Phóng sự của CNBC làm sáng tỏ những bế tắc pháp lý liên quan đến AI, cũng như cách một nhóm phụ nữ trở thành nhân tố then chốt trong cuộc chiến chống lại nội dung khiêu dâm do AI tạo mà không có sự đồng thuận.
Dưới đây là 5 điểm rút ra từ cuộc điều tra của kênh CNBC.
1. Phụ nữ không có công cụ pháp lý để tự bảo vệ
Vì các nạn nhân không phải trẻ vị thành niên và người đàn ông tạo ra deepfake cũng không hề phát tán nội dung đó, nên không có tội danh nào được xác định.
“Anh ta không vi phạm bất kỳ luật nào mà chúng tôi biết. Đó là vấn đề lớn”, theo lời Molly Kelley, một trong những nạn nhân ở bang Minnesota, đồng thời là sinh viên luật.
Hiện Molly Kelley cùng nhóm phụ nữ đang vận động cho một dự luật địa phương do bà Erin Maye Quade (Thượng nghị sĩ Minnesota thuộc đảng Dân chủ) đề xuất, nhằm cấm các dịch vụ nudify tại Minnesota. Nếu được thông qua, luật này sẽ áp dụng mức phạt tài chính với các đơn vị tạo điều kiện cho việc sản xuất deepfake.
Erin Maye Quade so sánh dự luật này với các quy định cấm hành vi rình trộm qua cửa sổ để chụp ảnh nhạy cảm mà không được phép.
“Chúng ta chưa đối phó với sự trỗi dậy của công nghệ AI theo cùng một cách”, Erin Maye Quade nói trong một cuộc phỏng vấn với CNBC.
2. Tổn thương là có thật
Jessica Guistolise, một trong những nạn nhân ở Minnesota, cho biết cô vẫn chịu đựng những cơn hoảng loạn và lo âu kể từ sự việc năm ngoái.
Jessica Guistolise nói rằng đôi khi chỉ cần tiếng “tách” của máy ảnh cũng đủ khiến cô khó thở, run rẩy và bật khóc. Điều này đã xảy ra tại một hội nghị mà Jessica Guistolise tham dự chỉ một tháng sau khi phát hiện ảnh deepfake.
“Tôi nghe thấy tiếng chụp ảnh và tôi như bị ném trở lại những góc tối nhất của internet. Lý do vì tôi đã thấy hình ảnh mình làm những việc mà tôi không hề làm”, Jessica Guistolise kể lại.
Mary Anne Franks, giáo sư Trường Luật Đại học George Washington (Mỹ), so sánh trải nghiệm này với những gì các nạn nhân thường mô tả khi nói về revenge porn - việc phát tán hình ảnh hoặc video khiêu dâm của một người trên mạng để trả thù, thường do tình cũ thực hiện.
“Nó khiến bạn cảm thấy như mình không còn làm chủ được cơ thể, rằng bạn sẽ không bao giờ lấy lại được danh tính của chính mình”, theo Mary Anne Franks, Chủ tịch Cyber Civil Rights Initiative - tổ chức phi lợi nhuận chống lại lạm dụng và phân biệt đối xử trực tuyến.
3. Deepfake khiêu dâm nay dễ tạo ra hơn bao giờ hết
Chưa đầy một thập kỷ trước, một người phải là chuyên gia AI nếu muốn tạo deepfake khiêu dâm. Song nhờ các dịch vụ nudify, giờ đây chỉ cần có kết nối internet và một bức ảnh Facebook là đủ.
Các nhà nghiên cứu cho biết những mô hình AI mới đã thúc đẩy sự bùng nổ của dịch vụ nudify. Các mô hình AI này thường được gói gọn trong ứng dụng dễ sử dụng, cho phép cả những người không có kỹ năng kỹ thuật cũng có thể tạo ra nội dung.
Dù một số dịch vụ nudify có chứa tuyên bố về việc “cần sự đồng thuận”, nhưng chưa rõ cơ chế giám sát thực sự có tồn tại hay không. Ngoài ra, nhiều trang nudify tự quảng bá chỉ là công cụ “hoán đổi gương mặt”.
“Có những ứng dụng được quảng bá như trò chơi vui vẻ, nhưng thực chất mục đích chính lại là khiêu dâm. Đó là một góc khuất khác trong lĩnh vực này”, Alexios Mantzarlis, chuyên gia an ninh AI tại Cornell Tech, nhận xét. Cornell Tech là cơ sở đào tạo và nghiên cứu thuộc Đại học Cornell (Mỹ).
4. Khó lần ra dấu vết DeepS***
Hầu như không có thông tin gì về DeepS***, trang web được sử dụng để tạo ra các nội dung deepfake khiêu dâm nêu trên.
Trong một thông cáo báo chí công bố vào tháng 7, DeepS*** sử dụng địa chỉ ở Hồng Kồng (Trung Quốc) và trích dẫn phát biểu của Penyne Wu, được giới thiệu là giám đốc điều hành kiêm đồng sáng lập công ty. Người liên hệ truyền thông trong thông cáo báo chí là Shawn Banks, được liệt kê là giám đốc tiếp thị DeepS***.
CNBC không tìm thấy bất kỳ thông tin nào trực tuyến về Penyne Wu và đã gửi nhiều email đến địa chỉ của Shawn Banks, nhưng không nhận được phản hồi.
Hiện tại, trang web DeepS*** liệt kê tên công ty là MINDSPARK AI LIMITED, cung cấp địa chỉ tại Dublin (thủ đô Ireland) và cho biết điều khoản dịch vụ của họ “được điều chỉnh, diễn giải theo luật Ireland”.
Hồi tháng 7, trang DeepS*** lại không hề nhắc đến MINDSPARK AI LIMITED và địa chỉ lúc đó vẫn ghi là Hồng Kông.
5. Tác hại phụ vì AI
Dự luật của Thượng nghị sĩ Erin Maye Quade, hiện vẫn được xem xét, sẽ phạt các hãng công nghệ cung cấp dịch vụ nudify 500.000 USD cho mỗi deepfake khiêu dâm phi tự nguyện được tạo ra tại bang Minnesota.
Tuy vậy, một số chuyên gia lo ngại rằng kế hoạch thúc đẩy ngành AI của chính quyền Trump có thể làm suy yếu nỗ lực của các bang.
Cuối tháng 7, Tổng thống Mỹ Donald Trump đã ký các lệnh hành pháp như một phần “Kế hoạch Hành động AI” của Nhà Trắng, nhấn mạnh việc phát triển AI là “yếu tố bắt buộc với an ninh quốc gia”.
Molly Kelley hy vọng bất kỳ động thái nào từ liên bang nhằm thúc đẩy AI sẽ không làm tổn hại đến nỗ lực của nhóm phụ nữ Minnesota.
“Tôi lo rằng chúng tôi sẽ tiếp tục bị bỏ lại phía sau và bị hy sinh trên bàn thờ của cuộc chạy đua địa chính trị nhằm giành giật quyền lực về AI”, cô nói.
