Website deepfake khiêu dâm nhắm vào gần 150 chính trị gia EU: 138 người là phụ nữ

Website deepfake khiêu dâm nhắm mục tiêu nữ nghị sĩ EU gấp 33 lần nam giới

Theo một nghiên cứu mới mà tạp chí WIRED tiếp cận được, gần 150 chính trị gia trên khắp Liên minh châu Âu (EU) đã xuất hiện hoặc được nhắc đến trên các website phát tán nội dung deepfake khiêu dâm độc hại vài năm qua. Một số người bị sử dụng hình ảnh để tạo video có nội dung tình dục, trong khi những người khác bị liệt kê tên và ảnh trong các trang giống như cơ sở dữ liệu đáng lo ngại, kèm liên kết đến công cụ tạo deepfake.

Nghiên cứu do chuyên gia Benjamin Shultz thực hiện, phân tích khoảng 160 tên miền lưu trữ nội dung deepfake mang tính lạm dụng và các ảnh, video tình dục được tạo ra hoặc phát tán khi chưa có sự đồng thuận. Kết quả cho thấy ít nhất 138 nữ nghị sĩ từ 22 quốc gia thuộc EU đã xuất hiện hoặc được nhắc đến trên các website này. Trong khi đó, chỉ có 9 nam nghị sĩ được đề cập. Theo tính toán từ Benjamin Shultz, nữ nghị sĩ EU có khả năng trở thành mục tiêu của hệ sinh thái deepfake cao gấp 33 lần nam nghị sĩ.

“Deepfake khiêu dâm là một phần của xu hướng lớn hơn về sự thù ghét và đe dọa trực tuyến nhằm vào phụ nữ cùng các nữ chính trị gia”, bà Suzanne Kröger, nghị sĩ Hà Lan thuộc nhóm Progressive Netherlands (Hà Lan Tiến bộ) và là một trong những người bị ảnh hưởng, cho hay.

Suzanne Kröger bày tỏ tức giận trước những gì nghiên cứu phát hiện và cho rằng kết quả này “thực sự đáng lo ngại sâu sắc”, đồng thời giúp cho thấy quy mô của tình trạng lạm dụng.

“Chúng tôi là các chính trị gia, thường xuyên xuất hiện trước công chúng và lên tiếng về nhiều vấn đề. Song bên cạnh đó, có hàng triệu phụ nữ đang trở thành nạn nhân của những hành vi phạm pháp như vậy”, bà nói.

Nghiên cứu được công bố bởi Agora Digitale Transformation, tổ chức tư vấn và nghiên cứu của Đức về nền dân chủ số, tập trung vào các nghị sĩ quốc gia 27 nước thành viên EU. Benjamin Shultz là chuyên gia Agora Digitale Transformation và là trưởng nhóm nghiên cứu tại American Sunlight Project.

The American Sunlight Project là tổ chức phi lợi nhuận của Mỹ, thành lập năm 2024, tập trung vào việc nghiên cứu và chống thông tin sai lệch, thao túng thông tin và các mối đe dọa đối với nền dân chủ

Tháng 7, Benjamin Shultz đã tổng hợp thông tin của hơn 5.800 nghị sĩ thuộc 27 nước thành viên EU, sau đó sử dụng các công cụ tìm kiếm được xây dựng riêng để xác định nơi họ xuất hiện trên các website deepfake. Nghiên cứu không bao gồm cả các nghị sĩ Nghị viện châu Âu.

Theo kết quả nghiên cứu, chính trị gia Đức, Hà Lan, Ý và Pháp xuất hiện trên các website deepfake nhiều nhất. Chính trị gia càng giữ vị trí cao thì càng có khả năng trở thành mục tiêu. Benjamin Shultz đã trực tiếp cảnh báo từng nghị sĩ và cung cấp hướng dẫn về cách yêu cầu gỡ bỏ nội dung.

Theo ông, các website deepfake này cũng đăng hình ảnh hoặc thông tin về người nổi tiếng, nhà báo và nhiều nhân vật công chúng khác. WIRED không nêu tên các website nhằm tránh thu hút thêm sự chú ý đến hình ảnh lạm dụng.

"Khiến phụ nữ, trẻ em gái từ bỏ ý định trở thành nhân vật công chúng"

Nhiều nhà nghiên cứu và nghị sĩ cho rằng dù chính trị gia đã trở thành mục tiêu của deepfake trong nhiều năm, vấn nạn này có thể gây tổn hại cho hoạt động dân chủ và và tạo ra hiệu ứng khiến phụ nữ, trẻ em gái e ngại hoặc từ bỏ ý định trở thành nhân vật công chúng.

“Vấn nạn này làm nản lòng phụ nữ khi muốn nắm giữ chức vụ và cũng đẩy họ ra khỏi đời sống công cộng. Có rất nhiều bằng chứng cho thấy điều đó gây tổn hại thực sự về mặt tâm lí, gây tổn hại đến danh tiếng trong tương lai, ngay cả khi họ muốn rời chính trường để theo đuổi một nghề nghiệp khác”, Benjamin Shultz nhận định.

“Video deepfake được sử dụng để đe dọa các chính trị gia, nhưng đồng thời cũng nhằm hạ thấp giá trị và xúc phạm phụ nữ. Điều rất quan trọng là nếu một phụ nữ hoặc trẻ em gái trở thành nạn nhân theo cách này, họ có thể nhận được hỗ trợ trực tiếp khi cần và nội dung phải được gỡ bỏ nhanh chóng”, Sarah Dobbe, nữ nghị sĩ Hà Lan thuộc Đảng Xã hội và cũng là người bị ảnh hưởng, chia sẻ với WIRED.

Trong quá trình theo dõi các website, Benjamin Shultz phân loại nhiều dạng nội dung hoặc hành vi lạm dụng. Kết quả bao gồm cả những trường hợp nghị sĩ xuất hiện trong nội dung đang được các website trực tiếp lưu trữ; những kết quả tìm kiếm được lập chỉ mục nhưng nội dung đã bị gỡ bỏ; cùng một số hồ sơ và “cổng trung gian” cho phép tạo nội dung mới.

Website deepfake lập danh sách, đánh giá cơ thể nữ nghị sĩ

Nhiều website có các trang liệt kê tên nghị sĩ, ảnh chính thức và trong một số trường hợp còn có tài khoản mạng xã hội hoặc thông tin cá nhân của họ. Theo báo cáo của Benjamin Shultz, một số trang còn có mục “đánh giá” cơ thể những nữ nghị sĩ này.

Thường thì bên cạnh tiểu sử các nghị sĩ là liên kết dẫn đến ứng dụng hoặc công cụ của trang web đó, với tuyên bố có thể "cởi bỏ quần áo" người trong ảnh bằng AI.

“Ở đó có tất cả hình ảnh, thông tin, cùng liên kết trực tiếp đến công cụ và chỉ cần ba cú nhấp chuột là bạn có thể tạo ra nội dung. Hành động đó cũng tai hại chẳng kém gì việc trực tiếp lưu trữ nội dung vi phạm”, Benjamin Shultz nói.

Kể từ khi deepfake do AI tạo ra xuất hiện vào cuối năm 2017, công nghệ này ngày càng dễ tiếp cận, trong khi ảnh và video tạo ra cũng ngày càng chân thực. Qua thời gian, hàng triệu ảnh và video mang tính tình dục đã được tạo ra, chủ yếu bởi nam giới và trẻ em trai, mà không có sự đồng thuận. Những nội dung này thường được dùng để quấy rối, đe dọa hoặc tống tiền phụ nữ và trẻ em gái, thậm chí đã xuất hiện tại gần 100 trường học trên toàn thế giới.

“Những nền tảng này được thiết kế để vận hành giống như một doanh nghiệp”, Henry Ajder, cố vấn AI và chuyên gia deepfake đã theo dõi hệ sinh thái này từ năm 2018, cho hay.

Theo ông, việc các chính trị gia trở thành mục tiêu theo cách này không phải điều bất ngờ. Tuy nhiên, những phát hiện mới có ý nghĩa quan trọng khi giúp các quan chức EU hiểu rõ mức độ nghiêm trọng của vấn đề.

“Toàn bộ cơ sở hạ tầng được thiết lập để thực hiện việc này trên quy mô lớn một cách dễ dàng”, Henry Ajder nói.

Nhìn chung, các nhà làm luật đã chậm việc ban hành luật nhằm xử lí hàng loạt tác hại ngày càng gia tăng do deepfake gây ra. Song trong những tháng gần đây, một số quy định mới đã bắt đầu được đưa ra.

Anh và EU lên kế hoạch cấm dịch vụ tạo ảnh khỏa thân bằng AI

Anh và EU đều đang thúc đẩy các biện pháp nhằm cấm dịch vụ nudify (dùng AI để lột đồ). Trong khi đó, theo Đạo luật Take It Down của Mỹ, ít nhất hai website deepfake lớn từng đăng hàng nghìn ảnh và video người nổi tiếng đã bị đưa xuống khỏi mạng.

Các cuộc điều tra của nhà báo nhằm xác định những người đứng sau những website này cũng khiến một số trang lớn bị đóng cửa.

Hôm 14/9, WIRED phát hiện ít nhất 6 tên miền xuất hiện trong nghiên cứu gần đây đã bị gỡ khỏi Internet, qua đó làm giảm tổng số ảnh hoặc nội dung mô tả các nghị sĩ EU trên những website này.

Benjamin Shultz hiện cũng nghiên cứu số lượng hình ảnh hoặc nội dung deepfake nhắm vào các chính trị gia Anh và Mỹ. Trước đó, năm 2024, ông từng phân tích số thượng nghị sĩ và hạ nghị sĩ Mỹ xuất hiện trên các website deepfake.

Theo Benjamin Shultz, sau khi những website này bị đánh sập, số lượng hình ảnh mô tả các chính trị gia Mỹ từng xuất hiện trên đó hai năm trước đã giảm đáng kể.

“Ưu tiên hàng đầu là bảo đảm những ảnh này bị gỡ bỏ, nhưng đồng thời cũng cần có quy định chặt chẽ với loại công nghệ này”, Suzanne Kröger nói.

Sơn Vân