Ảnh khỏa thân deepfake gây khủng hoảng trong nhiều trường học

Mọi chuyện thường bắt đầu từ một bức ảnh được tải xuống từ mạng xã hội. Trên khắp thế giới, các nam sinh lưu lại ảnh của những bạn nữ cùng trường từ Instagram và Snapchat, rồi sử dụng các ứng dụng “lột đồ” độc hại để tạo ra ảnh hoặc video khỏa thân giả mạo của họ. Những ảnh deepfake này có thể nhanh chóng lan truyền khắp trường, khiến nạn nhân cảm thấy bị sỉ nhục, xâm phạm và tuyệt vọng. Nhiều nữ sinh lo sợ rằng những ảnh đó sẽ theo các em suốt đời, gây áp lực tâm lý lâu dài.

Cuộc khủng hoảng deepfake trong trường học bắt đầu âm ỉ từ vài năm trước, nhưng đã tăng mạnh khi công nghệ tạo ảnh nhạy cảm trở nên dễ tiếp cận hơn. Theo phân tích của tạp chí WIRED cùng Indicator (ấn phẩm chuyên về lừa đảo kỹ thuật số và thông tin sai lệch), các vụ lạm dụng tình dục bằng deepfake đã xảy ra tại khoảng 90 trường trên toàn cầu và ảnh hưởng đến hơn 600 học sinh.

Kết quả cho thấy từ năm 2023, học sinh (chủ yếu là nam sinh trung học) tại ít nhất 28 quốc gia đã bị cáo buộc dùng AI tạo sinh để tạo ảnh deepfake mang tính tình dục nhắm vào bạn cùng lớp. Những ảnh chứa nội dung nhạy cảm liên quan đến học sinh được xem là tài liệu lạm dụng tình dục trẻ em (CSAM).

Phân tích của WIRED và Indicator là nghiên cứu đầu tiên xem xét các trường hợp lạm dụng deepfake bằng AI trong thực tế tại nhiều trường học trên thế giới.

Ảnh khỏa thân deepfake bùng phát, trường học và cơ quan chức năng lúng túng

Phân tích cho thấy công nghệ AI độc hại này đã lan rộng trên thế giới và có thể mang lại cho kẻ tạo ra nó hàng triệu USD mỗi năm. Trong nhiều vụ việc, nhà trường và cơ quan chức năng vẫn chưa sẵn sàng để xử lý các hành vi lạm dụng tình dục nghiêm trọng.

Tại Bắc Mỹ, đã có gần 30 vụ việc được báo cáo kể từ năm 2023. Trong đó có một vụ với hơn 60 nạn nhân, một vụ nạn nhân bị đình chỉ học tạm thời do nhầm lẫn và vài vụ khác nhắm vào học sinh ở nhiều trường cùng lúc. Hơn 10 vụ được ghi nhận ở Nam Mỹ, hơn 20 tại châu Âu, khoảng 12 ở Úc và Đông Á.

Quy mô thực sự của vấn đề có thể còn lớn hơn nhiều. Một khảo sát của UNICEF (Quỹ Nhi đồng Liên Hợp Quốc) ước tính có tới 1,2 triệu trẻ em đã bị tạo deepfake mang tính tình dục trong năm ngoái. Tại Tây Ban Nha, cứ 5 người trẻ thì có 1 người cho biết từng là nạn nhân. Tổ chức bảo vệ trẻ em Thorn phát hiện cứ 8 thiếu niên thì có 1 người biết ai đó là mục tiêu. Năm 2024, 15% học sinh trong khảo sát của Trung tâm Dân chủ và Công nghệ (Mỹ) nói họ biết về deepfake liên quan đến trường mình.

“Tôi nghĩ rất khó để tìm ra một trường học chưa từng bị ảnh hưởng. Điều quan trọng nhất là chúng ta có thể hỗ trợ nạn nhân như thế nào, vì hậu quả có thể rất nghiêm trọng”, Lloyd Richardson, Giám đốc công nghệ tại Trung tâm Bảo vệ Trẻ em Canada, cho biết.

Phân tích của WIRED và Indicator tập trung vào các vụ việc có thông tin cụ thể như địa điểm trường học, số lượng nạn nhân. Phần lớn vụ việc đến từ báo chí tiếng Anh, trong khi nhiều quốc gia thiếu dữ liệu. Nhiều vụ việc không bao giờ được đưa tin hoặc chỉ xử lý nội bộ bởi nhà trường và cơ quan chức năng.

Dù vậy, một số mô hình rõ ràng đã xuất hiện. Trong gần như tất cả trường hợp, nam sinh tuổi teen là người tạo ra hình ảnh hoặc video deepfake. Nội dung thường được chia sẻ qua mạng xã hội hoặc tin nhắn trong lớp và hậu quả với nạn nhân là vô cùng nghiêm trọng.

“Tôi lo rằng mỗi lần nhìn tôi, họ lại thấy những bức ảnh đó”, một nữ sinh ở bang Iowa (Mỹ) nói. Gia đình của một nạn nhân khác cho biết: “Con bé khóc rất nhiều, không chịu ăn uống”.

Trong nhiều trường hợp, nạn nhân không muốn đến trường vì phải đối mặt với những người đã tạo ra ảnh khỏa thân deepfake của mình.

“Nạn nhân cảm thấy tuyệt vọng vì biết rằng những ảnh này có thể lan lên internet và đến tay những kẻ ấu dâm. Cô bé sẽ phải theo dõi Internet suốt đời để ngăn chúng lan rộng”, theo luật sư Shane Vogt và ba sinh viên trường Luật Yale đại diện cho một cô gái giấu tên ở bang New Jersey (Mỹ) trong vụ kiện chống lại dịch vụ đăng tải ảnh khỏa thân.

Cho phép học sinh không xuất hiện trong kỷ yếu

Tại Hàn Quốc và Úc, một số trường đã cho phép học sinh không xuất hiện trong kỷ yếu hoặc ngừng đăng ảnh học sinh trên các tài khoản mạng xã hội chính thức, do lo ngại bị lạm dụng bởi deepfake.

Một trường tại Úc cho biết nội dung sẽ được thay bằng ảnh chụp từ xa, bóng dáng, góc nghiêng, hoặc ảnh có sẵn không liên quan đến học sinh và được kiểm duyệt trước.

Deepfake mang tính tình dục đã tồn tại từ cuối năm 2017, nhưng sự bùng nổ của AI tạo sinh đã tạo ra một hệ sinh thái “lột đồ” ngầm. Hàng tá ứng dụng, bot và website cho phép bất kỳ ai tạo nội dung nhạy cảm chỉ với vài cú nhấp chuột, không cần kiến thức kỹ thuật.

“AI thay đổi về quy mô, tốc độ và khả năng tiếp cận. Rào cản kỹ thuật giảm mạnh, nghĩa là nhiều người hơn, kể cả thanh thiếu niên, có thể tạo ra nội dung thuyết phục với rất ít công sức”, Siddharth Pillai, đồng sáng lập và Giám đốc RATI Foundation (Ấn Độ), cho biết. RATI Foundation là tổ chức hoạt động nhằm ngăn chặn bạo lực với phụ nữ và trẻ em.

Các nghiên cứu cho thấy động cơ của thanh thiếu niên rất đa dạng, từ tò mò, ham muốn, trả thù, đến thách đố lẫn nhau. “Mục tiêu không phải lúc nào cũng là thỏa mãn tình dục. Ngày càng nhiều trường hợp nhằm mục đích làm nhục, hạ thấp và điều khiển hành vi của người khác”, Siddharth Pillai nói.

“Đây không chỉ là vấn đề công nghệ, mà gắn với các cấu trúc quyền lực giới đã tồn tại từ lâu”, Tanya Horeck, giáo sư nghiên cứu truyền thông nữ quyền, nhận định. Tanya Horeck nghiên cứu về deepfake mang tính tình dục trong các trường học ở Anh.

Khi số vụ việc tăng lên, cách xử lý của nhà trường và cơ quan chức năng lại rất khác nhau. Phụ huynh phàn nàn rằng phản ứng thường không đủ mạnh. Có vụ mất ba ngày mới báo cảnh sát. Có vụ không đưa ra hậu quả tức thì cho kẻ tạo ảnh khỏa thân deepfake. Một số học sinh bị truy tố vì liên quan đến CSAM, số khác bị đình chỉ học.

Tháng 3 vừa qua, hai học sinh tại bang Pennsylvania (Mỹ) đã nhận tội tại tòa vị thành niên và bị tuyên 60 giờ lao động công ích vì tạo deepfake liên quan đến 60 nữ sinh.

Trong nhiều trường hợp, chính các nữ sinh và gia đình là những người phản kháng mạnh mẽ nhất, thậm chí đi trước cả chính trị gia. Học sinh đã tổ chức biểu tình, rời lớp học để ủng hộ nạn nhân, tham gia xây dựng khóa học trực tuyến và góp phần thúc đẩy luật mới như Đạo luật Take It Down - yêu cầu nền tảng công nghệ gỡ bỏ hình ảnh nhạy cảm không có sự đồng thuận trong vòng 48 giờ.

“Cách người lớn phản ứng khi trẻ lên tiếng có thể ảnh hưởng lớn đến khả năng phục hồi và việc chúng có tiếp tục lên tiếng hay không”, ông Afrooz Kaviani Johnson, chuyên gia bảo vệ trẻ em tại UNICEF, nhận xét.

Theo các chuyên gia, trường học cần chuẩn bị tốt hơn, từ giáo dục học sinh về tác hại và tính bất hợp pháp của deepfake, đến đào tạo quản trị viên về điều tra số và thu thập bằng chứng. “Điều quan trọng là cung cấp cho học sinh công cụ, ngôn ngữ và sự hỗ trợ”, Robyn Little, Giám đốc chiến lược giáo dục số tại một trường ở bang Maryland, bình luận.

Giáo viên cũng thành nạn nhân của ảnh deepfake

Vấn đề deepfake trong trường học không chỉ dừng ở học sinh. Học sinh từng tạo deepfake mang tính tình dục nhắm vào giáo viên, khiến họ bị bôi nhọ hoặc bị gán những hành vi, lời nói chưa từng xảy ra.

“Dù lạm dụng tình dục bằng deepfake có thể là nguy cơ nghiêm trọng nhất, nhưng đó chỉ là một trong nhiều rủi ro deepfake đang cùng lúc bùng phát và các trường học hiện chưa đủ nguồn lực để đối phó”, theo Evan Harris - người sáng lập Pathos Consulting Group.

Pathos Consulting Group là công ty tư vấn, chủ yếu làm việc với các trường học (đặc biệt ở Mỹ) để hỗ trợ về an toàn học đường, quản lý khủng hoảng, đào tạo về các rủi ro mới như deepfake, bạo lực mạng, an ninh số.

Sơn Vân