Vụ deepfake khiêu dâm gây chấn động Đức: AI trở thành công cụ bạo lực số?

Theo truyền thông quốc tế, trong một bài viết đăng trên tạp chí Spiegel, nữ diễn viên truyền hình Collien Fernandes đã cáo buộc người chồng cũ tạo và phát tán các nội dung khiêu dâm giả mạo bằng AI, sử dụng hình ảnh giống cô trong nhiều năm. Các tài khoản giả mạo này được cho là đã lan truyền video và hình ảnh nhạy cảm được tạo dựng bằng công nghệ deepfake.

Phía bị cáo buộc phủ nhận thông tin và cho biết sẽ tiến hành các biện pháp pháp lý, tuy nhiên vụ việc đã nhanh chóng vượt ra khỏi phạm vi cá nhân, trở thành một chủ đề xã hội gây tranh cãi rộng rãi.

Khi công nghệ vượt khỏi kiểm soát về đạo đức

Deepfake - công nghệ sử dụng AI để tạo ra hình ảnh, video giả mạo chân thực - vốn được xem là bước tiến lớn trong ngành sáng tạo nội dung. Tuy nhiên, trong những năm gần đây, nó ngày càng bị lạm dụng cho các mục đích tiêu cực, đặc biệt là tạo nội dung khiêu dâm không có sự đồng thuận.

Trường hợp của Fernandes đã làm nổi bật một vấn đề lớn: công nghệ phát triển nhanh hơn khung pháp lý. Hiện tại, tại Đức, việc phát tán nội dung deepfake nhạy cảm là bất hợp pháp, nhưng việc sản xuất chúng lại chưa bị xử lý rõ ràng theo luật.

Khoảng trống này khiến nhiều chuyên gia cảnh báo về nguy cơ “bạo lực số” - nơi hình ảnh và danh tính cá nhân có thể bị xâm phạm mà nạn nhân khó kiểm soát

Áp lực thay đổi luật và trách nhiệm nền tảng

Vụ việc đã kích hoạt các cuộc biểu tình lớn tại Berlin, thu hút hơn 10.000 người tham gia nhằm kêu gọi chấm dứt bạo lực đối với phụ nữ trong không gian số.

Nhiều người mang theo biểu ngữ như “Cảm ơn Collien” và “AI sẽ không biến cơ thể chúng tôi thành của bạn”.

Một số biểu ngữ khác ghi “Sự xấu hổ cần đổi phía” - tiêu đề cuốn hồi ký của Gisèle Pelicot (Pháp), người trở thành biểu tượng trong cuộc đấu tranh toàn cầu chống bạo lực tình dục sau vụ án năm 2024, khi chồng bà bị kết án vì mời hàng chục người đàn ông xâm hại bà trong lúc bà bị đánh thuốc mê.

Trước áp lực xã hội, Bộ trưởng Tư pháp Stefanie Hubig cho biết bộ của bà đang soạn thảo dự luật nhằm coi việc sản xuất nội dung deepfake khiêu dâm và quay lén là hành vi phạm tội hình sự, với mức phạt có thể lên đến hai năm tù.

“Công nghệ thì mới, nhưng động cơ phía sau thì không hề mới. Đó là quyền lực, sự sỉ nhục và kiểm soát”, bà phát biểu trước quốc hội trong một phiên thảo luận về bạo lực đối với phụ nữ.

Hiện tại, luật pháp Đức chỉ quy định rõ việc phát tán các nội dung deepfake như vậy là bất hợp pháp, trong khi việc tạo ra chúng chưa được xử lý đầy đủ.

Dự luật mới cũng nhằm giúp nạn nhân dễ dàng xác định chủ sở hữu các tài khoản đăng tải nội dung trái phép, yêu cầu bồi thường và buộc khóa tài khoản. Quốc hội dự kiến sẽ tiếp tục thảo luận về vấn đề này.

“Bạo lực số không thể trở thành một mô hình kinh doanh”, bà Hubig nhấn mạnh, đồng thời kêu gọi các nền tảng như X của Elon Musk phải chịu trách nhiệm lớn hơn. Chatbot AI Grok trên nền tảng này từng bị lợi dụng để lan truyền các hình ảnh khiêu dâm giả mạo. Công ty xAI sau đó đã áp dụng một số hạn chế đối với chức năng tạo hình ảnh của Grok trước làn sóng phản đối.

Fernandes cho biết trên Reuters, cô đã quyết định khởi kiện tại Tây Ban Nha - nơi cô và người chồng cũ từng sinh sống - vì cho rằng hệ thống pháp luật ở đây bảo vệ quyền phụ nữ tốt hơn so với Đức.

Tây Ban Nha hiện có các tòa án chuyên xử lý bạo lực giới, và từ năm 2025 đã mở rộng sang các hành vi bạo lực số như theo dõi trực tuyến và phát tán hình ảnh riêng tư không có sự đồng thuận.