Hàng triệu phụ nữ bị nhắm mục tiêu trong nội dung deepfake khiêu dâm: Xử lý kẻ lạm dụng thế nào?

"Bạn muốn xem mình đóng phim hay trên TV? Bạn có muốn xem bạn thân, đồng nghiệp hay sếp của mình khiêu vũ không? Bạn đã bao giờ tự hỏi mình sẽ trông như thế nào nếu khuôn mặt được hoán đổi với khuôn mặt của bạn bè hoặc người nổi tiếng?" là phần mô tả một ứng dụng trên các cửa hàng trực tuyến, cung cấp cho người dùng cơ hội tạo hình ảnh/video tổng hợp dựa trên trí tuệ nhân tạo (AI), còn được gọi là deepfake.

Điều đáng nói là ứng dụng đó đã được quảng cáo trên hàng chục trang web khác nhau dành cho người lớn với mô tả: "Tạo deepfake porn (nội dung khiêu dâm deepfake – PV) trong một giây. Deepfake bất cứ ai".

Deepfake là thuật ngữ được tạo nên nhờ sự kết hợp giữa deep learning và fake. Đây là một kỹ thuật tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Về bản chất, công nghệ deepfake được xây dựng trên nền tảng công nghệ học máy (machine learning) mã nguồn mở của hãng công nghệ Google. Sau khi quét các video và ảnh chân dung của một người cụ thể, deepfake sẽ hợp nhất hình ảnh với video riêng biệt nhờ AI và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói giống như thật. Càng có nhiều video và hình ảnh gốc thì AI càng hoạt động chính xác và video giả mạo có độ chân thực cao.

Các chuyên gia cho biết deepfake (công nghệ 4 năm tuổi) giờ đây đã đủ tiên tiến để người xem nói chung phải vật lộn để phân biệt nhiều video giả với thực, và phát triển đến mức hầu hết người dùng smartphone đều có thể sử dụng nó mà không cần chuyên môn gì.

Adam Dodge, luật sư và là người sáng lập công ty an toàn trực tuyến EndTab, nói: "Một khi điểm đầu vào thấp đến mức không cần nỗ lực gì cả và một người không sành sỏi có thể tạo ra video khiêu dâm deepfake mà không có sự đồng thuận rất tinh vi thì đó là sự kiện dẫn đến sự thay đổi đáng kể trong ngành. Đó là khi chúng ta bắt đầu gặp rắc rối".

Với công nghệ tạo ra sự thay đổi lớn trong cuộc sống của con người, nhiều nhà vận động an toàn trực tuyến, nhà nghiên cứu và phát triển phần mềm cho biết chìa khóa là đảm bảo sự đồng ý từ những người được mô phỏng, dù điều này nói dễ hơn làm. Một số người ủng hộ việc áp dụng cách tiếp cận cứng rắn hơn khi đề cập đến nội dung khiêu dâm tổng hợp, vì nguy cơ bị lạm dụng.

Nội dung khiêu dâm deepfake không có sự đồng thuận chiếm 96% trong một nghiên cứu mẫu về hơn 14.000 video deepfake được đăng trực tuyến, theo một báo cáo năm 2019 của Sensity, công ty chuyên phát hiện và giám sát các phương tiện truyền thông tổng hợp. Sensity nói thêm rằng số lượng video deepfake trực tuyến tăng gần gấp đôi sau mỗi 6 tháng.

“Phần lớn tác hại do deepfake gây ra hiện nay là một dạng bạo lực kỹ thuật số theo giới tính”, theo Ajder, một trong những tác giả nghiên cứu, người đứng đầu chính sách và quan hệ đối tác của công ty AI Metaphysic. Ajder cho biết thêm rằng nghiên cứu của ông chỉ ra rằng hàng triệu phụ nữ bị nhắm mục tiêu trên toàn thế giới.

“Do đó có một sự khác biệt lớn giữa việc một ứng dụng có được tiếp thị rõ ràng như một công cụ khiêu dâm hay không”, ông Ajder nói.

Vai trò của mạng quảng cáo trực tuyến

ExoClick, mạng quảng cáo trực tuyến được sử dụng bởi chủ ứng dụng "Tạo deepfake porn trong 1 giây", nói với Reuters rằng họ không quen thuộc với loại phần mềm hoán đổi khuôn mặt dựa trên AI này. Họ cho biết đã đình chỉ ứng dụng khỏi việc đăng quảng cáo và sẽ không quảng bá công nghệ hoán đổi khuôn mặt một cách vô trách nhiệm.

Bryan McDonald, Giám đốc tuân thủ quảng cáo tại ExoClick, nói: “Đây là một loại sản phẩm mới với chúng tôi, giống như các mạng quảng cáo lớn khác, cung cấp cho khách hàng một bảng điều khiển các trang web mà họ có thể tự tùy chỉnh để quyết định vị trí đặt quảng cáo. Sau khi xem xét tài liệu tiếp thị, chúng tôi quyết định từ ngữ được sử dụng trên tài liệu tiếp thị là không thể chấp nhận được. Chúng tôi chắc chắn rằng phần lớn người sử dụng các ứng dụng như vậy để giải trí không có mục đích xấu, nhưng chúng tôi cũng thừa nhận rằng điều đó cũng có thể được dùng cho mục đích xấu".

6 mạng quảng cáo trực tuyến lớn khác mà Reuters tiếp cận bình luận về việc liệu họ có gặp phải phần mềm deepfake hoặc có chính sách liên quan đến nó hay không.

Reuters đề cập đến việc ứng dụng có thể sử dụng mô tả khiêu dâm trên App Store của Apple hoặc Play Store của Google, nơi nó có sẵn cho bất kỳ ai trên 12 tuổi.

Apple cho biết không có bất kỳ quy tắc cụ thể nào về các ứng dụng deepfake nhưng các nguyên tắc rộng hơn của họ đã cấm chúng có nội dung phỉ báng, phân biệt đối xử hoặc có khả năng làm nhục, đe dọa hoặc làm hại bất kỳ ai.

Apple nói thêm rằng các nhà phát triển bị cấm tiếp thị sản phẩm của họ theo cách gây hiểu lầm, trong hoặc ngoài App Store, và đang làm việc với công ty phát triển ứng dụng để đảm bảo họ tuân thủ các nguyên tắc.

Google không trả lời khi được đề nghị bình luận. Sau khi được Reuters liên hệ về việc quảng cáo "deepfake khiêu dâm" trên các trang web người lớn, Google đã tạm thời gỡ trang Play Store cho ứng dụng này. Trang đã được khôi phục sau khoảng 2 tuần, với ứng dụng hiện được phân loại là T với thanh thiếu niên do "nội dung khiêu dâm".

Bộ lọc nội dung khiêu dâm

Dù có những tác nhân xấu trong ngành công nghiệp phần mềm hoán đổi khuôn mặt đang phát triển, rất nhiều ứng dụng có sẵn cho người tiêu dùng và nhiều người đã thực hiện các bước để cố gắng ngăn chặn việc lạm dụng, theo Ajder, người ủng hộ việc sử dụng phương tiện tổng hợp có đạo đức.

Một số ứng dụng chỉ cho phép người dùng hoán đổi hình ảnh thành các cảnh được chọn trước, chẳng hạn yêu cầu xác minh ID từ người được hoán đổi hoặc sử dụng AI để phát hiện nội dung khiêu dâm tải lên, dù những điều này không phải lúc nào cũng hiệu quả, ông Ajder nói thêm.

Reface là một trong những ứng dụng hoán đổi khuôn mặt phổ biến nhất thế giới, đã thu hút hơn 100 triệu lượt tải xuống trên toàn cầu kể từ năm 2019, trong đó người dùng được khuyến khích chuyển đổi khuôn mặt với những người nổi tiếng, siêu anh hùng và các nhân vật meme để tạo video clip vui nhộn.

Công ty có trụ sở tại Mỹ nói với Reuters rằng họ đang sử dụng kiểm duyệt nội dung tự động và bằng con người, bao gồm cả bộ lọc nội dung khiêu dâm, đồng thời có các biện pháp kiểm soát khác để ngăn chặn việc lạm dụng, trong đó có cả nhãn và mộc trực quan để gắn cờ video là tổng hợp.

"Ngay từ khi bắt đầu công nghệ và thành lập Reface với tư cách là một công ty, đã có sự công nhận rằng công nghệ truyền thông tổng hợp có thể bị lạm dụng hoặc sử dụng sai mục đích", Reface nói.

Xử lý kẻ lạm dụng thế nào?

Việc người tiêu dùng ngày càng mở rộng khả năng tiếp cận khả năng tính toán mạnh mẽ thông qua smartphone đang dẫn đến những tiến bộ trong công nghệ deepfake và chất lượng của các phương tiện tổng hợp.

Ví dụ, Adam Dodge và các chuyên gia khác được Reuters phỏng vấn nói rằng trong những ngày đầu của những công cụ này vào năm 2017, họ yêu cầu một lượng lớn dữ liệu đầu vào, thường tổng cộng hàng ngàn hình ảnh để đạt được cùng một loại chất lượng có thể được tạo ra ngày nay từ chỉ một ảnh.

Các nhà hoạch định chính sách tìm cách điều chỉnh công nghệ deepfake đang đạt được những tiến bộ chậm chạp, đồng thời phải đối mặt với những khó khăn về kỹ thuật mới và tranh cãi về đạo đức.

Các luật đặc biệt nhắm vào lạm dụng trực tuyến sử dụng công nghệ deepfake đã được thông qua ở một số khu vực pháp lý, bao gồm Trung Quốc, Hàn Quốc và California (Mỹ), nơi mô tả ác ý một người nào đó trong nội dung khiêu dâm mà không được họ đồng ý hoặc phát tán nội dung đó có thể gây ra thiệt hại 150.000 USD theo luật định.

Các nhà nghiên cứu tại Nghị viện châu Âu cho biết trong một nghiên cứu được trình bày trước một hội đồng các nhà lập pháp vào tháng 10.2021 rằng: "Sự can thiệp cụ thể của pháp luật hoặc hình sự hóa nội dung khiêu dâm deepfake vẫn còn thiếu, cũng như với những kẻ lạm dụng. Như ngày nay, chỉ có thủ phạm phải chịu trách nhiệm. Tuy nhiên, nhiều thủ phạm đã cố gắng rất nhiều để bắt đầu các cuộc tấn công như vậy ở cấp độ ẩn danh đến nỗi cả cơ quan thực thi pháp luật và nền tảng đều không thể xác định được chúng".

Marietje Schaake, Giám đốc chính sách quốc tế tại Trung tâm chính sách mạng của Đại học Stanford (Mỹ) và là cựu thành viên Nghị viện châu Âu, nói các luật kỹ thuật số mới bao gồm Đạo luật AI được đề xuất ở Mỹ và GDPR (luật quy định về xử lý dữ liệu cá nhân) ở châu Âu có thể điều chỉnh các yếu tố của công nghệ deepfake, nhưng có những khoảng trống.

"Dù nghe có vẻ như có nhiều lựa chọn pháp lý để theo đuổi, nhưng trên thực tế, điều này là một thách thức với nạn nhân khi được trao quyền để làm điều đó. Dự thảo Đạo luật AI đang được xem xét dự kiến ​​rằng nội dung bị thao túng nên được tiết lộ. Nhưng câu hỏi đặt ra là liệu nhận thức có đủ để ngăn chặn tác động có hại hay không. Nếu mức độ lan truyền của các thuyết âm mưu là một chỉ số thì thông tin quá vô lý đến mức không đúng sự thật tiếp tục có thể tác động rộng rãi và gây hại cho xã hội", bà Marietje Schaake chia sẻ.

Sơn Vân