Nước đầu tiên đưa ra các tội danh mới liên quan đến lạm dụng tình dục bằng AI

Việc sở hữu, chụp, tạo, trình chiếu hoặc phát tán hình ảnh khiêu dâm trẻ em là một tội ác ở Anh và xứ Wales. Các tội danh mới nhắm vào việc sử dụng các công cụ AI để tạo ra phiên bản khỏa thân giả mạo từ hình ảnh thực của trẻ em.

Động thái này diễn ra khi tội phạm trực tuyến ngày càng sử dụng AI để tạo ra nội dung lạm dụng trẻ em, với số báo cáo về những hình ảnh khiêu dâm như vậy tăng gần gấp 5 lần vào năm 2024, theo Internet Watch Foundation.

"Chúng tôi biết rằng các hoạt động trực tuyến của những ‘kẻ săn mồi’ bệnh hoạn thường dẫn đến việc chúng thực hiện hành vi lạm dụng khủng khiếp ngoài đời thực. Điều quan trọng là chúng ta phải xử lý nạn lạm dụng tình dục trẻ em cả trên mạng và ngoài đời thực để bảo vệ công chúng tốt hơn khỏi những tội ác mới, đang gia tăng", Bộ trưởng Nội vụ Anh - Yvette Cooper tuyên bố.

Chính phủ Anh cảnh báo rằng những “kẻ săn mồi” sử dụng công cụ AI để che giấu danh tính và tống tiền trẻ em bằng hình ảnh giả mạo nhằm ép buộc các bé tham gia vào các hình thức bị lạm dụng khác, chẳng hạn phát trực tiếp hình ảnh.

Các tội hình sự mới bao gồm cả sở hữu, tạo hoặc phân phối các công cụ AI được thiết kế để tạo ra nội dung lạm dụng tình dục trẻ em và sở hữu cái gọi là "sổ tay ấu dâm" AI, cung cấp hướng dẫn về cách sử dụng công nghệ này.

Một tội cụ thể khác sẽ nhắm vào những người điều hành các trang web phân phối nội dung lạm dụng tình dục trẻ em. Chính phủ Anh sẽ trao quyền cho các cơ quan chức năng mở khóa thiết bị kỹ thuật số để kiểm tra.

Các biện pháp này sẽ được đưa vào Dự luật Tội phạm và Cảnh sát khi trình lên Quốc hội.

Trước đó, Anh cho biết thông báo sẽ hình sự hóa hành vi tạo và chia sẻ deepfake (các video, hình ảnh hoặc đoạn âm thanh do AI tạo ra trông giống như thật) khiêu dâm.

Cuối năm 2023, IWF từng cảnh báo sự gia tăng đáng báo động của các hình ảnh lạm dụng tình dục trẻ em trên internet. IWF cho rằng tình trạng này có thể trở nên mất kiểm soát nếu không có quy định kiểm soát các công cụ AI tạo ra những hình ảnh trông như thật.

Dan Sexton, Giám đốc công nghệ của IWF, cho biết: “Chúng tôi hết sức quan ngại về tác hại kép do những hình ảnh này có thể gây ra. Chúng có ảnh hưởng tới cả người xem và những nạn nhân bị lạm dụng hình ảnh, đặc biệt là với trẻ em”.

Thời điểm đó, IWF đã điều tra hơn 11.000 hình ảnh được chia sẻ trên các diễn đàn và web tối (dark web) trong khoảng thời gian một tháng. Trong số đó, hơn 2.500 bức ảnh mô tả hành vi lạm dụng trẻ em và 20% được phân loại vào nhóm mô tả những hành vi lạm dụng nghiêm trọng nhất.

Web tối là những địa chỉ trên internet được lưu trữ trong một mạng mã hóa và chỉ có thể truy cập được thông qua các công cụ cung cấp tính năng ẩn danh, chẳng hạn trình duyệt Tor.

Báo cáo này của IWF phơi bày mặt tối của cuộc đua xây dựng các AI để tạo ra hình ảnh, nhân vật ảo. Trong đó, nhiều ứng dụng cho phép người dùng đưa các câu lệnh để tạo ra bất kỳ hình ảnh mong muốn nào, gồm cả hình ảnh khỏa thân hay khiêu dâm trẻ em. Nếu không được ngăn chặn, làn sóng hình ảnh lạm dụng tình dục trẻ em giả mạo có thể khiến giới chức gặp khó khăn khi điều tra những vụ việc ngoài đời thực. Thủ phạm cũng có thể sử dụng những hình ảnh này để dụ dỗ và ép buộc những nạn nhân mới. IWF kêu gọi các nhà quản lý và công ty cung cấp công nghệ, cần hành động nhanh chóng để bảo vệ trẻ em trước những mặt tối của công nghệ này.

Anh phạt TikTok 15,8 triệu USD vì lạm dụng dữ liệu của trẻ em

Anh rất mạnh tay với các hành vi lạm dụng trẻ em.

Hồi tháng 4.2023, TikTok đã bị Cơ quan giám sát quyền riêng tư của Anh phạt 12,7 triệu bảng Anh (15,8 triệu USD) vì lạm dụng dữ liệu của trẻ em trong khoảng thời gian hai năm.

Văn phòng Ủy viên Thông tin (ICO) cho biết TikTok, ứng dụng thuộc sở hữu của tập đoàn ByteDance (Trung Quốc), đã vi phạm các quy tắc bảo vệ dữ liệu của Vương quốc Anh khi cho phép trẻ em dưới 13 tuổi đăng ký dịch vụ từ tháng 5.2018 đến tháng 7.2020, dù từng tuyên bố rằng hành động này là vi phạm các điều khoản dịch vụ của nó.

ICO tuyên bố TikTok cũng xử lý dữ liệu trẻ em mà không có sự đồng ý của cha mẹ hoặc người giám hộ chúng và thất bại trong việc loại bỏ các tài khoản của người dùng chưa đủ tuổi.

ICO ước tính có tới 1,4 triệu trẻ em ở Anh sử dụng TikTok vào năm 2020. Các quy tắc của Vương quốc Anh yêu cầu các ứng dụng phải xin phép cha mẹ với trẻ chưa đủ tuổi đăng ký.

“Có những luật hiện hành để đảm bảo con cái chúng ta được an toàn trong thế giới kỹ thuật số cũng như trong thế giới thực. TikTok đã không tuân thủ các luật đó. Kết quả là có khoảng 1 triệu trẻ em dưới 13 tuổi đã được cấp quyền truy cập vào nền tảng một cách không phù hợp, với việc TikTok thu thập và sử dụng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa là dữ liệu trẻ em có thể đã được sử dụng để theo dõi và lập hồ sơ cho chúng, có khả năng cung cấp nội dung có hại, không phù hợp trong lần cuộn trang tiếp theo trên ứng dụng”, John Edwards, lãnh đạo ICO, cho biết thời điểm đó.

ICO cho biết ứng dụng TikTok không thể cung cấp thông tin thích hợp cho các thành viên của cộng đồng sử dụng nền tảng về cách dữ liệu của họ bị thu thập, sử dụng và chia sẻ theo cách dễ hiểu. Nó cũng không đảm bảo rằng dữ liệu cá nhân của người dùng tại Vương quốc Anh được xử lý một cách hợp pháp, công bằng và minh bạch.

Về chuyện trên, người phát ngôn TikTok phản hồi: “TikTok là nền tảng dành cho người dùng từ 13 tuổi trở lên. Chúng tôi đầu tư rất nhiều để giúp ngăn những người dưới 13 tuổi truy cập khỏi nền tảng và đội ngũ an toàn hùng hậu gồm 40.000 người của chúng tôi làm việc suốt ngày đêm để giúp giữ cho nền tảng an toàn cho cộng đồng. Chúng tôi sẽ tiếp tục xem xét quyết định và đang đánh giá các bước tiếp theo”.

TikTok đã thực hiện một số bước kể từ năm 2020 để cập nhật cơ sở hạ tầng về quyền riêng tư và an toàn của mình, gồm cả phân phối bản tóm tắt chính sách quyền riêng tư phù hợp với lứa tuổi cho người dùng dưới 18 tuổi và triển khai các tính năng giới hạn thời gian sử dụng thiết bị cho người dùng dưới 18 tuổi cùng gia đình của họ.

Vào năm 2022, ICO thông báo TikTok có thể phải đối mặt với khoản tiền phạt lên tới 27 triệu bảng Anh, nhưng đã quyết định không theo đuổi mức phạt cao hơn sau khi nhận được lời giải thích từ TikTok trong quá trình điều tra.