Gửi bình luận
Người đàn ông Mỹ 42 tuổi đã bị bắt vì tội tạo ra những hình ảnh khiêu dâm của trẻ vị thành niên và gửi nội dung khiêu dâm tương tự cho một đứa trẻ 15 tuổi.
Theo thông cáo báo chí từ Bộ Tư pháp Mỹ hôm 21.5, Steven Anderegg đã bị bắt vào tuần trước sau khi hội đồng bồi thẩm đoàn liên bang đưa ra bản cáo trạng buộc tội hắn sản xuất, phân phối và sở hữu những hình ảnh khiêu dâm do AI tạo ra về trẻ vị thành niên. Đây là một trong những trường hợp đầu tiên thuộc thể loại này tại Mỹ.
Steven Anderegg (cư dân bang Wisconsin, Mỹ) bị cáo buộc sử dụng Stable Diffusion, mô hình AI chuyển văn bản thành hình ảnh của công ty khởi nghiệp Stability AI (Anh), để tạo ra hàng nghìn hình ảnh siêu thực về trẻ vị thành niên khỏa thân hoặc mặc quần áo hở hang. Nhiều hình ảnh trong số đó cho thấy các em tham gia vào các hành vi tình dục với đàn ông hoặc chạm vào bộ phận sinh dục của mình.
Theo tài liệu của tòa án, Steven Anderegg bị cáo buộc gửi hình ảnh khiêu dâm của trẻ vị thành niên do AI tạo trong tin nhắn trên Instagram cho đứa trẻ 15 tuổi và mô tả cách hắn sử dụng Stable Diffusion để tạo ra những ảnh đồi trụy như vậy.
Bộ Tư pháp Mỹ cho biết Steven Anderegg đã lưu trữ các hình ảnh trên máy tính của mình và bằng chứng đó được tìm thấy từ các thiết bị điện tử của hắn. Ngoài ra, Bộ Tư pháp Mỹ tuyên bố Steven Anderegg đã tạo ra những hình ảnh bằng cách sử dụng những lời nhắc bằng văn bản khiêu dâm liên quan đến trẻ vị thành niên.
Steven Anderegg đang bị cảnh sát liên bang giam giữ và chờ phiên điều trần diễn ra hôm 22.5. Theo Bộ Tư pháp Mỹ, Steven Anderegg phải đối mặt với án tù lên tới 70 năm vì 4 tội danh bị cáo buộc trong bản cáo trạng.
Nếu Steven Anderegg bị kết án, đây không phải là lần đầu tiên một người bị bỏ tù vì sử dụng AI để tạo ra hình ảnh khiêu dâm về trẻ vị thành niên.
Vào tháng 11.2023, một nhà tâm lý học trẻ em ở bang Bắc Carolina (Mỹ) đã bị kết án 40 năm tù, sau đó là 30 năm bị quản chế. Gã đàn ông này đã sử dụng công cụ AI để tạo ra hình ảnh khiêu dâm về trẻ vị thành niên và khai thác tình dục trẻ vị thành niên.
Tháng 12.2023, các nhà nghiên cứu của Đại học Stanford (Mỹ) cho biết hơn 1.000 hình ảnh lạm dụng tình dục trẻ em đã được tìm thấy trong cơ sở dữ liệu nổi bật sử dụng để đào tạo các công cụ AI. Điều này nhấn mạnh nguy cơ nội dung này có thể đã giúp huấn luyện các trình tạo ảnh AI tạo ra những hình ảnh giả mạo mới và thực tế về lạm dụng tình dục trẻ em.
Trong một báo cáo do Đài quan sát Internet của Đại học Stanford công bố, các nhà nghiên cứu cho biết đã tìm thấy ít nhất 1.008 ảnh lạm dụng trẻ em ở một cơ sở dữ liệu hình ảnh mã nguồn mở phổ biến có tên LAION-5B, mà các mô hình tạo ảnh AI như Stable Diffusion 1.5 trước đó của Stability AI dựa vào để tạo ra những bức ảnh siêu thực.
Theo các nhà nghiên cứu về an toàn trẻ em, phát hiện này được đưa ra khi các công cụ AI ngày càng được quảng bá trên các diễn đàn ấu dâm. Các chuyên gia cho biết trình tạo ảnh AI thường chỉ cần huấn luyện trên một số ít ảnh để tái tạo chúng chính xác. Vì thế, sự hiện diện của hơn 1.000 ảnh lạm dụng tình dục trẻ em trong dữ liệu huấn luyện có thể khiến các trình tạo hình ảnh AI có khả năng đáng lo ngại.
David Thiel, tác giả báo cáo và chuyên gia công nghệ tại Đài quan sát Internet của Đại học Stanford, nói những bức ảnh “về cơ bản mang lại lợi thế cho mô hình AI trong việc có thể tạo ra nội dung lạm dụng tình dục trẻ em theo cách giống như thực hiện việc này ngoài đời thực”.
Đại diện của LAION cho biết đã tạm thời gỡ bộ dữ liệu LAION-5B xuống “để đảm bảo an toàn trước khi xuất bản lại”.
Người phát ngôn Stability AI trước đây nói với trang Insider rằng đã giới thiệu các bộ lọc để ngăn người dùng tạo nội dung bất hợp pháp bằng Stable Diffusion và các mô hình AI của công ty này chỉ được đào tạo trên một tập hợp con đã lọc của LAION-5B.
Stability AI nêu rõ trong điều khoản sử dụng được cập nhật lần gần nhất vào tháng 3 rằng người dùng sẽ không sử dụng hoặc cho phép người khác sử dụng mô hình của họ để thực hiện hành vi "'việc bóc lột hoặc gây hại cho trẻ em, gồm cả việc gạ gẫm, tạo ra, thu thập hoặc phát tán nội dung lạm dụng tình dục trẻ em".
"Stability AI cam kết ngăn chặn việc lạm dụng AI và cấm sử dụng các mô hình và dịch vụ hình ảnh của chúng tôi cho hoạt động bất hợp pháp, gồm cả nỗ lực chỉnh sửa hoặc tạo nội dung lạm dụng tình dục trẻ em", công ty tuyên bố với Insider.
