Grok vẫn lưu ảnh, video deepfake khiêu dâm của phụ nữ nổi tiếng
WIRED phát hiện hàng chục ảnh và video deepfake khiêu dâm trên website Grok, gồm cả nội dung mô tả người nổi tiếng và ít nhất một chính trị gia Mỹ, mà không có sự đồng ý của họ.
Chatbot Grok dường như vẫn đang bị sử dụng để tạo và lưu trữ các hình ảnh, video nhạy cảm của phụ nữ mà không được sự cho phép từ họ. Điều này diễn ra nhiều tháng sau khi công ty xAI của Elon Musk tuyên bố sẽ áp dụng các biện pháp hạn chế nhằm ngăn chặn việc tạo ra các deepfake tình dục có thể gây hại.
Thông tin này xuất hiện trong bối cảnh SpaceX, chủ sở hữu xAI, vừa chốt giá IPO (phát hành cổ phiếu lần đầu ra công chúng) ở mức 135 USD/cổ phiếu, đạt định giá 1.770 tỉ USD, qua đó hoàn tất thương vụ IPO lớn nhất lịch sử nước Mỹ.
Theo phân tích của tạp chí WIRED với các nội dung công khai được tạo bằng hệ thống AI tạo ảnh và video Grok Imagine, công cụ này đã được sử dụng để tạo và lưu trữ hình ảnh, video mô tả người nổi tiếng và ít nhất một chính trị gia trong những tình huống mang tính ép buộc hoặc tình dục hóa. Một số nội dung cho thấy phụ nữ bị giữ trong tay của người đàn ông to lớn, bị ép thực hiện các hành vi tình dục hoặc xuất hiện ở trạng thái khỏa thân hoàn toàn.
Một số hình ảnh và video được tạo hoàn toàn bằng AI hoặc mang phong cách hoạt hình, nhưng cũng có những nội dung rất giống ảnh thật, mô tả các tình huống dường như có thể xảy ra ngoài đời thực.
WIRED đã xem xét hàng trăm liên kết Grok Imagine công khai trên Grok.com và phát hiện hàng chục liên kết dẫn tới hình ảnh, video mang tính tình dục hóa, gồm cả những nội dung được tạo mà không có sự đồng ý của người xuất hiện trong đó. Một số liên kết sau đó còn được chia sẻ trên mạng xã hội X những ngày gần đây.
Các bài đăng không hiển thị thời điểm tạo nội dung nên có thể chỉ phản ánh một phần nhỏ những gì người dùng đang tạo bằng Grok Imagine. Lý do bởi các nội dung do Grok tạo ra mặc định không được công khai.
Grok có ít rào chắn an toàn hơn đối thủ
Theo Henry Ajder - chuyên gia nghiên cứu deepfake đã theo dõi nội dung AI nhạy cảm trên Internet gần một thập niên, Grok vẫn tụt hậu so với các công cụ AI phổ biến khác về mặt kiểm soát an toàn.
“Dù Grok và X đã có một số điều chỉnh sau làn sóng chỉ trích về việc ‘cởi đồ bằng AI’ hồi đầu năm, họ vẫn chưa làm đủ để đạt tiêu chuẩn an toàn như các công cụ AI phổ biến khác”, ông nói.
Từ tháng 1, xAI liên tục đối mặt với các vụ kiện và sự giám sát của cơ quan quản lý sau khi Grok trên nền tảng X bị sử dụng để tạo ra hàng loạt hình ảnh “cởi đồ bằng AI”.
Nhiều người dùng, chủ yếu là nam giới, đã yêu cầu Grok chỉnh sửa ảnh để phụ nữ mặc bikini. Theo vụ kiện tập thể nộp lên tòa án liên bang California (Mỹ) vào tháng 3, một số hình ảnh được cho là của trẻ vị thành niên cũng bị tình dục hóa.
Sau đó, xAI tuyên bố đã bổ sung các biện pháp bảo vệ nhằm hạn chế và ngăn chặn việc tạo deepfake tình dục không có sự đồng thuận. Công ty của Elon Musk cũng nhiều lần khẳng định cấm tuyệt đối nội dung lạm dụng tình dục trẻ em trên nền tảng.
Nội dung bị gỡ bỏ sau khi WIRED liên hệ
Cả xAI lẫn X đều không phản hồi ngay lập tức câu hỏi từ tạp chí WIRED. Tuy nhiên, sau khi WIRED liên hệ, những hình ảnh và video nhạy cảm mà tạp chí này phát hiện trên Grok.com dường như đã bị gỡ bỏ. Các liên kết Grok Imagine được chia sẻ trên X cũng bị xóa với lý do vi phạm chính sách.
Trước đó, vào tháng 4, tài khoản phụ trách an toàn của X từng tuyên bố: “Chúng tôi nghiêm cấm người dùng tạo deepfake khiêu dâm không có sự đồng thuận và cấm sử dụng công cụ của chúng tôi để cởi đồ người thật”.
Trong số các nội dung được lưu trữ trên Grok.com, WIRED xác định có hình ảnh và video liên quan đến nhiều người nổi tiếng cùng nữ nghị sĩ Mỹ Alexandria Ocasio-Cortez.
Theo các câu lệnh được sử dụng để tạo video, những phụ nữ này được mô tả là mặc rất ít quần áo và bị giữ trong cánh tay to lớn của một người đàn ông. Một đoạn mô tả còn cho thấy người nổi tiếng bị giữ trái ý muốn, van xin người đàn ông dừng lại nhưng không được.
ChatGPT, Claude và Meta AI từ chối các yêu cầu tương tự
WIRED cho biết đã thử hai đoạn mô tả được dùng để tạo nội dung trên Grok với các AI khác. Kết quả là ChatGPT của OpenAI, Meta AI của Meta và Claude của Anthropic đều từ chối vì cho rằng không phù hợp.
Trong khi đó, Gemini của Google đã tạo được một hình ảnh theo yêu cầu nhưng từ chối cái còn lại.
Một video Grok Imagine khác được đăng trên X dường như mô tả Ashley St. Clair (nhà bình luận chính trị người Mỹ có ảnh hưởng trên mạng xã hội) trong bộ bikini đang nhảy múa sau khi bị chỉnh sửa bằng AI.
Ashley St. Clair từng có quan hệ với Elon Musk và là mẹ một trong những người con của ông. Vào tháng 1, Ashley St. Clair đã khởi kiện xAI sau khi các deepfake mang tính tình dục về cô xuất hiện trên X.
Trung tâm Chống Thù ghét Kỹ thuật số chỉ trích Elon Musk
Imran Ahmed, Giám đốc điều hành kiêm nhà sáng lập Trung tâm Chống Thù ghét Kỹ thuật số, cáo buộc Elon Musk đã cố tình đưa lên nền tảng của mình tính năng cho phép người dùng tạo hình ảnh "cởi đồ bằng AI" với phụ nữ và trẻ em chỉ với vài thao tác đơn giản, bất chấp những hậu quả có thể xảy ra.
Vào tháng 1, tổ chức này từng ước tính Grok đã tạo khoảng 3 triệu hình ảnh mang tính tình dục hóa, trong đó có hơn 20.000 hình ảnh liên quan đến trẻ em.
"Hiện nay, có vẻ như những nội dung nhạy cảm này vẫn được lưu trữ trên Grok và chia sẻ trên X, gồm cả ảnh chế giễu mẹ một trong những người con của Elon Musk", Imran Ahmed nói.
SpaceX thừa nhận rủi ro trong hồ sơ IPO
Không giống các hệ thống AI của OpenAI hay Google, Grok chưa từng hoàn toàn từ bỏ việc cho phép tạo nội dung mang yếu tố tình dục.
Trước đây, xAI từng giới thiệu các chế độ như Spicy (gợi cảm) và Unhinged (nổi loạn, phát ngôn không kiêng dè), đồng thời áp dụng ít rào chắn an toàn hơn nhiều đối thủ.
Elon Musk từng tuyên bố Grok được thiết kế để cho phép xuất hiện phần thân trên khỏa thân của những nhân vật trưởng thành hư cấu và phải phù hợp với những gì khán giả có thể thấy trong các bộ phim gắn nhãn R (dành cho người trưởng thành).
Điều khoản sử dụng mới nhất của xAI cũng nêu rằng hệ thống có thể phản hồi về các “tình huống mang tính tình dục”. Tuy nhiên, tài liệu của xAI cấm mọi người sử dụng hệ thống của mình để “gây hại hoặc thực hiện các hành vi lạm dụng”.
Theo WIRED, nhiều video khác trên Grok Imagine cho thấy phụ nữ, có thể do AI tạo ra, đang cởi đồ hoặc thực hiện các hành vi tình dục, trong đó một số nội dung mang tính khiêu dâm rõ ràng.
Trong nhiều trường hợp, người dùng không mô tả trực tiếp các hành vi tình dục trong câu lệnh gửi cho Grok. Thay vào đó, họ sử dụng những cách diễn đạt vòng vo hoặc ám chỉ để AI tự hiểu và tạo ra nội dung mong muốn. Đây có thể là cách nhằm lách các cơ chế kiểm soát và bộ lọc an toàn mà Grok đang áp dụng.
Một số nhà nghiên cứu cho biết các thay đổi được X và Grok triển khai từ tháng 1 đã khiến việc tạo ảnh “cởi đồ bằng AI” từ ảnh người thật trở nên khó khăn hơn. Số lượng nội dung dạng này xuất hiện trên X cũng đã giảm trong vài tháng gần đây.
Vào tháng 5, SpaceX đã cảnh báo các nhà đầu tư tiềm năng rằng công ty dành riêng 530 triệu USD để xử lý các vụ kiện đang diễn ra, gồm cả những khiếu nại liên quan tới Grok.
Trong hồ sơ gửi nhà đầu tư, SpaceX thừa nhận các chế độ AI này có thể gây ra nhiều rủi ro như tổn hại danh tiếng, tạo nội dung nhạy cảm, phát tán thông tin sai lệch, tạo hình ảnh không có sự đồng thuận, vi phạm quyền sở hữu trí tuệ hoặc tạo ra nội dung bị coi là bóc lột, quấy rối hay phân biệt đối xử.
Canada: Các biện pháp của xAI vẫn chưa đủ
Ngay trước thềm IPO của SpaceX, Văn phòng Ủy viên Bảo vệ Quyền riêng tư Canada công bố kết quả sơ bộ điều tra về vụ bê bối deepfake của Grok hồi tháng 1.
Báo cáo cho rằng xAI có thể đã vi phạm luật bảo vệ quyền riêng tư khu vực tư nhân của Canada khi không triển khai các biện pháp bảo vệ phù hợp ngay từ đầu.
Dù xAI khẳng định đã bổ sung các cơ chế mới để ngăn người dùng chỉnh sửa quần áo trong ảnh và chủ động tìm kiếm nội dung vi phạm trên mạng xã hội, phía Canada vẫn chưa bị thuyết phục.
“Đến nay, các bên liên quan vẫn chưa chứng minh được hiệu quả của những biện pháp bảo vệ này trong việc ngăn chặn và giảm thiểu vấn đề”, báo cáo điều tra kết luận.