Grok giới hạn tạo ảnh trên X, chỉ dành cho người trả phí, sau khi nội dung khiêu dâm tràn lan
xAI giới hạn tính năng tạo ảnh của chatbot Grok trên mạng xã hội X chỉ dành cho người đăng ký trả phí.
Động thái này diễn ra sau khi Grok bị lạm dụng để tạo ảnh AI khiêu dâm tràn lan trên X, theo yêu cầu từ người dùng. Và, gây ra phản ứng dữ dội của cơ quan quản lý từ châu Âu đến châu Á.
Trước đó, tính năng tạo ảnh của Grok cho phép người dùng trên X chỉnh sửa hoặc tạo các ảnh mang tính gợi dục. Hãng tin Reuters phát hiện rằng chatbot AI của xAI đã được sử dụng để tạo ảnh phụ nữ và trẻ em mặc đồ hở hang, thường không có sự đồng ý từ nhân vật chính.
Một lượng lớn ảnh khiêu dâm xuất hiện trên X đã khiến các nhà làm luật châu Âu kêu gọi hành động pháp lý, trong đó Bộ trưởng Truyền thông Đức Wolfram Weimer mô tả đây là “công nghiệp hóa quấy rối tình dục” và Ủy ban châu Âu gọi chúng là bất hợp pháp.
Hôm 9.1, Grok thông báo với người dùng X rằng các tính năng tạo và chỉnh sửa ảnh giờ chỉ dành cho người đăng ký trả phí.
Một nữ phóng viên Reuters thử yêu cầu Grok trên X biến ảnh của chính mình thành mặc bikini - yêu cầu phổ biến trong tuần vừa qua từ người dùng. Tuy nhiên, Grok từ chối và trả lời rằng tính năng này chỉ dành cho người đăng ký trả phí trên mạng xã hội thuộc sở hữu của Elon Musk.
Ứng dụng Grok độc lập, hoạt động riêng biệt với X, vẫn cho phép người dùng tạo ảnh mà không cần đăng ký trả phí, nhưng hạn chế ảnh hở hang quá mức.
Trước đó, Ủy ban châu Âu cho biết những hình ảnh như vậy lưu hành trên X là bất hợp pháp và gây kinh hoàng. Trong khi Anh cho biết đã yêu cầu X giải thích cách tuân thủ luật bảo vệ dữ liệu, sau khi có lo ngại rằng Grok đang tạo ra các hình ảnh lạm dụng tình dục phụ nữ.
Tuần trước, Elon Musk nói rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả giống như việc họ tự tải trực tiếp nội dung đó lên.
Hôm 2.1, xAI cho biết đang khắc phục các lỗ hổng bảo mật sau các trường hợp riêng lẻ tạo ra nội dung mang tính gợi dục, gồm cả ảnh trẻ vị thành niên mặc đồ hở hang.
Grok đối mặt với sự giám sát ở nhiều nơi
Các chính phủ cùng cơ quan quản lý từ châu Âu đến châu Á đã lên án, thậm chí mở điều tra về nội dung khiêu dâm do Grok tạo ra trên X, gây áp lực buộc nền tảng này phải chứng minh cách ngăn chặn và gỡ bỏ nội dung bất hợp pháp.
Dưới đây là một số phản ứng từ chính phủ và cơ quan quản lý trên thế giới:
Châu Âu
Ngày 8.1, Ủy ban châu Âu đã gia hạn lệnh yêu cầu X giữ lại và bảo toàn tất cả nội dung, dữ liệu nội bộ liên quan đến Grok cho đến cuối năm 2026, do lo ngại về các ảnh mang khiêu dâm mà chatbot AI này tạo ra.
Cơ quan quản lý truyền thông Anh (Ofcom) hôm 5.1 cho biết đã liên hệ khẩn cấp với X cùng xAI và sẽ đánh giá nhanh chóng liệu dịch vụ có thực hiện đúng nghĩa vụ pháp lý bảo vệ người dùng theo khuôn khổ Đạo luật An toàn Trực tuyến của Vương quốc Anh hay không.
Ở Pháp, các bộ trưởng chính phủ ngày 2.1 nói đã chuyển nội dung khiêu dâm do Grok tạo ra trên X đến công tố viên và cũng thông báo cho Cơ quan quản lý truyền thông Pháp (Arcom) kiểm tra việc nền tảng này có tuân thủ Đạo luật Dịch vụ Kỹ thuật số của EU hay không.
Bộ trưởng Truyền thông Đức Wolfram Weimer kêu gọi Ủy ban châu Âu hành động pháp lý, cho rằng quy định của EU cung cấp công cụ để xử lý nội dung bất hợp pháp và vấn đề này có nguy cơ trở thành “công nghiệp hóa quấy rối tình dục”.
Hôm 8.1, Cơ quan bảo vệ dữ liệu Ý cảnh báo rằng việc sử dụng AI tạo ảnh deepfake “cởi đồ” của người thật mà không có sự đồng ý, có thể cấu thành hành vi vi phạm quyền riêng tư nghiêm trọng và trong một số trường hợp là tội hình sự.
Các nhà lãnh đạo chính trị Thụy Điển lên án nội dung mang tính gợi dục do Grok tạo ra sau khi có báo cáo rằng hình ảnh liên quan đến nữ phó thủ tướng Thụy Điển được tạo từ yêu cầu của người dùng.
Châu Á
Bộ Công nghệ Thông tin Ấn Độ ngày 2.1 gửi thông báo chính thức đến X về việc Grok bị cáo buộc tạo hoặc chia sẻ hình ảnh khiêu dâm, yêu cầu gỡ bỏ nội dung và báo cáo trong vòng 72 giờ về các biện pháp đã thực hiện.
Ngày 3.1, Cơ quan quản lý truyền thông Malaysia (MCMC) cho biết sẽ triệu tập X và mở cuộc điều tra về việc Grok bị cáo buộc sử dụng để tạo nội dung khiêu dâm, đồng thời cảnh báo rằng hành vi này có thể vi phạm Điều 233 của Đạo luật Truyền thông và Đa phương tiện Malaysia 1998.
Châu Đại Dương
Cơ quan quản lý an toàn trực tuyến Úc (eSafety) đã điều tra ảnh deepfake mang tính gợi dục do Grok tạo ra. eSafety đánh giá nội dung dành cho người lớn theo chương trình lạm dụng hình ảnh, và lưu ý rằng các ví dụ liên quan đến trẻ em mà họ đã xem xét hiện chưa đủ nghiêm trọng để bị coi là phạm pháp theo luật Úc.