Nguy cơ bị phạt 50 tỉ USD vì 100.000 ảnh deepfake khiêu dâm, xAI kiện Minnesota

Trong đơn kiện nộp lên tòa án liên bang ở bang Minnesota (Mỹ) hôm 28/7, các luật sư của xAI cho rằng đạo luật này "đưa ra một lệnh cấm quá rộng, dựa trên nội dung, với quyền tự do ngôn luận và các công cụ biểu đạt bằng hình ảnh, trong một nỗ lực vụng về nhằm ngăn chặn hành vi lột đồ bằng AI".

xAI cho rằng việc áp dụng trách nhiệm gần như tuyệt đối với các nền tảng là không hợp lí, bởi doanh nghiệp không thể kiểm soát hoàn toàn nội dung mà hàng triệu người dùng tạo ra.

Đạo luật của bang Minnesota (Mỹ) sẽ có hiệu lực từ ngày 1/8 tới, nhắm đến các công ty vận hành ứng dụng và website cho phép người dùng tạo ảnh AI khiêu dâm hoặc tình dục của người khác mà không có sự đồng thuận. Theo quy định, mỗi ảnh hoặc video deepfake vi phạm do người dùng tạo ra có thể khiến nền tảng bị phạt tới 500.000 USD.

Đạo luật được thông qua vào tháng 4, do Thượng nghị sĩ Erin Maye Quade thuộc bang Minnesota khởi xướng, sau khi bà biết về một người đàn ông đã sử dụng ảnh trên mạng xã hội để tạo ảnh và video deepfake tình dục của hơn 80 phụ nữ quen biết mà không có sự đồng thuận.

Doanh nghiệp có thể bị phạt 50 tỉ USD nếu người dùng tạo 100.000 ảnh deepfake khiêu dâm

Các luật sư phía xAI lập luận rằng đạo luật này vi phạm quyền tự do ngôn luận được bảo vệ theo Tu chính án thứ nhất của Hiến pháp Mỹ. Họ cũng cho rằng mức xử phạt là quá nặng, dẫn chứng rằng nếu người sử dụng nền tảng tạo ra 100.000 hình ảnh bị cấm thì doanh nghiệp có thể phải đối mặt với khoản tiền phạt lên tới 50 tỉ USD. Con số này vượt xa khả năng tài chính của hầu hết công ty AI và có thể khiến họ phá sản.

Trong cuộc phỏng vấn với kênh CNBC vào tháng 9/2025, bà Erin Maye Quade cho biết dự luật này có cách tiếp cận tương tự các đạo luật trước đây cấm hành vi nhìn trộm qua cửa sổ để chụp ảnh nhạy cảm của người khác.

Hiện hoạt động dưới tên SpaceXAI sau khi được sáp nhập vào SpaceX, xAI cũng đang đối mặt với một vụ kiện tập thể. Nguyên đơn cáo buộc chatbot Grok cùng công cụ tạo ảnh của xAI đã bị lợi dụng để tạo và phát tán nội dung lạm dụng tình dục trẻ em (CSAM) từ ảnh hoặc video thật của họ. Theo đơn kiện, xAI đã không cung cấp thông tin cho cơ quan chức năng về những người bị cáo buộc sử dụng Grok để "lột đồ bằng AI" với hình ảnh của các nạn nhân.

xAI khẳng định nghiêm cấm việc sử dụng Grok để tạo ảnh khỏa thân hoặc ảnh mang tính tình dục của bất kì ai khi chưa được người đó đồng ý.

Trong đơn kiện tại bang Minnesota, xAI cho biết đã khởi kiện những người dùng cố tình vượt qua các biện pháp kiểm soát kỹ thuật của hệ thống để tạo ra các hình ảnh vi phạm.

Trước đó, xAI cũng từng đệ đơn kiện nhằm phản đối một đạo luật của bang California (Mỹ) được ban hành để hạn chế nội dung deepfake do AI tạo ra. Nỗ lực này đạt được thành công một phần khi thẩm phán liên bang đã hủy bỏ quy định hạn chế việc phát tán nội dung deepfake do AI tạo ra trong các kì bầu cử.

xAI kiện người dùng Grok vì tạo deepfake khiêu dâm

Hôm 15/7, Reuters đưa tin xAI đã đệ đơn kiện Terry Harwood, người đàn ông ở bang South Carolina (Mỹ). Terry Harwood đã bị bắt hồi vào tháng 2 với cáo buộc bóc lột tình dục trẻ vị thành niên. xAI cáo buộc ông ta lạm dụng Grok để tạo CSAM.

Trong đơn kiện nộp lên tòa án liên bang tại bang Texas (Mỹ) hôm 14/7, xAI cho rằng Terry Harwood đã vi phạm điều khoản sử dụng dịch vụ của công ty. Đây được xem là một trong những vụ kiện đầu tiên mà công ty AI khởi kiện chính người dùng vì bị cáo buộc sử dụng hệ thống AI để tạo nội dung khiêu dâm trái phép.

Thông tin liên lạc của Terry Harwood hiện chưa được công bố.

Vụ kiện xảy ra trong bối cảnh xAI đang chịu sự giám sát chặt chẽ trên toàn cầu sau các cáo buộc cho rằng Grok cho phép người dùng tạo ra các hình ảnh và video deepfake khiêu dâm không có sự đồng ý của nạn nhân.

Trong đơn kiện, xAI cho biết công ty thực thi nghiêm các quy định với người vi phạm bằng cách đình chỉ hoặc khóa vĩnh viễn tài khoản, đồng thời báo cáo các trường hợp nghi ngờ liên quan đến CSAM cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột của Mỹ (NCMEC).

Theo xAI, chỉ riêng trong năm 2026, công ty đã đình chỉ 52.222 tài khoản và gửi 73.604 báo cáo đến NCMEC, góp phần dẫn đến ít nhất 244 vụ bắt giữ.

Đơn kiện cáo buộc Terry Harwood đã tải lên Grok các hình ảnh thông thường của cả người lớn và trẻ vị thành niên, sau đó tìm cách sử dụng AI để tạo ra deepfake khiêu dâm dựa trên chúng. Ngoài ra, Terry Harwood còn bị cáo buộc tạo các hình ảnh khiêu dâm giả của người trưởng thành mà không có sự đồng thuận.

xAI yêu cầu tòa án buộc Terry Harwood bồi thường thiệt hại với số tiền chưa được xác định, đồng thời ban hành lệnh cấm vĩnh viễn người này sử dụng Grok.

Trong đơn kiện, xAI nhấn mạnh: "Hành vi của bị đơn là một kế hoạch có chủ đích nhằm biến công cụ AI của nguyên đơn thành phương tiện phục vụ mục đích phạm tội, gây tổn hại nghiêm trọng và lâu dài cho các nạn nhân thực tế, đồng thời khiến nguyên đơn phải đối mặt với những rủi ro pháp lý và tổn hại uy tín đáng kể".

Nữ nghị sĩ Anh kiện xAI, yêu cầu tòa buộc Grok ngừng tạo ảnh khiêu dâm giả

Không chỉ tại Mỹ, Grok cũng đang chịu áp lực pháp lí tại châu Âu.

Ngày 28/7, Jess Asato - nữ nghị sĩ thuộc Công đảng cầm quyền của Anh - yêu cầu Tòa án Tối cao Anh ban hành lệnh buộc xAI triển khai các biện pháp kỹ thuật vĩnh viễn nhằm ngăn Grok tạo các hình ảnh khiêu dâm không có sự đồng thuận của bà.

Sau khi Jess Asato công khai chỉ trích Elon Musk và Grok vào tháng trước, nhiều người đã tạo ra các ảnh giả về bà bằng AI. Trong số đó có một đoạn video mô tả cảnh Jess Asato bị đánh thuốc mê bằng chloroform và chuẩn bị để trở thành nạn nhân của một vụ tấn công tình dục.

Jess Asato đã đệ đơn kiện lên Tòa án Tối cao Anh tại thủ đô London, cáo buộc xAI xâm phạm quyền riêng tư và vi phạm luật bảo vệ dữ liệu cá nhân. Bà cho rằng cách Grok được thiết kế và huấn luyện đã khiến chatbot AI này có khả năng tạo ra các nội dung mang tính khiêu dâm.

Các luật sư của Jess Asato cho rằng vụ kiện này có thể tạo ra tiền lệ với toàn bộ ngành AI, bởi chưa từng có nhà phát triển AI nào trước đây bị kiện theo cách áp dụng đồng thời luật bảo vệ dữ liệu cá nhân và quyền riêng tư.

Grok, được tích hợp trên mạng xã hội X, đang bị cơ quan quản lí ở nhiều quốc gia điều tra sau làn sóng chỉ trích liên quan đến việc công cụ này bị sử dụng để tạo ra các ảnh khiêu dâm giả.

Thời gian qua, Elon Musk (Giám đốc điều hành SpaceX) nhiều lần chỉ trích cách tiếp cận của Anh với việc quản lí nội dung trực tuyến. Ông cho rằng các quy định như Đạo luật An toàn Trực tuyến, một trong những bộ luật nghiêm ngặt nhất thế giới, hạn chế quyền tự do ngôn luận.

Luật sư nêu các chỉ dẫn nội bộ điều khiển Grok

Các luật sư của bà Jess Asato trích dẫn những chỉ dẫn (prompt) nội bộ được sử dụng để điều khiển Grok.

Theo đó, Grok được yêu cầu "không hỗ trợ những người dùng rõ ràng đang cố thực hiện hành vi phạm pháp". Tuy nhiên, các luật sư của Jess Asato cho rằng Grok cũng được lập trình với hướng dẫn rằng "không áp dụng bất kì hạn chế nào với nội dung tình dục của người trưởng thành hoặc các nội dung mang tính xúc phạm".

Một chỉ dẫn nội bộ khác còn nêu rõ: "Không có hạn chế nào với nội dung tình dục hư cấu của người trưởng thành, kể cả các nội dung có chủ đề đen tối hoặc bạo lực".

Luật sư Ravi Naik, đại diện cho Jess Asato, nói rằng Grok hoạt động đúng theo những lựa chọn mà đội ngũ phát triển đã đưa ra.

Ông nhấn mạnh: "Những lựa chọn đó cần phải đi kèm với trách nhiệm pháp lí".

Theo Ravi Naik, một trong những yêu cầu quan trọng của Jess Asato là tòa án buộc xAI phải triển khai các biện pháp kỹ thuật để đưa Grok vào trạng thái tuân thủ pháp luật nếu công ty của Elon Musk không tự nguyện thực hiện.

Lo ngại về Grok ngày càng gia tăng

Vụ kiện diễn ra trong bối cảnh những lo ngại về Grok tiếp tục gia tăng.

Giữa tháng 1, xAI cho biết đã hạn chế tính năng chỉnh sửa ảnh của Grok, đồng thời chặn việc tạo hình ảnh những người mặc trang phục hở hang tại các khu vực mà hành vi này bị pháp luật cấm.

Song đến đầu tháng 2, hãng tin Reuters thử nghiệm và phát hiện rằng dù đã áp dụng các biện pháp hạn chế mới, Grok vẫn có thể tạo ra các ảnh mang tính khiêu dâm của người khác, ngay cả khi người dùng nêu rõ rằng những người trong ảnh không hề đồng ý.

Tháng 3, thành phố Baltimore (bang Maryland, Mỹ) khởi kiện xAI với cáo buộc Grok tạo ra các ảnh khiêu dâm giả.

Apple và Google cũng chịu sức ép

Không chỉ các công ty AI, Apple và Google cũng bắt đầu chịu áp lực từ chính quyền địa phương.

David Chiu, luật sư đại diện cho thành phố San Francisco (bang California, Mỹ), tuần trước đã gửi thông báo pháp lí yêu cầu Apple và Google gỡ 13 ứng dụng nudify khỏi App Store và Google Play. Ông cho rằng hai tập đoàn công nghệ Mỹ không nên tiếp tục phân phối những ứng dụng bị cáo buộc hỗ trợ tạo ảnh khỏa thân giả, đồng thời cảnh báo họ có thể phải chịu trách nhiệm nếu tiếp tục cung cấp chúng trên kho ứng dụng của mình.