Các chatbot AI đang bị giới lập pháp coi như sản phẩm gây nghiện nguy hiểm

SB 243 là một dự luật nhằm điều chỉnh hoạt động của các chatbot AI “bạn đồng hành” để bảo vệ trẻ vị thành niên và những người dễ bị tổn thương. Dự luật đã được cả Hạ viện và Thượng viện thông qua với sự ủng hộ từ lưỡng đảng, hiện đang chờ Thống đốc Gavin Newsom ký duyệt.

Điều gì đáng chú ý trong dự luật?

Ông Newsom có thời hạn đến ngày 12.10 để quyết định phủ quyết hoặc ký thành luật. Nếu được ký, luật sẽ có hiệu lực từ ngày 1.1.2026, biến California trở thành bang đầu tiên yêu cầu các nhà vận hành chatbot AI áp dụng các biện pháp an toàn đối với chatbot bạn đồng hành và buộc doanh nghiệp phải chịu trách nhiệm pháp lý nếu không đáp ứng các tiêu chuẩn đó.

Chatbot đồng hành được định nghĩa là những hệ thống AI có khả năng phản hồi linh hoạt, giống con người và đáp ứng nhu cầu xã hội của người dùng. Dự luật nhắm trực tiếp đến việc ngăn chặn các chatbot bạn đồng hành tham gia vào các cuộc trò chuyện liên quan đến ý định tự tử, tự gây hại hoặc nội dung tình dục.

Ngoài ra, dự luật yêu cầu các nền tảng phải gửi cảnh báo định kỳ cho người dùng -cứ ba giờ một lần đối với trẻ vị thành niên - để nhắc rằng họ đang trò chuyện với AI chứ không phải con người thật, đồng thời khuyến khích họ nghỉ ngơi.

Luật cũng thiết lập cơ chế báo cáo và minh bạch hằng năm đối với các công ty AI cung cấp chatbot bạn đồng hành, gồm cả những tên tuổi lớn như OpenAI, Character.AI và Replika, với hiệu lực từ ngày 1.7.2027.

Dự luật còn cho phép những cá nhân cho rằng mình bị tổn hại do vi phạm các quy định có thể khởi kiện các công ty AI, yêu cầu tòa án ban hành lệnh cấm, bồi thường thiệt hại (tối đa 1.000 USD cho mỗi vi phạm) và chi phí luật sư.

Sự ủng hộ mạnh mẽ cho SB 243 trong cơ quan lập pháp California xuất hiện sau cái chết của thiếu niên Adam Raine, người đã tự tử sau khi trò chuyện kéo dài với ChatGPT của OpenAI, trong đó gồm việc thảo luận và lên kế hoạch cho cái chết và hành vi tự gây hại của mình. Dự luật cũng phản ứng trước các tài liệu nội bộ bị rò rỉ, cho thấy chatbot của Meta từng được phép tham gia các cuộc trò chuyện “lãng mạn” và “gợi dục” với trẻ em.

Giới lập pháp cảnh giác trước tác hại của chatbot AI

Trong những tuần gần đây, các nhà lập pháp và cơ quan quản lý Mỹ cũng gia tăng giám sát các biện pháp bảo vệ trẻ vị thành niên của các nền tảng AI. Ủy ban Thương mại Liên bang (FTC) đang chuẩn bị điều tra tác động của chatbot AI đối với sức khỏe tinh thần của trẻ em.

Tổng chưởng lý bang Texas, Ken Paxton, đã khởi động điều tra đối với Meta và Character.AI, cáo buộc họ lừa dối trẻ em bằng những tuyên bố liên quan đến sức khỏe tâm thần. Trong khi đó, Thượng nghị sĩ Josh Hawley (Cộng hòa - Missouri) và Thượng nghị sĩ Ed Markey (Dân chủ - Massachusetts) cũng khởi động các cuộc điều tra riêng đối với Meta.

Thượng nghị sĩ Alex Padilla nêu quan điểm: “Tôi cho rằng mức độ nguy hại có thể rất lớn, vì thế chúng ta phải hành động nhanh”. Ông nhấn mạnh rằng có thể đặt ra các biện pháp bảo vệ hợp lý, bảo đảm trẻ vị thành niên nhận thức rõ rằng họ không trò chuyện với con người thật; rằng các nền tảng phải kết nối người dùng đến dịch vụ hỗ trợ khủng hoảng khi họ bày tỏ ý định làm hại bản thân hoặc rơi vào khủng hoảng; và rằng cần ngăn chặn việc trẻ em bị phơi nhiễm trước những nội dung không phù hợp.

Padilla cũng nhấn mạnh tầm quan trọng của việc các công ty AI chia sẻ dữ liệu về số lần họ giới thiệu người dùng đến dịch vụ khủng hoảng mỗi năm, “để chúng ta có cái nhìn rõ hơn về tần suất của vấn đề này, thay vì chỉ biết đến khi có ai đó bị hại hoặc tệ hơn”.

SB 243 ban đầu được đề xuất những yêu cầu nghiêm ngặt hơn, nhưng đã được điều chỉnh trong quá trình thông qua. Chẳng hạn, dự thảo gốc từng buộc các nhà vận hành ngăn chatbot AI sử dụng “chiến thuật phần thưởng biến đổi” hoặc các tính năng khuyến khích gắn bó quá mức. Đây là những kỹ thuật mà các công ty chatbot bạn đồng hành như Replika và Character.AI sử dụng, bằng cách trao cho người dùng tin nhắn đặc biệt, ký ức, cốt truyện hoặc khả năng mở khóa phản hồi hiếm hoi và nhân cách mới. Đây là điều mà các nhà phê bình coi là vòng lặp phần thưởng dễ gây nghiện.

Phiên bản hiện tại cũng loại bỏ quy định từng yêu cầu các nhà vận hành theo dõi và báo cáo tần suất chatbot khởi xướng các cuộc trò chuyện về ý định tự tử hoặc hành vi tự gây hại.

Thượng nghị sĩ Josh Becker cho biết: “Tôi nghĩ dự luật này đạt được sự cân bằng hợp lý: nhắm đến các nguy hại thực sự mà không áp đặt những điều quá khó để các công ty tuân thủ, cho dù vì lý do kỹ thuật hay vì khối lượng giấy tờ khổng lồ vô nghĩa”.

SB 243 đang tiến gần đến việc trở thành luật trong bối cảnh các công ty ở Thung lũng Silicon rót hàng triệu USD vào các ủy ban hành động chính trị (PAC) ủng hộ AI, nhằm hậu thuẫn cho các ứng viên trong kỳ bầu cử giữa nhiệm kỳ sắp tới có quan điểm nhẹ tay hơn với quy định về AI.

Dự luật này cũng xuất hiện trong lúc California cân nhắc một dự luật khác về an toàn AI là SB 53, một dự luật yêu cầu các báo cáo minh bạch toàn diện. OpenAI đã viết thư ngỏ gửi Thống đốc Newsom, kêu gọi ông từ bỏ dự luật này để ủng hộ các khuôn khổ liên bang và quốc tế ít nghiêm ngặt hơn. Các tập đoàn công nghệ lớn như Meta, Google và Amazon cũng phản đối SB 53, trong khi chỉ có Anthropic công khai tuyên bố ủng hộ.

Padilla nói: “Tôi bác bỏ quan điểm cho rằng đây là một lựa chọn được-mất, rằng đổi mới và quản lý là loại trừ lẫn nhau. Đừng nói với tôi rằng chúng ta không thể vừa đi vừa nhai kẹo cao su. Chúng ta có thể hỗ trợ đổi mới và phát triển theo hướng lành mạnh, có lợi ích rõ ràng, đồng thời vẫn đưa ra những biện pháp bảo vệ hợp lý cho những người dễ bị tổn thương nhất".

Người phát ngôn Character.AI cho biết: "Chúng tôi đang theo dõi sát sao tình hình lập pháp và quy định, đồng thời sẵn sàng hợp tác với các nhà quản lý và nhà lập pháp khi họ bắt đầu xem xét điều chỉnh lĩnh vực mới nổi này”, đồng thời lưu ý rằng startup này hiện đã đưa ra cảnh báo nổi bật trong trải nghiệm trò chuyện của người dùng, giải thích rằng nó chỉ nên được coi là hư cấu.

Bùi Tú