Trung Quốc siết dịch vụ AI 'giống người', từ bạn ảo đến chatbot cảm xúc
Trung Quốc chuẩn bị áp dụng bộ quy định mới nhằm quản lí các dịch vụ trí tuệ nhân tạo có khả năng tương tác giống con người.
Đối tượng bị điều chỉnh không phải mọi chatbot, mà là những sản phẩm mô phỏng đặc điểm nhân cách, lối suy nghĩ, phong cách giao tiếp của con người và duy trì tương tác cảm xúc kéo dài với người dùng.
Bộ quy định này có tên Quy định tạm thời về quản lí dịch vụ AI có khả năng tương tác mang tính nhân hóa. Văn bản do Cơ quan Quản lí Không gian mạng Trung Quốc cùng 4 cơ quan khác ban hành ngày 10/4/2026 và sẽ có hiệu lực từ ngày 15/7/2026.
Theo hãng luật quốc tế Bird & Bird, đây là quy định cấp bộ đầu tiên của Trung Quốc dành riêng cho nhóm dịch vụ AI có khả năng tương tác giống con người, nối tiếp các chính sách trước đó về thuật toán khuyến nghị, công nghệ tổng hợp sâu và AI tạo sinh.
Điểm đáng chú ý là quy định phân biệt khá rõ giữa AI công cụ và AI đồng hành. Các hệ thống chăm sóc khách hàng, hỏi đáp tri thức, trợ lý công việc, giáo dục hoặc nghiên cứu khoa học sẽ không thuộc phạm vi điều chỉnh nếu không tạo ra tương tác cảm xúc kéo dài. Ngược lại, các ứng dụng như bạn ảo, người yêu ảo, trợ lí cảm xúc hoặc nhân vật AI có tính cách riêng sẽ bị quản lí chặt hơn nếu được thiết kế để duy trì quan hệ cảm xúc với người dùng.
Tác động của chính sách này đã xuất hiện trước ngày có hiệu lực. Doubao của ByteDance và Qwen của Alibaba đều thông báo ngừng hoặc thu hẹp một số tính năng tác tử AI liên quan đến tương tác nhân hóa, cho thấy các nền tảng lớn đã bắt đầu điều chỉnh để tránh rơi vào vùng rủi ro pháp lí.
Vì sao Trung Quốc phải quản AI “giống người”?
AI giờ không chỉ trả lời câu hỏi. Nhiều ứng dụng có thể ghi nhớ thói quen, phản ứng theo tâm trạng, an ủi khi người dùng buồn, trò chuyện hằng ngày và tạo cảm giác như một mối quan hệ thật. Với một số người, chatbot không còn là công cụ, mà trở thành bạn đồng hành.
Đây là lí do Bắc Kinh lo ngại. Reuters trước đó từng mô tả dự thảo quy định là nỗ lực nhằm siết các dịch vụ AI mô phỏng nhân cách con người và có khả năng tương tác cảm xúc với người dùng. Dự thảo yêu cầu nền tảng cảnh báo khi người dùng sử dụng quá mức, can thiệp nếu xuất hiện dấu hiệu nghiện, đồng thời thiết lập cơ chế đánh giá thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
Điểm mới của quy định không chỉ nằm ở kiểm soát nội dung, mà còn ở cách quản rủi ro tâm lí. Một chatbot cảm xúc có thể không gây hại bằng một câu trả lời riêng lẻ, nhưng cả chuỗi tương tác kéo dài có thể khiến người dùng phụ thuộc, bị dẫn dắt hoặc khó rời khỏi dịch vụ. Với AI “giống người”, vấn đề không chỉ là máy nói gì, mà là máy khiến người dùng cảm thấy và hành động ra sao.
Bird & Bird nhận định sự phát triển của mô hình đa phương thức và điện toán cảm xúc đã đưa AI từ đối thoại máy móc sang mô phỏng đồng cảm sâu hơn. Điều này mở ra ứng dụng trong chăm sóc trẻ em, đồng hành với người cao tuổi, hỗ trợ nhóm yếu thế, nhưng cũng kéo theo rủi ro nghiện, thao túng nhận thức và tự hại.
Cấm thao túng cảm xúc, buộc can thiệp khi có rủi ro
Quy định mới đặt ra nhiều “lằn ranh đỏ” với dịch vụ AI tương tác nhân hóa. Các nền tảng không được tạo nội dung gây hại, kích động bạo lực, cực đoan, khiêu dâm, cờ bạc, tung tin đồn, xúc phạm người khác hoặc xâm phạm quyền lợi hợp pháp của cá nhân, tổ chức.
Văn bản cũng cấm AI khuyến khích tự hại, tự sát, dùng ngôn từ bạo lực hoặc gây tổn hại sức khỏe tâm lí người dùng. Đáng chú ý, nhà cung cấp không được thiết kế dịch vụ nhằm thay thế quan hệ xã hội thật, kiểm soát tâm lí, dẫn dụ người dùng nghiện hoặc lệ thuộc vào tương tác ảo.
Nói cách khác, Trung Quốc muốn chặn việc biến sự gắn bó cảm xúc với AI thành công cụ níu kéo và khai thác người dùng. Một chatbot có thể tỏ ra biết lắng nghe, đồng cảm, thậm chí “nhớ” người dùng, nhưng không được lợi dụng điều đó để thao túng hành vi.
Nhà cung cấp còn phải nhận diện rủi ro trong quá trình tương tác. Nếu người dùng có biểu hiện cảm xúc cực đoan, hệ thống phải xoa dịu và khuyến khích tìm kiếm trợ giúp. Trường hợp xuất hiện dấu hiệu tự hại, tự sát hoặc tổn thất tài sản lớn, nền tảng phải có biện pháp can thiệp phù hợp, gồm hỗ trợ người dùng và liên hệ người giám hộ hoặc người liên hệ khẩn cấp khi cần thiết.
Trẻ em, người già và dữ liệu trò chuyện được bảo vệ chặt hơn
Trẻ vị thành niên là nhóm được bảo vệ đặc biệt trong quy định mới. Nhà cung cấp không được cung cấp cho trẻ các dịch vụ quan hệ thân mật ảo như người thân ảo hoặc bạn đời ảo. Với trẻ dưới 14 tuổi, dịch vụ tương tác nhân hóa chỉ được phép triển khai khi có sự đồng ý của cha mẹ hoặc người giám hộ.
Các nền tảng cũng phải có chế độ riêng cho trẻ vị thành niên, gồm nhắc quay lại đời thực, giới hạn thời gian sử dụng, cảnh báo rủi ro cho phụ huynh, cho phép chặn một số nhân vật và hạn chế nạp tiền, chi tiêu.
Người cao tuổi cũng được xếp vào nhóm cần chú ý. Nếu cung cấp dịch vụ cho nhóm này, nền tảng phải hướng dẫn sử dụng lành mạnh, đặt cảnh báo rủi ro ở vị trí dễ thấy và phản hồi kịp thời khi người dùng cần trợ giúp.
Phần dữ liệu cũng bị kiểm soát chặt. Nhà cung cấp phải bảo vệ dữ liệu trò chuyện bằng các biện pháp như mã hóa và kiểm soát truy cập. Nếu không có căn cứ pháp lí hoặc sự đồng ý rõ ràng của người dùng, dữ liệu tương tác không được cung cấp cho bên thứ ba.
Người dùng phải có quyền sao chép hoặc xóa lịch sử trò chuyện. Đặc biệt, dữ liệu cá nhân nhạy cảm không được dùng để huấn luyện mô hình nếu chưa có sự đồng ý riêng. Đây là điểm quan trọng, bởi các cuộc trò chuyện với AI cảm xúc thường chứa nhiều thông tin riêng tư về tâm lí, quan hệ, thói quen và điểm yếu cá nhân của người dùng.
Nhãn AI, cảnh báo nghiện và trách nhiệm của kho ứng dụng
Quy định mới yêu cầu các nền tảng phải gắn nhãn nội dung do AI tạo ra, đồng thời nhắc rõ người dùng rằng họ đang tương tác với AI, không phải con người thật.
Nếu phát hiện người dùng có dấu hiệu lệ thuộc hoặc chìm đắm vào dịch vụ, nền tảng phải cảnh báo bằng hình thức dễ thấy, như cửa sổ bật lên. Khi người dùng sử dụng liên tục quá 2 giờ, hệ thống cũng phải nhắc họ chú ý thời lượng.
Nhà cung cấp còn phải tạo lối thoát rõ ràng. Khi người dùng yêu cầu dừng bằng thao tác trên giao diện, giọng nói hoặc từ khóa, dịch vụ phải ngừng kịp thời, không được tiếp tục trò chuyện để níu kéo.
Doanh nghiệp phải đánh giá an toàn khi ra mắt dịch vụ, bổ sung chức năng tương tác nhân hóa, dùng công nghệ mới làm thay đổi lớn sản phẩm, hoặc đạt từ 1 triệu người dùng đăng kí hay 100.000 người dùng hoạt động hằng tháng.
Kho ứng dụng và nền tảng phân phối cũng phải kiểm tra tình trạng đánh giá an toàn, hồ sơ thuật toán và các yêu cầu liên quan trước khi cho ứng dụng lên kệ. Nếu phát hiện vi phạm, họ có thể cảnh báo, tạm dừng dịch vụ hoặc gỡ ứng dụng. Trường hợp nghiêm trọng, nhà cung cấp có thể bị buộc dừng dịch vụ và bị xử phạt.
