ByteDance và Alibaba phải khai tử tính năng tác tử AI, Trung Quốc lo ngại gì?
Khi các quy định mới của Trung Quốc về dịch vụ AI có khả năng tương tác giống con người bắt đầu có hiệu lực từ ngày 15/7, Doubao cùng Qwen sẽ vô hiệu hóa tính năng cho phép người dùng tự tạo và tùy chỉnh tác tử AI.
Doubao của ByteDance và Qwen của Alibaba - hai ứng dụng AI dành cho người tiêu dùng lớn ở Trung Quốc - đang chuẩn bị vô hiệu hóa tính năng tạo và tùy chỉnh tác tử AI. Động thái này diễn ra trong bối cảnh các quy định mới về dịch vụ AI có khả năng tương tác giống con người sắp có hiệu lực, nằm trong nỗ lực của Trung Quốc nhằm xây dựng khung quản lý toàn diện hơn cho lĩnh vực đang phát triển rất nhanh.
Trong thông báo gửi tới người dùng tối 3/7, Doubao cho biết tính năng tác tử AI sẽ chính thức ngừng hoạt động từ ngày 15/7 do "điều chỉnh chức năng sản phẩm". Sau ngày 15/10,
Sau ngày 15/10, toàn bộ dữ liệu liên quan đến các tác tử AI sẽ được xử lý theo chính sách bảo mật của ByteDance và người dùng sẽ không còn có thể xem hoặc khôi phục trong ứng dụng.
Đến sáng 4/7, Qwen cũng phát đi thông báo tương tự. Theo đó, các tác tử AI có khả năng tương tác giống con người và chức năng tạo tác tử AI của người dùng sẽ bị vô hiệu hóa từ ngày 10/7. Toàn bộ các chức năng và dịch vụ tác tử AI của Qwen sẽ ngừng hoạt động từ ngày 15/7. Sau thời điểm này, người dùng sẽ không còn truy cập được các thiết lập của tác tử AI cũng như những cuộc trò chuyện trước đó.
Trước đây, cả Doubao và Qwen đều cung cấp một kho tác tử AI do chính công ty và người dùng tạo ra. Các tác tử này có thể được tùy chỉnh cho những nhiệm vụ, kỹ năng và phong cách giao tiếp khác nhau. Người dùng từng có thể tự tạo một tác tử AI riêng, biến chatbot đa năng thành trợ lý cá nhân, gia sư, nhân vật nhập vai hoặc bạn đồng hành với tên gọi, tính cách và giọng điệu riêng.
Quy định mới của Trung Quốc siết AI tương tác cảm xúc với con người
Thời điểm các tính năng này bị gỡ bỏ trùng với lúc Quy định tạm thời về quản lý dịch vụ AI có khả năng tương tác mang tính nhân hóa chính thức có hiệu lực từ ngày 15/7. Bộ quy định này được ban hành từ tháng 4, áp dụng với các dịch vụ AI có khả năng mô phỏng đặc điểm tính cách, cách tư duy và phong cách giao tiếp của con người nhằm tạo ra sự tương tác cảm xúc kéo dài với người dùng.
Tuy nhiên, quy định không áp dụng với chatbot chăm sóc khách hàng, hệ thống hỏi đáp tri thức, trợ lý công việc, công cụ giáo dục hay nghiên cứu khoa học, miễn là các dịch vụ này không hướng tới việc duy trì mối quan hệ tương tác cảm xúc lâu dài.
Theo cơ quan quản lý Trung Quốc, các rủi ro của AI mang tính nhân hóa bao gồm việc lan truyền tư tưởng cực đoan, làm rò rỉ quyền riêng tư, gây ảnh hưởng đến sức khỏe thể chất và tinh thần, cũng như khiến người dùng phụ thuộc hoặc nghiện AI.
ByteDance và Alibaba vẫn chưa phản hồi khi được đề nghị bình luận về vấn đề trên.
Vào tháng 6, Tencent cũng đã gỡ bỏ tính năng tương tự khỏi ứng dụng trợ lý AI dành cho người tiêu dùng Yuanbao.
Ông Pan Helin, thành viên Ủy ban chuyên gia thuộc Bộ Công nghiệp và Công nghệ Thông tin Trung Quốc, cho rằng việc sử dụng các tác tử AI hiện vẫn đòi hỏi người dùng phải có một mức độ hiểu biết nhất định, trang SCMP đưa tin. Theo ông, công nghệ tác tử AI hiện nay vẫn chưa thực sự trưởng thành.
Trung Quốc kiểm soát các tác tử AI đóng vai trò bạn đồng hành, người dùng lên tiếng
Các cơ quan quản lý Trung Quốc đang dành nhiều sự quan tâm hơn đến tác tử AI khi công nghệ này đã vượt xa mô hình chatbot truyền thống để phát triển thành hệ thống có khả năng ghi nhớ, lập kế hoạch, gọi công cụ bên ngoài và tự thực hiện nhiệm vụ.
Vào tháng 5, các cơ quan quản lý Trung Quốc đã ban hành hướng dẫn về việc phát triển có kiểm soát với tác tử AI. Văn bản này công nhận tác tử AI là một dạng sản phẩm và dịch vụ AI quan trọng, đồng thời yêu cầu phải có các biện pháp bảo đảm an toàn, cơ chế kiểm soát và định hướng ứng dụng thực tế.
Theo ông Pan Helin, chính sách hiện nay của Trung Quốc tập trung vào ba ưu tiên chính là an toàn, tính ứng dụng thực tế và tiêu chuẩn hóa.
Đến tháng 6, Trung Quốc tiếp tục công bố một loạt tiêu chuẩn quốc gia về khả năng kết nối giữa các tác tử AI. Các tiêu chuẩn này bao gồm kiến trúc hệ thống, mã định danh, quản lý danh tính, mô tả tác tử AI, cơ chế khám phá, tương tác và sử dụng công cụ. Điều đó cho thấy Trung Quốc muốn mọi tác tử AI đều có thể được định danh, cấp quyền, kết nối và truy vết.
Nhìn tổng thể, các biện pháp trên cho thấy Trung Quốc vẫn muốn thúc đẩy phát triển tác tử AI như một hạ tầng phục vụ năng suất lao động và hoạt động sản xuất. Tuy nhiên, Trung Quốc sẽ siết chặt kiểm soát với các tác tử AI đóng vai trò bạn đồng hành, có khả năng hình thành mối quan hệ cảm xúc hoặc quan hệ xã hội giả lập với người dùng.
Việc các tính năng này bị gỡ bỏ đột ngột đã vấp phải phản ứng từ một bộ phận người dùng.
"Tại sao lại xóa các tác tử AI? Chúng đã trở thành chỗ dựa tinh thần của chúng tôi suốt một thời gian dài", một người dùng Weibo có tài khoản Tuxiaoxiao viết, đồng thời gắn thẻ tài khoản chính thức của Doubao.
"Có quá nhiều đoạn hội thoại và quá nhiều cảm xúc được tích lũy trong suốt thời gian dài như vậy", người này cho biết thêm và thời phàn nàn rằng ứng dụng không cung cấp cách thức thuận tiện để xuất hoặc chuyển toàn bộ dữ liệu trò chuyện sang nơi khác.