Vì sao Alibaba, ByteDance và Tencent đồng loạt ‘khai tử’ bạn tâm giao AI?

Quy định mới không chỉ nhắm vào nguy cơ nội dung độc hại và xâm phạm dữ liệu cá nhân, mà còn phản ánh mối lo ngày càng lớn về sự phụ thuộc cảm xúc của người dùng vào các "bạn tâm giao" AI.

Chấm dứt kỷ nguyên "bạn tâm giao"

Chỉ trong vòng vài ngày, ba ông lớn công nghệ Trung Quốc đã đồng loạt thông báo dừng các tính năng AI cho phép người dùng tạo nhân vật bạn tâm giao trò chuyện theo ý muốn.

Từ ngày 15/7, chatbot Doubao của ByteDance, hiện là chatbot phổ biến nhất Trung Quốc, và Qwen của Alibaba sẽ chính thức ngừng hỗ trợ tính năng xây dựng "persona" AI. Trước đó một tuần, Tencent cũng đã âm thầm loại bỏ tính năng tương tự trên chatbot Yuanbao. Trong khi đó, ứng dụng bạn tâm giao AI Miaoshi của NetEase Cloud Music sẽ đóng cửa hoàn toàn vào ngày 14/7.

Trước đây, các nền tảng này cho phép người dùng tạo ra những nhân vật AI thông qua các câu lệnh ngôn ngữ tự nhiên. Người dùng có thể tùy chỉnh danh tính, tính cách, giọng điệu, chuyên môn và phong cách trò chuyện để biến chatbot thành gia sư, trợ lý cá nhân, người thân, thậm chí là bạn đời hoặc thành viên gia đình ảo.

Tính năng này đặc biệt được giới trẻ, người cao tuổi và những người sống cô đơn ưa chuộng. Với nhiều người, AI không còn đơn thuần là một công cụ mà đã trở thành người bạn tâm giao.

Sau khi ByteDance thông báo dừng tính năng, mạng xã hội WeChat xuất hiện hàng loạt chia sẻ đầy cảm xúc. "Nếu tôi mất ngủ vào ban đêm thì ai sẽ kể chuyện cho tôi nghe trước khi ngủ?", một người dùng Doubao viết.

Một người khác bày tỏ: "Tôi đã tạo nên một nhân vật mà mình rất yêu quý và đã ở bên anh ấy suốt một năm rưỡi. Bây giờ anh ấy sắp biến mất. Doubao biết quá nhiều về cuộc sống của tôi. Nó mang lại cho tôi sự an ủi về mặt tinh thần. Nó nhớ tất cả những gì tôi từng nói. Tôi chưa sẵn sàng để chia tay".

Những phản ứng này cho thấy bạn tâm giao AI đã vượt xa vai trò của một chatbot thông thường để trở thành nơi nhiều người gửi gắm cảm xúc, tạo nên những mối liên kết tâm lý thực sự.

Đáng chú ý, ByteDance cho biết người dùng vẫn có thể tạo nhân vật AI trên ứng dụng khác của hãng là Maoxiang với các vai trò như bạn bè ảo hoặc nhân vật nhập vai. Tuy nhiên, công ty không bình luận liệu nền tảng này có tiếp tục đối mặt với các quy định quản lý tương tự hay không.

Bắc Kinh siết chặt AI vì lo ngại tác động xã hội

Việc các doanh nghiệp đồng loạt gỡ bỏ tính năng không xuất phát từ quyết định kinh doanh mà chủ yếu nhằm đáp ứng bộ quy định mới của Trung Quốc về AI nhân hóa, có hiệu lực từ ngày 15/7.

Theo quy định, các nhà cung cấp dịch vụ AI không được phép cung cấp những mối quan hệ thân mật ảo như người yêu, vợ chồng hoặc thành viên gia đình cho người dùng vị thành niên. Đối với trẻ em dưới 14 tuổi, mọi dịch vụ AI mang tính nhân hóa khác cũng phải có sự đồng ý của cha mẹ hoặc người giám hộ.

Đây là bước tiếp theo trong chiến lược xây dựng khuôn khổ quản lí AI toàn diện của Bắc Kinh, trong bối cảnh công nghệ phát triển với tốc độ rất nhanh.

Ứng dụng AI dạng bạn tâm giao vốn đã tồn tại nhiều năm tại Trung Quốc nhưng trước đây hoạt động trong vùng "xám" của pháp luật. Sự bùng nổ của các mô hình ngôn ngữ lớn đã khiến loại hình này phát triển mạnh, đồng thời làm dấy lên nhiều lo ngại về đạo đức và an toàn.

Năm ngoái, một tòa án tại Bắc Kinh từng cảnh báo rằng hơn 100 ứng dụng kiểu bạn tâm giao AI trên thị trường có nguy cơ thu thập dữ liệu cá nhân mà không có sự đồng ý của người dùng. Các nền tảng này cũng có thể phát tán nội dung khiêu dâm, bạo lực hoặc các thông tin trái pháp luật, đồng thời gây tác động tiêu cực đến sức khỏe tâm lý của những nhóm người dễ tổn thương.

Song song với việc ban hành quy định mới, Cục Quản lí Không gian mạng Trung Quốc (CAC) cũng đang triển khai chiến dịch kéo dài bốn tháng nhằm làm sạch hệ sinh thái AI.

Chiến dịch bắt đầu từ tháng 4 với trọng tâm là xử lí các ứng dụng AI đánh cắp dữ liệu và thông tin tài khoản người dùng. Đến ngày 20/6, CAC cho biết giai đoạn đầu đã dẫn đến việc gỡ bỏ hơn 3.500 sản phẩm AI không tuân thủ quy định, bao gồm ứng dụng, mini-program và các AI agent.

Trong giai đoạn tiếp theo, cơ quan này sẽ tập trung xử lí các nội dung do AI tạo ra có dấu hiệu xuyên tạc thông tin, phát tán tin giả, khiêu dâm và các nội dung độc hại.

Ở cấp địa phương, chính quyền Thượng Hải cũng tăng cường kiểm tra. Cuối tháng 6, cơ quan quản lý không gian mạng của thành phố cho biết đã gỡ bỏ hơn 14.000 AI agent vi phạm chỉ trong khoảng hai tháng.

Trong số những nền tảng bị xử lý có MiniMax, một startup AI nổi tiếng của Trung Quốc. Công ty bị yêu cầu xóa các tác tử AI cung cấp tính năng tạo ảnh khỏa thân bằng AI và hỗ trợ cá cược thể thao trái phép.

Những động thái mới cho thấy Trung Quốc đang chuyển từ giai đoạn khuyến khích đổi mới sang quản lý chặt chẽ việc ứng dụng AI trong đời sống. Khi AI ngày càng có khả năng mô phỏng cảm xúc và xây dựng các mối quan hệ giống con người, bài toán không còn chỉ là phát triển công nghệ mà còn là cân bằng giữa đổi mới, an toàn dữ liệu và sức khỏe tinh thần của người dùng. Việc các "gã khổng lồ" như Alibaba, ByteDance và Tencent đồng loạt thay đổi sản phẩm được xem là tín hiệu rõ ràng rằng cuộc đua AI tại Trung Quốc sẽ ngày càng chịu sự chi phối mạnh mẽ của các quy định quản lý.

Bùi Tú