Cảnh sát Trung Quốc cảnh báo tin đồn thất thiệt và lừa đảo liên quan ChatGPT

Đây là một trong những bình luận đầu tiên mà bộ máy an ninh Trung Quốc đưa ra về chatbot AI của OpenAI đang lan truyền.

“ChatGPT thú vị và đã lan truyền gần đây, nhưng hãy cẩn thận rằng những kẻ xấu có thể sử dụng điều này để phạm tội và lan truyền tin đồn. Các viện nghiên cứu đã thử nghiệm và phát hiện ra rằng khi được hỏi những câu hỏi liên quan đến âm mưu và gây hiểu lầm, ChatGPT có thể nhanh chóng tạo ra thông tin hấp dẫn mà không trích dẫn nguồn”, một bài đăng trên tài khoản WeChat chính thức của Cục Công an thành phố Bắc Kinh cho biết.

Bài đăng không đưa ra bất kỳ ví dụ cụ thể nào về những tin đồn mà cảnh sát lo ngại.

Tại thành phố Hàng Châu thuộc tỉnh Chiết Giang (Trung Quốc), ChatGPT đã bị đổ lỗi cho việc truyền bá thông tin sai lệch.

Hôm 17.2, một cơ quan truyền thông nhà nước có trụ sở tại Chiết Giang công bố trường hợp liên quan đến một cư dân Hàng Châu đã sử dụng ChatGPT để tạo bài đăng giống như một thông báo từ chính quyền thành phố, nói rằng họ sẽ dỡ bỏ các hạn chế lái xe dựa trên biển số, biện pháp mà nhiều thành phố ở Trung Quốc đã thực hiện để giảm tắc nghẽn giao thông.

Báo cáo cho biết người dân thấy thông báo của ChatGPT rất thú vị và sau đó chia sẻ nó trong nhiều nhóm mạng xã hội.

Theo một ảnh chụp màn hình được công bố cùng với báo cáo, người này đã xin lỗi các thành viên khác trong nhóm WeChat và nói: “Tôi nhận ra hành động của mình đã gây bất tiện cho chính quyền”.

Theo The Paper, hãng tin có trụ sở tại thành phố Thượng Hải, cảnh sát ở Hàng Châu đang điều tra vụ việc.

ChatGPT đã gây bão trên toàn thế giới, châm ngòi cho một cuộc đua AI toàn cầu khi các hãng công nghệ Trung Quốc đổ xô xây dựng và tung ra các phiên bản ChatGPT của riêng họ.

Những người trong ngành công nghệ cho biết sẽ rất khó để xây dựng phiên bản tiếng Trung của ChatGPT vì sẽ yêu cầu nhiều lớp lọc và xử lý văn bản mà nó tạo ra để vượt qua cơ quan kiểm duyệt internet ở Trung Quốc.

Họ cho biết việc đào tạo một mô hình AI của Trung Quốc cũng sẽ khó khăn hơn vì hệ sinh thái nguồn mở và dữ liệu liên quan bằng ngôn ngữ này ít rộng rãi hơn so với những mô hình được dùng bởi mô hình của Mỹ.

Trung Quốc đã xây dựng một hệ thống tinh vi để kiểm soát thông tin trực tuyến và thường xuyên tiến hành các chiến dịch làm sạch thông tin được cho là không mong muốn.

Hôm 15.2, hãng thông tấn Tân Hoa Xã đưa tin Trung Quốc sẽ tiếp tục chiến dịch “làm sạch” nội dung trực tuyến và thông tin không được phép. Chiến dịch bắt đầu vào năm 2022 và các mục tiêu của nó bao gồm các phương tiện truyền thông nước ngoài và báo chí công dân.

Không rõ các cơ quan quản lý nội dung và bộ máy bảo mật của Trung Quốc có chính sách gì để xử lý ChatGPT. Do công ty khởi nghiệp OpenAI (Mỹ) phát hành, ChatGPT hạn chế quyền truy cập của người dùng ở một số quốc gia và khu vực, gồm cả Trung Quốc đại lục và Hồng Kông. Chỉ có thể truy cập được chatbot này ở Trung Quốc thông qua mạng riêng ảo (VPN).

Giống như hầu hết sản phẩm internet không thuộc Trung Quốc, ChatGPT không điều chỉnh các cuộc thảo luận chính trị theo quan điểm của Bắc Kinh.

Tuần trước, nền tảng thương mại điện tử Taobao, thuộc sở hữu của tập đoàn Alibaba, vẫn có hàng trăm danh sách các dịch vụ giúp người dùng Trung Quốc truy cập tài khoản ChatGPT. Các bài đăng tương tự cũng có thể được tìm thấy trên siêu ứng dụng WeChat của Tencent. Tuy nhiên kể từ ngày 10.2, những danh sách đó trên cả hai nền tảng đã bị xóa, theo trang SCMP.

Trước đây, WeChat có một số chương trình nhỏ được đặt tên theo ChatGPT và cung cấp bản dùng thử.

Cả Alibaba và Tencent không phản hồi câu hỏi về chính sách của họ với các sản phẩm liên quan đến ChatGPT.

Cảnh sát Bắc Kinh cảnh báo rằng OpenAI không cung cấp bất kỳ dịch vụ nào hoặc ủy quyền cho bất kỳ công ty nào vận hành ChatGPT ở Trung Quốc. Họ cảnh báo công chúng nên hết sức thận trọng vì chatbot này có thể mang thông tin sai lệch và gây mối lo ngại về an ninh quốc gia.

Cảnh sát Bắc Kinh cho biết ngày càng có nhiều sản phẩm kỹ thuật số ở Trung Quốc bắt chước ChatGPT, dụ người dùng sử dụng dịch vụ rồi tính phí cao, trong khi các vụ lừa đảo khác liên quan đến tội phạm nước ngoài sử dụng AI để tạo email lừa đảo nhằm gây hại cho người dùng Trung Quốc.

Gấp rút ra mắt dịch vụ như ChatGPT, các công ty Trung Quốc chú ý chính sách kiểm duyệt nghiêm ngặt

Các hãng công nghệ Trung Quốc đang chú ý đến chính sách kiểm duyệt trực tuyến nghiêm ngặt của đất nước khi gấp rút phát triển và trình làng các phiên bản ChatGPT riêng.

“Ở Trung Quốc khác với nước ngoài. Chúng tôi cần nhiều lớp lọc và xử lý hơn về mặt đánh giá văn bản”, Bright Xu Liang, người sáng lập và Giám đốc điều hành công ty khởi nghiệp trí tuệ nhân tạo (AI) Yuanyu Intelligent có trụ sở tại thành phố Hàng Châu (Trung Quốc), nói với trang SCMP.

Được thành lập năm ngoái, Yuanyu Intelligent vào tháng 1.2023 đã ra mắt ChatYuan, kèm quảng cáo đây là generative AI thế hệ đầu tiên được đào tạo bởi các mô hình nói tiếng Trung, trước cả Ernie Bot của Baidu. Generative AI đề cập đến các thuật toán có thể được sử dụng để tạo nội dung mới, bao gồm văn bản, âm thanh, hình ảnh, video và mô phỏng.

ChatYuan chạy dưới dạng một chương trình nhỏ trên siêu ứng dụng WeChat của Tencent Holdings, nơi người dùng truy cập công nghệ mà không cần tải xuống phần mềm riêng biệt.

Hoạt động của ChatYuan gần đây đã bị tạm dừng để cập nhật bảo trì, nhưng nó dự kiến sẽ tiếp tục vào tuần tới.

Việc tuân thủ chính sách kiểm duyệt trực tuyến của Trung Quốc có nghĩa là hệ thống của ChatYuan sẽ “lọc một số từ khóa nhất định”, theo Bright Xu Liang, người cho biết Yuanyu Intelligent sẽ tuyển dụng một số người điều hành (kiểm duyệt) từ tuần tới. Các bản cập nhật mới nhất cho ChatYuan cũng bao gồm sản phẩm và bộ máy tính toán của ứng dụng.

Bright Xu Liang cho biết: “Các bộ lọc làm cho công nghệ của chúng tôi không chỉ là một AI thông thường, mà còn là AI không gây hại, có lợi cho con người”.

Ví dụ về việc tuân thủ của ChatYuan cho thấy có cơ hội cho các dịch vụ giống ChatGPT ở Trung Quốc phát triển mạnh dưới Great Firewall (tường lửa vĩ đại).

Yuanyu Intelligence đã gây quỹ mới để cải thiện khả năng của mình, theo Bright Xu Liang.

So với khả năng hoàn thành 90% nhiệm vụ của ChatGPT, ChatYuan hiện có thể đáp ứng tới 70% yêu cầu từ người dùng. Bright Xu Liang chỉ ra rằng việc đào tạo một chatbot AI mô hình tiếng Trung khó hơn vì toàn bộ hệ sinh thái nguồn mở và dữ liệu liên quan bằng ngôn ngữ này không rộng rãi như mô hình của Mỹ.

Việc truy cập vào dịch vụ của OpenAI ở Trung Quốc vẫn còn khó khăn vì việc mở tài khoản yêu cầu số điện thoại nước ngoài. Điều này khiến một số hãng công nghệ địa phương cung cấp các dịch vụ thay thế dựa trên sự phổ biến của ChatGPT.

Để tránh vấn đề kiểm duyệt, một số công ty nhỏ ở Trung Quốc có dịch vụ giống ChatGPT đã đổi tên sản phẩm của mình.

Entropy Cloud Network Technology (có trụ sở tại thành phố Thượng Hải) hôm 8.2 đã đổi tên chatbot của mình trên WeChat từ ChatGPT Online thành AI Conversation.

Chat Dada, dịch vụ miễn phí trên WeChat cho phép người dùng hỏi ChatGPT 5 câu mỗi ngày không bị chính quyền Trung Quốc kiểm duyệt, gần đây đổi tên thành GPT Dada sau khi nhận khiếu nại rằng tên này khiến người tiêu dùng hiểu lầm rằng nó liên kết với dịch vụ OpenAI.

ChatGPT ngày càng phổ biến đang nhanh chóng nâng cao nhận thức ở Trung Quốc về mức độ tiên tiến của AI từ Mỹ. Theo các nhà phân tích, các hãng công nghệ ở Trung Quốc, nền kinh tế lớn thứ hai thế giới, đã tụt hậu xa so với Mỹ.

Ding Daoshi, Giám đốc công ty tư vấn internet Sootoo có trụ sở tại Bắc Kinh (thủ đô Trung Quốc), cho biết: "Có rất nhiều sự phấn khích xung quanh ChatGPT. Không giống như metaverse gặp khó khăn lớn trong việc tìm kiếm ứng dụng thực tế, ChatGPT đã bất ngờ giúp chúng tôi đạt được sự tương tác giữa người và máy tính. Những thay đổi nó sẽ mang lại giá trị ngay lập tức, trực tiếp hơn và nhanh hơn".

Bản thân OpenAI hoặc ChatGPT không bị chính quyền Trung Quốc chặn nhưng OpenAI không cho phép người dùng ở đại lục, Hồng Kông, Iran, Nga và một số khu vực châu Phi đăng ký tài khoản. OpenAI chưa bao giờ giải thích công khai những hạn chế đó và không trả lời câu hỏi về vấn đề này của Reuters.

Vào tháng 12.2022, WeChat đã đóng một số chương trình liên quan đến ChatGPT xuất hiện trên mạng, theo báo cáo của các phương tiện truyền thông địa phương, nhưng chúng vẫn tiếp tục mọc lên.

Hàng chục bot được trang bị cho công nghệ ChatGPT đã xuất hiện trên WeChat, với những người có sở thích sử dụng nó để tạo các chương trình hoặc tài khoản tự động có thể tương tác với người dùng. Ít nhất đã có người rao bán tài khoản tính phí người dùng 9,99 nhân dân tệ (1,47 USD) để đặt 20 câu hỏi.

ChatGPT hỗ trợ tương tác bằng tiếng Trung Quốc và có khả năng trò chuyện tốt bằng tiếng Trung, điều này giúp thúc đẩy việc áp dụng không chính thức ở quốc gia này.

Các công ty Trung Quốc cũng sử dụng các công cụ proxy (giấu địa chỉ IP để truy cập nội dung bị chặn) hoặc quan hệ đối tác hiện có với Microsoft để truy cập các công cụ cho phép họ nhúng công nghệ AI vào sản phẩm của mình.

Vào tháng 12.2022, Proximai (có trụ sở tại thành phố Thâm Quyến) đã đưa một nhân vật ảo vào ứng dụng xã hội giống như game 3D của mình. Nhân vật này sử dụng công nghệ cơ bản của ChatGPT để trò chuyện. Công ty phần mềm giải trí Kunlun Tech (có trụ sở tại Bắc Kinh) lên kế hoạch tích hợp ChatGPT vào trình duyệt web Opera của mình.

SleekFlow, công ty khởi nghiệp do hãng đầu tư Tiger Global hậu thuẫn ở Hồng Kông, cho biết đang tích hợp AI vào các công cụ nhắn tin quan hệ khách hàng của mình.

Henson Tsai, người sáng lập SleekFlow, nói: “Chúng tôi có khách hàng trên khắp thế giới. Trong số những thứ khác, ChatGPT thực hiện các bản dịch xuất sắc, đôi khi tốt hơn các giải pháp khác hiện có trên thị trường".

Để tuân thủ các quy tắc của Trung Quốc, Will Duan, người đồng sáng lập Proximai, cho biết nền tảng của ông sẽ lọc thông tin được cung cấp cho người dùng trong quá trình họ tương tác với ChatGPT.

Năm ngoái từng đưa ra các quy tắc nhằm tăng cường quản lý công nghệ deepfake, các nhà quản lý Trung Quốc không bình luận về ChatGPT. Tuy nhiên, phương tiện truyền thông nhà nước Trung Quốc tuần này đã cảnh báo về rủi ro trên thị trường chứng khoán vào bối cảnh các cổ phiếu liên quan ChatGPT trong nước tăng vọt.

Rogier Creemers, trợ lý giáo sư tại Đại học Leiden (Hà Lan), cho biết: “Với các quy định được đưa ra vào năm ngoái, chính phủ Trung Quốc đang nói rằng: Chúng tôi thấy công nghệ này đang phát triển và chúng tôi muốn đi trước đón đầu. Tôi hoàn toàn mong đợi phần lớn nội dung do AI tạo ra là phi chính trị".

Sơn Vân