Cuộc đua AI khiến chuyên gia Mỹ - Trung lo ngại về ‘khoảnh khắc Chernobyl’

Chỉ hơn một tuần trước, Will Knight đã tham dự một hội nghị lớn về trí tuệ nhân tạo (AI) tại Trung Quan Thôn, khu công nghệ cao sôi động ở Bắc Kinh, thủ đô Trung Quốc.

Will Knight là cây bút kỳ cựu của tạp chí WIRED (Mỹ), chuyên đưa tin về lĩnh vực AI. Ông cũng là tác giả bản tin AI Lab, được phát hành hằng tuần, chuyên cập nhật những diễn biến và đột phá mới nhất ở ranh giới tiên tiến của công nghệ AI.

Trước khi gia nhập WIRED, Will Knight từng là biên tập viên cấp cao của trang MIT Technology Review, nơi ông phụ trách các bài viết về những bước tiến nền tảng trong AI cũng như sự bùng nổ của ngành AI tại Trung Quốc. Xa hơn nữa, ông từng là biên tập viên và phóng viên của tạp chí New Scientist.

Do Viện Trí tuệ nhân tạo Bắc Kinh tổ chức, hội nghị có nhiều phiên thảo luận hấp dẫn, từ chủ đề tự cải tiến đệ quy (ý tưởng các mô hình AI có thể tự chỉnh sửa mã để liên tục trở nên thông minh hơn) cho đến robot hình người. Sự kiện cũng quy tụ nhiều huyền thoại trong lĩnh vực khoa học máy tính, chẳng hạn Whitfield Diffie (đồng phát minh của công nghệ mã hóa khóa công khai) và Andrew Barto (người cùng Rich Sutton giành giải Turing nhờ những đóng góp tiên phong cho lĩnh vực học tăng cường).

Tuy nhiên, Will Knight cho biết điều khiến ông trăn trở nhất sau khi rời hội nghị là Mỹ và Trung Quốc nên gác sang một bên cuộc cạnh tranh AI khốc liệt giữa hai nước.

Các rủi ro về an ninh mạng và những nguy cơ mang tính hệ thống từ AI tiên tiến đã trở nên quá nghiêm trọng để có thể phớt lờ. Trong thời gian không xa, các mô hình AI có tính tự chủ, với khả năng tự lập kế hoạch và thực hiện nhiệm vụ, dễ gây ra các hậu quả khó kiểm soát nếu hai cường quốc AI hàng đầu thế giới không hợp tác với nhau.

"AI tạo ra những tác hại mang tính toàn cầu"

Stephen Casper, nhà khoa học máy tính tại Học viện Công nghệ Massachusetts (MIT) tham gia hội nghị qua hình thức trực tuyến, nói với Will Knight sau sự kiện: "AI là công nghệ toàn cầu, mang lại lợi ích trên phạm vi toàn cầu nhưng cũng tạo ra những tác hại mang tính toàn cầu. Hơn nữa, các năng lực mới của AI cuối cùng cũng sẽ lan rộng ra khắp nơi".

Đến nay, Mỹ chủ yếu xem những bước tiến AI của Trung Quốc là mối đe dọa với kinh tế và an ninh quốc gia. Vì thế, Mỹ đã áp đặt nhiều biện pháp hạn chế nghiêm ngặt với chip AI và thiết bị sản xuất chip nhằm kìm hãm quá trình phát triển AI tiên tiến của Trung Quốc.

Gần đây, chính phủ Mỹ đã yêu cầu Anthropic ngăn người nước ngoài truy cập hai mô hình AI mạnh nhất của hãng là Claude Mythos và Claude Fable 5 vì lo ngại về an ninh quốc gia. Đáp lại, Anthropic đã thu hồi quyền truy cập vào hai mô hình AI này của toàn bộ người dùng nước ngoài.

Trước đó, WIRED từng tiết lộ một trong những tổ chức khiến giới chức Mỹ đặc biệt lo ngại là một tập đoàn viễn thông lớn của Hàn Quốc bị cáo buộc có quan hệ với Trung Quốc.

Tuy nhiên, hội nghị do Viện Trí tuệ nhân tạo Bắc Kinh tổ chức đã củng cố quan điểm rằng cả Mỹ lẫn Trung Quốc đều sẽ phải trả giá nếu AI được phát triển quá nhanh và thiếu kiểm soát.

Khi AI ngày càng mạnh hơn, có khả năng tự hành động nhiều hơn và gắn chặt hơn với đời sống hằng ngày, nguy cơ công nghệ này bị lợi dụng để tiến hành các cuộc tấn công mạng hoặc gây ra những sự cố thảm khốc cũng sẽ gia tăng. Vì Mỹ và Trung Quốc hiện là hai quốc gia sở hữu những mô hình AI tiên tiến nhất thế giới, sự hợp tác giữa họ dường như sẽ đóng vai trò then chốt.

"Khoảnh khắc Chernobyl"

Stephen Casper dẫn nhiều nghiên cứu cho thấy Mỹ và các nước khác sẽ được lợi nhiều hơn nếu cùng hợp tác để kiểm soát các rủi ro từ AI, thay vì quá lo ngại rằng sự hợp tác đó có thể ảnh hưởng đến an ninh quốc gia. Ông so sánh tình hình hiện nay với thời kỳ Mỹ và Liên Xô buộc phải hợp tác để giảm thiểu nguy cơ hạt nhân, dù hai bên vẫn không ngừng chạy đua tích trữ vũ khí.

Ông nói: "Có lẽ điều mà gần như mọi người trong lĩnh vực AI đều đồng ý lúc này là AI không cần phải trải qua một khoảnh khắc Chernobyl".

Một phiên thảo luận kéo dài cả ngày đã nhấn mạnh rằng các thách thức về an ninh mạng do AI tiên tiến tạo ra mang tính toàn cầu, không phân biệt quốc gia. Những rủi ro này bao gồm các lỗ hổng mới trong mã nguồn do AI tạo ra, những phương thức tấn công hoàn toàn mới nhờ khả năng sử dụng AI có tính tự chủ, cũng như việc tự động hóa các cuộc tấn công lừa đảo và thao túng tâm lý.

Sau một phiên thảo luận khác, Will Knight đã trò chuyện với Lin Yun - Giáo sư tại Đại học Giao thông Thượng Hải có nhiều nghiên cứu nổi bật về AI và an ninh máy tính.

Lin Yun cho rằng trong ngắn hạn, hacker có thể sẽ chiếm ưu thế. Song về lâu dài, các biện pháp phòng thủ mới, gồm cả việc ứng dụng AI để bảo vệ hệ thống, sẽ giúp cán cân nghiêng trở lại về phía bên phòng thủ.

Theo Lin Yun, dù hợp tác quốc tế trở nên khó khăn hơn vì cạnh tranh giữa các nước, đây vẫn phải là ưu tiên hàng đầu.

"Nếu các quốc gia cùng nhìn nhận rủi ro theo cách tương tự nhau, việc xây dựng các nguyên tắc an toàn chung và tiêu chuẩn kỹ thuật thống nhất sẽ trở nên dễ dàng hơn. Điều quan trọng là tìm ra những lĩnh vực mà việc chia sẻ thông tin có thể giúp giảm rủi ro mang tính hệ thống, không làm lộ các chi tiết vận hành nhạy cảm", ông nói.

Có lẽ câu hỏi cấp bách nhất với cả Mỹ và Trung Quốc hiện nay là làm thế nào để cân bằng giữa tính cởi mở và yếu tố an toàn.

Mô hình AI trọng số mở tiếp theo có thể ngang Claude Fable 5 và Mythos 5

Các mô hình AI có trọng số mở đã trở thành nền tảng quan trọng cho nghiên cứu và đổi mới sáng tạo. Nhiều mô hình của Trung Quốc đang được cộng đồng AI tại Mỹ sử dụng rộng rãi. Tuy nhiên, khi các mô hình này ngày càng mạnh hơn, việc bảo đảm chúng không hỗ trợ hacker phát hiện lỗ hổng bảo mật hoặc bị biến thành vũ khí tấn công mạng sẽ ngày càng khó khăn.

Vài năm qua, các công ty Trung Quốc đã dẫn đầu trong việc phát hành những mô hình AI trọng số mở có năng lực rất cao như Kimi của Moonshot AI, Qwen của Alibaba và GLM của Z.ai. Trong khi đó, Mỹ đã khởi động lại chiến lược phát triển AI trọng số mở với những mô hình như Nemotron của Nvidia.

Tuy nhiên, chúng ta đang tiến đến một bước ngoặt, nơi ngay cả các mô hình AI mở có năng lực thấp hơn cũng có thể trở nên nguy hiểm nếu bị loại bỏ các cơ chế bảo vệ.

Theo các chuyên gia, mô hình mới nhất của Z.ai là GLM 5.2 sở hữu những năng lực hàng đầu về AI có tính tự chủ và lập trình. Thế hệ mô hình AI trọng số mở tiếp theo hoàn toàn có thể đạt sức mạnh tương đương Claude Fable 5 hoặc Claude Mythos 5.

Thực tế, chỉ trong tuần này, 360 Security Technologies - công ty an ninh mạng hàng đầu Trung Quốc - tuyên bố đã phát triển một mô hình AI có khả năng tấn công mạng ngang tầm Claude Mythos 5.

Giáo sư Lin Yun cho rằng ngành AI sẽ phải xây dựng những phương pháp hoàn toàn mới để bảo đảm các mô hình AI mở luôn được cập nhật, không chứa cửa hậu, không tồn tại các lỗ hổng bảo mật và đáp ứng đầy đủ các tiêu chuẩn an toàn.

Nguồn tin từ một công ty AI hàng đầu Trung Quốc, đề nghị giấu tên vì không được phép phát biểu với báo chí, tiết lộ với Will Knight rằng các mối lo ngại về an ninh chính là một trong những lý do khiến vài mô hình AI tiên tiến tại Trung Quốc hiện không còn được phát hành dưới dạng mã nguồn mở như trước nữa.