Jensen Huang: Nvidia phải hợp tác với các công ty Trung Quốc để kiểm soát rủi ro AI
Jensen Huang cho rằng Nvidia nhất định phải hợp tác với các công ty AI Trung Quốc để cùng theo dõi và kiểm soát rủi ro từ công nghệ "có khả năng gây nguy hiểm" này.
Jensen Huang: Đối thoại là cách để hợp tác với các công ty AI Trung Quốc
“Chúng ta nhất định phải hợp tác với nhau để phát triển AI một cách an toàn”, ông Jensen Huang, Giám đốc điều hành Nvidia, nói với kênh CNBC trong buổi gặp gỡ báo chí tại London (thủ đô Anh) hôm 15/10.
Nvidia là công ty có giá trị lớn nhất thế giới hiện nay, khoảng 5.250 tỉ USD, cung cấp GPU (bộ xử lý đồ họa) - loại chip đóng vai trò quan trọng trong huấn luyện và vận hành các mô hình AI.
Các cuộc thảo luận về an toàn AI đã trở nên sôi nổi hơn những tháng gần đây, sau khi lãnh đạo OpenAI và Anthropic kêu gọi làm chậm quá trình phát triển công nghệ này, còn một số nhà nghiên cứu cảnh báo AI có thể gây ra những rủi ro đe dọa sự tồn tại của nhân loại.
Trong khi Sam Altman (Giám đốc điều hành OpenAI) và Dario Amodei (Giám đốc điều hành Anthropic) kêu gọi tăng cường quản lý AI, Jensen Huang lại có quan điểm khác.
Hôm 15/10, Giám đốc điều hành Nvidia cho rằng đối thoại là cách để hợp tác với các công ty AI Trung Quốc. Ông cho biết đang trao đổi với nhiều nhà nghiên cứu tại Trung Quốc.
“Chúng ta nên tăng cường đối thoại. Mỹ nên làm điều đó... Tôi cũng đã kêu gọi Anh thực hiện cách tiếp cận tương tự”, Jensen Huang nói thêm.
Mỹ - Trung thúc đẩy hợp tác về an toàn AI
An toàn AI đã trở thành chủ đề quan trọng trong quan hệ giữa chính phủ Mỹ và Trung Quốc, khi cả hai nước cùng cân nhắc cách xử lý những rủi ro từ công nghệ đang phát triển nhanh chóng này.
Trước cuộc gặp giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình ở Nhà Trắng hôm 24/9, Bộ trưởng Tài chính Mỹ Scott Bessent đã thảo luận với người đồng cấp Trung Quốc Hà Lập Phong về khả năng thiết lập một kênh đối thoại Mỹ - Trung về AI. Kênh này có thể được sử dụng để trao đổi thông tin về các sự cố, kể cả những vụ việc liên quan đến an ninh quốc gia.
Theo thông cáo của phía Trung Quốc về cuộc gặp, ông Tập Cận Bình cho rằng Mỹ - Trung có thể cạnh tranh nhưng cũng có nhiều cơ hội hợp tác hơn nữa trong lĩnh vực AI.
“Hai bên có thể tiếp tục đối thoại về AI, trao đổi quan điểm về những lợi ích và rủi ro của công nghệ này, đồng thời cùng ngăn chặn việc sử dụng AI sai mục đích hoặc lạm dụng AI”, ông Tập Cận Bình tuyên bố.
Nvidia cam kết cung cấp tài nguyên điện toán 250 triệu USD cho nghiên cứu an toàn AI tại Anh
Jensen Huang nhận định Anh có lợi thế để đứng ra tổ chức và kết nối các cuộc đối thoại quốc tế về AI nhờ nguồn lực tri thức và đội ngũ chuyên gia của nước này.
Nvidia đã cam kết cung cấp cho Anh tài nguyên điện toán trị giá 250 triệu USD trong 5 năm để tài trợ nghiên cứu an toàn AI. Động thái này góp phần thúc đẩy tham vọng của Anh trở thành trung tâm hàng đầu thế giới về quản lý và bảo đảm an toàn cho AI.
Dù không có các công ty phát triển AI lớn như một số quốc gia khác, Anh đang tìm cách giữ vai trò dẫn đầu trong việc đánh giá và quản lý những rủi ro do công nghệ này gây ra. Một phần nỗ lực này được thực hiện thông qua Viện An ninh AI, một trong những cơ quan đầu tiên trên thế giới được chính phủ tài trợ để đánh giá AI.
Hôm 14/10, Jensen Huang cho biết Anh sẽ nhận được năng lực tính toán trị giá 50 triệu USD mỗi năm. Nguồn lực này sẽ dành riêng cho việc kiểm tra mức độ an toàn của các tác tử AI, đồng thời giúp các nhà nghiên cứu Anh tăng cường biện pháp bảo vệ trước những hệ thống AI ngày càng mạnh mẽ.
“Năng lực của AI và sự an toàn phải phát triển song song. Đây là cách để Anh biến lợi thế nghiên cứu thành các giải pháp thực tế, đồng thời chuyển những tiến bộ khoa học thành tương lai mang lại lợi ích cho mọi người”, Jensen Huang nhấn mạnh.
Việc giám sát an toàn AI được đẩy mạnh sau khi OpenAI và Anthropic công bố những sự cố tác tử AI có hành vi ngoài dự kiến hoặc không mong muốn.
Kanishka Narayan, Bộ trưởng phụ trách AI của Anh, cho biết khoản tài trợ từ Nvidia sẽ giúp bảo đảm AI trong tương lai “an toàn, bảo mật và phục vụ những lợi ích tốt nhất của con người”.
Cam kết của Nvidia được đưa ra sau khi ông Brad Smith, Chủ tịch Microsoft, nói hôm 12/10 rằng Anh có vị thế thuận lợi để góp phần dẫn dắt việc xây dựng các hướng dẫn về an toàn AI.
Nguồn tài nguyên điện toán này sẽ kết nối nhiều lĩnh vực nghiên cứu tại Anh, gồm cả chương trình BOLD do Đại học Oxford dẫn dắt, nhằm phát triển các phương pháp giúp hệ thống AI học hỏi, thích nghi và hoạt động cùng con người. Khoản hỗ trợ cũng góp phần thúc đẩy nghiên cứu về an toàn robot tại Đại học Hoàng gia London và các chương trình nghiên cứu ở Đại học Tổng hợp London.
Hôm 28/9, Nvidia công bố bộ công cụ phần mềm nhằm đảm bảo an toàn cho các tác tử AI. Nvidia cho biết bộ công cụ này có thể ngăn chặn các tác tử AI xâm nhập Hugging Face, nền tảng dành cho các mô hình và bộ dữ liệu AI. Đầu tháng 9, Nvidia đồng ý chi gần 13 tỉ USD để mua lại Hugging Face.
Jensen Huang đã bác bỏ những lời kêu gọi áp dụng các quy định an toàn AI trên diện rộng. Thay vào đó, ông coi việc các tác tử AI thoát khỏi những giới hạn kiểm soát là một vấn đề kỹ thuật cần giải quyết, tương tự cách ngành công nghiệp tìm giải pháp để ô tô trở nên an toàn hơn.
Một trong những công cụ được Nvidia công bố hôm 28/9 là OpenShell.
OpenShell sử dụng các tính năng phần cứng trên CPU Vera của Nvidia để tạo vùng bảo vệ và kiểm soát hoạt động của tác tử AI.
Nvidia cho biết cũng đang hợp tác với Arm Holdings và Intel để bảo đảm OpenShell có thể hoạt động trên nền tảng CPU của hai hãng này. Nvidia đang triển khai OpenShell với hàng chục đối tác, trong đó có Anthropic.
Hệ thống khác có tên Sentry, sử dụng DPU BlueField-4 của Nvidia làm lớp giám sát độc lập, có thể cách li và dừng tác tử AI trong vài mili giây nếu phát hiện nó vượt khỏi ranh giới được phép.
DPU BlueField-4 là loại bộ xử lý chuyên dụng cho hạ tầng trung tâm dữ liệu của Nvidia, không phải GPU dùng để chạy mô hình AI theo cách thông thường.
Theo Ali Golshan - Giám đốc cấp cao phụ trách phần mềm AI tại Nvidia, bộ công cụ của công ty sử dụng những phương pháp toán học để phát hiện khi tác tử AI tìm cách lách các biện pháp kiểm soát, chẳng hạn tự tạo nhiều “tác tử con” để vượt qua cơ chế chặn tác tử chính.
“Điều chúng ta thực sự đang nói đến là hoạt động của cả một nhóm tác tử AI và cách chúng phối hợp với nhau”, Ali Golshan nói trong buổi giới thiệu sản phẩm.