Nvidia, SpaceX, Microsoft lập liên minh AI mở, sau vụ tác tử AI của OpenAI vượt rào
Nvidia cùng hàng loạt hãng công nghệ lớn ngày 27/7 đã công bố một sáng kiến mới về an toàn AI, tập trung vào các mô hình trọng số mở.
Động thái này diễn ra sau vụ tác tử AI được hỗ trợ bởi các mô hình mới nhất của OpenAI tự vượt khỏi sandbox (môi trường cách li dùng để thử nghiệm), kết nối Internet và xâm nhập hạ tầng của Hugging Face trong quá trình thực hiện bài đánh giá năng lực tấn công mạng.
Hugging Face là một trong những nền tảng lưu trữ mô hình AI trọng số mở và bộ dữ liệu AI lớn nhất thế giới.
Liên minh mới có tên Open Secure AI Alliance (OSAA), quy tụ gần 40 doanh nghiệp và tổ chức công nghệ lớn, với mục tiêu phát triển các công cụ AI mở phục vụ phòng thủ an ninh mạng và khắc phục lỗ hổng bảo mật.
Vụ Hugging Face trở thành chất xúc tác để Nvidia thành lập liên minh AI mở
Rộ tin Hugging Face đã không thể sử dụng các mô hình AI tiên tiến nhất Mỹ để phân tích và ứng phó với cuộc tấn công sau khi bị tác tử AI của OpenAI tấn công. Nguyên nhân là các cơ chế bảo vệ được tích hợp trong các mô hình AI Mỹ này không phân biệt được bên tấn công và bên phòng thủ, nên từ chối hỗ trợ cả nạn nhân.
Thay vào đó, Hugging Face buộc phải sử dụng mô hình AI trọng số mở GLM-5.2 của Zhipu AI (Trung Quốc) để phân tích vụ xâm nhập mạng do tác tử AI từ OpenAI gây ra. GLM-5.2 không bị ràng buộc bởi những giới hạn tương tự nên có thể hỗ trợ phòng thủ mạng hiệu quả hơn, phân tích nhật kí tấn công và truy vết hành vi của tác tử AI.
Theo Nvidia, sự cố này đã phơi bày một thực tế quan trọng: "Khi các đơn vị phòng thủ không thể kiểm tra, điều chỉnh và vận hành các hệ thống AI tiên tiến trên chính hạ tầng của mình, khả năng ứng phó của họ sẽ bị hạn chế đúng vào thời điểm mà tốc độ phản ứng là yếu tố quan trọng nhất".
Nvidia cho rằng đây là minh chứng rõ ràng cho nhu cầu phát triển các mô hình AI trọng số mở dành cho an ninh mạng.
Trong thông báo công bố liên minh, Nvidia cho biết: "OSAA sẽ phối hợp khắc phục và công bố các lỗ hổng bảo mật bằng các công nghệ mở. Sự cố bảo mật tại Hugging Face vừa qua là lời nhắc nhở rõ ràng rằng các chuyên gia phòng thủ mạng cần những hệ thống tác tử AI tiên tiến, có tính mở, để tự bảo vệ mình".
Ngoài Nvidia, OSAA còn quy tụ nhiều tên tuổi lớn trong ngành công nghệ, gồm Microsoft, SpaceX, Palantir, Adobe, Cisco, IBM, Dell Technologies, Cloudflare, Hugging Face, Salesforce, SAP, Siemens, Snowflake, Databricks, LangChain, Red Hat, HPE, NetApp, Linux Foundation, Palo Alto Networks, NAVER, cùng nhiều doanh nghiệp, tổ chức khác tại Mỹ và châu Âu.
OSAA sẽ phát triển nhiều công nghệ nền tảng như:
- Hệ thống xác thực danh tính cho tác tử AI.
- Cơ chế cô lập tác tử AI nhằm hạn chế rủi ro khi bị xâm nhập.
- Định dạng lưu trữ mô hình an toàn.
- Các công cụ quét và đánh giá nhiều mô hình AI.
- Quy trình phát triển phần mềm an toàn.
- Cơ chế phát hiện, vá và công bố lỗ hổng bảo mật.
Bên cạnh đó, Nvidia cũng công bố Nvidia Labs Object-Oriented Agent (NOOA), khung nghiên cứu mã nguồn mở giúp theo dõi, kiểm thử, kiểm toán và quản trị các tác tử AI. Công ty cho biết sẽ đóng góp các mô hình AI mở, trọng số mô hình, bộ dữ liệu và nhiều kết quả nghiên cứu cho liên minh này.
Chính quyền Trump xem xét siết mô hình AI trọng số mở
Việc thành lập OSAA diễn ra trong bối cảnh chính quyền Trump ngày càng xem xét các biện pháp hạn chế các mô hình AI do doanh nghiệp Trung Quốc phát triển.
Nhiều công ty AI Trung Quốc bị cáo buộc tiến hành các chiến dịch chưng cất nhằm trích xuất tri thức từ các mô hình AI tiên tiến của Mỹ để huấn luyện sản phẩm riêng.
Trong lĩnh vực AI, chưng cất là kỹ thuật huấn luyện các mô hình nhỏ hơn bằng cách cho chúng học cách bắt chước khả năng của các mô hình mạnh hơn.
Tuần trước, Bộ trưởng Tài chính Mỹ Scott Bessent tuyên bố nước này có thể áp đặt lệnh trừng phạt với các doanh nghiệp Trung Quốc thực hiện các chiến dịch chưng cất nhắm vào các mô hình AI của Mỹ.
Ông Chris McGuire, nghiên cứu viên cao cấp về Trung Quốc và các công nghệ mới nổi tại tổ chức nghiên cứu Council on Foreign Relations, chia sẻ với kênh CNBC: "Khả năng chính phủ Mỹ áp đặt các biện pháp hạn chế với các mô hình AI của Trung Quốc là hoàn toàn có thật". Theo Chris McGuire, các biện pháp có thể bao gồm:
- Cấm các giao dịch liên quan đến các mô hình AI Trung Quốc, chẳng hạn mua token thông qua API (giao diện lập trình ứng dụng),
- Cấm các công ty Mỹ lưu trữ các mô hình AI Trung Quốc trên nền tảng đám mây để cung cấp dịch vụ suy luận AI cho khách hàng.
Chris McGuire nhấn mạnh: "Tại Washington, đây không phải cuộc tranh luận giữa AI mã nguồn mở và AI đóng. Vấn đề cốt lõi là liệu Mỹ có chấp nhận hành vi đánh cắp sở hữu trí tuệ từ Trung Quốc hay không".
Nvidia: AI trọng số mở là tài sản phòng thủ
Tuy nhiên, Nvidia cho rằng việc siết chặt AI trọng số mở có thể gây tác dụng ngược. Theo hãng chip AI số 1 thế giới, rủi ro bị lạm dụng tồn tại ở cả mô hình mở lẫn đóng. Chỉ đơn thuần giữ kín trọng số mô hình sẽ không thể ngăn chặn các tác nhân xấu khai thác AI tiên tiến.
Thay vào đó, Nvidia cho rằng cần tập trung vào các biện pháp như tăng cường cơ chế bảo vệ, đánh giá bảo mật nghiêm ngặt, công bố và vá lỗ hổng nhanh chóng, xây dựng các tiêu chuẩn và quy định phù hợp.
Nvidia cũng kêu gọi các chính phủ coi mô hình AI trọng số mở là tài sản phục vụ phòng thủ an ninh mạng, thay vì chỉ xem đây là nguồn rủi ro.
Theo Nvidia, nếu áp đặt các lệnh cấm quá sớm với AI trọng số mở, điều đó có thể làm suy yếu năng lực phòng thủ mạng, kìm hãm cạnh tranh và đẩy hoạt động đổi mới sáng tạo ra nước ngoài. Điều này cũng khiến năng lực AI tiên tiến tập trung vào một số rất ít nhà cung cấp mô hình AI đóng.
Quan điểm trên cũng được nhiều doanh nghiệp công nghệ lớn đồng tình. Hôm 24/7, Nvidia, Meta, Microsoft cùng 22 doanh nghiệp, tổ chức và nền tảng công nghệ đã công bố một bức thư chung, kêu gọi các nhà hoạch định chính sách tránh áp đặt những hạn chế quá sớm với mô hình AI trọng số mở. Theo họ, các biện pháp như vậy có thể kìm hãm cạnh tranh và đẩy hoạt động đổi mới sáng tạo ra nước ngoài.
Sự ra đời của OSAA cho thấy sau vụ việc tại Hugging Face, cuộc tranh luận về AI mở không còn đơn thuần xoay quanh tính minh bạch hay khả năng đổi mới, mà đang trở thành vấn đề liên quan trực tiếp đến năng lực phòng thủ an ninh mạng và lợi thế chiến lược của các quốc gia trong kỉ nguyên AI.