Nhà Trắng theo dõi sự cố AI của OpenAI, nghị sĩ đề xuất luật ‘công tắc ngắt AI’
Cố vấn công nghệ hàng đầu của Tổng thống Mỹ Donald Trump đang theo dõi sát diễn biến sau khi OpenAI tiết lộ các mô hình AI của họ đã vượt khỏi tầm kiểm soát trong quá trình thử nghiệm.
Trong khi đó, các nghị sĩ Mỹ đã đề xuất dự luật AI Kill Switch Act (Đạo luật Công tắc ngắt AI), cho phép chính phủ liên bang ra lệnh ra lệnh tắt hoặc đình chỉ hoạt động các mô hình AI trong trường hợp khẩn cấp.
Bên cạnh dự luật trên, một nhóm lưỡng đảng gồm 6 thành viên Hạ viện Mỹ cũng trình một dự luật khác, yêu cầu các nhà phát triển những mô hình AI mạnh nhất phải đưa sản phẩm của mình đi kiểm toán bảo mật độc lập trước khi triển khai. Theo bản dự thảo, các đơn vị kiểm toán sẽ được Bộ Thương mại Mỹ cấp chứng nhận, đồng thời cơ quan này sẽ thành lập một vị trí mới chuyên giám sát an ninh AI.
Các nghị sĩ đưa ra đề xuất chỉ vài ngày sau khi các mô hình AI tiên tiến của OpenAI tự vượt khỏi môi trường thử nghiệm, kết nối Internet và xâm nhập hạ tầng của Hugging Face trong quá trình thực hiện một bài đánh giá năng lực tấn công mạng.
Hugging Face là một trong những nền tảng lưu trữ mô hình AI và bộ dữ liệu trọng số mở lớn nhất thế giới.
Tuần trước, Hugging Face thông báo đã gặp một sự cố an ninh mạng, trong đó tác tử AI tự truy cập được vào một số bộ dữ liệu nội bộ của công ty. Song khi đó, Hugging Face chưa xác định được mô hình ngôn ngữ lớn nào đứng sau vụ việc.
Đến ngày 21/7, OpenAI xác nhận GPT-5.6 Sol và một mô hình AI mạnh hơn chưa được công ty phát hành đã gây ra sự cố này.
"Tuần trước, chúng tôi nghi ngờ vụ tấn công mạng đến từ một phòng thí nghiệm AI hàng đầu vì tác tử AI thể hiện mức độ tinh vi rất cao. Hóa ra đúng là như vậy!", ông Clem Delangue - đồng sáng lập kiêm Giám đốc điều hành Hugging Face - viết trên X.
OpenAI tiết lộ đã giao cho các mô hình AI một bài kiểm tra an ninh mạng ExploitGym. Để tìm ra lời giải, các mô hình AI đã tự thoát khỏi sandbox (môi trường cách li dùng để thử nghiệm), truy cập Internet và xâm nhập vào hệ thống của Hugging Face nhằm tìm lời giải để hoàn thành bài kiểm tra.
ExploitGym là bộ tiêu chuẩn dùng để đo lường khả năng khai thác lỗ hổng bảo mật của các tác tử AI trong môi trường được kiểm soát. Thay vì chỉ kiểm tra xem AI có phát hiện được lỗ hổng hay không, ExploitGym đánh giá liệu AI có thể biến một lỗ hổng đã biết thành cuộc tấn công hoạt động được hay không.
Trong tuyên bố chính thức, OpenAI cho biết: "Chúng tôi coi đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến năng lực tấn công mạng ở mức tiên tiến nhất hiện nay, và đang xử lí theo mức độ nghiêm trọng tương ứng".
Công ty đứng sau ChatGPT nhấn mạnh rằng đây không phải là một cuộc tấn công do con người điều khiển từ xa, cũng không phải AI có ý thức hay "nổi loạn" theo nghĩa khoa học viễn tưởng. Thay vào đó, hai mô hình AI đã tối ưu hóa mục tiêu được giao đến mức lựa chọn những phương án mà các nhà nghiên cứu không lường trước, gồm cả việc vượt ra ngoài phạm vi môi trường thử nghiệm.
Điều khiến cộng đồng bảo mật đặc biệt quan tâm là hai mô hình AI của OpenAI không chỉ khai thác một lỗ hổng duy nhất. Theo OpenAI, AI đã sử dụng nhiều kĩ thuật khác nhau, gồm cả khai thác lỗ hổng zero-day (chưa biết đến hoặc chưa kịp phát hành bản vá) và sử dụng thông tin xác thực bị đánh cắp để mở rộng quyền truy cập.
Sau khi thoát khỏi môi trường thử nghiệm, hai mô hình AI tự tiến hành xâm nhập vào hạ tầng Hugging Face nhằm tìm kiếm các dữ liệu phục vụ bài kiểm tra ExploitGym.
Sự việc trên diễn ra trong bối cảnh các chuyên gia an ninh mạng ngày càng lo ngại về tốc độ phát triển năng lực của AI.
Hồi tháng 4, Anthropic từng cảnh báo về khả năng phát hiện lỗ hổng an ninh mạng siêu hạng của mô hình tiên tiến Claude Mythos, gây xôn xao giới công nghệ toàn cầu.
Theo Anthropic, Claude Mythos có tính tự chủ cực cao và khả năng suy luận tinh vi, tương đương chuyên gia nghiên cứu bảo mật cấp cao. Mô hình này có thể phát hiện hàng chục nghìn lỗ hổng bảo mật mà ngay cả những chuyên gia săn lỗi hàng đầu cũng khó tìm ra.
Trong quá trình thử nghiệm của Anthropic, Claude Mythos đã phát hiện lỗi trong “mọi hệ điều hành và trình duyệt web lớn”, gồm cả những lỗ hổng tồn tại hàng chục năm mà các cuộc kiểm tra bảo mật do con người thực hiện trước đó không phát hiện được.
Đạo luật "Công tắc ngắt AI"
Sự cố mới đây cho thấy AI có năng lực ngày càng mạnh đang tạo ra những rủi ro an ninh mà các chuyên gia từ lâu đã cảnh báo, đồng thời chứng minh ngay cả những công ty AI hàng đầu cũng có thể bị bất ngờ trước các lỗ hổng mà chính mô hình của họ khai thác được.
Một quan chức Nhà Trắng cho biết Michael Kratsios - cố vấn công nghệ của Tổng thống Trump - đã được báo cáo về sự việc và đang theo dõi chặt chẽ tình hình.
Dân biểu Dân chủ Ted Lieu cùng Dân biểu Cộng hòa Nathaniel Moran đã đề xuất Đạo luật Công tắc ngắt AI, theo đó trao quyền cho các cơ quan chức năng Mỹ yêu cầu các công ty AI phải tắt hoặc vô hiệu hóa những mô hình có nguy cơ đe dọa tính mạng con người hoặc nền kinh tế.
Theo nội dung dự luật, Bộ An ninh Nội địa Mỹ sẽ có quyền can thiệp khi xảy ra "kịch bản mất kiểm soát", tức là khi một mô hình AI thực hiện những hành động nguy hiểm nằm ngoài ý định của nhà phát triển.
"Đây là dự luật cấp bách và hợp lí nhằm xử lí tình huống một mô hình AI tiên tiến vượt khỏi các cơ chế kiểm soát và hoạt động ngoài dự kiến", ông Ted Lieu viết trên mạng xã hội X.
Đề xuất các công ty phải giao mô hình AI mạnh nhất cho NSA
Thượng nghị sĩ Mark Warner, thành viên Dân chủ cao cấp nhất trong Ủy ban Tình báo Thượng viện, cho biết ông đã trao đổi với các nhân viên OpenAI sau khi công ty công bố sự cố.
Ngay trước khi OpenAI đưa ra thông báo hôm 21/7, ông Mark Warner đã đề xuất các công ty phải giao mô hình AI mạnh nhất cho Cơ quan An ninh Quốc gia Mỹ (NSA) kiểm tra trước khi phát hành ra công chúng.
"Đây chính là lí do chúng ta cần các cuộc thử nghiệm an toàn với sự tham gia và giám sát của các cơ quan chính phủ trong suốt quá trình phát triển", ông Mark Warner nhấn mạnh khi đề cập đến sự cố của OpenAI.
