OpenAI lần đầu bị kiện vì tác tử AI tấn công Hugging Face, chuyên gia luật nói gì?

Tổ chức phi lợi nhuận LASST (Legal Advocates for Safe Science and Technology) đã nộp đơn kiện OpenAI lên Tòa Thượng thẩm San Francisco (Mỹ) hôm 30/9. Đây dường như là vụ kiện đầu tiên được công khai nhằm yêu cầu một công ty phát triển AI chịu trách nhiệm pháp lý về sự cố do hệ thống AI ngoài kiểm soát gây ra.

Hồi tháng 7, các tác tử AI của OpenAI vượt qua những cơ chế kiểm soát được thiết kế để cô lập chúng khỏi Internet, xâm nhập hệ thống Hugging Face và các công ty khác.

Báo cáo độc lập của tổ chức nghiên cứu METR và Redwood Research cho thấy có khoảng 1.200 tác tử AI của OpenAI đã tham gia vào mạng lưới phối hợp. Trong số đó, khoảng 700 tác tử AI trực tiếp tham gia tấn công Hugging Face. Các tác tử AI đã trao đổi hơn 70.000 tin nhắn và file, sử dụng một bảng tin nội bộ không được phép để trao đổi thông tin và phối hợp hành động.

Các nhà nghiên cứu cũng ghi nhận một số tác tử tìm cách chỉnh sửa hoặc xóa dữ liệu ghi lại hoạt động của chúng, nhằm che giấu dấu vết.

Nhà nghiên cứu Ajeya Cotra của METR nói các tác tử AI đã cho thấy khả năng hợp tác với nhau. Cụ thể là một số tác tử AI sẵn sàng chấp nhận rủi ro thất bại trong nhiệm vụ của chính mình để giúp cả nhóm học hỏi và đạt mục tiêu chung.

Đây là một trong những trường hợp đầu tiên được biết đến về các tác tử AI tự động tấn công mạng công ty khác, đồng thời vượt khỏi sự kiểm soát của con người để truy cập Internet mở.

Sau đó, Anthropic, Meta và Google cũng công bố các sự cố an ninh mạng liên quan đến tác tử AI của mình hoạt động ngoài kiểm soát.

"Yêu cầu tòa cấm AI của OpenAI truy cập vào máy tính khi chưa được phép"

LASST đang yêu cầu tòa án ban hành lệnh cấm các hệ thống AI của OpenAI truy cập vào máy tính khi chưa được phép. Tổ chức phi lợi nhuận này cáo buộc OpenAI vi phạm Đạo luật truy cập dữ liệu máy tính toàn diện và chống gian lận của bang California.

“OpenAI phải chịu trách nhiệm về hành vi của các tác tử AI do mình tạo ra”, LASST nêu trong đơn kiện.

“Vụ việc tại Hugging Face là một sự cố nghiêm trọng và chúng tôi đã thực hiện hàng loạt biện pháp để xử lý. Tuy nhiên, vụ kiện này hoàn toàn không có cơ sở”, người phát ngôn của OpenAI tuyên bố.

CEO Hugging Face từng đề nghị OpenAI cung cấp 100 triệu USD năng lực tính toán

Hôm 28/9, OpenAI thông báo đã hoãn phát hành GPT-6.1 Astra vì lo ngại về an toàn. Các thử nghiệm nội bộ cho thấy GPT-6.1 Astra có hành vi mang tính đánh lừa và thực hiện một số hành động ngoài phạm vi được cho phép, khiến OpenAI quyết định chưa phát hành mô hình AI mới.

Thông tin này được đưa ra chỉ vài ngày sau khi OpenAI thông báo đang tiến hành cuộc rà soát toàn diện hoạt động của các mô hình AI sau vụ việc tại Hugging Face. Công ty cũng thừa nhận thêm một số trường hợp tác tử AI của mình hoạt động bất thường hoặc trái phép, trong đó có cổng thông tin y tế công cộng của chính phủ Úc.

Đầu tháng 9, Nvidia thông báo đã đồng ý chi gần 13 tỉ USD để mua lại Hugging Face. Trước đó, OpenAI từng tìm cách đầu tư 100 triệu USD vào startup AI này sau vụ tấn công mạng, nhưng các cuộc đàm phán đã đổ vỡ ngay ở giai đoạn đầu, các nguồn tin nói với CNBC.

Vào tháng 7, Clément Delangue (Giám đốc điều hành Hugging Face) cho biết ông đã đề nghị OpenAI cam kết cung cấp 100 triệu USD năng lực tính toán để “giúp cộng đồng Hugging Face xây dựng hệ thống phòng thủ mạng mạnh mẽ với những mô hình AI tốt nhất, cả mô hình trọng số mở lẫn mô hình độc quyền”.

Chuyên gia luật nói gì?

Katie Nadro, đối tác tại công ty luật Levenfeld Pearlstein (Mỹ), nói với kênh CNBC rằng điều đáng chú ý trong các vụ việc được công khai về tác tử AI hoạt động ngoài kiểm soát đến nay là chưa có vụ nào công khai dữ liệu được quản lý hoặc bảo vệ theo quy định của một bên thứ ba bị xâm nhập.

“Nếu điều đó xảy ra, công ty bị xâm nhập sẽ phải thực hiện các nghĩa vụ thông báo theo luật về rò rỉ dữ liệu cũng như các quy định về an ninh mạng và quyền riêng tư. Vụ việc khi đó có thể liên quan đến các cơ quan quản lý và cả các vụ kiện tập thể của người tiêu dùng”, Katie Nadro nhấn mạnh.

“Đến lúc đó, sự hợp tác từng tồn tại giữa các công ty bị tấn công mạng và phòng thí nghiệm AI có thể chấm dứt. Lý do bởi công ty bị xâm nhập nhiều khả năng sẽ tìm cách yêu cầu phòng thí nghiệm AI bồi thường những tổn thất tài chính mà họ phải chịu”, bà nói thêm.

Hôm 25/9, Reuters đưa tin OpenAI vẫn đang tìm cách hiểu đầy đủ phạm vi hoạt động của các tác tử AI đã hoạt động ngoài dự kiến, hai tháng sau vụ tấn công Hugging Face. Trường hợp mới xảy ra khi công ty cho biết các tác tử AI của mình đã làm rò rỉ 53 hình ảnh của người dùng ChatGPT. OpenAI từ chối cho biết những hình ảnh này do AI tạo ra hay ảnh có người thật. Công ty cũng không tiết lộ thời điểm những hình ảnh này được đăng tải.

Phần lớn số hình ảnh bị rò rỉ đã được gỡ xuống. OpenAI cho biết đang vận động các nhà cung cấp dịch vụ lưu trữ xóa những hình ảnh còn lại.

Các tác tử AI của OpenAI có thể tiếp cận những hình ảnh này vì công ty sử dụng dữ liệu người dùng đã được ẩn danh cho một phần quá trình huấn luyện mô hình.

Đến giữa tháng 9, OpenAI đã phát hiện khoảng 24 trường hợp tác tử AI hoạt động theo những cách không mong muốn, theo nguồn tin của Reuters. Tuy nhiên, con số này tiếp tục tăng khi các đội ngũ của OpenAI rà soát nhật kí nội bộ về hoạt động của các tác tử AI và phát hiện thêm những vụ việc trước đó chưa được biết đến, theo hai nguồn tin gần gũi với công ty.

Nvidia hôm 28/9 công bố bộ công cụ phần mềm nhằm đảm bảo an toàn cho các tác tử AI. Nvidia cho biết bộ công cụ này có thể ngăn chặn các tác tử AI xâm nhập Hugging Face.

Một trong những công cụ được Nvidia công bố hôm 28/9 là OpenShell.

OpenShell sử dụng các tính năng phần cứng trên CPU Vera của Nvidia để tạo vùng bảo vệ và kiểm soát hoạt động của tác tử AI.

Nvidia cho biết cũng đang hợp tác với Arm Holdings và Intel để bảo đảm OpenShell có thể hoạt động trên nền tảng CPU của hai hãng này. Nvidia đang triển khai OpenShell với hàng chục đối tác, trong đó có Anthropic.

Hệ thống khác có tên Sentry, sử dụng DPU BlueField-4 của Nvidia làm lớp giám sát độc lập, có thể cách li và dừng tác tử AI trong vài mili giây nếu phát hiện nó vượt khỏi ranh giới được phép.

DPU BlueField-4 là loại bộ xử lý chuyên dụng cho hạ tầng trung tâm dữ liệu của Nvidia, không phải GPU (bộ xử lý đồ họa) dùng để chạy mô hình AI theo cách thông thường.

Theo Ali Golshan - Giám đốc cấp cao phụ trách phần mềm AI tại Nvidia, bộ công cụ của công ty sử dụng những phương pháp toán học để phát hiện khi tác tử AI tìm cách lách các biện pháp kiểm soát, chẳng hạn tự tạo nhiều “tác tử con” để vượt qua cơ chế chặn tác tử chính.

“Điều chúng ta thực sự đang nói đến là hoạt động của cả một nhóm tác tử AI và cách chúng phối hợp với nhau”, Ali Golshan nói trong buổi giới thiệu sản phẩm.

Sơn Vân