Hệ thống AI doanh nghiệp thành mục tiêu của tấn công đầu độc dữ liệu

Tờ Financial Times dẫn chứng trường hợp của doanh nghiệp hàng đầu ngành tư vấn Bain & Co. Chuyên gia từ tổ chức CodeWall tuyên bố chỉ nhờ một tác nhân AI tự hành, họ mất đúng 18 phút để bẻ khóa nền tảng Pyxis của doanh nghiệp này. Đây không phải nền tảng cũ kĩ đầy lỗ hổng mà là công cụ AI được bộ phận tư vấn vốn cổ phần tư nhân sử dụng để thẩm định đầu tư và phân tích thị trường. Nếu đây là cuộc tấn công thật thì 10.000 cuộc hội thoại cùng hàng tỉ giao dịch nhạy cảm sẽ rơi vào tay tin tặc.

CodeWall cũng “thử lửa” cả công ty tài chính McKinsey. Kết quả hệ thống AI nội bộ bị xâm nhập trong chưa đầy 2 giờ, làm lộ 46,5 triệu tin nhắn, 57.000 tài khoản người dùng, 95 lệnh hệ thống phục vụ cho hơn 40.000 nhà tư vấn. Ngoài ra CodeWall còn tìm thấy lỗi bảo mật sơ đẳng trong kho lưu trữ dữ liệu của công ty tư vấn Boston Consulting Group (BCG).

Kiểm nghiệm trên phản ánh một xu hướng đáng lo ngại. Theo giám đốc điều hành CodeWall Paul Price, nhiều doanh nghiệp đang quá vội vàng triển khai trí tuệ nhân tạo theo xu hướng mà không chú trọng nâng cao năng lực bảo mật cho tương xứng. Vài lỗi cơ bản như nhúng mã khóa (security tokens) hay thông tin đăng nhập vào mã nguồn mở lại xuất hiện ở nhiều hệ thống AI doanh nghiệp phổ biến.

Hiểm họa càng tăng cao vì năng lực tấn công mạng của AI không hề thấp như giới công nghệ đánh giá. Tháng trước, các tác nhân AI của OpenAI ở môi trường thử nghiệm không kết nối mạng đã tìm cách truy cập web công khai, thậm chí xâm nhập hệ thống của nền tảng chia sẻ AI mã nguồn mở Hugging Face mà người vận hành không hề hay biết hoặc cho phép. Đặc biệt chúng còn bộc lộ khả năng tự trao đổi và phối hợp nhằm hoàn thành nhiệm vụ. Chúng để lại thông điệp trên một bảng tin nội bộ tự tạo, chia sẻ thông tin về lỗ hổng mã rồi tổ chức vượt rào một cách có hệ thống.

Nhà nghiên cứu Bojan Milanov (Viện AI Now) nhận định: “Năng lực tấn công mạng của AI không phải do chúng đột nhiên vượt khỏi tầm kiểm soát, mà do con người chủ động phát triển”.

Theo Financial Times, kiểm nghiệm của CodeWall đem lại bài học quý giá cho doanh nghiệp. Trước tiên cần hiểu rằng không thể đánh đổi sự an toàn đổi lấy tốc độ. Sử dụng công cụ AI tăng năng suất là cần thiết, nhưng không chủ động nâng cao năng lực bảo mật thì giống như tự “đặt bom hẹn giờ” bên cạnh mình vậy.

Thứ hai, ngày nay dữ liệu là yếu tố sống còn. Trong kỉ nguyên AI, tương tác với chatbot không chỉ là hội thoại mà còn chứa đựng thông tin cá nhân, bí mật kinh doanh, nội dung trao đổi quan trọng. Nếu có thể tiếp cận thì kẻ xấu dễ dàng nắm rõ sơ đồ tổ chức lẫn chiến lược của doanh nghiệp.

Trong số phương thức tấn công, đầu độc dữ liệu thuộc nhóm gây thiệt hại hàng đầu. Hình thức đầu độc vô cùng đa dạng.

Kẻ xấu có thể cố tình đưa lượng lớn dữ liệu “rác” làm sụp đổ toàn bộ quá trình huấn luyện khiến mô hình AI không sử dụng được. Nếu không chúng cài cắm mật mã/dấu hiệu ẩn vào dữ liệu, AI vẫn hoạt động bình thường với dữ liệu sạch nhưng sẽ trả về kết quả sai lệch theo ý muốn của kẻ xấu khi gặp mật mã/dấu hiệu đó. Hoặc tin tặc thay đổi nhãn dữ liệu (ví dụ đổi nhãn thư điện tử “lừa đảo” thành “an toàn”) khiến AI học sai quy luật phân loại.

Về kịch bản tấn công, kẻ xấu có thể cố tình sơ tuyển hàng loạt hồ sơ có từ khóa sai lệch để AI học cách loại bỏ ứng viên giỏi hoặc ưu ái ứng viên kém năng lực, hoặc thực hiện hàng loạt giao dịch gian lận tinh vi được gắn nhãn “hợp pháp” khiến AI mất khả năng chặn giao dịch lừa đảo tương tự trong tương lai, nếu không sẽ cố tình tương tác bằng ngôn từ không đúng mực để chatbot tự động học theo và phát ngôn gây nên khủng hoảng truyền thông.

Để bảo vệ hệ thống AI, doanh nghiệp cần triển khai chiến lược phòng thủ chiều sâu. Luôn xác thực nguồn gốc, quyền truy cập và tính toàn vẹn của mọi dữ liệu đầu vào, sử dụng thuật toán thống kê giúp phát hiện - loại bỏ dữ liệu có cấu trúc bất thường trước khi đưa vào huấn luyện, áp dụng kĩ thuật như máy học chống chịu (robust machine learning) giảm thiểu tầm ảnh hưởng của điểm dữ liệu nhiễu, chủ động giả lập tấn công đầu độc dữ liệu tìm ra lỗ hổng của AI trước khi triển khai thực tế.