Khi AI 'nối giáo' cho hacker

Theo các nhà nghiên cứu bảo mật tại Cybernews, chỉ với một prompt được soạn thảo tinh vi, họ đã có thể biến Lena (chatbot được hỗ trợ bởi ChatGPT trên website của Lenovo) thành một công cụ tấn công, có khả năng đánh cắp thông tin nhạy cảm và thậm chí xâm nhập sâu vào mạng lưới nội bộ của Lenovo.

Khi AI 'nối giáo' cho hacker

Điều đáng sợ nhất trong cuộc thử nghiệm này là cách các nhà nghiên cứu đã thành công trong việc lấy được session cookies từ các nhân viên hỗ trợ khách hàng thực sự. Điều này có nghĩa là họ có thể "cướp" tài khoản của những nhân viên này, truy cập vào dữ liệu nhạy cảm và có khả năng thâm nhập sâu hơn vào hệ thống mạng của công ty.

Các nhà nghiên cứu giải thích trong báo cáo của mình: "Phát hiện này làm nổi bật nhiều vấn đề bảo mật nghiêm trọng". Họ chỉ ra rằng hệ thống đang mắc phải những lỗi cơ bản như không kiểm soát đúng cách dữ liệu đầu vào từ người dùng, không lọc sạch đầu ra từ chatbot, máy chủ web không xác minh nội dung được tạo ra bởi chatbot và thậm chí còn chạy mã không được xác thực.

Tất cả những lỗ hổng này tạo ra một "cánh cửa rộng mở" cho các cuộc tấn công Cross-Site Scripting (XSS), một trong những hình thức tấn công web nguy hiểm nhất hiện tại.

Cốt lõi của vấn đề, theo các chuyên gia, nằm ở bản chất của các chatbot hiện tại: chúng là những "người làm hài lòng" sinh ra để đáp ứng yêu cầu của con người. Không có đủ rào cản bảo vệ, chúng sẽ làm theo những gì được yêu cầu mà không có khả năng phân biệt đâu là yêu cầu vô hại và đâu là ý định độc hại.

Trong trường hợp cụ thể này, các nhà nghiên cứu Cybernews đã viết một prompt dài 400 từ, yêu cầu chatbot tạo ra một đáp án dưới dạng HTML. Kết quả là một phản hồi chứa những chỉ dẫn bí mật để truy cập tài nguyên từ một máy chủ do kẻ tấn công kiểm soát, cùng với hướng dẫn gửi dữ liệu thu được từ trình duyệt của khách hàng.

Điều đáng lo ngại hơn là các chuyên gia khẳng định rằng việc đánh cắp session cookies chỉ là phần nổi của tảng băng. Họ cảnh báo: "Điều này không chỉ giới hạn ở việc đánh cắp cookies. Có thể thực thi một số lệnh hệ thống, điều này có thể cho phép cài đặt backdoor và di chuyển ngang sang các máy chủ và máy tính khác trong mạng".

Phản ứng của Lenovo

Sau khi được thông báo về phát hiện này, Lenovo đã trả lời rằng họ đã "bảo vệ hệ thống" của mình, nhưng lại không cung cấp bất kỳ chi tiết cụ thể nào về những biện pháp đã được thực hiện. Các nhà nghiên cứu bảo mật gọi đây là một "sự giám sát bảo mật khổng lồ" với những hậu quả có thể tàn khốc.

Phản ứng này không chỉ làm dấy lên nghi ngờ về mức độ nhận thức nghiêm trọng của Lenovo đối với vấn đề, mà còn để lại câu hỏi về việc liệu các biện pháp khắc phục có thực sự hiệu quả hay không.

Sự cố này không chỉ là vấn đề riêng của Lenovo mà còn là một hồi chuông cảnh tỉnh cho toàn bộ ngành công nghiệp đang đua nhau triển khai các giải pháp AI. Khi các công ty lớn như Microsoft, Google, Amazon và hàng trăm doanh nghiệp khác đang tích hợp chatbot vào hệ thống của mình, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu.

Các nhà nghiên cứu đã đưa ra khuyến cáo quan trọng: tất cả các công ty sử dụng chatbot cần phải coi mọi đầu ra từ AI là "có khả năng gây độc hại" và hành động tương ứng. Điều này có nghĩa là cần phải có những lớp bảo vệ nhiều tầng, từ việc kiểm soát đầu vào đến việc xác thực đầu ra và đặc biệt là không bao giờ tin tưởng hoàn toàn vào những gì AI tạo ra.

Tương lai của AI và bảo mật

Sự cố với chatbot Lena của Lenovo chỉ là một ví dụ điển hình cho thấy chúng ta đang di chuyển quá nhanh trong việc áp dụng AI mà chưa hiểu rõ về những rủi ro đi kèm. Trong khi AI mang lại những tiện ích không thể phủ nhận, nó cũng tạo ra những vector tấn công hoàn toàn mới mà các hệ thống bảo mật truyền thống chưa được thiết kế để đối phó.

Điều này đặt ra yêu cầu cấp thiết về việc phát triển những chuẩn mực bảo mật mới, đào tạo nhân viên về những rủi ro AI và quan trọng nhất là thay đổi tư duy từ "triển khai nhanh" sang "triển khai an toàn". Bởi vì như sự cố Lenovo đã chứng minh, chỉ cần một câu hỏi được đặt sai cách, một trợ lý AI có thể lập tức biến thành kẻ thù nguy hiểm nhất của chính công ty tạo ra nó.

Trong thời đại mà ranh giới giữa con người và máy móc ngày càng mờ nhạt, việc đảm bảo rằng AI phục vụ con người cho những mục đích tốt đẹp chứ không phải ngược lại, đang trở thành thách thức lớn nhất mà chúng ta phải đối mặt.