Google Gemini bị tấn công: Cảnh báo về lỗ hổng bảo mật

Trong một nghiên cứu được công bố, ba nhà nghiên cứu tại Đại học Tel Aviv đã cho thấy cách một hệ thống AI tự sinh như Google Gemini có thể bị lợi dụng để điều khiển các thiết bị vật lý trong nhà thông minh. Họ bắt đầu cuộc tấn công bằng cách cài đặt các lệnh điều khiển thiết bị điện tử ngay trong một lời mời trên Google Calendar.

Khi yêu cầu Gemini tóm tắt lịch tuần tới, những lệnh độc hại mã hóa trong lời mời này được kích hoạt tự động, dẫn đến việc tắt đèn và có thể gây ra các hành động nguy hiểm khác. Đây được xem là lần đầu tiên một hệ thống AI được chứng minh có thể bị tấn công theo cách này nhằm thao túng môi trường vật lý.

Nghiên cứu với tiêu đề "Invitation Is All You Need: TARA for Targeted Promptware Attack Against Gemini-Powered Assistants" đã chỉ ra mối nguy hiểm từ việc tích hợp các mô hình ngôn ngữ lớn (LLM) với thiết bị vật lý như nhà thông minh, robot hay phương tiện tự hành. Ben Nassi, một trong các nhà nghiên cứu, nhấn mạnh rằng việc bảo mật các hệ thống AI trước khi áp dụng đại trà trong môi trường vật lý là vấn đề sống còn, liên quan trực tiếp đến an toàn chứ không chỉ là bảo vệ thông tin cá nhân.

Phía Google đã nhanh chóng nắm bắt thông tin và khẳng định chưa có hacker nào khai thác lỗ hổng này trên thực tế. Ông Andy Wen, đại diện Google Workspace, cho biết công ty đang tích cực phối hợp với nhóm nghiên cứu để vá lỗi và phát triển cơ chế phòng ngừa các cuộc tấn công kiểu prompt injection (một kỹ thuật tấn công bảo mật trong các hệ thống AI tạo sinh) nhằm đảm bảo an toàn cho người dùng.