Nhờ AI tiên tiến, kẻ gian có thể gọi lừa đảo hàng trăm nghìn cuộc mỗi ngày

Vài năm trước, việc xây dựng một hệ thống AI (trí tuệ nhân tạo) có thể thực hiện cuộc trò chuyện qua điện thoại một cách thuyết phục vẫn là nhiệm vụ đầy khó nhọc. Bạn phải kết hợp các công cụ riêng biệt để nhận dạng giọng nói, xử lý ngôn ngữ và tổng hợp giọng nói, rồi kết nối tất cả chúng thông qua phần mềm smartphone vốn rất dễ gặp lỗi.

Thế nhưng, điều này giờ không còn đúng nữa. Sự xuất hiện của các mô hình AI xử lý giọng nói theo thời gian thực, chẳng hạn RealTime API của OpenAI, cho phép tạo ra một hệ thống phức tạp chỉ trong vài phút.

Mã nguồn công khai có thể hỗ trợ kết nối những mô hình AI này với một đường dây điện thoại. Mô hình AI lắng nghe, suy luận và phản hồi tức thì. Kết quả là tạo ra một giọng nói tổng hợp có thể trò chuyện trôi chảy, ứng biến tự nhiên và duy trì hội thoại như người thật.

Trong năm qua, lừa đảo bằng giọng nói AI (vishing) không còn chỉ là lý thuyết mà đã xuất hiện trong thực tế. Đầu năm 2024, tập đoàn tư vấn kỹ thuật nổi tiếng Arup (Anh) trở thành nạn nhân của vụ lừa đảo tinh vi, trong đó các tội phạm sử dụng deepfake để giả mạo lãnh đạo công ty trong cuộc gọi video, từ đó thuyết phục nhân viên chuyển 25,6 triệu USD vào tài khoản của chúng.

Thông tin điều tra cho biết một nhân viên tài chính tại chi nhánh Hồng Kông (Trung Quốc) của Arup đã nhận được email “khẩn” từ tài khoản giả mạo giám đốc tài chính công ty, yêu cầu thực hiện một giao dịch bí mật. Ban đầu nhân viên này hoài nghi về email, nhưng sau đó được mời vào cuộc họp video trực tuyến, nơi giám đốc tài chính cùng các đồng nghiệp giả xuất hiện và nói chuyện giống thật. Hình ảnh và giọng nói của những kẻ giả danh này đều được AI tái tạo từ dữ liệu trước đó.

Sau khi bị thuyết phục, nhân viên đã thực hiện tổng cộng 15 giao dịch chuyển tiền (tổng cộng 25,6 triệu USD) vào 5 tài khoản ngân hàng tại Hồng Kông mà kẻ gian chỉ định. Nhân viên chỉ phát hiện bị lừa đảo khi gọi điện xác minh với trụ sở Arup ở Anh.

Tháng 7 vừa qua, cuộc tấn công vishing vào hãng công nghệ và an ninh mạng Cisco (Mỹ) đã thành công trong việc trích xuất thông tin từ hệ thống quản lý quan hệ khách hàng dựa trên đám mây.

Cụ thể, kẻ tấn công dùng giọng nói giả mạo để lừa nhân viên Cisco tiết lộ thông tin và cấp quyền truy cập. Sau đó, hắn truy cập vào một phiên bản của hệ thống quản lý quan hệ khách hàng dựa trên đám mây bên thứ ba mà Cisco sử dụng. Sau khi vào được hệ thống này, kẻ gian đã tải xuống một số dữ liệu người dùng từng đăng ký tài khoản trên Cisco.com, như tên, email, số điện thoại, tên tổ chức, ID người dùng và thông tin thời gian tạo tài khoản.

Cisco tuyên bố không có mật khẩu, dữ liệu nhạy cảm hay dữ liệu hệ thống nội bộ nào bị lộ. Sự cố chỉ giới hạn ở một phiên bản hệ thống quản lý quan hệ khách hàng bên ngoài và không ảnh hưởng đến các sản phẩm hay dịch vụ của họ. Tuy nhiên, sự việc cho thấy ngay cả hãng công nghệ lớn cũng có thể bị lừa đảo bằng giọng nói AI - kỹ thuật khai thác chính sự mất cảnh giác của con người.

Kẻ gian có thể thực hiện hàng trăm nghìn cuộc gọi lừa đảo mỗi ngày

Những công cụ AI từng chỉ dành cho các chuyên gia giờ đã có sẵn trên mạng, ai cũng có thể khai thác. Các mô hình xử lý giọng nói với độ trễ thấp đã loại bỏ rào cản kỹ thuật cuối cùng, khiến việc lừa đảo bằng giọng nói AI theo thời gian thực trở nên khả thi.

Trong quá trình thử nghiệm, Nell Norman (nhà nghiên cứu AI) chỉ cần viết vài dòng lệnh hướng dẫn là có thể khiến hệ thống giả lập vai một quản lý nhân sự gọi điện về bảng lương hoặc nhân viên chống gian lận cảnh báo về hoạt động đáng ngờ. AI có thể suy nghĩ và thay đổi hành vi ngay lập tức theo tình huống. Điều đó tạo điều kiện cho kẻ lừa đảo khai thác AI thay đổi linh hoạt để phù hợp với từng trường hợp.

AI có nhiều ứng dụng hữu ích, chẳng hạn theo dõi sức khỏe bệnh nhân, chăm sóc khách hàng hoặc dạy học. Thế nhưng, công nghệ này có thể bị khai thác cho mục đích xấu. Về lý thuyết, một người có thể thực hiện hàng trăm nghìn cuộc gọi lừa đảo mỗi ngày, mỗi cuộc được cá nhân hóa theo mục tiêu.

Mối đe dọa này càng nghiêm trọng hơn bởi tính chân thật ngày càng cao và chi phí thấp của những nền tảng như ElevenLabs hoặc Cartesia, vốn có thể hỗ trợ nhân bản giọng nói chỉ với vài mẫu âm thanh ngắn.

Việc thu thập hàng giờ phát ngôn của người nổi tiếng rồi tạo ra bản sao giọng nói thuyết phục mà họ không hề hay biết là điều hoàn toàn khả thi và tương đối dễ dàng. Theo FBI (Cục Điều tra Liên bang Mỹ), các quan chức công quyền từng bị giả mạo trong những cuộc tấn công như vậy. FBI cảnh báo công chúng không nên mặc nhiên tin rằng các thông điệp tự xưng từ một quan chức cấp cao của Mỹ là thật.

Risk Repository, cơ sở dữ liệu ghi nhận hơn 1.600 rủi ro về AI của Viện Công nghệ Massachusetts (Mỹ), cho thấy trong 5 năm gần đây, tỷ lệ các sự cố AI liên quan đến gian lận tăng mạnh, từ khoảng 9% lên khoảng 48%.

Khi tội phạm mạng ngày càng nhiều, các hệ thống xác thực khách hàng dựa vào giọng nói giờ cũng trở thành rủi ro. Những yêu cầu nhạy cảm và giao dịch giá trị cao nên yêu cầu xác thực đa lớp, không chỉ dựa vào giọng nói.

Cảnh giác cao độ trong kỷ nguyên AI

Bài học cho chúng ta trong kỷ nguyên AI: Giọng nói ở đầu dây bên kia chưa chắc là của người thật. Giống như từng cảnh giác với email đáng ngờ, ngày nay chúng ta phải học cách hoài nghi một giọng nói nghe giống người thật. Trong tương lai, chúng ta có thể sẽ cần tạo ra các “dấu hiệu ẩn trong giọng nói” hoặc chữ ký số để xác thực giọng nói là thật.

Các cuộc tranh luận về AI thường nhấn mạnh vào những rủi ro lớn, mang tính sinh tồn. Song trên thực tế, những rủi ro nhỏ hơn sẽ tác động đến chúng ta trước. Lừa đảo và mạo danh bằng AI làm suy giảm niềm tin trong giao tiếp hàng ngày.

Những hành vi phạm tội tưởng như bình thường này chính là giai đoạn đầu, nơi AI bắt đầu tác động mạnh mẽ đến đời sống. Những kỹ năng tạo ra AI nay cũng cần phải được áp dụng để đảm bảo an toàn cho người dùng và chống lạm dụng, không chỉ để phát triển tính năng mới.