Các sáng kiến chống tội phạm mạng dùng AI lừa ngược kẻ lừa đảo như thế nào?

Dù AI tiếp tay cho các hoạt động lừa đảo trực tuyến và tội phạm mạng phát triển mạnh hơn, công nghệ này cũng đang được huy động để bảo vệ những người có nguy cơ trở thành nạn nhân. Các chính phủ trên thế giới từ lâu gặp khó khăn trong việc giải quyết cuộc khủng hoảng tội phạm trực tuyến toàn cầu, đặc biệt do những hạn chế khi truy quét tội phạm hoạt động bên ngoài biên giới quốc gia.

Thực trạng này thúc đẩy sự ra đời của những biện pháp thay thế, chẳng hạn sử dụng hệ thống tự động để đối phó với hàng loạt kẻ lừa đảo cùng lúc. Một trong những cách làm là gửi thật nhiều tin nhắn rác cho chính những kẻ chuyên phát tán tin nhắn rác, buộc chúng lãng phí thời gian và nguồn lực. Giờ đây, các nền tảng AI đang biến những thử nghiệm như vậy thành công cụ thực tế trong cuộc chiến chống tội phạm mạng.

Trong hai năm qua, công ty Apate (Úc), được đặt tên theo nữ thần lừa dối trong thần thoại Hy Lạp, đã phát triển một hệ thống chuyển các cuộc gọi lừa đảo sang những bot AI. Các bot AI này được huấn luyện để duy trì cuộc trò chuyện càng lâu càng tốt, nhưng không thực sự mắc bẫy. Mục tiêu là khiến kẻ lừa đảo tin rằng vẫn còn cơ hội lừa được đối phương, từ đó tiếp tục nói chuyện, đồng thời để hệ thống thu thập thông tin về các chiêu trò chúng đang sử dụng.

“Chúng tôi muốn nghĩ rằng mình đang tạo ra những nạn nhân hoàn hảo dành cho những kẻ lừa đảo”, ông Dali Kaafar, nhà sáng lập kiêm Giám đốc điều hành Apate, cho biết.

"Mỗi phút kẻ lừa đảo trò chuyện với bot hoặc tác tử AI là một phút bạn có thể đang cứu hàng trăm, thậm chí hàng nghìn người khác khỏi việc bị chính kẻ đó tiếp cận", ông giải thích. Nhận định này dựa trên thực tế tội phạm có thể sử dụng các công cụ quay số tự động để gọi cho số lượng lớn người trong thời gian ngắn.

Apate dùng 350.000 bot để lừa ngược tội phạm mạng

Theo Dali Kaafar, nền tảng Apate đang được các ngân hàng sử dụng và công ty viễn thông hỗ trợ, hiện có khoảng 350.000 bot. Các bot này không chỉ tiếp nhận các cuộc gọi mà còn thâm nhập những nhóm trò chuyện của kẻ lừa đảo trên mạng và trả lời tin nhắn văn bản. Các hoạt động này đều nhằm khiến tội phạm mất thời gian, đồng thời thu thập thông tin phục vụ công tác điều tra.

Dali Kaafar cho biết Apate đã thu thập được hơn 250.000 thông tin liên quan đến các đối tượng lừa đảo theo thời gian thực, từ các link lừa đảo cho đến các tài khoản trung gian nhận tiền bất chính và thông tin chi tiết về ngân hàng.

Theo ông, những bot này được thiết kế với tính cách, năng lực ngôn ngữ và hồ sơ cá nhân khác nhau để hạn chế nguy cơ bị phát hiện là AI.

“Chúng mô phỏng những thói quen như người dùng thực. Có bot sử dụng WhatsApp, có bot thì không. Có bot nghe điện thoại, trong khi một số khác chủ động cúp máy và nói với kẻ lừa đảo rằng sẽ liên lạc lại sau”, Dali Kaafar nói. Thế nhưng, những bot này có đủ sức thuyết phục?

Thử nghiệm Apate

Phóng viên tạp chí WIRED đã thử nghiệm công cụ thông qua phiên bản dùng thử, trong đó người tham gia đóng vai kẻ lừa đảo và trò chuyện với bot AI của Apate. Các bot được thiết kế để thể hiện sự nghi ngờ ở mức vừa phải nhưng vẫn để lộ đủ sơ hở khiến kẻ lừa đảo nghĩ rằng mình có thể tiếp tục thuyết phục đối phương. Người thử nghiệm nhanh chóng nhận ra cách tương tác này và cảm thấy vô cùng bực bội.

Những kẻ lừa đảo có lẽ đã quen với kiểu đối thoại đầy nghi ngờ như vậy. Dali Kaafar cho biết các cuộc gọi của Apate thường kéo dài hơn hai giờ.

Trong thử nghiệm của WIRED, hệ thống Apate phản hồi tích cực, duy trì cuộc trò chuyện linh hoạt và có nhịp điệu tự nhiên. Hai người thử nghiệm lần lượt đóng vai Lucy (người mời đầu tư) và Mickey (cố vấn tài chính của cô) để cùng tìm cách thuyết phục bot AI.

Sau 6 phút kiên trì, cả hai vẫn không thể khiến hệ thống AI của Apate đồng ý đầu tư vào một cơ hội tiền mã hóa mà họ đưa ra.

AI có thể mở ra hướng đi mới trong cuộc chiến chống lừa đảo

Hiện tại, ngay cả khi Apate triển khai một mạng lưới khổng lồ các bot để đối phó với tội phạm, việc bạn nhận được cuộc gọi hoặc tin nhắn lừa đảo tiếp theo có lẽ chỉ còn là vấn đề thời gian. Tội phạm mạng thực hiện hàng tỉ cuộc gọi và gửi hàng tỉ tin nhắn mỗi năm. Những tổ chức tinh vi nhất còn vận hành các trung tâm lừa đảo quy mô công nghiệp.

Những người chuyên giăng bẫy kẻ lừa đảo cùng các sáng kiến ​​thâm nhập vào mạng lưới lừa đảo đã góp phần răn đe hiệu quả trong nhiều năm qua. Thế nhưng, các nỗ lực của cơ quan thực thi pháp luật và giới nghiên cứu vẫn chưa thể ngăn chặn sự bành trướng của nạn lừa đảo kỹ thuật số nói chung.

Dù vậy, AI có thể mở ra hướng đi mới trong cuộc chiến chống lừa đảo, thay vì chỉ trở thành công cụ giúp tội phạm hoạt động hiệu quả hơn. Việc tăng cường chia sẻ thông tin tình báo giữa cảnh sát, công ty mạng xã hội, ngân hàng và những ngành liên quan là yêu cầu cấp thiết. Các công cụ giám sát và phân tích dữ liệu ứng dụng AI có thể hỗ trợ đáng kể cho nỗ lực này.

Ngày càng có nhiều sáng kiến tìm cách phá hoại hoạt động của tội phạm mạng bằng cách khai thác những “điểm yếu tâm lý” của chúng. Trong một số trường hợp, các chiến dịch tác động tâm lý này nhắm trực tiếp vào những kẻ đứng sau các vụ tấn công bằng mã độc tống tiền.

Khi nỗ lực phá vỡ hoạt động của những kẻ lừa đảo và tội phạm mạng ngày càng được mở rộng, AI tạo sinh đang cho thấy hiệu quả ngày càng rõ rệt trong việc khiến chúng bận rộn, lãng phí nguồn lực và giảm thời gian dành cho những cuộc tấn công khác.

Hệ thống bẫy hacker

Một ví dụ là hệ thống bẫy hacker (honeypot). Trong nhiều năm, các công ty và nhà nghiên cứu bảo mật đã triển khai những máy tính ảo giả mạo để thu hút hacker. Những hệ thống này được thiết kế nhằm khiến hacker mất thời gian, giúp chuyên gia thu thập thông tin và tìm hiểu các kỹ thuật xâm nhập mà chúng sử dụng bí mật.

Mark Vero, nghiên cứu sinh tiến sĩ tại khoa Khoa học Máy tính thuộc Trường Đại học ETH Zurich (Thụy Sĩ), cho biết các nhà cung cấp hệ thống bẫy hacker mã nguồn mở ngày càng tích hợp mô hình ngôn ngữ lớn để khiến những hệ thống giả lập này phản hồi linh hoạt, trông giống mạng máy tính thật hơn.

Trong nghiên cứu gần đây, Vero và các cộng sự nhận thấy hệ thống bẫy hacker sử dụng mô hình ngôn ngữ lớn có thể giữ chân những tác tử AI đang tấn công mạng lâu hơn đáng kể so với hệ thống có hành vi dễ đoán.

“Các tác tử AI được sử dụng để tấn công mạng dễ tin rằng những hệ thống bẫy hacker do mô hình ngôn ngữ lớn mô phỏng là thật. Các tác tử AI cũng ít phát hiện ra đây là bẫy hơn so với hệ thống thông thường. Nếu được xây dựng đủ tốt, những hệ thống này sẽ tạo lợi thế đáng kể cho các chuyên gia bảo mật trong việc đối phó với hacker”, Mark Vero nhận xét.

Sơn Vân