Chuyên gia lo ngại chatbot ChatGPT giúp hacker viết mã độc, email lừa đảo người dùng

Cảnh báo mới nhất đặc biệt đáng chú ý do đến từ OpenAI. Hai trong số các nhà nghiên cứu chính sách của OpenAI nằm trong số 6 tác giả báo cáo mới, điều tra mối đe dọa từ các hoạt động gây ảnh hưởng do AI hỗ trợ.

“Đánh giá cuối cùng của chúng tôi là các mô hình ngôn ngữ sẽ hữu ích cho các nhà tuyên truyền và có khả năng sẽ biến đổi các hoạt động gây ảnh hưởng trực tuyến”, trích thông điệp đi kèm báo cáo.

Mối quan tâm về các chatbot nâng cao không dừng lại ở các hoạt động gây ảnh hưởng. Các chuyên gia an ninh mạng cảnh báo rằng ChatGPT và các mô hình AI tương tự có thể giúp hacker viết mã độc nhắm vào các lỗ hổng hiện có hoặc mới được phát hiện.

Check Point Software Technologies, công ty an ninh mạng có trụ sở tại Israel, cho biết những kẻ tấn công đã nghiên cứu trên các diễn đàn hack cách tạo lại các dòng phần mềm độc hại hoặc thị trường dark web (web đen) bằng chatbot.

Một số chuyên gia an ninh mạng nhấn mạnh rằng mã độc nào do ChatGPT hay mô hình AI khác cung cấp có thể giúp những hacker trong việc phát triển mồi nhử tốt hơn hoặc tự động hóa các hành động thu thập thông tin quan trọng. Một mối lo ngại khác là hacker có thể phát triển các mô hình AI của riêng họ.

WithSecure, công ty an ninh mạng có trụ sở tại Helsinki (thủ đô Phần Lan), lập luận trong báo cáo mới rằng những kẻ xấu sẽ sớm học cách chơi ChatGPT bằng cách đặt ra những câu hỏi độc hại có thể đưa vào các nỗ lực lừa đảo, quấy rối và tin tức giả mạo.

Andy Patel, nhà nghiên cứu tình báo tại WithSecure, cho biết: “Bây giờ có lý khi cho rằng bất kỳ thông tin liên lạc mới nào bạn nhận được có thể đã được viết với sự trợ giúp của robot”.

Đại diện OpenAI cũng như các nhà nghiên cứu của công ty làm việc trong báo cáo về các hoạt động ảnh hưởng, không trả lời khi được đề nghị bình luận về vấn đề trên.

Cục Điều tra Liên bang Mỹ (FBI), Cơ quan An ninh Quốc gia và Hội đồng An ninh Quốc gia Mỹ từ chối bình luận về rủi ro của các mô hình do AI tạo ra như vậy.

Kyle Hanslovan là một trong số những người nói rằng có giới hạn với những gì ChatGPT có thể cung cấp.

Kyle Hanslovan từng tạo ra các cuộc khai thác mạng tấn công cho chính phủ Mỹ trước khi thành lập công ty bảo mật riêng là Huntress (có trụ sở tại bang Maryland).

Kyle Hanslovan nói với tờ Bloomberg News rằng ChatGPT không có khả năng tạo ra các khai thác mới tinh vi kiểu mà một kẻ tấn công cấp quốc gia làm được “vì nó thiếu rất nhiều sự sáng tạo và khéo léo”. Song giống như một số chuyên gia bảo mật khác, Kyle Hanslovan nói ChatGPT sẽ giúp những người không nói tiếng Anh tạo ra các email lừa đảo tốt hơn rõ rệt.

Kyle Hanslovan lập luận rằng ChatGPT có khả năng mang lại cho những người phòng thủ mạng “ưu thế hơn một chút” so với những kẻ tấn công mạng.

Juan Andres Guerrero-Saade, Giám đốc cấp cao của Sentinel Labs thuộc công ty an ninh mạng SentinelOne (Mỹ), nói ChatGPT biết mã tốt hơn ông khi nói đến thế giới phức tạp của kỹ thuật đảo ngược và gỡ rối mã nguồn – nỗ lực khám phá những bí mật và ma thuật đằng sau mã nguồn độc hại.

Juan Andres Guerrero-Saade đã rất kinh ngạc trước các khả năng của ChatGPT đến nỗi ông đã loại bỏ giáo trình giảng dạy của mình để nghiên cứu về hacker cấp quốc gia.

Juan Andres Guerrero-Saade nói rằng ChatGPT có thể làm cho các khối mã xây dựng trở nên rõ ràng nhanh hơn ông có thể làm thủ công và rẻ hơn so với phần mềm đắt tiền.

Giám đốc cấp cao Sentinel Labs cho biết đã yêu cầu ChatGPT dịch ngược và phân tích lại phần mềm độc hại CaddyWiper nhắm mục tiêu đến Ukraine để tìm ra lỗi trong phân tích ban đầu của ông cùng những người khác.

Ông nói: “Hiện tại thực sự không có nhiều nhà phân tích phần mềm độc hại trên thế giới”.

Trong nghiên cứu về các hoạt động gây ảnh hưởng do AI hỗ trợ, các nhà nghiên cứu cho biết lo lắng chính của họ là các chiến dịch có thể rẻ hơn, dễ mở rộng quy mô hơn, tức thì, thuyết phục hơn và khó xác định hơn khi sử dụng công cụ AI.

Báo cáo này là nỗ lực của Center for Security and Emerging Technology (Trung tâm An ninh và Công nghệ mới nổi) của Đại học Georgetown (Mỹ), OpenAI và Stanford Internet Observatory.

Những tác giả cũng “vạch ra các bước có thể thực hiện trước khi các mô hình ngôn ngữ được sử dụng cho hoạt động gây ảnh hưởng trên quy mô lớn”, chẳng hạn như dạy các mô hình AI cách “nhạy cảm với thực tế hơn”, áp đặt các hạn chế chặt chẽ hơn với việc sử dụng các mô hình và phát triển công nghệ AI có thể xác định công việc của máy AI khác, theo báo cáo.

Song những rủi ro là rõ ràng từ báo cáo, bắt đầu trước khi OpenAI phát hành ChatGPT.

“Không có viên đạn bạc (giải pháp dễ dàng và nhanh chóng cho vấn đề nào đó – PV) nào để giảm thiểu nguy cơ thông tin sai lệch do AI tạo ra”, báo cáo kết luận.

Được thành lập bởi Elon Musk và nhà đầu tư Sam Altman, công ty OpenAI (đặt trụ sở ở thành phố San Francisco, Mỹ) cung cấp chatbot ChatGPT để thử nghiệm công khai miễn phí vào ngày 30.11.2022, thu hút 1 triệu người dùng đầu tiên sau chưa đầy một tuần.

Chatbot là một ứng dụng phần mềm được thiết kế để bắt chước cuộc trò chuyện giống con người dựa trên lời nhắc của người dùng.

ChatGPT có thể được sử dụng trong các ứng dụng thế giới thực như viết thư xin việc và bài tiểu luận, tiếp thị kỹ thuật số, tạo nội dung trực tuyến, trả lời các câu hỏi về dịch vụ khách hàng, thậm chí giúp gỡ lỗi mã.

Nhiều người khen ngợi ChatGPT về phạm vi kiến thức ấn tượng và định dạng dễ sử dụng. 

Dù dịch vụ AI đôi khi cung cấp thông tin không chính xác, một số nhà phân tích và chuyên gia đã gợi ý rằng khả năng tóm tắt dữ liệu có sẵn công khai của ChatGPT có thể khiến chatbot này trở thành giải pháp thay thế đáng tin cậy cho Google Search và danh sách các liên kết tìm kiếm. Song khi đề cập về ChatGPT vào tháng trước, Giám đốc điều hành OpenAI - Sam Altman cho rằng sẽ là “một sai lầm khi dựa vào chatbot này cho bất kỳ điều gì quan trọng”.

Microsoft đang cân nhắc đầu tư 10 tỉ USD vào OpenAI, chủ sở hữu chatbot ChatGPT, để tạo lợi thế trước Google.

Từng đầu tư 1 tỉ USD vào OpenAI vào năm 2019, Microsoft đang làm việc để ra mắt phiên bản công cụ tìm kiếm Bing tích hợp AI đằng sau ChatGPT, nhằm thu hút người dùng từ đối thủ Google.

ChatGPT có khả năng trả lời các truy vấn theo cách tự nhiên và giống con người, tiếp tục cuộc trò chuyện và trả lời các câu hỏi tiếp theo, không giống như bộ liên kết cơ bản mà tìm kiếm của Google cung cấp.

Tuy nhiên lo ngại về độ chính xác của ChatGPT khiến người ta thận trọng về việc sử dụng sớm nó. Các trường học ở thành phố New York (Mỹ) đã cấm học sinh của mình truy cập ChatGPT.

Microsoft đang đánh cược rằng các câu trả lời theo ngữ cảnh và mang tính đàm thoại hơn từ ChatGPT cho các truy vấn của người dùng sẽ thu hút được họ tìm kiếm, bằng cách cung cấp các câu trả lời chất lượng tốt hơn ngoài các liên kết.

Công ty có trụ sở tại thành phố Redmond (bang Washington, Mỹ) có thể tung ra tính năng mới trong vài tháng tới, nhưng vẫn đang cân nhắc cả độ chính xác của ChatGPT và tiến độ đưa nó vào Bing.

Phiên bản đầu tiên của Bing kèm ChatGPT có thể là thử nghiệm hạn chế với nhóm người dùng hẹp.

Microsoft đã thử nghiệm ChatGPT trên Bing trong vài tháng. Các kế hoạch của Microsoft đã được trang The Information đưa tin trước đó.