Chatbot AI của DuckDuckGo trả lời sai rằng ông Donald Trump qua đời vì bệnh dại: Không đơn thuần là lỗi 'bịa thông tin'
Một lỗi trả lời gây tranh cãi của chatbot AI trên DuckDuckGo đang thu hút sự chú ý của giới công nghệ khi hệ thống từng đưa ra thông tin sai sự thật rằng Tổng thống Mỹ Donald Trump đã qua đời vì bệnh dại.
Sự cố Chatbot AI của DuckDuckGo trả lời sai rằng ông Donald Trump qua đời vì bệnh dại đã nhanh chóng được khắc phục, nhưng cũng phơi bày một vấn đề lớn hơn: các công cụ tìm kiếm tích hợp AI vẫn có thể nhầm lẫn giữa nội dung châm biếm, tin giả và thông tin xác thực.
Theo các báo cáo công nghệ quốc tế, đây không đơn thuần là một lỗi “bịa thông tin” ngẫu nhiên của AI, mà còn liên quan đến cách các mô hình ngôn ngữ thu thập, tổng hợp và đánh giá độ tin cậy của dữ liệu trên Internet.
DuckDuckGo đã nhầm thông tin như thế nào?
Theo các báo cáo công nghệ quốc tế, hệ thống AI của DuckDuckGo từng đưa ra câu trả lời rằng ông Donald Trump tử vong sau khi bị lây nhiễm bệnh dại từ Phó Tổng thống Mỹ J.D. Vance, một câu chuyện hoàn toàn không có thật.
Nguồn gốc của thông tin này được cho là xuất phát từ cộng đồng Reddit có tên r/poisonai. Đây là nhóm được lập ra với mục tiêu thử nghiệm và phơi bày điểm yếu của các mô hình AI bằng cách tạo ra nội dung sai lệch nhưng được trình bày theo hình thức giống tin tức thật.
Trong nhiều tháng qua, cộng đồng này liên tục đăng các bài viết phi lý, cố tình sử dụng ngôn ngữ giống báo chí để khiến các mô hình AI dễ tiếp nhận và tái tạo thông tin.
Trong trường hợp của DuckDuckGo, chatbot đã tổng hợp dữ liệu từ nhiều nguồn và tạo ra kết luận sai thay vì xác định đây là nội dung châm biếm hoặc không đáng tin cậy.
Sự cố lần này làm nổi bật một thách thức đang tồn tại với nhiều hệ thống AI hiện đại: hiện tượng hallucination (ảo giác AI). Đây là tình trạng mô hình tạo ra câu trả lời nghe rất thuyết phục nhưng không dựa trên dữ liệu xác thực hoặc kết nối sai giữa nhiều nguồn thông tin.
Điểm đáng chú ý là các chatbot hiện nay không luôn “ghi nhớ sự thật” như cơ sở dữ liệu truyền thống. Thay vào đó, chúng dự đoán chuỗi từ có khả năng xuất hiện cao nhất dựa trên dữ liệu đã học và nguồn truy xuất theo thời gian thực.
Nếu nguồn đầu vào chứa thông tin gây nhiễu, nội dung châm biếm hoặc dữ liệu chưa được kiểm chứng, hệ thống hoàn toàn có thể tạo ra kết luận sai.
Đây cũng là lý do nhiều chuyên gia khuyến nghị không sử dụng chatbot AI như nguồn duy nhất cho các chủ đề nhạy cảm như chính trị, y tế, tài chính hoặc pháp lý.
Khi “đầu độc dữ liệu AI” trở thành xu hướng mới, người dùng nên làm gì?
Một hiện tượng khác đang được nhắc đến nhiều hơn là AI data poisoning (đầu độc dữ liệu AI), tạm hiểu là hành vi cố tình tạo hoặc lan truyền dữ liệu sai lệch để ảnh hưởng đến kết quả đầu ra của mô hình AI.
Không giống tấn công mạng truyền thống, phương thức này khai thác chính điểm mạnh của AI: khả năng học từ lượng dữ liệu khổng lồ trên Internet.
Nếu ngày càng nhiều nội dung sai được đăng tải theo cách giống thông tin thật, các hệ thống tìm kiếm hoặc chatbot có thể gặp khó khăn hơn trong việc phân biệt đâu là dữ liệu đáng tin cậy.
Sự cố của DuckDuckGo cho thấy AI có thể là công cụ hỗ trợ mạnh mẽ nhưng chưa thể thay thế hoàn toàn việc kiểm chứng thông tin.
Khi sử dụng chatbot hoặc công cụ tìm kiếm tích hợp AI, người dùng nên kiểm tra lại thông tin qua nhiều nguồn độc lập, ưu tiên các tổ chức báo chí chính thống, tài liệu học thuật hoặc thông báo chính thức.
Đặc biệt, những câu trả lời nghe quá chắc chắn hoặc quá bất thường nên được xem là tín hiệu cần kiểm chứng thêm thay vì tin tưởng ngay lập tức. AI đang giúp việc tìm kiếm trở nên nhanh hơn, nhưng tốc độ không đồng nghĩa với độ chính xác tuyệt đối.
