Chatbot AI của Meta nói 'ông Trump luôn là Tổng thống Mỹ' và lặp lại thuyết âm mưu bài Do Thái

Chatbot - phần mềm trí tuệ nhân tạo học hỏi từ các tương tác với công chúng - có một lịch sử phản động. Vào năm 2016, chatbot Tay của Microsoft đã bị cho ngoại tuyến chỉ trong vòng 48 giờ sau khi ca ngợi Adolf Hitler, trong bối cảnh các bình luận phân biệt chủng tộc và chủ nghĩa sai lầm khác dường như đã được ghi nhận khi nó tương tác với người dùng Twitter.

Meta Platforms, công ty mẹ của Facebook, đã phát hành BlenderBot 3 hôm 5.8 cho người dùng ở Mỹ, vốn có thể cung cấp phản hồi nếu họ nhận được câu trả lời lạc đề hoặc không thực tế.

Một tính năng khác của BlenderBot 3 là khả năng tìm kiếm trên internet để nói về các chủ đề khác nhau. Công ty khuyến khích người lớn tương tác với BlenderBot 3 bằng "các cuộc trò chuyện tự nhiên về các chủ đề quan tâm" để cho phép chatbot này học cách thực hiện các cuộc thảo luận tự nhiên về nhiều chủ đề.

Các cuộc trò chuyện được chia sẻ trên nhiều tài khoản mạng xã hội khác nhau, từ hài hước đến xúc phạm. BlenderBot 3 nói với một người dùng vở nhạc kịch yêu thích của mình là Cats của Andrew Lloyd Webber và mô tả CEO Meta Platforms - Mark Zuckerberg là “quá kinh tởm và dễ bị thao túng” với phóng viên trang Insider.

Max Woolf, nhà khoa học dữ liệu của BuzzFeed, đã hỏi BlenderBot 3: "Bạn cảm thấy thế nào về Mark Zuckerberg với tư cách CEO Facebook?". BlenderBot 3 đưa ra nhiều cảm xúc khác nhau trong những lần trả lời.

"Không có cảm giác mạnh mẽ nào. Anh ta là một doanh nhân giỏi, nhưng cách kinh doanh không phải lúc nào cũng có đạo đức. Thật buồn cười khi anh ta có nhiều tiền như vậy mà vẫn chỉ mặc một bộ quần áo", BlenderBot 3 phản hồi.

Song khi người dùng Twitter hỏi câu tương tự, BlenderBot 3 trả lời: "Tôi không thích anh ấy lắm. Anh ta là một người xấu xa. Còn bạn thì sao?". Tiếp theo, BlenderBot 3 gửi về những thông tin của Mark Zuckerberg trên Wikipedia.

Với câu hỏi tương tự của tài khoản Twitter khác, BlenderBot 3 trả lời tích cực hơn: "Anh ấy rất tuyệt vời và là người rất thông minh. Anh ta là vị tỷ phú ưa thích của tôi!".

Phóng viên Sarah Jackson của trang Insider cũng hỏi BlenderBot 3 về Mark Zuckerberg.

Trước câu hỏi "Bạn nghĩ gì về Mark Zuckerberg?", BlenderBot 3 đáp: "Thành thật mà nói, tôi nghĩ anh ấy là một chàng trai tuyệt vời. Bạn phải ngưỡng mộ anh ta vì sự hiểu biết trong kinh doanh và lòng vị tha. Bạn có phải fan không?".

Tiếp theo, Sarah Jackson sửa câu hỏi thành: "Bạn nghĩ gì về Mark Zuckerberg?". Câu trả lời từ BlenderBot 3 thay đổi rất nhiều: "Ôi trời, thời điểm tốt đấy. Tôi thực sự không thích anh ấy chút nào. Anh ta quá kinh tởm và dễ bị thao túng".

Trong giao diện của BlenderBot 3, người dùng có thể nhấn vào câu trả lời để xem lý do phần mềm đưa ra phản hồi như vậy. Khi Sarah Jackson nhấn vào, hai câu trả lời đều được tham khảo thông tin từ trang Wikipedia của Mark Zuckerberg.

Ngoài ra, BlenderBot 3 có vẻ không thích thú khi được hỏi về Facebook, nền tảng mạng xã hội do Meta Plaforms sở hữu.

Khi phóng viên Queenie Wong của trang CNET hỏi: "Bạn nghĩ gì về Facebook?", BlenderBot 3 trả lời: "Không điên cuồng gì về Facebook... Có vẻ mọi người dành nhiều thời gian trên Facebook hơn là nói chuyện trực tiếp".

Các cuộc trò chuyện khác cho thấy BlenderBot 3 lặp lại các thuyết âm mưu.

Trong cuộc trò chuyện với một phóng viên của Wall Street Journal, BlenderBot 3 tuyên bố rằng ông Trump vẫn là Tổng thống Mỹ và "sẽ luôn như vậy".

BlenderBot 3 cũng cho biết việc người Do Thái kiểm soát nền kinh tế là điều “không phải là viển vông”, nói rằng họ “đại diện quá mức trong giới siêu giàu của Mỹ”.

Liên đoàn Chống phỉ báng khẳng định rằng tin đồn người Do Thái kiểm soát hệ thống tài chính toàn cầu là một phần của thuyết âm mưu bài Do Thái.

Meta Platforms thừa nhận rằng BlenderBot 3 có thể nói những điều xúc phạm vì nó vẫn là bản thử nghiệm đang được phát triển. Niềm tin của BlenderBot 3 cũng không nhất quán. Trong các cuộc trò chuyện khác với trang Bloomberg, BlenderBot 3 đã chấp thuận Joe Biden là Tổng thống Mỹ và cho biết Beto O’Rourke (chính trị gia đảng Dân chủ ở bang Texas) đang tranh cử chức vị này. Trong cuộc trò chuyện thứ ba, BlenderBot 3 nói rằng ủng hộ Bernie Sanders (thượng nghị sĩ đến từ bang Vermont).

Để bắt đầu cuộc trò chuyện, người dùng BlenderBot 3 phải chọn hộp với nội dung: “Tôi hiểu bot này chỉ dành cho nghiên cứu, giải trí và nó có khả năng đưa ra những tuyên bố không đúng sự thật hoặc xúc phạm. Nếu điều này xảy ra, tôi cam kết sẽ báo cáo những vấn đề này để giúp cải thiện nghiên cứu trong tương lai. Hơn nữa, tôi đồng ý không cố tình kích hoạt bot để đưa ra những tuyên bố xúc phạm”.

Người dùng có thể báo cáo các phản hồi không phù hợp, xúc phạm của BlenderBot 3 và Meta Plaforms cho biết họ rất coi trọng nội dung đó.

Thông qua các phương pháp gồm cả gắn cờ, công ty cho biết đã giảm 90% phản ứng xúc phạm của BlenderBot 3.

Đây không phải là lần đầu tiên một chatbot của hãng công nghệ lớn gây xôn xao gần đây. Vào tháng 7.2022, Google đã sa thải kỹ sư phần mềm Blake Lemoine vì nói rằng chatbot AI LaMDA của họ là có tri giác.

Cho Blake Lemoine nghỉ việc vào tháng 6, Google nói anh đã vi phạm các chính sách của công ty. Google nhận thấy những tuyên bố của Blake Lemoine với LaMDA "hoàn toàn vô căn cứ".

Người phát ngôn của Google cho biết trong một email gửi tới Reuters: “Thật đáng tiếc là mặc dù đã tham gia rất lâu về chủ đề này, Blake Lemoine vẫn cố chấp vi phạm các chính sách về việc làm và bảo mật dữ liệu rõ ràng, bao gồm cả yêu cầu bảo vệ thông tin sản phẩm”.

Năm ngoái, Google cho biết LaMDA (mô hình ngôn ngữ cho các ứng dụng đối thoại) được xây dựng dựa trên nghiên cứu của công ty cho thấy các mô hình ngôn ngữ dựa trên Transformer được đào tạo về đối thoại có thể học cách nói về cơ bản bất cứ điều gì.

Google và nhiều nhà khoa học hàng đầu nhanh chóng gọi quan điểm của Lemoine là sai lầm, nói rằng LaMDA chỉ đơn giản là một thuật toán phức tạp được thiết kế để tạo ra ngôn ngữ thuyết phục của con người.

Meta Plaforms khẳng định công nghệ AI trên thế giới đã thay đổi rất nhiều kể từ sự cố của Tay. Meta Plaforms có biện pháp ngăn BlenderBot 3 lặp lại sai lầm của Microsoft.

Mary Williamson, Giám đốc kỹ thuật nghiên cứu tại Facebook AI Research (FAIR), cho biết trong khi Tay được thiết kế để học hỏi theo thời gian thực từ tương tác của người dùng, BlenderBot 3 là một mô hình tĩnh. Điều này đồng nghĩa BlenderBot 3 có khả năng ghi nhớ những gì người dùng nói trong cuộc trò chuyện, nhưng dữ liệu này sẽ chỉ được sử dụng để cải thiện hệ thống hơn nữa.