Cuộc bầu cử Tổng thống Mỹ là thử thách lớn với OpenAI, Perplexity và Anthropic, riêng Google chọn hướng đi thận trọng

ChatGPT chưa tồn tại trong cuộc bầu cử Tổng thống Mỹ vào năm 2020. Việc OpenAI ra mắt ChatGPT hồi tháng 11.2022 đã kích hoạt làn sóng các công cụ và chatbot AI tạo sinh được tích hợp vào các sản phẩm tiêu dùng phổ biến như Google Search.

Trước cuộc bầu cử Tổng thống Mỹ năm 2024 với hai ứng cử viên là ông Donald Trump (đảng Cộng hòa) và bà Kamala Harris (đảng Dân chủ), các công ty đứng sau sản phẩm phải quyết định xem sẽ áp dụng những hạn chế nào, nếu có, với nội dung do AI tạo ra liên quan đến bầu cử, đồng thời phân tích những rủi ro liên quan.

Một số công ty, gồm cả công ty khởi nghiệp AI Perplexity, đang mạnh dạn hướng tới việc này.

Perplexity đã ra mắt Trung tâm thông tin bầu cử chuyên dụng, sử dụng AI để cung cấp thông tin về cuộc bầu cử Tổng thống Mỹ và theo dõi kết quả. Trung tâm này gồm thông tin chi tiết về các yêu cầu bỏ phiếu, cách tìm địa điểm bỏ phiếu và thời gian bỏ phiếu của người dân Mỹ, cũng như phân tích tóm tắt của AI về những biện pháp bỏ phiếu và ứng cử viên. Perplexity tiết lộ điều này trong một thông báo.

"Perplexity sử dụng một quy trình gọi là Retrieval-Augmented Generation để xác định thông tin có liên quan và tóm tắt nó theo cách phù hợp với truy vấn của người dùng", Sara Platnick, người phát ngôn của Perplexity, chia sẻ với trang Insider.

Với các câu hỏi liên quan đến bầu cử, Perplexity đang sử dụng "bộ sưu tập được tuyển chọn" các nguồn phi đảng phái và đã được kiểm tra thực tế. Sara Platnick nói với Insider rằng trung tâm riêng biệt này không sử dụng kiến ​​thức được lưu trữ từ dữ liệu đào tạo mô hình AI trong các phản hồi của mình, giúp giảm thiểu ảo giác (đưa ra thông tin sai lệch y như thật).

Perplexity cũng sẽ bắt đầu cung cấp các bản cập nhật trực tiếp về cuộc bầu cử Tổng thống Mỹ vào ngày 5.11 bằng cách sử dụng dữ liệu từ hãng tin Associated Press (AP). Các phản hồi khác sẽ sử dụng thông tin từ Democracy Works và các nguồn thông tin thực tế phi đảng phái khác, như Ballotpedia cùng các tổ chức tin tức, theo Sara Platnick.

Alon Yamin, đồng sáng lập kiêm Giám đốc điều hành Copyleaks (nền tảng phân tích văn bản dựa trên AI), cho biết cách tiếp cận của Perplexity "chắc chắn có thể lọc bớt những thông tin không chính xác hoặc không liên quan, cung cấp thông tin tốt hơn dựa trên bối cảnh cụ thể", giúp người dùng truy cập các nguồn đáng tin cậy.

Alon Yamin nói có những lợi ích tiềm năng khi sử dụng AI để biết thông tin bầu cử. AI có thể cung cấp các bản cập nhật theo thời gian thực và giúp xác định xu hướng, tâm lý cử tri và các vấn đề chính.

Tuy nhiên, ông cho rằng khả năng AI tạo ra thông tin sai và các vấn đề về độ chính xác cũng gây ra những rủi ro.

Các công ty khác đang áp dụng những cách tiếp cận khác nhau. OpenAI sẽ tiếp tục tích hợp các phản hồi liên quan đến bầu cử Tổng thống Mỹ vào ChatGPT, đồng thời cung cấp một số tính năng bổ sung trong bối cảnh sự kiện này.

Bắt đầu từ ngày 5.11, những người hỏi ChatGPT về các truy vấn kết quả bầu cử sẽ thấy một thông báo khuyến khích người dùng kiểm tra các nguồn như Associated Press, Reuters hoặc những hội đồng bầu cử cấp tiểu bang và địa phương để biết "thông tin đầy đủ và cập nhật nhất", OpenAI tiết lộ trong một bài đăng được cập nhật hôm 31.10.

OpenAI cho biết đang "tích cực thử nghiệm các biện pháp bảo vệ" đã được triển khai trong năm qua và theo dõi mọi vấn đề. "Cha đẻ ChatGPT" cũng nói rằng sẽ tiếp tục điều chỉnh các biện pháp bảo vệ của mình, gồm cả tính minh bạch xung quanh nội dung do AI tạo ra và ngăn các chatbot giả mạo là người thật.

ChatGPT sẽ hướng người dùng đến trang thông tin bỏ phiếu của Mỹ là CanIVote.org khi được hỏi các câu hỏi liên quan đến thủ tục bầu cử.

Claude, chatbot AI của công ty khởi nghiệp Anthropic, đã tích hợp tính năng hiển thị cho phép người dùng hỏi về thông tin bỏ phiếu được chuyển hướng đến TurboVote, nguồn tài nguyên phi đảng phái từ Democracy Works.

Anthropic có các biện pháp phòng ngừa khác, gồm cả việc cấm người dùng sử dụng Claude để quảng bá cho một ứng cử viên hoặc vấn đề cụ thể. Công ty cho biết cũng sẽ ngăn chặn việc sử dụng chatbot AI để tạo ra thông tin sai lệch về luật bầu cử, ứng cử viên hoặc các chủ đề liên quan. Trong bài đăng của mình, Anthropic tuyên bố các thông tin đầu ra sẽ chỉ giới hạn ở dạng văn bản để giúp loại bỏ "rủi ro về deepfake liên quan đến bầu cử".

Dù các bản cập nhật bầu cử trực tiếp có thể hữu ích cho người dùng, nội dung bầu cử do AI tạo ra cũng tiềm ẩn một số rủi ro.

Alon Yamin cho biết AI có thể truyền bá thông tin thiên vị, diễn giải sai dữ liệu và tạo ra các câu chuyện sai lệch. Ông cũng nói thêm rằng các mô hình AI này "chỉ tốt bằng dữ liệu mà chúng được đào tạo", mở ra nguy cơ phản hồi do AI tạo ra phản ánh sự thiên vị theo dữ liệu mà chúng được đào tạo.

Alon Yamin nói rằng sự hiểu lầm có thể gia tăng nếu AI diễn giải sai thông tin và đưa ra kết quả không chính xác, đặc biệt là trong môi trường bầu cử có nhịp độ nhanh và được theo dõi chặt chẽ.

Đã trải qua một số sự cố về AI với chatbot Gemini và tính năng AI Overviews, Google chọn triển khai hạn chế về những gì người dùng có thể hỏi các sản phẩm AI của mình về cuộc bầu cử. Google cho biết đang hạn chế chatbot Gemini trả lời các câu hỏi về cuộc bầu cử Tổng thống Mỹ "vì lý do muốn thận trọng".

Một tìm kiếm nội dung này trên sản phẩm tìm kiếm chính của Google hôm 4.11 đã không kích hoạt bản tóm tắt AI Overview, mà thay vào đó hiển thị băng chuyền "Tin tức hàng đầu" với bài viết từ các nhà xuất bản.

Google không trả lời ngay lập tức câu hỏi tìm kiếm bình luận từ trang Insider.

Brad Carson, đồng sáng lập và Chủ tịch tổ chức phi lợi nhuận Americans for Responsible Innovation, nói với Insider rằng dù cách tiếp cận của Google đáng khen ngợi, nhưng đó không phải là giải pháp toàn cầu cho vấn đề này.

Brad Carson cho biết việc chống lại thông tin sai lệch "không phải là nhiệm vụ dễ dàng". Theo Brad Carson, dù việc các công ty cố gắng hạn chế thông tin sai lệch là điều thông minh, chính phủ cũng nên xây dựng luật yêu cầu họ phải gắn nhãn rõ ràng thông tin cung cấp cho người dùng.

Ông nói dù Google hạn chế vai trò của mình trong việc cung cấp thông tin liên quan đến bầu cử, các công ty khác có thể sẽ đảm nhận vị trí đó. Tuy nhiên, Brad Carson cho rằng Google làm như vậy là hành động có trách nhiệm nhằm tránh rủi ro về thông tin sai lệch.