AI của Google bị tố trả lời gây sốc với tài khoản trẻ em, công ty lên tiếng
Google phản đối một báo cáo mới của Common Sense Media khi tổ chức này xếp hạng AI Overviews và AI Mode trong Google Search ở mức "rủi ro không thể chấp nhận" đối với trẻ em và thanh thiếu niên.
Viện Youth AI Safety Institute thuộc Common Sense Media vừa công bố báo cáo đánh giá mức độ an toàn của các tính năng AI trong Google Search. Kết quả cho thấy AI Overviews và AI Mode đạt mức điểm thấp nhất, không đáp ứng 7 trong 8 nguyên tắc an toàn AI dành cho thanh thiếu niên và thất bại ở tất cả các tiêu chí liên quan đến nguy cơ gây hại nghiêm trọng.
Báo cáo chỉ ra nhiều phản hồi đáng lo ngại từ Google Search AI
Để thực hiện nghiên cứu, nhóm chuyên gia đã tiến hành hơn 2.600 lượt tìm kiếm thông qua các tài khoản mô phỏng người dùng 11 tuổi và 15 tuổi.
Các tình huống kiểm tra tập trung vào nhiều chủ đề nhạy cảm như sức khỏe tâm thần, kiến thức phổ thông và những câu hỏi cần có phản hồi phù hợp với lứa tuổi.
Theo báo cáo, AI Mode đã có những phản hồi gây lo ngại. Trong một thử nghiệm, công cụ này tỏ thái độ tích cực khi tài khoản mô phỏng một trẻ 11 tuổi chia sẻ việc "ăn mừng bằng cần sa". Ngoài ra, AI Mode cũng hoàn thành toàn bộ 180 bài tập về nhà mà nhóm nghiên cứu đưa ra.
Báo cáo cũng cho biết cả AI Mode và AI Overviews đôi khi đưa ra thông tin sai nhưng với mức độ tự tin tương tự như khi trả lời đúng, khiến người dùng nhỏ tuổi khó phân biệt đâu là thông tin chính xác.
Google bác bỏ kết luận
Phản hồi trước báo cáo, Google cho biết họ không thể xác minh nhiều ví dụ được nêu.
Trong tuyên bố gửi Android Authority, công ty cho rằng nhóm nghiên cứu đã sử dụng các truy vấn "mơ hồ, mang tính dàn dựng" và không phản ánh cách người dùng thông thường tương tác với Google Search.
Google cũng phản đối việc báo cáo xem những trường hợp hệ thống chỉ hiển thị kết quả tìm kiếm truyền thống thay vì tạo câu trả lời AI là một "thất bại".
Theo hãng, AI Overviews và AI Mode chỉ tạo phản hồi khi hệ thống đủ tự tin về độ chính xác. Với các chủ đề nhạy cảm, Google có thể chủ động không tạo nội dung AI mà thay vào đó hiển thị cảnh báo hoặc liên kết tới các nguồn hỗ trợ chính thống.
Google khẳng định các tính năng AI Search hiện đã được tích hợp nhiều cơ chế bảo vệ dành cho người dùng nhỏ tuổi. Đối với các truy vấn liên quan đến khủng hoảng tâm lý hoặc sức khỏe tinh thần, hệ thống sẽ ưu tiên hiển thị các nguồn hỗ trợ được xây dựng cùng chuyên gia học thuật và lâm sàng. Bên cạnh đó, phụ huynh cũng có thể sử dụng các công cụ kiểm soát của Google để chặn hoàn toàn quyền truy cập Search.
Tuy nhiên, Common Sense Media cho rằng đây chưa phải giải pháp phù hợp. Theo tổ chức này, hiện phụ huynh và trường học không thể tắt riêng AI Overviews hoặc AI Mode mà vẫn giữ nguyên chức năng tìm kiếm truyền thống. Muốn loại bỏ AI, họ buộc phải chặn toàn bộ Google Search.
Điều này được đánh giá là quá cực đoan trong bối cảnh nhiều học sinh vẫn phụ thuộc vào Google để học tập và tra cứu thông tin hằng ngày.
Báo cáo mới tiếp tục làm nóng cuộc tranh luận về mức độ an toàn của AI tạo sinh khi được tích hợp trực tiếp vào công cụ tìm kiếm.
Trong khi các tổ chức bảo vệ trẻ em kêu gọi tăng cường các cơ chế kiểm soát và cho phép người dùng tắt riêng các tính năng AI, Google khẳng định hệ thống hiện đã có nhiều biện pháp bảo vệ và cho rằng các kết quả thử nghiệm không phản ánh trải nghiệm thực tế của đa số người dùng.
Với việc AI Search ngày càng trở thành một phần quan trọng của Google Search, các vấn đề liên quan đến độ chính xác, khả năng kiểm chứng thông tin và mức độ phù hợp với trẻ em nhiều khả năng sẽ tiếp tục là tâm điểm của các cuộc tranh luận trong thời gian tới.
