Meta dính nghi vấn để nhân viên tổng đài ‘núp bóng’ tác nhân AI
Theo Reuters và 404 Media, tác nhân AI Muse chuyển tác vụ thực hiện cuộc gọi - vốn được cho là do trí tuệ nhân tạo thực hiện - sang cho nhân viên tổng đài.
Muse bản thử nghiệm vừa ra mắt vào giữa tháng 9, được Meta quảng cáo là có khả năng dựa vào hội thoại thay mặt người dùng gọi điện đặt lịch hẹn hoặc đặt chỗ. Thế nhưng Reuters và 404 Media qua tìm hiểu lại phát hiện tác nhân được cho tự động lại có thể chuyển tác vụ cho nhân viên hỗ trợ là người thật mà chẳng hề thông báo cho người dùng.
Dựa vào tài liệu nội bộ của Facebook, 404 Media cho biết tập đoàn công nghệ Mỹ âm thầm tổ chức cả một quy trình sau hậu trường cho trợ lí cá nhân mà họ mới ra mắt. Khi giới thiệu các tính năng cho nhân viên nội bộ, Meta tuyên bố họ “bổ sung lớp tác nhân con người để đảm bảo cuộc gọi được hoàn tất”, gọi đây là “cuộc gọi Muse có người tham gia”.
Một số nhân viên Meta đã bày tỏ sự lo ngại. Có người cảnh báo: “Làm vậy tiềm ẩn nguy cơ nhận vể phản ứng tiêu cực từ dư luận, khiến công chúng nhìn nhận đợt ra mắt này theo hướng do AI chưa đủ tốt nên vẫn cần đến con người”.
Thông tin trên phơi bày việc tô vẽ quá mức khả năng của Muse bằng mác “AI”, đồng thời cũng là hành vi thiếu minh bạch đối với người dùng. Trên thực tế, một số vài hệ thống tự hành vẫn áp dụng cơ chế dùng con người giám sát (human-in-the-loop) để đảm bảo an toàn và tuân thủ quy định.
Chưa rõ Meta chú trọng yếu tố an toàn đến mức nào, tuy nhiên nhân viên tập đoàn lo ngại về quyền riêng tư hơn. Reuters dẫn lời một nhân viên: “Chỉ cần một lỗi phần mềm là thông tin không cần thiết có thể bị rò rỉ cho người gọi điện. Và lỗi thì vô vàn”.
Muse như “hộp đen”
Theo biên tập viên trang công nghệ CNET Lori Grunin, đánh đổi sự riêng tư khi sử dụng tác nhân AI cho việc cá nhân như đặt chỗ, đặt lịch khám bệnh hay mua sắm. Nhưng người dùng sẽ thấy rất tồi tệ nếu phát hiện một người hoàn toàn xa lạ vừa thay họ đặt lịch xét nghiệm bệnh lây truyền qua đường tình dục (STI).
Mô hình như Muse cũng giống như “hộp đen”: người dùng chẳng thể biết nhân viên tổng đài được cung cấp những thông tin ngữ cảnh nào, liệu họ có xem nội dung trò chuyện hay biết nơi ở và cách liên lạc thông qua đó hay không. Thậm chí lượng dữ liệu bị lộ còn nhiều hơn.
Ta cũng cung cấp không ít thông tin nhạy cảm như số điện thoại, mã số bệnh nhân, mã ngân hàng cho thứ được gọi là tác nhân “tự hành” nhưng thực tế lại là người thật trực tại tổng đài.
Sau khi Meta ra mắt Muse, Google trong tuần qua cũng giới thiệu tính năng mới cho phép Gemini xử lí cuộc gọi thường nhật. Cơ chế của Gemini giao phần thực hiện giao dịch (chẳng hạn nhập thông tin thẻ tín dụng) lại cho người dùng. Tuy nhiên rủi ro không vì vậy mà mất đi.
Hành vi quen thuộc của giới công nghệ
Bà Grunin chỉ ra Meta từng nhiều lần làm mất lòng tin về quyền riêng tư. Facebook vài năm trước triển khai chương trình sử dụng nhân sự thuê ngoài nghe và chép lại nội dung cuộc gọi qua ứng dụng Messenger, bị dư luận phản ứng dữ dội nên buộc phải chấm dứt.
Mô hình “Potemkin AI” - đội ngũ nhân sự ẩn danh thực hiện một phần công việc thực tế thay cho mô hình AI phía sau hậu trường - không chỉ giới hạn ở cuộc gọi. Vào tháng 2 có tin tiết lộ công ty xe tự hành Waymo dựa vào nhân viên vận hành từ xa để hỗ trợ hoạt động của phương tiện ở thị trường nước ngoài.
Vấn đề thực sự không phải là giới công nghệ có trí nhớ kém, mà là các “ông lớn” tạo ra vô số tiền lệ nguy hiểm: làm sai, bị phát hiện, xin lỗi, hủy bỏ, có thể nộp một khoản phạt không đáng kể, rồi mọi chuyện lại tái diễn tương tự. Đến một lúc nào đó vòng lặp này sẽ trở thành kịch bản “làm sai, nhưng vẫn thu về lợi nhuận”.