‘Rác AI’ trên Youtube là mối nguy với trẻ em
Trẻ em đang tiêu thụ quá nhiều nội dung “rác” tạo ra bởi AI, khiến các nhà hoạt động vì an toàn của trẻ em lo lắng.
Trong thư gửi đến giám đốc điều hành Google Sundar Pichai cùng giám đốc điều hành Youtube Neil Mohan, một liên minh nhiều tổ chức quốc gia và chuyên gia phát triển trẻ em đề nghị Youtube thay đổi chính sách nhằm giảm thiểu nội dung AI kém chất lượng, thậm chí cấm hoàn toàn nội dung dành cho đối tượng người xem nhỏ tuổi do trí tuệ nhân tạo (AI) tạo ra.
“Vì thiếu bằng chứng cho thấy nội dung AI kém chất lượng an toàn cho trẻ em, cộng thêm rủi ro chúng mê hoặc và gây hại cho trẻ, nên Google phải hành động nhanh chóng để bảo vệ các em trên nền tảng của mình”, thư viết. Hai tuần trước Youtube vừa công bố mối quan hệ hợp tác với studio AI Animaj chuyên sản xuất nội dung nhắm đến người xem nhỏ tuổi. Nội dung Animaj sở hữu một số kênh Youtube đạt tổng số lượt xem lên đến vài tỷ.
Thư do tổ chức phi lợi nhuận Fairplay khởi xướng, được hưởng ứng bởi nhiều đơn vị như Liên đoàn Giáo viên Mỹ, Hiệp hội Phát triển trẻ em da màu Mỹ, Tổ chức Các bà mẹ chống nghiện truyền thông (MAMA). Tác giả quyển sách nổi tiếng “The Anxious Generation” (tạm dịch “Thế hệ lo âu”) Jonathan Haidt cũng ký tên vào thư.
Họ nêu lên lo ngại rằng việc tiếp xúc với nội dung AI có thể làm sai lệch nhận thức của trẻ em về cuộc sống thực, gây quá tải nhận thức và thay thế loạt hoạt động cần thiết cho quá trình phát triển bình thường.
Theo bác sĩ nhi khoa Jenny Radesky: “Đầu tiên Youtube ra mắt tính năng Short với nội dung Made For Kids mà chẳng hề cân nhắc tác động của nó với người xem nhỏ tuổi. Tiếp theo, không có gì ngạc nhiên, nội dung AI kém chất lượng bắt đầu cạnh tranh thu hút sự chú ý của trẻ. Đã đến lúc các nền tảng cần bắt đầu tôn trọng sự chú ý vào tâm trí của trẻ nhỏ, chứ không chỉ coi chúng như một nguồn tài nguyên để khai thác”.
Liên minh đề ra hàng loạt biện pháp ngăn “rác AI” tiếp cận người xem nhỏ tuổi trên Youtube, gồm dán nhãn rõ ràng nội dung tạo ra bởi trí tuệ nhân tạo, loại bỏ tất cả nội dung AI khỏi tài khoản Youtube Kids, cấm video dành cho trẻ em được tạo ra bằng trí tuệ nhân tạo, cấm thuật toán đề xuất nội dung AI cho người dùng dưới 18 tuổi, tạo một nút cho phép phụ huynh có thể tắt nội dung AI ngay cả khi con cái tìm kiếm, ngừng mọi đầu tư vào hoạt động tạo video AI dành cho trẻ em.
Bức thư trên được gửi đi chỉ 1 tuần sau khi Meta cùng Google nhận phán quyết từ bồi thẩm đoàn thành phố Los Angeles, đứng về phía người dùng 19 tuổi cáo buộc hai tập đoàn biết nền tảng của mình gây nghiện nhưng phớt lờ cảnh báo.
Đồng chủ tịch tổ chức Design It For Us Sebastian Mahal cho biết: “Trong một số trường hợp, video tưởng như vô hại lại có thể mang tính chất tình dục hoặc bạo lực. Giới trẻ không muốn bị thuật toán của YouTube nhắm đến với trải nghiệm này”.
YouTube là nền tảng video phổ biến nhất đối với người xem nhỏ tuổi. Mặc dù nền tảng này đã nỗ lực giải quyết, họ vẫn chưa hoàn toàn kiểm soát được tình hình. Giờ đây sản xuất nội dung AI cho trẻ em trở thành ngành kinh doanh sinh lời.
Tờ The New York Times từng phát hiện hàng nghìn video AI kém chất lượng trong thuật toán Youtube, gồm cả video vi phạm chính sách an toàn cho trẻ em. Hiện tại hoạt hình do trí tuệ nhân tạo tạo ra không bị yêu cầu dán nhãn, nhãn AI cũng không xuất hiện nhất quán trên Youtube Kids.
