Đáng sợ khi video AI chiếm 60% số lượng nội dung trên TikTok

Một nghiên cứu mới của nền tảng chỉnh sửa video Kapwing cho thấy gần 60% video mà người dùng mới nhìn thấy trên TikTok là video AI. Đáng chú ý, tỉ lệ này cao gấp gần ba lần so với YouTube và đặc biệt phổ biến trong các nội dung dành cho trẻ em, giáo dục, sức khỏe và lịch sử. Kết quả nghiên cứu đặt ra câu hỏi về chất lượng thông tin, tính xác thực của nội dung và những rủi ro tiềm ẩn khi AI ngày càng lấn át các nhà sáng tạo nội dung truyền thống.

Người dùng mới trên TikTok đang bị “bao vây” bởi video AI

Trong hai năm qua, TikTok liên tục đẩy mạnh ứng dụng trí tuệ nhân tạo vào hệ sinh thái của mình. Nền tảng này đã giới thiệu nhiều công cụ cho phép người dùng tạo video từ hình ảnh hoặc đoạn clip ngắn chỉ với vài thao tác. Đồng thời, TikTok cũng bổ sung các tùy chọn giúp người dùng hạn chế lượng nội dung AI xuất hiện trên bảng tin.

Tuy nhiên, theo nghiên cứu mới của Kapwing, thực tế cho thấy nội dung do AI tạo ra vẫn đang xuất hiện với mật độ rất cao, đặc biệt đối với các tài khoản mới.

Để đánh giá mức độ phổ biến của video AI, nhóm nghiên cứu đã xác định 20 danh mục nội dung phổ biến nhất trên TikTok cùng những hashtag được sử dụng nhiều nhất. Sau đó, họ phân tích các video được đề xuất trong từng danh mục để xác định tỉ lệ nội dung do AI tạo ra so với nội dung do con người sản xuất.

Bước tiếp theo, các nhà nghiên cứu tạo nhiều tài khoản TikTok hoàn toàn mới và theo dõi 500 video đầu tiên xuất hiện trên mục “For You” của mỗi tài khoản. Tổng cộng 10.742 video đã được đưa vào cơ sở dữ liệu phân tích.

Kết quả cho thấy khoảng 60% nội dung mà người dùng mới tiếp xúc trên TikTok được tạo bằng AI. Trong khi đó, khi áp dụng cùng phương pháp trên YouTube, tỉ lệ video AI chỉ ở mức khoảng 21%.

Điều này cho thấy thuật toán đề xuất của TikTok đang phân phối lượng nội dung AI lớn hơn đáng kể so với nhiều nền tảng khác.

Theo các chuyên gia, nguyên nhân đến từ việc AI giúp sản xuất video với tốc độ cực nhanh và chi phí gần như bằng không. Thay vì mất nhiều giờ hoặc nhiều ngày để quay dựng, người sáng tạo có thể tạo hàng chục video trong thời gian ngắn bằng các công cụ AI tạo hình ảnh, giọng nói và hoạt ảnh.

Khi thuật toán ưu tiên những nội dung có khả năng giữ chân người xem hoặc tạo tương tác nhanh, số lượng lớn video AI được tung lên nền tảng đã tạo nên hiệu ứng "lấn át" đối với nội dung truyền thống.

Xu hướng này đang hình thành một khái niệm mới trong thế giới mạng xã hội mang tên “AI slop”, thuật ngữ dùng để chỉ các nội dung được tạo hàng loạt bằng AI với chất lượng thấp, ít được kiểm chứng hoặc gần như không có sự biên tập của con người.

Trẻ em và người dùng dễ trở thành nạn nhân của nội dung video AI kém chất lượng

Một trong những phát hiện đáng lo ngại nhất của nghiên cứu là mức độ phổ biến đặc biệt cao của video AI trong các nội dung dành cho trẻ em.

Theo Kapwing, có tới 57,4% video trong nhóm nội dung trẻ em được tạo bằng AI. Một số hashtag gần như bị thống trị hoàn toàn bởi các video do máy tạo ra.

Đáng chú ý, hashtag #cartoonkids gần như không còn sự hiện diện của nội dung do con người sản xuất. Trong hàng loạt video được phân tích, chỉ có ba video được xác định là do người thật tạo ra. Các hashtag khác như #cartoons hay #babysong cũng ghi nhận tỉ lệ video AI lên tới khoảng 83%.

Không chỉ lĩnh vực giải trí trẻ em, AI còn xuất hiện dày đặc trong các nội dung liên quan đến giáo dục và tri thức. Nghiên cứu cho thấy khoảng 35% video thuộc nhóm khoa học và học tập được tạo bằng AI. Tỉ lệ này lần lượt là 33,8% đối với nội dung sức khỏe và 33,5% đối với các video lịch sử.

Ngược lại, những lĩnh vực như thể dục thể thao, âm nhạc hay thời trang gần như không chịu ảnh hưởng đáng kể từ AI. Tỉ lệ video AI trong các nhóm này chỉ dao động tối đa khoảng 1,6%.

Theo các chuyên gia, lí do là những nội dung như tập luyện, biểu diễn âm nhạc hay trình diễn thời trang thường phụ thuộc vào sự xuất hiện trực tiếp của con người trước máy quay, điều mà AI hiện vẫn chưa thể thay thế hoàn toàn.

Trong khi đó, các chủ đề như phim hoạt hình, minh họa khái niệm khoa học hay tái hiện sự kiện lịch sử lại rất dễ được tạo bằng AI thông qua hình ảnh và hoạt ảnh tổng hợp.

Vấn đề nằm ở chỗ nhiều nội dung trong số đó được sản xuất quá nhanh hoặc tạo hàng loạt mà không trải qua quy trình kiểm chứng đầy đủ.

Một video AI có thể mô tả sai sự kiện lịch sử, đưa ra thông tin khoa học thiếu chính xác hoặc tạo nên những hình ảnh gây hiểu lầm nhưng vẫn được lan truyền rộng rãi nhờ thuật toán đề xuất.

Đối với trẻ em, nguy cơ còn lớn hơn. Các em thường khó phân biệt đâu là nội dung thật, đâu là nội dung được tạo bởi AI. Việc tiếp xúc thường xuyên với những video thiếu kiểm chứng có thể ảnh hưởng đến khả năng tiếp nhận thông tin và hình thành nhận thức.

Kapwing cảnh báo rằng nếu người sáng tạo tiếp tục giao hoàn toàn quá trình sản xuất nội dung cho AI mà không dành thời gian kiểm tra và giám sát chất lượng, người dùng, đặc biệt là trẻ em sẽ ngày càng dễ tiếp xúc với những nội dung độc hại hoặc sai lệch.

Sự bùng nổ của AI đang mở ra cơ hội lớn cho ngành sáng tạo số, nhưng nghiên cứu mới cũng cho thấy một thực tế đáng suy ngẫm: số lượng nội dung được tạo ra chưa chắc đồng nghĩa với chất lượng. Khi video AI ngày càng chiếm lĩnh các nền tảng mạng xã hội, thách thức lớn nhất không còn là tạo ra nhiều nội dung hơn, mà là bảo đảm những nội dung đó vẫn đáng tin cậy, hữu ích và an toàn đối với người dùng.