Influencer AI trỗi dậy cùng với video bikini khêu gợi và rác AI
Sinh kế của các influencer (người có sức ảnh hưởng) thật đang bị đe dọa bởi influencer AI (trí tuệ nhân tạo) - thứ đang được các thương hiệu quan tâm hơn.
Influencer nghĩa là nhân vật có tầm ảnh hưởng trên mạng xã hội hoặc trong cộng đồng nhất định.
Trong video TikTok dài tám giây, Tinsley Bama (tự nhận là sinh viên đại học người Mỹ) khóc nức nở với đôi mắt đỏ hoe và nói với người xem rằng hội nữ sinh mà cô hy vọng được gia nhập đã từ chối cô.
“Thương quá! Sẽ có một hội nữ sinh muốn bạn gia nhập thôi, vậy nên hãy tiếp tục cố gắng nhé!”, một người dùng TikTok bình luận dưới video có hơn 150.000 lượt xem của Tinsley.
“Đừng bỏ cuộc”, một người khác động viên.
Thế nhưng, những lời an ủi ấy đã đặt nhầm chỗ. Trên thực tế, Tinsley Bama (tài khoản TikTok thu hút hơn 600 người theo dõi chỉ sau vài ngày) lại là "influencer AI 100%", theo tiết lộ từ Olivia Moore (người tạo ra Tinsley Bama). Olivia Moore là đối tác tại tập đoàn đầu tư mạo hiểm a16z ở Thung lũng Silicon (Mỹ).
Trên mạng xã hội X, Olivia Moore cho biết đã dành chưa đến 10 phút mỗi ngày trong suốt một tuần vào tháng 8 để xây dựng hồ sơ giả này như một thử nghiệm, chỉ với ba công cụ AI có sẵn. Olivia Moore hào hứng: “Đây có thể là tương lai của các thương hiệu, tiếp thị và thậm chí là giải trí”.
Các công cụ sản xuất AI chất lượng cấp điện ảnh đang giúp hàng nghìn avatar (hình đại diện) kỹ thuật số, hay còn gọi là influencer AI, gia nhập nền kinh tế sáng tạo (ước tính trị giá 250 tỉ USD vào năm 2023), gồm cả những nhân vật mới được tạo ra hoặc bản sao của influencer có thật.
Công nghệ này trông thuyết phục đến mức giúp influencer Mia Zelu thu hút hơn 167.000 người theo dõi trên tài khoản Instagram, khi các video trên mạng xã hội dường như cho thấy cô tham dự giải Wimbledon mùa hè này, trước khi nhiều người biết được đây thực chất là nhân vật được tạo bằng AI.
AI có thể giúp ích cho những influencer thật tự động hóa một số công việc, chẳng hạn dịch nội dung video sang ngôn ngữ khác, trả lời người hâm mộ hoặc triển khai phiên bản hoạt hình của họ để ký hợp đồng tiếp thị, ngay cả khi họ đang ngủ.
Với các thương hiệu, AI mang lại lời hứa hẹn về tiếp thị qua influencer bằng chi phí rẻ, tức thì và kiểm soát hoàn toàn về diện mạo và lời nói của avatar. Theo Alexandru Voica - Giám đốc quan hệ doanh nghiệp và chính sách tại công ty khởi nghiệp về truyền thông Synthesia, đây là "công cụ cân bằng tuyệt vời", giúp các thương hiệu nhỏ thiếu ngân sách vẫn có thể tạo ra "nội dung được trau chuốt, chất lượng studio ở quy mô lớn".
Thế nhưng, sự thay đổi này khiến một số influencer có thật, đặc biệt là những người không muốn sử dụng AI trong quá trình sáng tạo nội dung, và cả đội ngũ của họ lo sợ bị thay thế hoặc bị gạt ra ngoài.
Theo một khảo sát với 500 chuyên gia tiếp thị do Influencer Marketing Hub thực hiện và công bố năm 2024, gần 60% từng sử dụng influencer AI trong các chiến dịch của họ và 15,5% dự định sẽ dùng. Đa số trong đó cho rằng khả năng tùy chỉnh hoặc kiểm soát hành vi của influencer AI là rất quan trọng.
Influencer Marketing Hub là trang web chuyên về tiếp thị influencer, tiếp thị kỹ thuật số và thương mại điện tử.
“Điều này nguy hiểm cho nghệ sĩ, mọi nhà sáng tạo tham gia một buổi chụp ảnh, từ làm tóc, trang điểm, nhà tạo mẫu, người mẫu, nhiếp ảnh gia, nhà quay phim, nhân viên trường quay đến nhà sản xuất. Chuyện này đã vượt ngoài tầm kiểm soát… Vì vậy, bạn sẽ bắt đầu thấy nhiều người nâng cao nhận thức hơn, dù tôi nghĩ chúng ta mới chỉ ở giai đoạn khởi đầu”, nhà sáng tạo kiêm người mẫu Gabriella Halikas bình luận.
Chiến lược của các nền tảng mạng xã hội tại Thung lũng Silicon
Việc tràn lan nội dung do AI tạo, thậm chí cả những tài khoản do AI vận hành hoàn toàn, là trọng tâm chiến lược của các nền tảng mạng xã hội tại Thung lũng Silicon, theo các giám đốc ngành này.
Vào tháng 10.2024, Mark Zuckerberg dự đoán AI sẽ mở ra “danh mục nội dung hoàn toàn mới”. Giám đốc điều hành Meta Platforms nói: “Đây sẽ là một trong những xu hướng quan trọng và một trong những ứng dụng quan trọng”.
Studio AI của Meta Platforms cho phép người sáng tạo “xây dựng một phiên bản AI mở rộng của chính họ, sử dụng dữ liệu từ các bài đăng trước đó để mô phỏng giọng điệu và cách biểu đạt”. Qua đó, không ít người kỳ vọng rằng việc dùng AI cá nhân hóa hàng loạt cho người hâm mộ sẽ khả thi theo thời gian.
Tuy nhiên, Adrienne Lahens, cựu giám đốc chiến lược và vận hành nội dung toàn cầu tại TikTok, cho rằng những nhà sáng tạo giỏi công nghệ và biết cách kể chuyện bằng nhân vật AI sẽ trở thành thế hệ influencer mới, có nhiều cơ hội thành công nhất, chứ không phải các thương hiệu hay nền tảng.
Bà cho biết đó là những người có kỹ năng kỹ thuật cao và hiểu biết về các mô hình video AI do các công ty như Google và OpenAI phát triển, để tạo ra các nhân vật với cốt truyện hấp dẫn.
Alex Mashrabov, nhà sáng lập hãng khởi nghiệp công nghệ Higgsfield AI, cho biết một số nhà sáng tạo đang sử dụng nền tảng video của ông để điều hành “các công ty quản lý tài năng AI”, giới thiệu cho người theo dõi một danh sách những influencer do AI tạo, đồng thời thu lợi nhuận tài trợ mà không phải trả tiền cho các buổi chụp ảnh hoặc đi lại thực tế.
“Đế chế truyền thông tiếp theo sẽ không được xây dựng ở Hollywood hay Thung lũng Silicon, mà bởi những người ở độ tuổi đôi mươi cùng nhóm nhỏ các nhân vật AI”, Alex Mashrabov, cựu giám đốc bộ phận AI tại Snap, nhận định.
Những nhà sáng tạo cá nhân sở hữu công cụ AI phù hợp có thể “vượt mặt các hãng phim, các công ty quảng cáo và dẫn đầu xu hướng Hollywood”, theo Alex Mashrabov.
Một thị trường phục vụ cho nền kinh tế sáng tạo AI đang nhanh chóng hình thành, gồm cả các studio tập trung tạo ra nhân vật ảo và quản lý câu chuyện của họ, cùng nhiều nhóm quảng cáo kết nối thương hiệu với những influencer AI.
Influencer AI kiếm được hợp đồng hàng trăm nghìn USD, nhiều công ty loại bỏ influencer thật
Lil Miquela, một trong những influencer AI đầu tiên (do hãng truyền thông Brud tạo ra), đã ký các hợp đồng trị giá hàng trăm nghìn USD với các thương hiệu như Burberry, Prada và Givenchy.
Fameflow AI, công ty cho phép thương hiệu cấp phép sử dụng avatar AI của các ngôi sao trong chiến dịch quảng cáo, tuyên bố đã ký hợp đồng với hơn 100 người nổi tiếng.
Một số công ty khác loại bỏ hoàn toàn influencer thật. Dylan Fournier, đồng sáng lập Arcads, cho biết việc thuê diễn viên AI để tạo quảng cáo ngắn chỉ tốn 10 euro, so với 300 euro nếu dùng người thật.
Arcads là nền tảng tạo quảng cáo video bằng AI, giúp người dùng biến văn bản thành các video quảng cáo chất lượng cao nhanh chóng và hiệu quả.
Nhiều thương hiệu lớn đang tham gia lĩnh vực này. Tháng 8, tập đoàn bán lẻ thời trang H&M (Thụy Điển) công bố hình ảnh loạt “bản sao kỹ thuật số” đầu tiên, tức các người mẫu được nhân bản bằng AI, để dùng trong quảng cáo. Tập đoàn thời trang cao cấp Hugo Boss (Đức) cũng từng hợp tác với Imma, influencer AI tóc hồng có khoảng 500.000 người theo dõi.
Thế nhưng, một số công ty quảng cáo lớn vẫn thận trọng, đặc biệt là xung quanh câu hỏi đạo đức về việc có nên và làm thế nào để tiết lộ việc sử dụng AI.
“Mức độ chấp nhận của người tiêu dùng vẫn chưa rõ ràng. Có vài trường hợp nổi bật, nổi tiếng là nhờ chính việc họ là AI. Nếu influencer AI không được công khai hay tạo sự khác biệt, mà chỉ dùng như người thật để tiếp thị, thì dễ gây phản ứng tiêu cực do khách hàng thấy không minh bạch. Ngay cả khi minh bạch, đây vẫn là lĩnh vực phức tạp”, giám đốc tại một công ty quảng cáo lớn nói.
“Không thể thay thế influencer thật vì không thể tạo sự đồng cảm”
Một số ý kiến cho rằng AI sẽ không hoàn toàn thay thế vai trò của influencer thật vì không thể tạo sự đồng cảm và dữ liệu dường như cũng chứng minh điều này.
Theo báo cáo từ nền tảng Twicsy, các bài đăng được tài trợ từ influencer thật có mức tương tác cao hơn gấp 2,7 lần so với từ nhân vật AI. Influencer thật kiếm trung bình 78.777 USD cho mỗi bài đăng, so với 1.694 USD mà AI nhận được, báo cáo từ Twicsy cho biết.
Twicsy phân tích thu nhập, nguồn doanh thu và mức độ tương tác của hơn 11.500 influencer AI và có thật.
“AI không thể trải nghiệm cuộc sống, không thể là phụ huynh bày tỏ sự mệt mỏi, không thể có bệnh về da, không thể nếm đồ ăn”, Jago Sherman, trưởng bộ phận chiến lược tại The Goat Agency (công ty chuyên về tiếp thị influencer), nhận xét. Ông dẫn dữ liệu từ Emarketer cho thấy 65% người trưởng thành cảm thấy không thoải mái với quảng cáo do AI tạo ra.
eMarketer là hãng nghiên cứu thị trường có trụ sở tại Mỹ, chuyên cung cấp dữ liệu, phân tích và xu hướng về các lĩnh vực như tiếp thị kỹ thuật số, truyền thông và thương mại điện tử.
Jago Sherman dự đoán sẽ có “sự gia tăng gian lận trong giới influencer”, khi những nhà sáng tạo được thuê để làm nội dung thật nhưng có thể dùng AI như lối tắt. “Nếu chúng ta trả tiền cho nội dung do con người tạo nhưng lại nhận về nội dung tạo bởi AI thì tưởng quý giá nhưng thực chất kém giá trị”, Jago Sherman bình luận.
Người mẫu Gabriella Halikas cảnh báo rằng influencer AI đang tạo ra những chuẩn mực sắc đẹp phi thực tế, có thể gây hại cho sức khỏe tinh thần. “Chúng vốn dĩ không tồn tại thật và tôi nghĩ điều này rất đáng lo cho giới trẻ lẫn phụ nữ”, cô bình luận.
Mối lo về "AI slop" sau loạt video phụ nữ mặc bikini phỏng vấn gây bão mạng xã hội
Sự thay đổi này cũng làm dấy lên lo ngại rằng các nền tảng như Meta Platforms sẽ bị ngập tràn nội dung rác do AI tạo (AI slop), kém chất lượng, kỳ quặc hoặc gây hiểu lầm, được thiết kế để hút tương tác vì lợi nhuận.
Người dẫn podcast kiêm nhà sáng tạo Shira Lazar (Canada) cho biết dạng nội dung này sẽ là “thức ăn nhanh” của internet, buộc nhiều người dùng mạng xã hội phải tìm hiểu kỹ hơn về nguồn gốc thứ mà họ tiêu thụ.
Neil Waller, người đồng sáng lập Whalar (công ty tiếp thị qua influencer), bình luận: "Trong bối cảnh AI tràn lan, những người tạo xu hướng thật sự, đáng tin và có bản sắc riêng sẽ ngày càng được trân trọng và hồi sinh mạnh mẽ".
Liên quan đến AI slop, gần đây xuất hiện ngày càng nhiều video lan truyền về những phụ nữ mặc bikini thực hiện phỏng vấn trên đường phố trông sống động đến kinh ngạc, nhưng tất cả đều là giả, được tạo bởi AI. Loại video này được sản xuất hàng loạt nhờ các công cụ AI giá rẻ, có thể biến đoạn mô tả văn bản thành hình ảnh siêu thực, thường lấn át các bài đăng thật, xóa nhòa ranh giới giữa thực và ảo.
Xu hướng đó đã tạo ra một ngành công nghiệp nhỏ các influencer AI, sản xuất hàng loạt video khêu gợi chỉ với chút ít công sức, chủ yếu vì các nền tảng trả tiền thưởng cho nội dung lan truyền.
Hàng loạt video AI nữ phóng viên ăn mặc hở hang cầm mic trên đường phố lan truyền mạnh nhưng đi kèm nhiều bình luận tục tĩu, làm dấy lên lo ngại về tác hại mà những nội dung này có thể gây ra cho phụ nữ.
Các nhà kiểm tra thông tin của hãng thông tấn AFP (Pháp) đã tìm ra hàng trăm video như vậy trên Instagram, với nhiều nội dung bằng tiếng Hindi (Ấn Độ), cho thấy những người đàn ông được phỏng vấn đưa ra lời lẽ phân biệt phụ nữ và nhận xét khiêu dâm một cách thản nhiên, đôi khi còn có hành vi sàm sỡ với nữ phóng viên ảo mặc bkini, còn đám đông phía sau cười cợt hoặc trố mắt nhìn.
Nhiều video đạt hàng chục triệu lượt xem và một số còn tận dụng độ lan truyền này để quảng bá ứng dụng trò chuyện người lớn, hứa hẹn giúp “làm quen với bạn nữ mới”.
Điều đáng nói là các video này được dàn dựng sống động đến mức rộ lên câu hỏi liệu rằng những phụ nữ mặc bikini này có phải người thật hay không.
Hãng an ninh mạng GetReal Security (Mỹ) cho biết một số video được tạo bằng mô hình Veo 3 của Google.
Xu hướng trên cũng phản ánh bức tranh internet ngày nay, vốn ngày càng ngập trong meme, video và hình ảnh do AI tạo. Những nội dung này đang cạnh tranh và ngày càng lấn át nội dung thật.
Những nội dung phân biệt giới tính lan truyền mạnh nhất thường dựa vào yếu tố gây sốc. Nhiều video trên một tài khoản TikTok nổi tiếng còn liệt kê những gì các cô gái bị gọi là “đào mỏ” sẽ làm để đổi lấy tiền.
Phụ nữ đang trở thành mồi cho những trò câu view bằng AI. Gần đây, mạng xã hội xôn xao vì video về “nữ huấn luyện viên” có tên Jessica Radcliffe bị cá voi sát thủ tấn công tử vong tại buổi biểu diễn trực tiếp tại công viên nước SeaWorld (Mỹ). Video giả này lan truyền nhanh chóng trên TikTok, Facebook và X, nhưng sau đó gây ra sự phẫn nộ từ những người phát hiện rằng “nữ huấn luyện viên” đó không có thật.
"Vấn đề cốt lõi nằm ở xã hội và văn hóa chứ không phải công nghệ"
Loại AI slop dễ kiếm tiền này đang ngày càng khó kiểm soát, khi những người sáng tạo nội dung, gồm cả sinh viên và bà mẹ làm nội trợ khắp thế giới, bắt đầu coi sản xuất video AI như công việc bán thời gian.
Nhiều nhà sáng tạo trên YouTube và TikTok còn mở khóa học trả phí dạy cách kiếm tiền từ nội dung AI lan truyền, trong bối cảnh nhiều nền tảng đã giảm bớt sự phụ thuộc vào kiểm chứng viên và thu hẹp hoạt động kiểm duyệt nội dung.
Theo Divyendra Jadoun - chuyên gia trong lĩnh vực deepfake, AI chỉ khuếch đại sự phân biệt giới tính vốn đã có sẵn và nội dung dạng này sẽ tiếp tục lan rộng nếu vẫn được công chúng ưa chuộng. Divyendra Jadoun cho rằng vấn đề cốt lõi nằm ở xã hội và văn hóa, không chỉ ở công nghệ.