L’IA, les jeunes, Tik-Tok et les marques

Sur 520 vidéos sur Tik-Tok analysées par le consultant new-yorkais NewsGuard pour son Misinformation Monitor de juillet 2023, 14% contenaient des contenus faux ou nuisibles à des grandes marques. Les 73 clips incriminés, présentés parmi les premiers résultats de recherche sur le nom de la marque, cumulaient 57 millions de vues. Près de la moitié utilisaient du contenu généré par l’IA, parfois de manière assez grossière, comme la vidéo ci-dessus, où apparaît la mention du modèle générateur d’images Midjourney. Aucune autre des vidéos examinées par Newsguard ne contenait de mention aussi explicite, malgré les conditions d’utilisation de Tik-Tok.

Les vidéos repérées par Newsguard reprennent souvent des fakes apparus sur Facebook ou Youtube. On repère ainsi des poncifs conspirationnistes, comme la thèse de QAnon sur l’utilisation des fûts de Heineken pour transporter de l’adrénochrome, un pigment biologique prélevé sur des enfants par des réseaux pédophiles pour permettre aux “élites” de rester jeunes et en bonne santé. Le groupe de bière hollandais a été choisi comme cible après que Bill Gates (dont l’aspect juvénile saute aux yeux de l’observateur) ait choisi, en février dernier, d’y investir près de 900 millions de dollars. Son rival américain Anheuser-Busch avait pour sa part dû essuyer, en mars, un boycott par les conservateurs américains car sa marque Bud Light s’était choisi pour égérie le transexuel Dylan Mulvaney.

Tik-Tok, plate-forme d’IA expérimentale

Les marques de bière ne sont bien sûr pas les seules à exciter ces fantaisies maladives. D’autres vidéos repérées par Newsguard s’étendent ainsi sur les penchants satanistes de “Baalenciaga” et des magasins Target, sur l’utilisation de farines d’insectes pour fabriquer les pâtes Barilla, et ainsi de suite. Elles semblent former la pointe d’un phénomène plus vaste, où l’on retrouve par exemple des autobiographies en vidéo, donnant la parole à Napoléon, Voltaire, Lady Di ou Elon Musk:

La chinoise Bytedance, qui a créé Tik-Tok, fait preuve d’un grand dynamisme pour intégrer l’IA générative à sa plate-forme, bien supérieur à son rival Meta. Mi-juillet, elle a intégré son éditeur de vidéos Capcut à ChatGPT, sous la forme d’un plugin qui génère des vidéos à partir d’une invite textuelle (prompt). En mars dernier, elle avait annoncé son intention de développer ses propres semiconducteurs pour l’IA (Reuters) et dès le mois d’août 2022, elle avait lancé une fonctionnalité text-to-video sur Tik-Tok, sous le nom d’AI Greenscreen. Celle-ci n’a pas connu le succès de ses filtres d’IA, mais l’ensemble fait de Tik-Tok la première plate-forme où le grand public expérimente avec la vidéo d’IA. Début 2023, Tik-Tok réunissait 1,7 milliards d’utilisateurs, principalement âgés de moins de 24 ans (Statista).

Détecter l’IA

Pour l’heure, les vidéos générées avec l’IA restent souvent assez facilement reconnaissables. C’est cependant de moins en moins le cas. Qu’on en juge par cette bande-annonce fictive, créée par le graphiste Nicolas Neubert :

De même, les images générées par Midjourney, Stable Diffusion et Dall-e ne cessent de gagner en “photoréalisme”. Quant aux textes, une étude de juin dernier rend un verdict sans appel. Parmi les 14 principaux outils de détection de ChatGPT, aucun outil n’atteint les 80% d’efficacité globale.

“Les outils de détection disponibles ne sont ni précis ni fiables et ils ont tendance à classer le résultat comme étant écrit par un humain plutôt qu’à détecter le texte généré par l’IA” concluent les chercheurs, issus de 7 universités européennes et une mexicaine. Les IA semblent en passe de remporter la partie.

*Pour en savoir plus : *

• Newsguard, How TikTok Became a Hotbed of Brand Misinformation, Misinformation Monitor: July 2023
• Debora Weber-Wulff (University of Applied Sciences HTW Berlin) et al., Testing of Detection Tools for AI-Generated Text, Arxiv.com, Juin 2023