Des christs en crevettes pour attirer le chaland. Dans la course perpétuelle des créateurs de contenus sur les réseaux sociaux pour capter l’attention, on attendait l’IA, la voici.
Jésus en crevettes a remplacé le pape en doudoune d’il y a un an (lire Qant du 28 mars 2023), mais ses intentions ne sont pas toujours très catholiques.
Des chercheurs de l’université de Stanford se sont récemment penchés sur l’utilisation des images générées par IA dans les pages Facebook. Leur étude porte sur plus de 100 pages qui ont publié chacune plus de 50 fakes. Ces images, qui attirent des centaines de millions d’interactions, sont recommandées par Facebook, qui les insère dans les fils d’actualité des utilisateurs.
Or, les pages peuvent rediriger les visiteurs vers des sites externes, leur vendre des produits ou simplement vouloir augmenter le nombre d’abonnés, mais leurs pratiques incluent aussi le spam, dirigeant vers des fermes de contenu, et les escroqueries, comme la vente de produits inexistants. Et la suppression par Meta du logiciel CrowdTangle, largement utilisé par les chercheurs et quelques journalistes pour analyser les mouvements de foule sur Facebook, ralentira la découvertes de “memes” autrement dangereux qu’un crabe christique avec trop de pinces.
La multiplication des fakes a en effet des conséquences bien plus inquiétantes dès que l’on sort du domaine de l’image fixe pour aller vers la voix et la vidéo.
La semaine dernière, l’actrice Sara Poyzer, rendue célèbre il y a quinze ans par son rôle dans la comédie musicale Mamma Mia, a indiqué sur X-Twitter qu’elle avait été écartée d’un projet de la BBC et qu’on l’avait remplacée par une voix générée par IA. La BBC a indiqué en retour que cette décision concernait un documentaire sensible, impliquant la volonté d’une famille de recréer la voix d’un proche en fin de vie.
Le perfectionnement de modèles comme ceux d’Eleven Labs ou Voice Engine d’OpenAI (lire ci-dessus) multipliera ces polémiques à l’avenir et il menace tous les métiers du doublage. Mais la décision des producteurs confirme surtout que les voix de synthèse sont aujourd’hui tout aussi crédibles que la voix humaine.
De même, beaucoup s’inquiètent de la qualité du générateur de vidéos d’OpenAI, Sora (lire Qant du 15 mars). Le risque élevé que ces dernières soient utilisées pendant la campagne électorale pourrait reporter son lancement jusqu’en novembre. Pour prévenir ces risques, OpenAI a indiqué qu’elle appliquera des restrictions similaires à Dall-e concernant la représentation de figures publiques, ainsi qu’un filigrane sur les vidéos générées. Mais d’autres modèles génèrent déjà de fausses vidéos capables de tromper un observateur distrait.
Un fake pour Lake…
Aux États-Unis, les partis politiques ont très vite réalisé dès le potentiel des fakes IA (lire Qant du 27 avril 2023). La semaine dernière, Kari Lake, candidate républicaine au Sénat et proche alliée de Donald Trump, a été la cible d’un deep fake créée par le site d’informations en ligne Arizona Agenda. La vidéo a généré plusieurs dizaines de milliers de vues.
Arizona Agenda a indiqué avoir généré la vidéo pour mettre en évidence les dangers de la désinformation par l’IA. Pas de quoi convaincre l’équipe de campagne de Kari Lake, qui a exigé le retrait immédiat de la vidéo.
…Un autre pour Medvedev
L’Europe de son côté s’arme face aux dangers de la désinformation pour les élections européennes de juin prochain. Le Digital Services Act (DSA), qui réglemente le contenu sur les médias sociaux, oblige les plateformes à prendre six mesures, dont l’installation d’équipes de fact-checking et d’évaluation des risques, ainsi que le marquage du contenu généré par IA. Des protocoles d’escalade et des systèmes d’alerte rapide doivent également être mis en place pour lutter contre les pics potentiels de désinformation avant et après le vote, qui se déroulera du 6 au 9 juin. Les entreprises qui ne mettront pas en œuvre ces mesures pourraient faire face à des amendes allant jusqu’à 6% de leur chiffre d’affaires.
Les craintes européennes s’expliquent par la multiplication de fakes dans le cadre de la guerre en Ukraine, à l’image d’une fausse vidéo de la chaîne France 24 devenue virale en février dernier. Emmanuel Macron y annonçait l’annulation de sa visite en Ukraine.
La fausse vidéo a été aussitôt relayée par l’ancien chef de l’État russe Dimitri Medvedev. « Macron semble avoir eu tellement peur d’un assassinat réel ou présumé dans la ville nazie de Kiev [qu’il a] annulé son voyage dans cette ville » a affirmé le vice-président du Conseil de sécurité russe.
Il poursuit en attaquant le coq français, qui doit toujours attirer l’attention du poulailler européen mais qui, en partageant la dissuasion nucléaire avec les autres Européens, se ferait châtrer par le fermier américain.
On est loin des crevettes.
Pour en savoir plus :
- Renee Di Resta et al., How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth, Stanford, 2024
- Sara Poyzer
- Dimitri Medvedev
- France24
- Washington Post
- Politico
- The Hill
- The Guardian
- Financial Times
- Le Monde
Source archive Kessel : https://qant.kessel.media/posts/pst_572946ed3ed64679b2f6fd550700a955
