Lundi soir, un deepfake généré par l’IA repris sur Twitter a fait brièvement chuter Wall Street. De quoi relancer la polémique sur la gouvernance des réseaux sociaux et sur l’IA générative.
Lundi, une image synthétique du Pentagone apparemment attaqué a circulé sur Twitter, semant un bref moment de panique et provoquant une baisse dela Bourse de New-York avant qu’il ne soit révélé que l’image était une supercherie. Cet incident a brutalement mis en lumière les défauts des systèmes de confiance et de sécurité de Twitter, notamment après que la transformation de sa certification Twitter Blue en produit d’abonnement a engendré une vague d’usurpations de marque.
La fausse photo, apparue pour la première fois sur Facebook, montrait une grande colonne de fumée qu’un utilisateur de Facebook prétendait être près du siège militaire américain en Virginie. Elle s’est rapidement répandue sur des comptes Twitter atteignant des millions de followers, dont le réseau d’information russe RT (Russia Today) et le site d’information financière ZeroHedge. Facebook a bloqué la publication après avoir déterminé que l’image était fausse mais son amplification sur Twitter a fait perdre momentanément 500 millions de dollars à l’indice S&P 500.
On peut estimer qu’à mesure que les images synthétiques s’amélioreront, les mauvais acteurs pourront profiter des systèmes de confiance et de sécurité défaillants comme ceux de Twitter pour diffuser de la désinformation plus rapidement qu’auparavant. Mais à la vérité, la désinformation n’a pas attendu l’IA pour pulluler sur les réseaux sociaux. En particulier, sont remis en cause le changement de politique de Twitter sur les comptes certifiés (désormais ouverts à tous pour un loyer modéré) et le laxisme de la modération de contenus après le rachat par Elon Musk .
L’attention de Twitter s’est récemment reportée sur la publicité, avec la nomination en tant que CEO de l’ancienne directrice de la publicité de NBC, Linda Yaccarino, un soutien explicite de Donald Trump. La filiale d’achat d’espace de WPP GroupM, l’un des plus grands acheteurs de médias au monde, a déclaré qu’il ne considérait plus Twitter comme présentant un « risque élevé ». Une déclaration qui aurait pu encourager les clients à reprendre leurs dépenses sur la plateforme. Jusqu’à la preuve soit faite de la réalité du risque.
Merci, Elon.
Pour en savoir plus : CNN, The Platformer,
Source archive Kessel : https://qant.kessel.media/posts/pst_9caeb82dab744081b9190355fd197c6f
