Démocratie, mode d’emploi

L’IA générative peut offrir quelques avantages dans le cadre d’une campagne électorale. Elle peut permettre aux électeurs consciencieux de comparer les programmes des candidats, voire de dialoguer avec eux. “Je serais très étonné si dans les mois à venir les candidats sérieux ne déploient pas un chatbot entraîné sur leur programme et leur style, prêt à répondre aux questions des électeurs”, déclarait par exemple la semaine dernière à 538 Ethan Bueno de Mesquita, dean (recteur) de l’école de sciences politiques de l’université de Chicago. Mais l’étude qu’Ethan Bueno de Mesquita vient de diriger en collaboration avec Stanford s’étend cependant bien plus sur les risques politiques de l’IA : la dégradation de l’information, la micromanipulation de l’opinion et la centralisation de l’information. 

En un an, le progrès de ChatGPT et des autres IA génératives ont été fulgurants. En Argentine, les élections du mois dernier ont vu les deux candidats favoris utiliser largement l’IA générative, multipliant les affiches et les vidéos de campagne créées par l’IA (lire Qant du 21 novembre). Ces “cheapfakes”, cependant, étaient clairement reconnaissables comme de la propagande électorale : leur effet était donc clairement circonscrit. 

Certains “deepfakes”, en revanche, ont déjà eu des conséquences parfois considérables. En Slovaquie, un faux enregistrement a donné à entendre le chef du parti “Slovaquie Progressiste”, Michal Šimečka, qui confiait ses plans pour truquer les élections. Ses vifs démentis n’ont pas empêché la victoire de l’extrême droite pro-russe (lire Qant du 12 octobre). En mai dernier, le président turc sortant Recep Tayyip Erdoğan a utilisé des deepfakes dans sa campagne, notamment en reprenant dans un meeting une vidéo truquée d’un site islamiste. Elle montrait le parti indépendantiste kurde, le PKK, soutenir son opposant Kemal Kılıçdaroğlu. Comme on sait, Recep Tayyip Erdoğan a été réélu, malgré un bilan désastreux.

Surprises d’octobre

Ces premières escarmouches sont prises, aux États-Unis, comme des coups de semonce. “Le contenu généré par l’IA peut être publié très peu de temps avant le jour du scrutin, de manière à générer de faux scandales dans un laps de temps qui rend la vérification difficile” met en garde l’étude : “Ces ‘surprises d’octobre’ peuvent être très difficiles à gérer si c’est un candidat majeur qui les génère ou les partage”. Or, les sondages donnent comme favori de l’élection américaine Donald Trump, que l’on imagine parfaitement préparer une telle surprise. Le public américain pourrait être parfaitement réceptif : cet été, seulement 42% des Américains savaient ce qu’est un deepfake, d’après un sondage de Pew.

En outre, les candidats peuvent traiter de deepfake des vidéos qui n’en sont pas. Pendant les élections turques, Muharrem İnce, un candidat d’opposition, a ainsi accusé une sextape diffusée sur les réseaux sociaux d’être une deepfake. Il s’est néanmoins retiré de la course. “Si les électeurs ne peuvent vraiment pas distinguer le vrai du faux (…), de telles dénégations deviendront monnaie courante” analyse l’étude. Il devient alors difficile d’évaluer sérieusement les candidats.

Face à cette “dégradation de l’environnement informationnel”, Meta, Google, OpenAI et Tik-Tok se sont engagés dans des politiques de filigranes numériques (watermarking) et d’étiquetage des contenus générés par IA. C’est par exemple ce qu’a fait Meta, qui a récemment exigé que les annonceurs divulguent l’utilisation de l’IA dans des publicités politiques, après avoir refusé de rendre disponibles ses outils publicitaires basés sur l’IA aux marketeurs politiques (lire Qant du 30 novembre et du 8 novembre). 

Comme pour les élections précédentes, la maison-mère de Facebook compte suspendre toutes publicités politiques et électorales lors de la dernière semaine des élections. Mais elle a également quasiment démantelé ses efforts de fact-checking. On peut donc douter de l’efficacité de ces efforts, qui se heurtent en outre à des limites techniques (par exemple, une longueur minimum des textes, ce qui rend les filigranes inutiles sur X-Twitter).

Microciblage et manipulation de masse

Ethan Bueno de Mesquita et son équipe se montrent sceptiques quant à l’autre grande menace, le risque que l’IA permette de générer des messages ultrapersonnalisés avec une efficacité sans précédent. Ils remarquent que, jusqu’à présent, les fonctionnalités de personnalisation du message sur Facebook sont restées largement inutilisées.

L’idée a été évoquée en premier au printemps par deux professeurs de Harvard, Archon Fung et le juriste Larry Lessig, très connu en matière de numérique. Une étude de la Rand Corporation en septembre est venue la renforcer. La manipulation des médias sociaux grâce à l’IA générative constitue d’après elle une menace immédiate pour la sécurité des États-Unis.

L’IA générative résout en effet les principaux problèmes des assaillants sur les médias sociaux. Elle produit aisément et en masse, sans besoin de personnel formé dans la langue du pays cible, des messages qui semblent authentiques et sont difficiles à détecter. Les auteurs de Rand se concentrent sur la Chine, mais ils déclarent que les techniques qu’ils décrivent peuvent aussi bien être utilisées par “toute sorte d’acteurs (…), y compris des acteurs non étatiques techniquement sophistiqués, intérieurs ou extérieurs”.

Comme un candidat aux présidentielles.

Pour en savoir plus :

• Ethan Bueno de Mesquita et al., Preparing for Generative AI in the 2024 Election : Recommendations and Best Practices Based on Academic Research, Harris School of Public Policy, novembre 2023
• Archon Fung, Lawrence Lessig, How AI could take over elections – and undermine democracy, The Conversation, juin 2023
• William Marcellino, et al. The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0, Rand Corporation, Sept. 2023
• 538 Podcast
• Pew Research Center
• Meta
• Tik Tok
• The Verge