Hier mardi, OpenAI a renforcé ses politiques pour combattre la désinformation électorale. L’utilisation de ses outils, tels que ChatGPT et Dall-e, pour représenter des candidats ou parler en leur nom, en faire la promotion ou dissuader certains électeurs d’aller voter est désormais interdite par les conditions d’utilisation. Les outils d’OpenAI dirigeront également les questions sur le vote aux États-Unis vers le site CanIVote.org, un site d’information sur les élections créé par la NASS, l’association des Secrétaires des États américains chargés de gérer les élections.
OpenAI prévoit également d’incorporer les identifiants de la Coalition for Content Provenance and Authenticity (C2PA) dans les images générées par Dall-E pour en faciliter l’authentification. La C2PA, qui comprend parmi ses membres fondateurs Adobe, la BBC ou encore Microsoft, a pour objectif “d’élaborer des spécifications techniques pour établir la provenance et l’authenticité des contenus”. Ces mesures sont en cours de déploiement et dépendent en partie des signalements des utilisateurs.
Changement de comportement
Sam Altman, le désormais célèbre PDG d’OpenAI, dispose ainsi d’arguments à opposer à ses interlocuteurs à Davos, alors que la désinformation aggravée par l’IA est devenue la menace numéro un pour l’économie mondiale dans les deux prochaines années selon le Forum économique mondial (lire Qant du 15 janvier). Il se retrouve ainsi en bonne compagnie.
En novembre dernier, Meta a annoncé sa décision d’étiqueter les publicités politiques utilisant des images générées par intelligence artificielle sur Facebook et Instagram (lire Qant du 10 novembre). L’entreprise a indiqué que tout contenu enfreignant cette règle sera retiré de ses plateformes.
Quelques semaines plus tôt, fin octobre, Google avait lancé un nouvel outil de vérification d’images qui analyse les métadonnées pour déterminer le contexte et détecter les fausses images créées par IA. Cet outil, intégré à la recherche Google, fournit des informations détaillées sur l’historique d’une image, y compris sa date de publication originale, ses utilisations ultérieures et les différents endroits où elle est apparue sur Internet. Il aide à vérifier l’authenticité des images utilisées dans les actualités et indique si une image a été générée par IA, bien que cela dépende des métadonnées fournies par le créateur de l’image.
Biais et liberté d’expression
Longtemps, les réseaux sociaux se sont battus pour limiter partout leur responsabilité à celle de l’hébergeur, sans regard sur les contenus échangés et même un devoir de neutralité, suivant la section 230 du Communications Decency Act américain. Celle-ci s’était retrouvée au cœur du débat dans la campagne de 2020, mais le projet du parti démocrate de revoir la réglementation des plateformes n’a pas abouti pendant le mandat Biden qui s’achève.
Avec l’IA générative, cette position des plateformes apparaît de moins en moins tenable. Créateurs de modèles d’IA et plateformes de réseaux sociaux adoptent spontanément des comportements d’éditeur, orientant les propos que l’on peut tenir et générer. Après avoir tenté de se justifier par la liberté d’expression, Substack, par exemple, vient d’exclure de sa plateforme les newsletters dont les propos tendent à justifier le nazisme.
Au début d’une année 2024 où 4,1 milliards de personnes sont amenées à voter, le thème devient incontournable. Pour les créateurs d’IA, cela revient à assumer des biais qu’Elon Musk qualifie de “woke”.
Les soutiens de Donald Trump qui veulent se servir de l’IA pourront toujours utiliser Grok et X.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_f8499485a3124ca4b1260e3ba447d455
