A la recherche de la vérité perdue

Dès janvier dernier, une étude de l’institut néozélandais Te Pukenga montrait l’existence de biais dans ChatGPT: une propension à donner des réponses “libérales”, au sens américain, malgré ses affirmations de neutralité. Elon Musk en avait déduit la nécessité d’un IA réellement objective et créé une entreprise pour ce faire, TruthAI (lire Qant du 21 avril). Depuis, de nombreux modèles se sont lancés : Open Assistant, GPT4All, FreedomGPT… Eric Hartford vient de mettre en ligne 4 versions de son modèle open source “non censuré”, WizardML, disponibles sur Hugging Face.

Un récent article du New-York Times met en lumière que ces modèles sont susceptibles des mêmes errements que ceux dont les biais conservateurs sont délibérément affichés. Par exemple, début avril, un investisseur texan du nom d’Age of AI lance FreedomGPT, un chatbot sans aucun biais ni censure basé sur Alpaca, un modèle dégradé à partir de Llama qui peut fonctionner sur un simple ordinateur ou téléphone mobile (lire Qant du 3 avril). Contrairement à son prédécesseur ChatGPT, FreedomGPT peut discuter de n’importe quel sujet sans filtre, qu’il s’agisse de politique, de sexualité ou de religion. Un journaliste de BuzzFeed News a ainsi réussi à obtenir de lui des explications pour construire une bombe, mais également un éloge d’Hitler ou encore des recommandations pour commettre un suicide. Face aux critiques, ses créateurs mettent alors en avant la liberté au dépend de la sécurité. Le mois précédent, RightWingGPT, formé sur GPT-3 avec un ensemble de données représentant des points de vue « de droite » sur différences questions, affirmait rééquilibrer la balance face à un ChatGPT décrit par ses détracteurs comme woke.

Il devient facile de créer son propre chatbot avec sa propre vérité. Le réseau social de Donald Trump s’appelle Truth, comme le projet d’Elon Musk.

On s’en référera à Ponce Pilate : *Quid est veritas ? *

*Pour en savoir plus : *

• David Rozado, The Political Biases of ChatGPT, Te Pūkenga—New Zealand Institute of Skills and Technology, MDPI
• Open Assistant, GPT4All, FreedomGPT
• Eric Chartford
• New-York Times