Le vrai faux plutôt que le faux vrai

Chacun sait que ChatGPT ne sait rien. GPT-4, comme tous les grands modèles de langage naturel (LLM) ne fait que proposer un texte ou une image dont il infère, statistiquement, qu’il correspond à ce qu’on lui demande. Avec ces créatures d’un monde “post-truth”, seule importe la vraisemblance du discours tenu, non sa réalité.

Cela n’est pas sans poser quelques difficultés, maintenant que les LLM ne sont plus confinés au monde de la recherche. En Australie, le maire de Hepburn Shire (Victoria) Brian Hood menace de poursuivre OpenAI en diffamation pour des allégations mensongères selon lesquelles il aurait purgé une peine de prison pour corruption. Aux États-Unis, un professeur de droit constitutionnel à l’université George Washington à Wahsington a vu son nom apparaître dans les listes d’enseignants pédophiles dressées par ChatGPT. Le modèle a prétendu que Jonathan Turley avait fait des commentaires sexuellement suggestifs et tenté de caresser un étudiant lors d’un voyage scolaire en Alaska, citant comme source un article du Washington Post. Léger inconvénient : l’article n’existe pas et Jonathan Turley affirme qu’il n’a jamais été accusé de harcèlement et que le voyage n’a jamais eu lieu.

Au fur et à mesure que l’usage de l’IA générative se déploie, il est très probable que ces cas vont se multiplier, augmentant la méfiance des gens envers toutes les informations qu’ils reçoivent. Si même ChatGPT vous ment, comment croire ceux qui insistent que la terre serait ronde et que la CIA n’aurait pas commandité les attentats du 11 septembre 2001 ?

Le studio néerlandais Revel.ai vient de rendre public un deepfake quasiment parfait de la consultante Nina Schick, qui se veut l’égérie de l’IA générative. Seule la signature cryptographique établie par Truepic, une start-up financée par Microsoft, permet d’établir qu’il s’agit d’un “vrai-faux”, et non d’une fausse représentation de la réalité.

Nina Schick en appelle à une “transparence radicale” où chaque contenu numérique serait pourvu d’une signature indélébile. Elle souligne que le but n’est pas d’imposer une vérité aux gens , mais de leur donner le contexte et le choix pour établir la confiance. Elle compare le besoin de connaître l’origine de l’information à celui de connaître la provenance de la nourriture que l’on consomme.

Truepic appartient à la Coalition for Content Provenance and Authenticity (C2PA), menée par Adobe avec des géants du poids de Microsoft, Intel et Sony, sans oublier la BBC. Son ambition, en réunissant les deux organismes actifs dans le secteur, était de proposer un alternative aux NFT pour la certification du contenu. Après avoir présenté ses spécifications en janvier 2022, toutefois, la C2PA est restée bien silencieuse. Peut-être le tintamarre de l’IA générative la réveillera-t-elle.

J.R et M. de R.

Pour en savoir plus :

• Pranshu Verma, Will Oremus, ChatGPT invented a sexual harassment scandal and named a real law prof as the accused, Washington Post
• Le vrai-faux deepfake de Nina Schick
• Coalition for Content Provenance and Authenticity