OpenAI, le créateur de ChatGPT, travaillerait sur une façon de détecter de manière fiable les textes générés par son modèle. L’objectif est de protéger les textes originaux tout en empêchant l’outil d’être utilisé à des fins malveillantes, notamment dans le milieu éducatif.
Pour dissuader les élèves de tricher, ChatGPT pourrait appliquer un filigrane invisible sur chaque texte généré. Selon Scott Aaronson, un chercheur en informatique, cette solution permettrait de créer une «signature invisible rédigée par un modèle de langage basé sur l’IA». Un prototype serait déjà en fonctionnement, alors qu’un étudiant de Princeton a déjà annoncé avoir développé un outil similaire intitulé GPTZero.
Source : Scott Aaronson
Pour en savoir plus : The Register
Source archive Kessel : https://qant.kessel.media/posts/pst_7ad03bafc87649899ee89fb218404cda
