Les modèles de génération d’images peuvent être utilisés pour produire des photos identifiables de véritables personnes, menaçant ainsi potentiellement leur vie privée. Une nouvelle étude montre que ces modèles d’intelligence artificielle, dits de “diffusion”, peuvent également reproduire des images médicales et des œuvres protégées par le droit d’auteur.
Cette découverte pourrait renforcer les poursuites judiciaires pour violation de droits d’auteur intentées aux Etats-Unis, notamment contre Stability.ai. Elle apporte en effet un nouvel à ceux qui soutiennent que l’IA génératrice n’est pas créatrice, et ne peut donc générer de droits d’auteur pour qui l’utilise.
Les chercheurs, provenant de Google, DeepMind, de l’université de Californie à Berkeley, de l’ETH Zurich et de Princeton, ont obtenu leurs résultats en demandant à Stable Diffusion et Imagen de Google de générer des images à de nombreuses reprises à partir de certaines légendes, telles que le nom d’une personne. Ensuite, ils ont analysé si les images générées correspondaient à des images originales dans la base de données du modèle. Le groupe a réussi à extraire plus de 100 répliques d’images de l’ensemble d’entraînement de l’IA.
Cette étude prouve ainsi que ces modèles d’IA mémorisent les images de leurs ensembles d’entraînement. Cela pourrait avoir des conséquences juridiques mais aussi des implications pour les start-ups souhaitant utiliser des modèles d’IA génératifs dans le domaine de la santé, car les modèles risquent de divulguer des informations privées sensibles.
Source : Arxiv.org
Pour en savoir plus : MIT Technology Review
Source archive Kessel : https://qant.kessel.media/posts/pst_f2064d6e436742f085fb08c57fc265cb
