Samedi, l’une des stars de la recherche en IA, Gary Marcus de New York University, a publié sur IEEE Spectrum les résultats de sa recherche sur comment faire générer par l’IA des contrefaçons évidentes (voir ci-dessus). Le 27 décembre, le quotidien américain le New York Times a porté plainte contre OpenAI et Microsoft, montrant que GPT-4 peut générer des articles identiques à ceux du journal, simplement en en saisissant une partie.
On peut se demander qui commet la contrefaçon, de l’éditeur de l’IA ou du créateur de l’image ou du texte via un prompt. Mais il semble prouvé que GPT-4 et le modèle de fondation de Midjourney (sans doute Stable Diffusion : lire Qant du 23 novembre) ont utilisé des données protégées sans autorisation, ce qui pointe vers une forme de responsabilité. D’autant que les créateurs de médias par l’IA ne jouissent pas de la protection du droit d’auteur (hormis en Chine : lire Qant du 20 décembre). OpenAI sera donc vraisemblablement contrainte à ouvrir sa bourse plus généreusement encore qu’avec Axel Springer, qui recevra plusieurs dizaines de millions de dollars sur plusieurs années.
La mort pour ChatGPT
Les allégations du New York Times s’articulent autour de l’utilisation non autorisée de ses articles pour former ces modèles, entraînant ainsi une concurrence directe avec le média en tant que source d’informations fiables. La plainte, déposée devant le tribunal fédéral de Manhattan, ne spécifie pas de montant précis pour les dommages, mais estime ces derniers à des « milliards de dollars ». Elle exige que les chatbots d’OpenAI et de Microsoft, incorporant le matériel du NYT, soient supprimés. Outre l’utilisation présumée de textes protégés par paywall du journal et lui attribuent leurs hallucinations. Le journal affirme que les tentatives de négociation préalables pour parvenir à un accord mutuellement bénéfique ont échoué.
Contrairement à d’autres poursuites liées à l’utilisation de matériel protégé par des droits d’auteur pendant la formation de systèmes d’IA, le Times va plus loin en démontrant comment ces informations peuvent ressortir lors de l’utilisation réelle. La plainte allègue que les outils d’OpenAI peuvent reproduire des verbatims, résumer étroitement et imiter le style des articles.
La plainte du NYT vise la destruction des jeux de données utilisés pour l’entraînement. Elle demande également une injonction permanente pour prévenir de futurs actes similaires et des dommages et intérêts. OpenAI et Microsoft défendent leur position en affirmant que l’utilisation d’œuvres protégées par des droits d’auteur pour entraîner des produits d’IA relève du « fair use ». Selon eux, cette pratique est couverte par une doctrine juridique régissant l’utilisation non autorisée de matériel protégé par des droits d’auteur, arguant que cette utilisation est « transformative » et apporte quelque chose de nouveau. La particularité du droit américain est que celui-ci ne définit pas précisément ce qui est autorisé, et ce qui ne l’est pas, mais préfère fixer des critères laissés à la bonne appréciation du juge, qui doit décider s’il s’agit ou non de « fair use ».
Dans leurs expérimentations sur Midjourney, Gary Marcus et Reid Southen font une observation similaire : avec certains prompts, l’outil reproduit quasiment à l’identique des oeuvres déjà existantes et soumises au droit d’auteur. L’argument d’une modification de l’oeuvre par l’IA se voit mis à mal par la proximité extrême entre l’original et la nouveauté générée par l’IA.
Un autre risque touche non pas les entreprises comme Midjourney ou OpenAI, mais leurs utilisateurs. Ces derniers pourraient en effet s’exposer à des réclamations pour violation du droit d’auteur en cas par exemple de publication d’images créées par Midjourney. OpenAI et Microsoft se sont engagées à les protéger de toute poursuite, mais un doute reste sur la valeur juridique de telles promesses.
La riposte d’OpenAI ne s’arrête pas là. Selon le média The Information, l’entreprise aurait proposé à certains médias des frais de licence annuels allant de 1 à 5 millions de dollars pour utiliser leurs articles dans l’entraînement de ses LLM. OpenAI, en pourparlers avec plusieurs éditeurs, espère reproduire des accords conclus avec Axel Springer (lire Qant du 14 décembre) et avec l’Associated Press. Les détails de ces accords restent confidentiels, mais il semble qu’Axel Springer recevra quelques dizaines de millions de dollars sur plusieurs années.
Le New York Times s’apprête à faire monter les prix.
Pour en savoir plus :
- New York Times
- Gary Marcus & Reid Southen, Generative AI Has a Visual Plagiarism Problem, IEEE Spectrum, 2023
- Fortune
- Wall Street Journal
- Reuters
- The Information
Source archive Kessel : https://qant.kessel.media/posts/pst_ed19de304f6e4fa3b47abc1287b03173
