En 2030, estime l’institut Gartner, les intelligences artificielles produiront 10% de toutes les données (et le marché aura dépassé les 110 milliards de dollars). Les données synthétiques écraseront l’observaton du monde réel dans l’entraînement des modèles. Or, les IA entraînées en utilisant des textes et des images d’autres IA, elles-mêmes formées sur des résultats d’IA, pourraient finalement devenir inutiles. Ilia Shumailov et d’autres chercheurs de l’université d’Oxford viennent de publier un article de recherche montant que les modèles d’IA formés en utilisant les résultats d’autres IA deviennent fortement biaisés, trop simplifiés et déconnectés de la réalité – un problème qu’ils appellent l’effondrement des modèles. Cette perspective ne fera que renforcer l’appétit des créateurs d’IA pour les données humaines : les captchas, un marché contrôlé par Google (à peine concurrencé par H Captcha), ne suffisent plus.
D’après le Financial Times la semaine dernière, plusieurs géants mondiaux de la technologie, dont OpenAI, Google, Microsoft et Adobe, ont engagé des discussions avec News Corp, Axel Springer, le New York Times et The Guardian. L’objectif des négociations est de régler les problèmes de droits d’auteur liés à l’exploitation du contenu d’information pour entraîner des LLM. Un accord pourrait instaurer un modèle d’abonnement pour l’utilisation du contenu d’actualité par les entreprises technologiques. Des tarifs allant de 5 millions à 20 millions de dollars a été évoquée par certains éditeurs.
Pour en savoir plus :
- Ilia Shumailov et al., The Curse of Recursion: Training on Generated Data Makes Models Forget, Arxiv.org
- Financial Times
- Gartner
- New Scientist, Analytics Insight
Source archive Kessel : https://qant.kessel.media/posts/pst_1f0d2ed8cb2e4ca1a59a5b4923de7a77
