Les signes avant-coureurs d’une intelligence artificielle générale (AGI), capable de passer d’une tâche à l’autre avec la même efficacité qu’un être humain se multiplient. A moins qu’il ne s’agisse de super-intelligences, capables de surpasser les humains dans des tâches spécifiques.
Il y a quelques jours, la start-up londonienne Cognition AI a par exemple secoué le monde des développeurs avec le lancement de Devin, un agent d’IA présenté comme capable de générer de manière autonome du code pour des projets de développement complets (lire Qant du 14 mars). Il utilise son propre langage shell, navigateur et éditeur de code. Finis les outils d’assistance au développeur comme Github Copilot, Devin est censé exécuter entièrement les tâches qui lui sont assignées. Comme un humain.
Concurrencer Github
A la vérité, des prétentions exagérées sont la seule manière qui reste à une start-up pour pénétrer un marché déjà bien verrouillé. Github Copilot compte 1,3 million de clients, à 20 dollars par mois, et la plupart des autres plateformes, de Replit à Hugging Face, disposent de leurs propres compagnons (lire, notamment, Qant du 31 mars et du 10 juillet 2023). Certes, Devin apporte des progrès. Son taux de résolution de problèmes dans des logiciels open source est sept fois supérieur à celui de ses prédécesseurs. Mais il n’est, à l’arrivée, que de 14 %. Six fois sur sept, une intervention humaine reste nécessaire.
Tout le bruit autour de Devin ne fait qu’accompagner une première levée de fonds de Cognition AI relativement modeste : 21 millions de dollars (19 M€). Mais en février, Magic.dev a levé 100 millions de dollars (91 M€) pour développer une intelligence artificielle supérieure à l’humain et spécialisée dans le développement informatique. Deux business angels ont apporté la somme tout entière. Parmi eux, Nat Friedman, CEO de Github jusqu’en 2021.
Magic AI ambitionne de créer un outil de génération de code si avancé qu’il agirait comme un véritable ingénieur. Ce système, actuellement en développement, promet une fenêtre de contexte de 5 millions de tokens, bien au-delà des limites actuelles des modèles d’IA. Cela permettrait au LLM d’ingérer des bases entières : tout le code utilisé par une grande entreprise, par exemple.
De la diffusion vidéo au modèle-monde
Les signes avant-coureurs de l’intelligence artificielle générale peuvent aussi être décelés dans les progrès réalisés en termes de génération de contenus vidéo. Une équipe de chercheurs chinois a analysé récemment l’avancée significative que représente la génération de vidéo à partir de texte dans le domaine de l’intelligence artificielle générative, avec un focus sur le modèle Sora d’OpenAI (lire Qant du 19 février).
L’étude conclut en donnant raison à OpenAI : Sora peut devenir beaucoup qu’un modèle de génération de vidéo à partir de texte. En améliorant les jeux de données d’entraînement et les métriques d’évaluation (à la fois automatiques et centrées sur l’humain), le modèle pourra évoluer vers la simulation complète du monde.
Un pas vers la matrice.
Pour en savoir plus :
- The Information
- Joseph Cho et al., Sora as an AGI World Model? A Complete Survey on Text-to-Video Generation, Arxiv, 2024
- Nova Spivack et al., Cognition is All You Need, The Next Layer of AI Above Large Language Models, Arxiv, 2024
- Eric Zelikman, Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking, Arxiv, 2024
- Mahmoud Assran et al., Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture, Arxiv, 2023
Source archive Kessel : https://qant.kessel.media/posts/pst_e67ba51df31243aa919e41db832b0f3d
