“Un lama dans le vent” (Qant, M. de R. avec Midjourney)
Le Llama nouveau est arrivé. Chacun attendait Llama 3 400B, c’est une série complète de modèles que Meta vient de lancer. Llama 3.1 comprend le plus grand modèle d’IA à ce jour, surpassant GPT-4 sur plusieurs benchmarks, avec 405 milliards de paramètres, et deux plus petits modèles, de 70 milliards et 8 milliards de paramètres respectivement.
Une « pile Llama » propose les éléments pour constituer un écosystème complet autour de la suite de modèles, notamment des logiciels de sécurité pour empêcher la génération de contenus nuisibles et des attaques par injection de prompt.
Dans une interview vidéo (reprise ci-dessus), Mark Zuckerberg a comparé cette évolution de Llama à l’apparition de Linux pour les systèmes d’exploitation. Il soutient également que les performances de Llama 3.1 405 B sont comparables à celles de GPT-4, voire supérieures. Et il fournit des chiffres pour le prouver.
Comparaison de Llama 3.1 avec GPT-4 ou Claude 3.5 Sonnet (Source : Meta)
La course aux résultats relance les polémiques sur les benchmarks, qui ne réussissent plus guère à différencier les très grands modèles : GPT-4o, Claude Sonnet 3.5, Gemini 1.5 et désormais Llama 3.1 405B. Des “marchés de paris” se sont même ouverts pour savoir quelle place le modèle de Meta prendra dans la Chatbot Arena de LLMSys, où les développeurs votent pour le meilleur modèle.
Tout cela ne fait que renforcer la thèse du chercheur Gary Marcus, pour qui l’architecture des modèles d’IA Transformers a atteint un plateau. Seize mois après la sortie de GPT-4, OpenAI n’a pas été capable de présenter GPT-5 et tous ses concurrents s’alignent sur la même fourchette de résultats. Il faudra attendre une nouvelle architecture – peut-être les SSM – pour que l’IA recommence à progresser.
Un nouveau métavers
Le choix d’une distribution open source et open weights pour un modèle aussi puissant a été accueilli avec scepticisme aux États-Unis. L’entraînement du modèle a mobilisé plus de 16 000 GPU Nvidia H100 et des centaines de millions de dollars. Malgré ce coût élevé, Meta offre ce modèle gratuitement à toutes les entreprises qui ont moins de 700 millions d’utilisateurs. Les investisseurs ont du mal à comprendre, tout comme ceux – nombreux – qui s’inquiètent du détournement par la Chine ou des puissances malveillantes d’un modèle si important.
Mark Zuckerberg contre avec une vision audacieuse de l’avenir, où chacun aura à sa disposition un ou plusieurs agents d’IA, issus d’un écosystème ouvert. Cela aurait pour grand avantage de sortir Meta de la pince où Google et Microsoft, les deux grands rivaux de l’IA, menacent de l’enfermer.
L’Europe privée d’open source
En tout état de cause, les Européens n’auront pas accès à cet avenir de sitôt. En cause, l’entraînement de Llama 3.1 405B sur 38 yottaflops, qui en fait une IA à haut risque pour l’AI Act, inscrit il y a quelques jours au Journal officiel de l’Union européenne. Un texte auquel Meta refuse de se soumettre, au nom de sa vision d’une IA open source open weight sans aucune contrainte, car ne posant aucun risque existentiel.
Une situation paradoxale tant le règlement européen sur l’IA a été présenté comme un texte défendant l’open source dans l’intelligence artificielle. Ce n’est sans doute pas un hasard si, vingt-quatre heures après l’annonce de Meta, c’est au tour du champion français Mistral d’annoncer un nouveau modèle : Mistral Large 2. Présenté, comme « significativement plus performant en génération de code, en mathématiques et en raisonnement », le dernier né de la famille Mistral est tout aussi open source que son ainé d’une journée, Llama 3.1, mais européen.
Et s’il est moins puissant, (« large enough » ou « suffisamment grand », comme l’a sobrement présenté Mistral), il a l’avantage, lui, d’être européen. Et bon codeur.
Mistral Large 2, présenté comme plus performant que Llama 3.1 par Mistral (Source : Mistral)
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_c580a5ede20f45c38afb66c600b43253
