Des chercheurs de Meta AI et de l’Universitat Pompeu Fabra de Barcelone viennent de présenter Toolformer, un modèle de langage qui apprend à utiliser des outils externes tels que des moteurs de recherche ou des calculateurs via des appels API, sans avoir besoin d’annotations humaines coûteuses. Toolformer utilise des techniques d’apprentissage machinique pour identifier les API les plus utiles pour la prédiction de jetons dans une tâche donnée, ce qui lui permettrait de dépasser des modèles beaucoup plus grands.
Les chercheurs ont testé Toolformer sur plusieurs tâches et conclu qu’il améliore considérablement les performances sans compromettre les capacités de base de modélisation du langage. Toolformer est ainsi un outil prometteur pour améliorer l’apprentissage automatique et l’IA en général en permettant aux modèles de langage d’apprendre à utiliser des outils externes en toute autonomie.
Source : Arxiv
Pour en savoir plus : Marktechpost
Source archive Kessel : https://qant.kessel.media/posts/pst_9be317efd4034689a3f5d46bce621aab
