Modèle, code-toi toi-même

Le traitement du langage naturel en IA, c’est Google qui devine vos recherches, Siri qui vous obéit de travers, le correcteur orthographique qui remplace “déployable” par “déplorable”, et mille autres applications: l’analyse de sentiment, la traduction automatique, la reconnaissance d’entités nommées, la reconnaissance de spam, la recherche documentaire… Pour créer un de ces modèles spécifiques, il faut définir la tâche, puis trouver ou créer des données, choisir une architecture appropriée, entraîner le modèle, évaluer ses performances, et enfin le déployer pour une utilisation réelle.

Ou bien, écrire une invite en langage naturel à Prompt2Model et obtenir un petit modèle entraîné pour la tâche que l’on veut.

Une équipe de chercheurs de Carnegie Mellon University et de Tsinghua University a pré-publié sur Arxiv le mois dernier un article sur la manière de générer des modèles d’IA à partir d’invites (prompts) en langage naturel. Prompt2Model permet ainsi aux développeurs de décrire l’interface d’IA souhaitée en langage naturel. Il génère ensuite un modèle spécialisé, prêt à être déployé. Pour ce faire, il automatise l’ensemble du processus, en plusieurs étapes: analyse de la consigne, récupération des données, génération de données synthétiques à l’aide de modèles de langage, sélection du modèle pré-entraîné approprié, entraînement du modèle, évaluation de ses performances, création d’une interface graphique pour interagir avec le modèle ainsi formé.

Le cadre est conçu pour être modulaire et extensible, permettant une personnalisation par les utilisateurs. Prompt2Model utilise des invites simples pour spécifier le comportement du système et offre un modèle spécialisé prêt à être déployé. Il fonctionne comme une chaîne automatisée qui, à partir des instructions de l’utilisateur, découvre des données annotées existantes, génère des données d’entraînement synthétiques, sélectionne un modèle linguistique pré-entraîné et fournit une interface graphique pour interagir avec le modèle.

Les “grands” modèles de langage comme GPT-3 et ses successeurs (GPT-4, Claude, etc.) sont excellents pour le prototypage mais ils présentent des défis en termes de déploiement, de coûts et de stabilité, relèvent les chercheurs. Dans une étude empirique, les modèles générés par Prompt2Model ont surpassé le modèle de référence de ChatGPT, GPT-3.5-turbo, sur certains benchmarks, bien qu’ils aient eu des performances inférieures sur une tâche spécifique en raison de la diversité limitée des données générées. Ils dépassent en tout cas GPT-3, tout en étant nettement plus petits et plus facilement déployables.

Les chercheurs ont en effet testé Prompt2Model pour diverses tâches, obtenant des modèles jusqu’à 700 fois plus petits que GPT-3 et améliorant les performances de plus de 20 pour cent sur certaines tâches. Cela promet de simplifier le processus de création de solutions NLP à la fois adaptatives et fiables. Grâce à sa conception extensible, Prompt2Model ouvre également des perspectives pour explorer de nouvelles techniques dans divers domaines tels que la génération de jeux de données et l’évaluation synthétique.

Pour en savoir plus :

• Vijay Viswanathan et al., Prompt2Model: Generating Deployable Models from Natural Language Instructions, Arxiv.org, 23/08/23