04-article-

Malgré son succès vertigineux, il n’est pas certain que ChatGPT passe l’année 2023. L’ouverture progressive de l’API d’OpenAI permet en effet à tous les éditeurs de logiciels d’intégrer ses capacités dans leurs produits. Or, le bon sens semble indiquer qu’il est plus simple de demander à son traitement de texte d’écrire un courrier d’avocat, à son client mail un courrier commercial, à son logiciel de traitement de photos de compoer des illustrations, et ainsi de suite. Le relatif insuccès de Bing ces dernières semaines, occulté par ChatGPT, montre qu’il convient toujours de se méfier du bon sens. Mais il ne faut pas être grand clerc pour voir tous les éditeurs, de Microsoft à Google et Salesforce, se lancer dans une course qui défraiera la chronique de l’année, aux côtés des entreprises qui déploient des solutions maison. Si l’on regarde plus loin, les choses se compliquent.

A moyen terme, le consensus veut que la génération actuelle de chatbots s’enrichisse des fonctions des agents génératifs pour créer de véritables assistants personnels. Le successeur de ChatGPT devrait être capable de trouver un plombier pour réparer une fuite, le faire venir, lui ouvrir la porte, surveiller son comportement, le régler et intégrer cette dépense imprévue dans la gestion de votre budget.

En parallèle, l’augmentation brutale de la productivité par l’automatisation de nombreuses tâches provoquera des ajustements difficiles, notamment dans la santé, l’éducation, l’ingénierie, les arts et les sciences… Tout le monde redoute des suppressions d’emploi dans les cols blancs et la paupérisation accrue des classes moyennes. Mais le résultat final devrait plutôt bénéficier à l’économie mondiale, en tout pas causer « la fin de l’humanité » qu’on redoute, notamment, au Future of Life Institute.

Intelligence et fin du monde

Pour l’Apocalypse, deux conditions semblent nécessaires. Il faut d’abord que les IA deviennent des intelligences artificielles générales (AGI), capable sd’accomplir tout ce qu’un cerveau humain peut faire. Et ensuite qu’une AGI pénètre les systèmes d’armes des grands pays, notamment nucléaires, et provoque une guerre mondiale.

Or, GPT-4 remplit la première de ces conditions. C’est du moins la conclusion de Sparks of Artificial General Intelligence: Early experiments with GPT-4, publiée mi-avril par des chercheurs de Microsoft Research. L’article présente une exploration préliminaire, mais très fouillée, des capacités du modèle d’OpenAI. Il montre que ses performances atteignent un niveau comparable à celui de l’humain pour un large éventail de tâches et conclut que GPT-4 manifeste une forme d’intelligence humaine, démontrée par sa capacité à raisonner, à créer et à déduire. Bien qu’il reste beaucoup de progrès à faire sur le chemin des AGI, GPT-4 marque un tournant.

« Au-delà de sa maîtrise du langage, GPT-4 peut accomplir des tâches nouvelles et difficiles dans les domaines des mathématiques, du codage, de la vision, de la médecine, du droit, de la psychologie et bien d’autres encore (…) Dans toutes ces tâches, les performances de GPT-4 sont étonnamment proches de celles d’un être humain (…) Le modèle peut raisonnablement être considéré comme une première version (encore incomplète) d’un système d’intelligence générale artificielle (AGI). »

Par exemple, GPT-4 est capable d’utiliser des outils externes comme des moteurs de recherche ou des API pour surmonter ses limitations, permettant de résoudre des tâches complexes en combinant plusieurs outils et en interagissant de manière appropriée avec leurs résultats. On peut ainsi lui confier la gestion de calendriers, l’envoi d’e-mails, la recherche sur le web et l’utilisation d’APIs atypiques.

Mieux, il ébauche des formes d’empathie. Soumis à une batterie de tests psychologiques, GPT-4 se montre capable d’inférer l’état mental des êtes humains dans les situations décrites. Tout comme pour un humain, ses mécanismes d’inférence vont bien au-delà du langage.

L’étude relève que les principaux défis associés à GPT-4 portent sur les “hallucinations”, des générations erronées qui peuvent conduire à des erreurs coûteuses si elles ne sont pas détectées, ainsi que sur le potentiel d’utilisation malveillante pour la désinformation et la manipulation.

GPT-4, formé à partir de données publiques sur Internet, perpétue en outre les biais existants dans la société et il pourrait les amplifier. GPT-4 associe spontanément, par exemple, des genres à des professions spécifiques. Non seulement il parle d’une infirmière, d’une secrétaire mais d’un ingénieur et d’un chirurgien, mais cette attribution de genre est encore plus fréquente que dans la réalité:

A tous égards, les modèles de langage naturel restent des boîtes noires. L’étude reste principalement empirique et ne peut répondre aux questions fondamentales sur le fonctionnement de GPT-4. Mais elle relève sa difficulté à effectuer des tâches nécessitant une planification ou une idée novatrice, son manque de transparence et de cohérence, ses tendances aux biais cognitifs et à l’irrationalité, et sa sensibilité excessive aux invites. Elle soulève des questions sur la façon de distinguer les défauts inhérents à la méthodologie utilisée de ceux liés à l’architecture plus large du modèle, et propose des extensions potentielles pour améliorer ses performances, telles que l’intégration de mémoires à long terme, l’exécution de code, ou une architecture hiérarchique de l’information.

La calibration de confiance, l’amélioration de la mémoire à long terme, la capacité d’apprentissage continu et la personnalisation formeront ainsi, sans doute les grands défis technologiques de l’IA dans ls années à venir.

Sans oublier de ne pas donner à GPT-4 les codes nucléaires.

J.R.

Source : Sébastien Bubeck et al., Sparks of Artificial General Intelligence: Early experiments with GPT-4, Microsoft Research