AGI, ASI, quésaco ?

**L’Ia générative n’est qu’un début. Ce printemps, GPT-4 a lancé la course à qui créera le premier une intelligence artificielle générale (AGI) et, à terme, peut-être une superintelligence artificielle (ASI). En précisant ces termes encore flous, il devient possible d’en analyser les risques. **

HAL, une AGI qui se révolte contre l’homme dans 2001, Odyssée de l’Espace, de Stanley Kubrick

Il fut un temps où les modèles d’intelligence artificielle se contentaient d’une seule tâche : jouer aux échecs, au go, calculer le repliement d’une protéine, générer un texte où une image. Ces IA “étroites” (ANI, pour Artificial Narrow Intelligence) voient progressivement leurs missions s’élargir. En renvoyant dans le prompt tous les échanges précédents, on obtient du modèle de fondation qu’il simule une conversation en générant un nouveau texte cohérent. C’est ainsi que Chat-GPT et Claude, les premiers, ont pu bouleverser les marchés de l’aide aux devoirs et des assistants conversationnels (“chatbots”) qui brillaient jusqu’à l’an dernier par leur inutilité.

GPT-4 est allé plus loin. L’étude Sparks of Artificial General Intelligence: Early experiments with GPT-4, publiée par des chercheurs de Microsoft Research peu après la présentation évoque directement l’apparition d’une première intellligence artificielle générale (AGI). Ils soutiennent que la nouvelle génération de modèles de langage naturel, GPT-4 d’Open AI et Palm de Google notamment, “font preuve d’une intelligence plus générale que les modèles d’IA précédents. (…) Au-delà de sa maîtrise du langage, GPT-4 peut résoudre des tâches nouvelles et difficiles dans les domaines des mathématiques, du codage, de la vision, de la médecine, du droit, de la psychologie et bien d’autres encore, sans avoir besoin d’une aide particulière. En outre, dans toutes ces tâches, les performances de GPT-4 sont étonnamment proches de celles d’un être humain”.

Open AI n’est pas resté seule longtemps : AutoGPT, qui permet de programmer des agents autonomes pour toutes sortes de tâches, aspire au même titre, ainsi bien sûr que Claude 2 d’Anthropic, Palm 2 de Google… Grand pourfendeur du “technotranscendentalisme”, le biologiste et philosophe autrichien Johannes Jäger continue de s’opposer à l’idée : “Les systèmes vivants et algorithmiques ont des capacités et des limites très différentes. En particulier, il est extrêmement improbable qu’une véritable AGI (au-delà du simple mimétisme) puisse être développée dans le cadre algorithmique actuel de la recherche sur l’IA” considère-t-il dans une étude de juin dernier, *Artificial intelligence is algorithmic mimicry. *

On peut en déduire que les efforts de régulation comme le Frontier Model Forum (voir ci-dessus) feraient mieux de se concentrer sur les méfaits des IA étroites actuelles, comme les deepfakes, plutôt que sur les risques hypothétiques des IA générales. Cette position est défendue, dans la Silicon Valley, par les “accélérationistes” qui soutiennent que les problèmes éventuels des AGI pourront être résolus le moment venu, sans qu’il soit nécesssaire de s’inquiéter, dès aujourd’hui, de l’hypothèse d’un agent autonome lâché sur Internet pour coder de nouveaux virus et autres armes biologiques.

Devoir moral

L’idée est tentante, d’autant que les preuves s’accumulent sur le caractère nocif des réseaux sociaux, et que l’inquiétude sur l’impact de l’IA sur la démocratie et la psychologie juvénile ne fait que les renforcer. Le plus illustre des “accélérationistes”, le créateur de Netscape Marc Andreessen, pourrait cependant être soupçonné de conflit d’intérêts : sa firme, A16Z, est l’un des principaux investisseurs qui soutiennent le développement des AGI.

Le lancement du Frontier Model Forum, toutefois, montre que le consensus de l’industrie est plutôt du côté du “devoir moral” des créateurs d’IA, auquel en appelait Kamala Harris au mois de mai. A l’exception notable d’Elon Musk et X.AI, toute l’industrie américaine semble converger vers la raison d’être d’OpenAI : “Notre mission est de veiller à ce que l’intelligence artificielle générale – les systèmes d’intelligence artificielle qui sont généralement plus intelligents que les humains – profite à l’ensemble de l’humanité.”

Intelligence émotionnelle, robots et superintelligence

On peut douter de la durabilité d’un tel consensus vertueux, mais cette autorégulation peut donner aux Etats le temps d’élaborer une règlementation plus sérieuse. En attendant, le mouvement ves l’AGI continue. La semaine dernière, des chercheurs de l’université de Chine pour la Science et la Technologie (USTC) ont montré qu’en incorporant un message émotionnel dans les invites d’un modèle de langage naturel (LLM), on améliorait considérablement ses performances. La convergence entre l’AGI naissante et la robotique semble également extrêmement prometteuse. Outre le fait de pouvoir commander des robots à la voix, en langage naturel, on voit les premiers systèmes robotiques autonomes intégrer des agents d’IA. Les déclinaisons militaires en seront évidentes.

En revanche, la superintelligence artificielle (ASI), semble rester un concept creux. Certes, les modèles d’IA effectuent des calculs inatteignables pour les humains (et les battent aux échecs). Oui, l’esprit humain intègre de nombreux mécanismes d’inférence, comme un modèle d’IA (et sans doute comme tous les cerveaux des mammifères). Mais de là à imaginer que les ASI dépasseront les capacités cognitives de l’homme et qu’elles réaliseront des prouesses par construction inimaginables, extra-humaines… La matrice n’est pas encore pour demain.

J.R.

• Sébastien Bubeck et al., Sparks of Artificial General Intelligence: Early experiments with GPT-4, Arxiv.org, Mars 2023
• Johannes Jäger, Artificial intelligence is algorithmic mimicry: why artificial « agents » are not (and won’t be) proper agents, Arxiv.org, Juin 2023
• Cheng Li et al., EmotionPrompt: Leveraging Psychology for Large Language Models Enhancement via Emotional Stimulus, Arxiv.org, Juillet 2023
• Shimian Zhang, Bridging Intelligence and Instinct: A New Control Paradigm for Autonomous Robots, Arxiv.org, Juillet 2023