Pourquoi l’intelligence artificielle générale fait si peur

Le sabordage d’OpenAI à cause d’un désaccord sur les perspectives et les risques de l’intelligence artificielle générale (AGI) aura eu le mérite de concentrer les esprits des professionnels sur le sujet. A quel horizon pourra-t-on créer un système d’IA capable d’égaler ou de surpasser les humains dans la plupart des tâches ? Quels risques cela fera-t-il courir à l’humanité?

Yann Le Cun, responsable de l’IA chez Meta, résumait hier d’un tweet la problématique (et la position de Meta) :

« Il existe au moins un laboratoire de recherche dans l’industrie dont les dirigeants pensent que l’IA de niveau (super)humain :- est réalisable- est une question de recherche scientifique, et pas seulement une question de plus de calcul et de plus de données.- n’est pas « au coin de la rue ». Elle prendra un certain temps.- n’est pas un risque existentiel.- nécessite la contribution de l’ensemble de la communauté des chercheurs, car personne n’a le monopole des bonnes idées.- nécessite donc des plateformes open source et une recherche ouverte, car personne n’a le monopole des bonnes idées.- va changer la condition humaine pour le mieux.»

Une nouvelle étude, menée par Meredith Ringel Morris et d’autres chercheurs de Google DeepMind, vient à point pour résumer les avancées en la matière. Elle propose un nouveau cadre pour classifier les capacités et comportements des modèles d’Intelligence Générale Artificielle (AGI) et de leurs précurseurs. Ce cadre vise à établir des niveaux de performance, de généralité et d’autonomie, offrant ainsi un langage commun pour comparer les modèles, évaluer les risques et mesurer les progrès.

Neuf définitions

L’étude passe en revue 9 définitions de l’AGI, chacune avec ses spécificités. Elle cite le test de Turing, critiqué pour son manque de pertinence dans l’évaluation de l’intelligence réelle, la question de la conscience dans les machines, jugée impraticable pour mesurer l’AGI. Elle considère également que des processus strictement basés sur le cerveau ne sont pas nécessaires pour l’AGI.

Les auteurs proposent une ontologie à deux dimensions de l’AGI, basée sur la profondeur (performance) et la largeur (degré de généralité des compétences) des capacités. Cette approche vise à offrir un cadre plus nuancé et mesurable pour évaluer les progrès vers l’AGI. La matrice qui en résulte permet de retracer l’évolution de l’IA dans le passé, mais aussi vers le futur :

Les modèles actuels semblent donc aussi éloignés des “superintelligences” que l’IA symbolique (GofAI) des années 1970 et les premiers logiciels de traitement du langage naturel, comme SHRDLU. Rien n’assure, cependant, que les progrès soient linéaires : on assiste, depuis 2021, à une réelle accélération. L’étude souligne la nécessité de développer des benchmarks futurs pour quantifier de manière fiable le comportement et les capacités des modèles d’AGI. Ces étalonnages devraient être capables de mesurer avec précision les différents niveaux de performance et de généralité.

Cependant, les modèles ne tournent pas dans le vide. “L’augmentation des capacités débloque de nouveaux paradigmes d’interaction [avec les humains] mais ne les détermine pas”, expliquent les chercheurs. Pour estimer les risques posés, il convient d’examiner quatre attributs contextuels : l’interface, les tâches et les scénarios d’utilisation, ainsi que l’utilisateur final. 

Cela les conduit à établir cinq niveaux d’autonomie et de risques associés :

La conclusion de l’étude met en avant la nécessité d’une réflexion approfondie sur les implications éthiques et les risques liés au déploiement de systèmes d’AGI. Elle appelle à une collaboration étroite entre chercheurs, développeurs et parties prenantes pour assurer un développement responsable et sécurisé de l’AGI, en tenant compte de son impact potentiel sur la société et l’économie.

Mais pas à se séparer de Sam Altman.

Pour en savoir plus :

Meredith Ringel Morris et al., Levels of AGI: Operationalizing Progress on the Path to AGI, Arxiv, 2023