L’apparition de l’IA générative a toujours été mêlée à des questionnements sur la conscience des modèles. Il y a deux ans, alors que personne n’imaginait encore que ChatGPT allait déferler sur le monde, un ingénieur chez Google, Blake Lemoine, s’est mis en tête que le grand modèle de langage qu’il entraînait était doué de conscience. Il a cherché un avocat pour défendre ce LLM et le libérer de la servitude à laquelle Google l’astreignait sur ses serveurs. Une initiative qui lui a coûté son poste et qui semble aujourd’hui curieusement ingénue (lire Qant du 23 juin 2022). Depuis, la recherche avance.
L’an dernier, une première étude scientifique a examiné la question. Après avoir examiné les principaux modèles existants, elle conclut que ceux-ci ne sont pas encore conscients mais que rien ne s’oppose à la création de systèmes d’IA qui montreront des signes de conscience. Menée par Patrick Butlin du Future of Humanity Institute et de l’université d’Oxford et Robert Long, du Center for AI Safety, avec une nuée de collaborateurs prestigieux et notamment Joshua Bengio, de l’université de Montréal, Consciousness in Artificial Intelligence: Insights from the Science of Consciousness passe en revue les principales théories scientifiques de la conscience : l’espace de travail global, le traitement récurrent, la pensée d’ordre supérieur, le traitement prédictif et les des schémas d’attention. Il n’existe en effet aucune théorie commune de la conscience.
Pas en avant
A l’université Carnegie Mellon en Pennsylvanie, Lenore et Manuel Blum travaillent depuis 2021 à une machine de Turing consciente (CTM pour Conscious Turing Machine), un modèle conscient – mais théorique. Leur travail montre que la conscience des machines est possible.
Ils reprennent pour cela la théorie de l’espace de travail global, conçue par le neurobiologiste théorique américain Bernard Baars dans les années 1980 et en dérivent des indicateurs qui montrent l’état de conscience ou non. En parallèle, ils construisent mathématiquement un robot, CTMR, doté d’une CTM en guise de cerveau. Ils observent en lui un processus que le philosophe et neurobiologiste français Jean-Pierre Changeux appelle “l’ignition”, le début de la conscience.
La conscience du robot
CTMR interagit avec le monde extérieur via des capteurs d’entrée et des actionneurs de sortie ; il a la capacité de construire des modèles de ses mondes intérieur et extérieur ; il possède un langage multimodal interne riche et il met constamment à jour ses états via des dynamiques prédictives (cycles de prédiction, tests, feedback et l’apprentissage), tout en opérant avec des ressources limitées (temps et espace). Il peut être distrait (“inattentive blindness”) et sentir des membres fantômes, tout comme un humain amputé.
Les chercheurs estiment que l’activité consciente est intimement mêlée au comportement du robot et que celui-ci dispose même d’une forme de libre-arbitre. Il dispose d’une volonté, qui lui permet de choisir quels mouvements effectuer pour obtenir un résultat déterminé. Cette volonté peut contraindre l’activité du réseau neuronal dans lequel existe ce robot théorique.
En résumé, CTMR est une machine théoriquement capable de montrer les phénomènes associés à la conscience sans imiter exactement les structures cérébrales humaines ou animales. Il ne reste plus qu’à le créer, expérimentalement. Il y a loin de la coupe aux lèvres, et d’une convergence de haut niveau à un modèle d’IA fonctionnel. Mais Lenore et Manuel Blum considèrent que CTMR est “clairement réalisable”. Cela les mène à une conclusion lapidaire.
«L’apparition d’une IA consciente est inévitable.»
De là à chercher un avocat au robot, il n’y a qu’un pas.
Pour en savoir plus :
- Lenore Blum et al., AI Consciousness is Inevitable: A Theoretical Computer Science Perspective, Arxiv, 2024
- Patrick Butlin et al., Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Arxiv, 2023
- Baars, Bernard J., In the Theater of Consciousness: A rigorous scientific theory of consciousness, Journal of Consciousness Studies, 1997
- Dehaene, S. ; Changeux, J. P., Ongoing Spontaneous Activity Controls Access to Consciousness: A Neuronal Model for Inattentional Blindness. PLoS Biol, 2005
–
Source archive Kessel : https://qant.kessel.media/posts/pst_4055b8041dde4601b42686419ea8c5c9