Patrick Butlin, philosophe et cogniticien de l’université d’Oxford et Robert Long, chercheur affilié au californien Center for AI Safety, viennent de publier une étude qui compte, parmi ses co-auteurs, une star de l’intelligence artificielle : Yoshua Bengio, de l’université de Montréal. Nick Bostrom, autre étoile du sujet, a lancé le projet initialement. L’étude conclut qu’aucun système d’IA actuel n’apparaît comme un “candidat sérieux” à la conscience – pour l’instant.
Les progrès des modèles de langage imitant la conversation humaine vont cependant mener le public à attribuer de plus en plus fréquemment une conscience, sinon une âme, à des systèmes non conscients, à la manière d’un Blake Lemoine affirmant déceler une conscience chez Lamda, l’agent conversationnel de Google (lire Qant du 23 juin 2022). Et, dans un futur proche, des systèmes conscients pourraient probablement être développés.
Théories de la conscience
Le degré de conscience d’une IA peut être évalué scientifiquement. Pour ce faire, les chercheurs proposent une grille d’évaluation basée sur des propriétés indicatives dérivées de théories cognitives sur la conscience, plutôt que des tests comportementaux qui peuvent être trompeurs, ou trompés par l’IA (lire Qant du 26 septembre).
Au lieu d’endosser une théorie unique de la conscience, l’étude compile une liste de qualités mesurables, tirées de diverses théories, qui pourraient indiquer la présence d’une certaine forme de conscience dans une machine.Posséder plusieurs de ces propriétés augmenterait la probabilité qu’un système d’IA soit conscient. Parmi les théories et propriétés abordées figurent la théorie du traitement récurrent, la théorie de l’espace de travail mondial, les théories computationnelles de haut niveau, la théorie du schéma d’attention, le traitement prédictif et les concepts d’agence et d’incarnation.
Par exemple, la théorie du traitement récurrent se penche sur la distinction entre la perception consciente et inconsciente. Selon cette théorie, la conscience visuelle nécessite un traitement récurrent dans le cortex visuel, c’est-à-dire des boucles de rétroaction par lesquelles l’information est traitée à plusieurs reprises par les mêmes neurones. Le traitement récurrent permettrait de générer une représentation consciente organisée et intégrée de la scène visuelle.
La théorie de l’espace de travail global stipule de son côté que l’information doit être représentée dans un « espace de travail global » du cerveau, impliquant de nombreuses régions, pour devenir consciente. Cet espace permet le partage d’information entre des systèmes spécialisés et introduit un goulot d’étranglement dans le flux d’information. La capacité d’être conscient de sa propre conscience, de créer des modèles virtuels du monde et de prédire des expériences futures serait ainsi l’un des éléments essentiels de la conscience.
Pratiques de l’IA
Définir clairement ces traits dans les systèmes actuels d’IA s’avère complexe, en partie à cause du problème de la « boîte noire » : les mécanismes d’apprentissage profond des réseaux neuronaux sont généralement insondables pour les humains. L’étude ne dresse pas de liste définitive des caractéristiques de la conscience, suggérant que la question reste ouverte et nécessite de futures explorations. Elle se limite à une approche qui consiste à :
-
Identifier des propriétés indicatrices de la conscience à partir des théories scientifiques (par exemple la récurrence algorithmique selon la théorie du traitement récurrent) ;
-
Examiner si des systèmes d’IA possèdent ces propriétés ;
-
En déduire la probabilité qu’ils soient conscients en fonction du degré de similarité des propriétés, et de la force des preuves en faveur des théories.
Si aucun système d’IA ne peut être considéré comme conscient à l’heure actuelle, il n’existe pas de barrières techniques à construire des systèmes qui satisfont les critères de conscience de l’étude, concluent les chercheurs.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_d36852517c6046f8985e9a5132cf58ee
