Faire d’une IA un ministre, c’est court-circuiter la démocratie

Par Fabrizio Tassinari, directeur exécutif et fondateur de l’École de gouvernance transnationale (STG) de l’Institut universitaire européen, à Florence, et Daniel Innerarity, titulaire de la chaire « IA et démocratie » à la STG.

Lorsque le Premier ministre albanais Edi Rama a annoncé récemment la composition de son nouveau gouvernement, ce ne sont pas ses choix aux Finances ou aux Affaires étrangères qui ont le plus retenu l’attention. La grande nouvelle a été la nomination par Rama d’un bot propulsé par l’IA au poste de ministre des Marchés publics.

AI-Rama

« Diella » supervisera et attribuera tous les appels d’offres publics que le gouvernement confie à des entreprises privées. « C’est le premier membre du gouvernement qui n’est pas physiquement présent, mais créé virtuellement par l’intelligence artificielle », a déclaré Rama. Elle contribuera à faire de l’Albanie « un pays où les marchés publics sont à 100 % exempts de corruption ».

À la fois évocatrice et provocatrice, cette décision nous rappelle que ceux qui placent le plus d’espoir dans la technologie sont souvent ceux qui ont le moins confiance dans la nature humaine. Plus fondamentalement, la nomination de Diella montre que le remède censé guérir les maux de la démocratie prend de plus en plus la forme d’un autoritarisme numérique. De telles interventions peuvent séduire les oligarques de la Silicon Valley, mais elles devraient alarmer les démocrates partout dans le monde.

** Techno‑solutionnisme**

Le fondement conceptuel d’un ministre incarné par une IA tient à la manière dont les technophiles imaginent la relation de l’humanité au futur. Les « techno‑solutionnistes » traitent des problèmes politiques, qui exigent normalement de la délibération, comme s’il s’agissait de défis d’ingénierie susceptibles d’être résolus par de seuls moyens techniques. Comme on l’a vu aux États‑Unis lors du bref passage d’Elon Musk à la tête du Doge (Department of Government Efficiency, « ministère de l’Efficacité gouvernementale »), la technologie est proposée comme un substitut à la politique et à la décision politique.

La conséquence d’une gouvernance administrée par l’IA est de rendre la démocratie superflue. La technocratie numérique revient à laisser aux développeurs de technologies le soin de s’arroger l’autorité de décider des règles auxquelles nous devons nous conformer, et donc des conditions dans lesquelles nous vivrons. Les freins et contrepoids défendus par Locke, Montesquieu et les pères fondateurs américains deviennent des obstacles à une prise de décision efficace. À quoi bon de telles institutions si l’on peut mobiliser la puissance des outils numériques et des algorithmes ? Dans une technocratie numérique, le débat est une perte de temps, la régulation un frein au progrès, et la souveraineté populaire n’est que la consécration de l’incompétence.

Certes, personne de sensé ne peut nier que l’innovation technologique a résolu de nombreux problèmes. Mais la grande promesse que brandissent aujourd’hui les maîtres de la tech n’est pas tant de résoudre les problèmes que de les dissoudre. Ils nient l’idée même d’un avenir problématique, incertain et imprévisible.

L’immortalité du tyran

Ce n’est pas un hasard si le président chinois Xi Jinping et le président russe Vladimir Poutine ont récemment été surpris par un micro ouvert en train de discuter d’immortalité. Mettre fin au vieillissement, c’est nous sauver de l’avenir : cela signifie non seulement éviter ce qui reste à venir, mais aussi se soustraire au fardeau du choix.

Après avoir éliminé l’indétermination qui nous définit, nous deviendrions des êtres à qui rien ne peut vraiment arriver. Nous habiterions un présent éternel, sans autre source de sens que l’optimisation de nos conditions de vie, à l’abri de l’incertitude, de la controverse et des risques associés à la décision. Nous atteindrions une humanité sans humanité.

Postulat technocratique

Ce n’est pas un hasard non plus si l’expérience albanaise vise les travaux publics et la corruption. Ce sont les domaines qui attirent l’attention de l’Union européenne, où la plupart des Albanais souhaitent entrer. Depuis la fin du communisme il y a 35 ans, le désir de l’Albanie de rejoindre l’Europe l’a conduite, du moins sur le papier, à embrasser le postulat technocratique formulé par le sociologue allemand Max Weber : seule une bureaucratie autonome peut être à l’abri des distorsions politiques.

L’adhésion à l’UE obéit à des paramètres stricts, des conditions neutres et des critères rigoureux au regard desquels les progrès sont mesurés. Pourtant, l’Albanie, comme tous les autres pays des Balkans qui patientent dans l’antichambre de l’Europe, a appris que la technocratie n’est souvent guère plus qu’une feuille de vigne recouvrant les réticences politiques de l’UE. Même si l’Albanie se conformait à la moindre des exigences dictées par les technocrates de la Commission européenne, de nouvelles conditions pourraient être introduites, des prétextes avancés, et l’on déplacerait encore les poteaux de but.

En nommant un ministre des Marchés publics fondé sur l’IA, Rama sert à l’Europe son propre médicament. Il prépare aussi le terrain pour un scénario surréaliste et démoralisant : des hauts responsables européens tenant des sommets avec un chatbot pour discuter de la candidature de l’Albanie. Diella tendra un miroir — impitoyable et inévitable — à l’évidement de la démocratie.