L’éthique de l’IA, un problème politique

**L’université de Stanford vient de publier la sixième édition de l’Artificial Intelligence Index Report. Parmi les nouveautés de 2023, une étude sur la réception de l’IA dans l’opinion et les problèmes éthiques que pose son déploiement massif. Cette première porte synthèse sur cet aspect plus « politique », avant de passer la semaine prochaine à l’économie et, pour finir, à la technologie. **

Alors que les investissements en intelligence artificielle ont décru en 2022, pour la première fois en dix ans, l’IA est entrée dans une nouvelle ère : celle du déploiement de masse, sinon de la maturité. « De nouveaux grands modèles d’IA sont publiés chaque mois. Ces modèles, tels que ChatGPT, Stable Diffusion, Whisper et DALL-E 2, sont capables d’accomplir un éventail de tâches de plus en plus large, allant de la manipulation et de l’analyse de textes à la génération d’images, en passant par une reconnaissance vocale d’une qualité sans précédent » analysent Jack Clark et Ray Perrault, codirecteurs du rapport : *« Cependant, ils sont sujets aux hallucinations, ils sont souvent biaisés et peuvent être utilisés à des fins malveillantes. Cela met en évidence les défis éthiques complexes associés à leur déploiement ». *

En conséquence, le nombre d’incidents liés à l’utilisation abusive de l’IA augmente rapidement : de 2012 à 2022, il a été multiplié par 26 aux Etats-Unis.Avec une conséquence politique immédiate : dans les 127 pays étudiés dans le rapport, le nombre de projets de loi adoptés mentionnant l’intelligence artificielle est passé d’un seul en 2016 à 37 en 2022.

Biais sexiste

Tous les modèles contiennent des biais, notamment sexistes. Ce problème peut être atténué par un entraînement avec des réglages d’instruction (ce qu’Anthropic appelle l’IA constitutionnelle) ou simplement par du fine-tuning (l’approche d’Open AI, qui a constitué un « red team », une équipe pour pousser GPT-4 dans ses retranchements pendant six mois avant de ne le rendre public). Cependant, les chatbots comme ChatGPT et Claude sont susceptibles de « jailbreaking » (lire ci-dessus), avec des invites qui les trompent et les amènent à servir des objectifs malveillants. Pire, les « fairness benchmarks » (étalonnage éthique) donnent de meilleurs résultats aux modèles avec un plus fort biais sexiste. Ce biais se retrouve dans l’opinion. Selon une enquête Ipsos de 2022, les hommes sont plus susceptibles que les femmes de déclarer que les produits et services d’IA leur facilitent la vie, de faire confiance aux entreprises qui utilisent l’IA et de penser que les produits et services d’IA présentent plus d’avantages que d’inconvénients. Une enquête réalisée en 2021 par Gallup et la Lloyd’s Register Foundation avait montré que les hommes sont plus susceptibles que les femmes d’être d’accord avec l’affirmation selon laquelle l’IA aidera plutôt qu’elle ne nuira à leur pays au cours des 20 prochaines années.

La France, lanterne rouge de la confiance dans l’IA

La nationalité et la culture sont toutefois des déterminants bien plus forts. L’enquête Ipsos montre que 78% des Chinois et 71 % des Indiens pense que l’IA présente plus d’avantages que d’inconvénients, contre 35 % des Américains et 31 % des Français seulement. En matière de confiance dans l’IA, la France arrive toute dernière. Américains, Néerlandais, Canadiens et Français s’inquiètent de la perte d’emplois, de la surveillance, du piratage et de la protection de la vie privée, ainsi que de l’absence de contacts humains.

Les professionnels du traitement du langage naturel font chorus. 73 % pensent que l’IA pourrait bientôt conduire à des changements sociétaux révolutionnaires et 77%, que les entreprises privées spécialisées dans l’IA ont trop d’influence. Moins de la moitié, cependant, appelle de ses voeux une règlementation plus stricte (41%). Celle-ci semble pourtant inévitable. Mais l’étude se contente de considérer que pour assurer un futur responsable et durable de l’IA, il est essentiel de prendre en compte ces préoccupations et d’encourager le dialogue entre les chercheurs, les décideurs, les entreprises et le grand public.

Pour lire le rapport “2023 AI Index Report” de Stanford, c’est par ici*. *