Comment maîtriser l’IA ?

Le règlement européen sur l’IA (ou AI Act) a été publié vendredi 12 juillet au Journal Officiel de l’Union européenne, avant une entrée en application progressive à partir du 1er août prochain. Avec ce règlement, l’UE joue sa carte maîtresse dans sa tentative de contrôler les risques liés au développement de l’intelligence artificielle, sans pour autant brider l’innovation dans le domaine. 

Ces risques, et les moyens de les maîtriser, ont été au centre des rencontres annuelles de l’association Cyberlex, qui rassemble des experts du secteur du droit et des nouvelles technologies et des professionnels du marché du numérique. Le 17 juin dernier, en partenariat avec Qant, l’association a réuni deux tables rondes sur le thème “L’IA démystifiée : comment garder le contrôle ?”. 

Pour appréhender les risques de l’intelligence artificielle, il faut d’abord définir précisément les contours de cette dernière. Arnaud Latil, maître de conférences à Sorbonne Université, rappelle la définition donnée par l’AI Act européen : « Relèvent du règlement IA les systèmes automatisés conçus pour fonctionner avec différents niveaux d’autonomie, qui font preuve d’une capacité d’adaptation après leur déploiement, et qui pour des objectifs explicites ou implicites déduisent la manière de générer les résultats ».  

Entre hallucinations …

Parmi les risques de l’IA, les différents panélistes mettent notamment en avant la capacité de cette dernière à commettre des erreurs : les fameuses “hallucinations”. Le CEO de Kyutai Patrick Perez explique que la fiabilité de l’IA va devenir un sujet de plus en plus centrale au fur et à mesure que l’intelligence artificielle se professionnalise dans ses usages : « Plus l’IA va être forte, et plus elle va être utilisée, et plus son manque de fiabilité intrinsèque va devenir un problème, notamment lorsqu’elle sera utilisée de façon non supervisée par un humain pour des tâches de plus en plus critiques ». Jean-Paul Muller, CTO IA chez Onepoint, abonde : « Aujourd’hui, ce n’est pas parce qu’un système fonctionne qu’il ne va pas avoir un problème de justesse dans les résultats qu’il va fournir ». Se pose alors le sujet de la « vérité » dans l’utilisation professionnelle. « Dans l’entreprise, on est obligé de prendre les LLMs tels quels. On va alors mettre des artifices autour, comme le fameux RAG (Retrieval Augmented Generation). Des systèmes en amont, en aval, pour contrôler les LLMs. » 

Patrick Perez souligne alors le paradoxe d’utilisateurs qui veulent des modèles d’IA à la fois fiable et respectueux du droit d’auteurs : « En tant qu’utilisateur, on est les premiers à se plaindre quand une IA donne une réponse erronée, et en même temps on souhaiterait qu’elle soit entraînée uniquement sur des données libres de droit. »  Le CEO de Kyutai rappelle les milliers de milliards de contenus qui servent à entraîner les grands modèles de langage, et l’impossibilité de trier tous ces contenus. Ce manque de fiabilité des systèmes d’IA participe à ce qu’Arnaud Latil décrit comme un « un risque de défiance et d’absence d’utilisation des outils d’IA », qui s’explique également par une crainte de remplacement des travailleurs par l’IA. Pour lutter contre cette défiance, Arnaud Latil préconise un accompagnement au changement des salariés, en expliquant notamment le fonctionnement des outils d’IA.

**… et désinformation **

L’utilisation de l’intelligence artificielle pour générer des contenus de désinformation, notamment dans un cadre électoral, est bien sûr évoquée. « Avec les générateurs d’image, il y a une extrême facilité à créer une fausse vérité, et une extrême difficulté à générer une vraie vérité », explique Jean-Paul Muller. Le CTO de Onepoint insiste également sur le risque énergétique causé par l’IA : « Il y aura 3,5 millions de puces H100 déployées d’ici 2024, avec une consommation de 32 000 gigawattheures par an, soit la consommation électrique de la Lituanie ». De quoi réveiller la conscience écologique des fabricants de modèles ? Pas vraiment, regrette Jean-Paul Muller : « Aujourd’hui, ceux qui travaillent sur l’entraînement des modèles ne se focalisent pas sur des modèles plus petits. La course est à la performance, car tout le monde juge les résultats. »

**L’AI Act, solution de compromis **

Face à tous ces risques, plusieurs réponses existent. Au centre des débats, la plus mise en avant d’entre elles, en tout cas en Europe, reste l’AI Act européen, salué par certaines voix mais critiqué par d’autres. L’avocat Pascal Alix interroge sur la motivation de ce règlement. Il explique qu’il va falloir choisir entre sauvegarde des droits de l’homme et promotion de l’IA : « Que souhaitons-nous comme société ? Une société qui protège les droits de l’homme, ou une société qui promeut la technologie ? » Emmanuelle Legrand, magistrate ayant participé pour la France aux négociations de l’AI Act, lui répond : « Le législateur européen, les 27 États membres et le parlement ont fait le choix de ne pas choisir l’un contre l’autre mais bien de faire des choix qui permettent de concilier les deux. »  

Se pose en effet la question du difficile équilibre entre promotion de l’innovation et protection des droits des consommateurs. Pour le professeur de droit Grégoire Loiseau, ce choix a bel et bien été fait : « Ce règlement a une ambition économique portée par un libéralisme économique. La préoccupation est de ne pas freiner, et même de soutenir l’innovation technologique, pour permettre à l’Union de développer ces technologies ». 

Alors que les avis divergent sur ses motivations et ses effets, le règlement sur l’IA va lui poursuivre sa mise en place, après sa publication au journal officiel. Il faudra attendre a minima 2026 pour observer ses effets, et voir s’il suffit à contrôler les risques de l’IA.