Dans la nuit de vendredi à samedi dernier, les trois législateurs européens ont adopté le premier règlement du continent en matière d’IA. Le règlement avance donc dans les temps, mais la procédure reste longue. Nul ne semble savoir précisément quand il sera mis en application : pour l’heure les estimations varient de fin 2024 à début 2026. D’ici là, en tout cas, un cadre d’adoption volontaire pourra être mis en place et le texte fera référence, y compris à l’international. Il pourrait en effet influencer les réglementations britannique et américaine, après leurs élections respectives, et l’éventuelle création d’une agence internationale de l’IA.
Ce serait un grand retour de l’influence européenne dans les technologies. Pour l’heure, hostiles à la réglementation, les grands éditeurs tendent à omettre le Vieux Continent au lancement de leurs produits. Ni Gemini de Google ni Claude d’Anthropic ne sont disponibles en Europe. De même, Meta avait fait l’impasse sur l’Europe lors du lancement de Threads cet été.
Pendant plusieurs mois de trilogue (lire Qant du 26 octobre, du 19 septembre, du 22 mai et du 12 mai) , la vision plus restrictive du Parlement européen s’est heurtée aux gouvernements nationaux sur deux points : la reconnaissance faciale et les modèles de fondation. Le compromis, qui a soigneusement omis de rouvrir l’épineuse question du droit d’auteur, a favorisé les choix du Parlement sur la première et ceux des États, particulièrement la France et l’Allemagne, sur les deuxièmes, plus importants économiquement.
Risques et yottaflops
L’approche adoptée par les législateurs européens est basée sur le risque, avec quatre paliers de réglementation, de plus en plus stricts au fur et à mesure que les applications d’IA considérées comme plus dangereuses. Les modèles entraînés avec une puissance de calcul supérieure à 10 yottaflops seront automatiquement caractérisés comme systémiques : une hypothèse qui ne concerne aujourd’hui que GPT-4 (qui aurait été entraîné avec 33 yottaflops) et sans doute Gemini.
Les créateurs de systèmes d’IA à usage général seront soumis à de nouvelles exigences de transparence et ils seront supervisés par un Bureau de l’IA au sein de la Commission. Les logiciels open source et gratuits, en revanche, seront exclus du champ d’application du règlement, à moins qu’il ne s’agisse de systèmes à haut risque, d’applications interdites ou d’IA dédiées à manipuler. “Félicitations aux gouvernements français, allemand et italien pour ne pas avoir abandonné les modèles open source” s’exclamait dès samedi matin sur X-Twitter le français Yann Le Cun, qui dirige le laboratoire d’intelligence artificielle de Meta.
Les modèles open source seront tout de même soumis à la publication d’un résumé détaillé, aux obligations pour les modèles systémiques et aux responsabilités tout au long de la chaîne de valeur de l’IA, ainsi qu’aux règles sur le respect des droits d’auteur.
Garder l’œil sur les RH
Les IA entraînées sur des données de santé et de sécurité seront réglementées avec une attention particulière, ainsi que sur celles utilisées par les ressources humaines en entreprise. L’Europe craint en effet que les biais existants ne soient renforcés par l’utilisation de l’IA. Les entreprises développant des outils d’IA potentiellement nocifs devront fournir des évaluations des risques et garantir que leurs systèmes ne causent pas de préjudices, comme la perpétuation de biais raciaux.
Pour leur part, les modèles de diffusion ou multimodaux, qui génèrent des images, devront clairement indiquer qu’elles sont générés par l’IA. Certaines pratiques seront totalement interdites, comme les techniques de manipulation, les systèmes d’exploitation des failles de sécurité, la notation sociale et comme le scraping indiscriminé d’images contenant des expressions faciales.
Les entreprises qui enfreignent le règlement pourront être soumises à des amendes allant jusqu’à 7 % de leurs ventes mondiales, mais au total, les obligations des créateurs de modèles même systémiques restent assez légères. Outre la dextérité de Cédric O, ancien ministre et administrateur du français Mistral, la victoire aura été remportée par le lobbying des grandes sociétés américaines, mais aussi européennes : Airbus, Renault et Siemens, notamment, se sont exprimées en faveur de l’innovation. Seules les industries culturelles et créatives ont pris la défense du Parlement.
En revanche, l’utilisation de systèmes de reconnaissance faciale et émotionnelle sera sévèrement restreinte. Seules les forces de l’ordre et les forces armées bénéficieront de certaines dérogations. La reconnaissance faciale en temps réel ne sera autorisée qu’en cas de recherche de victimes, de prévention d’une menace terroriste ou de localisation et identification de personnes soupçonnées de crimes. D’autres exemptions s’appliqueront pour l’identification biométrique à distance des personnes dans les lieux publics.
La notation sociale à la chinoise, dont personne ne voulait, sera formellement interdite.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_c8563a828fdf4f0eb2e27085c3a998cd
