L’AI Act combattra la reconnaissance faciale et contraindra les grands modèles de langage

Le Parlement européen a adopté hier, en commission, le projet de règlement qui constituera, après son adoption définitive, le premier texte de loi organisé consacré à l’intelligence artificielle. Il a été modifié en début d’année pour intégrer l’IA générative. La version adoptée prévoit que les entreprises qui fournissent des modèles de fondation – aujourd’hui, essentiellement OpenAI et Google – devront se soumettre à des normes spécifiques, les contraignant à faire préciser que le contenu a été généré par une IA, à empêcher le modèle de générer du contenu illégal et à signaler quelles données protégées par le droit d’auteur ont été utilisées pour l’entraînement. Ils seront aussi soumis à une obligation d’enregistrement et à des normes plus générales de protection de la démocratie, de l’environnement et des droits de l’homme. La recherche et l’open source seront protégées par des exemptions.

Les députés allongent la liste des IA “à haut risque”, en incluant toutes les menaces potentielles à la santé, la sécurité, les droits fondamentaux et l’environnement, mais aussi les systèmes basés sur l’IA pouvant influencer les électeurs par des campagnes politiques ou des systèmes d’influnece et de recommandation sur les réseaux sociaux. Enfin, ils interdisent les systèmes d’identification biométrique à distance, en temps réel dans les espaces accessibles au public, et partout a posteriori, sauf autorisation judiciaire. La catégorisation biométrique utilisant des caractéristiques sensibles (par exemple, le sexe, la race, l’appartenance ethnique) sera prohibée, ainsi que les systèmes de police prédictive et l’extraction de données biométriques des médias sociaux ou des images de vidéosurveillance pour créer des bases de données de reconnaissance faciale.

Le Parlement prend ainsi le contrepied du Conseil et de la Commission, plus favorables à la reconnaissance faciale – les pratiques récemment autorisées par la France, par exemple, dans le cadre des JO 2024, semblent en contradiction avec le vote des députés. Si le vote en séance plénière, courant juin, confirme le vote en commission, tout se jouera pendant le “trilogue” – les négociations entre les trois institutions.

Source : Parlement Européen

Pour en savoir plus : Reuters