Le sommet de Bletchley Park porte ses premiers fruits (lire Qant du 6 novembre). Le National Cyber Security Centre britannique vient de publier des lignes directrices pour le développement sécurisé des systèmes d’IA, développées en collaboration avec l’Anssi française, la Cisa américaine et nombre de leurs collègues : au total, 21 agences et ministères de 18 pays, dont tous les membres du G7.
Premières normes de sécurité de l’IA à être adoptées à l’international, quoique sur une base non contraignante, ces directives veulent proposer un chemin clair pour intégrer les principes de « sécurité par conception » dans les systèmes d’IA. Elles couvrent toutes les phases du déploiement des systèmes d’IA : la conception, le développement, le déploiement et enfin l’opération et la maintenance. A chaque étape, elle propose des chemins pour réduire les risques de sécurité.
Le document propose des recommandations générales, telles que la surveillance des systèmes d’IA pour prévenir les abus, la protection des données contre les altérations et l’évaluation des fournisseurs de logiciels. Il n’aborde pas les questions de droit d’auteur, de collecte des données ni d’utilisation appropriée de l’IA, mais il traite de la manière de protéger la technologie d’IA contre le piratage.
Entre Bletchley Park et l’AI Act
En attendant l’AI Act, plusieurs pays européens comme la France, l’Allemagne et l’Italie ont récemment conclu un accord sur la réglementation de l’IA qui soutient l’autorégulation obligatoire par des codes de conduite pour les modèles de fondation (lire Qant du 21 novembre). Une trentaine d’associations européennes, sous la houlette de Digital Europe, ont ensuite publié une lettre ouverte qui appelle le législateur européen à plus de laisser faire (pour la France, l’Afnum et Numeum ont répondu à l’appel).
Outre-Atlantique, la Cisa (l’agence américaine de cybersécurité) a récemment publié une feuille de route pour promouvoir les utilisations bénéfiques de l’IA et décourager les usages malveillants, tout en améliorant les capacités de cybersécurité pour que l’IA ne puisse pas menacer les infrastructures critiques. Cela s’intègre dans un effort plus large, orchestré par un décret présidentiel le mois dernier (lire Qant du 31 octobre). Il veut notamment protéger les réseaux et infrastructures critiques des États-Unis, tout en promouvant l’adoption de normes de sécurité de l’IA à l’échelle mondiale.
Aussitôt dit, aussitôt fait.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_3010a3d679164c87b6a388c54081d87e
