General Dynamics est surtout connu pour le chasseur F-16. L’avionneur a été vendu en 2008 à Lockheed Martin, mais il reste un groupe de services à la défense et la sécurité de plus de 100 000 personnes, dont General Dynamics Information Technology (GDIT) pour l’intelligence artificielle et les technologies de l’information. GDIT vient de publier, en partenariat avec Splunk, nouvelle filiale de Cisco (lire Qant du 20 mars), un court rapport sur la manière d’utiliser l’IA dans la cybersécurité. Il veut ainsi répondre au décret présidentiel sur l’intelligence artificielle de l’an dernier et, implicitement, au rapport de la NSA paru la semaine dernière (lire Qant du 17 avril).
GDIT considère tout d’abord que l’IA permet de renforcer ses défenses face à la surabondance de données. Un tiers des agences fédérales américaines considère qu’elle manque de personnel qualifié et d’outils analytiques en temps réel efficaces pour gérer la masse de données auxquelles elles sont confrontées.
En outre, l’IA permet d’automatiser pour compenser les erreurs humaines. Les négligences humaines, souvent involontaires, peuvent en effet créer des vulnérabilités significatives. Le plan de renforcement implique de se concentrer sur la résilience, la répétabilité et l’automatisation, d’adopter une éthique « sécurisée par conception » et d’intégrer l’IA pour améliorer les processus décisionnels.
Un besoin de gouvernance
GDIT est ainsi la première à répondre à l’AISC, le centre de sécurité sur l’IA créé par la NSA américaine en septembre dernier. La semaine dernière, le centre recommandait aux fournisseurs de défense – comme GDIT – de veiller particulièrement sur les systèmes d’IA qu’ils déploient (lire Qant du 17 avril). Ils devraient notamment, selon les nouvelles directives, sécuriser les API et contrôler l’accès aux modèles, mais aussi surveiller leur comportement et protéger leurs poids, en en rendant difficile toute modification.
L’AISC recommande également d’établir une gouvernance de l’environnement de déploiement des systèmes d’IA. Cette dernière doit inclure une évaluation des risques, l’identification des responsabilités, et une modélisation des menaces. L’architecture doit également intégrer des protections spécifiques pour sécuriser les frontières entre les environnements IT traditionnels et les systèmes d’IA. Enfin, le rapport de la NSA conseille des contrôles d’accès stricts et une surveillance constante des comportements des modèles d’IA pour détecter et répondre rapidement à toute activité suspecte. Il souligne l’importance de la formation des utilisateurs mais aussi des développeurs sur les pratiques de sécurité, tout comme la nécessité de tests de pénétration réguliers pour identifier et corriger les vulnérabilités.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_68661500f77e4470a323378881fa4bb9
