Le cybersabotage à l’ère de l’AGI

La cybersécurité fait face à l’AGI • Qant, M. de R. avec Midjourney

Dans son rapport sur les principaux risques de 2025, l’Eurasia Group, un think tank axé sur les risques géopolitiques, cite l’IA au même titre que l’Iran, la Russie et Donald Trump. Il note en effet que les modèles d’IA les plus récents se rapprochent des performances humaines dans plusieurs domaines, ce qui augmente l’urgence de prendre en compte les risques associés. 

Ces dangers comprennent notamment la possibilité d’accidents catastrophiques ou d’une perte de contrôle des systèmes d’IA, ainsi que des problèmes de biais et de discrimination dans les décisions algorithmiques. La complexité grandissante des modèles d’IA crée également un défi de transparence, tandis que leur contrôle et leur alignement avec les objectifs humains deviennent de plus en plus difficiles à garantir. Ces préoccupations sont amplifiées par les risques d’utilisation malveillante de l’IA, comme la création de deepfakes ou les cyberattaques.

Pour ces dernières, Goldilock, une entreprise britannique spécialisée dans la cybersécurité des infrastructures critiques et soutenue par l’Otan, prévoit que les malwares « agentiques » deviendront une réalité d’ici deux ans. Ces logiciels malveillants, capables d’apprendre et de s’adapter de manière autonome, pourront non seulement éviter la détection, mais également cibler automatiquement de nouveaux systèmes en exploitant leurs vulnérabilités. 

Les rapports de Goldilock et de l’Eurasia Group convergent sur un point : le monde dispose d’environ deux ans pour développer des solutions efficaces contre les malwares alimentés par l’IA. Les infrastructures critiques doivent adopter des mesures de cybersécurité avancées, comme la segmentation des réseaux et l’utilisation d’outils d’intelligence artificielle pour la détection des menaces. Cependant, ces efforts nécessitent une coopération internationale et des investissements significatifs pour être pleinement efficaces.

Or, Donald Trump.