Avant le sommet de l’IA, une mise en garde

Un rapport avant le grand sommet • Qant, M. de R. avec Midjourney

• L’Institut britannique pour la Sécurité de l’IA vient de rendre public un rapport scientifique international sur la sécurité de l’IA avancée, qui sera présenté au sommet de Paris les 10 et 11 prochains.
• L’étude a été dirigée par le prix Turing Joshua Benjio, à la tête d’une équipe issue de 30 pays, dont les États-Unis, la France et la Chine.
• Commandé lors du sommet mondial de l’IA à Bletchley Park en 2023, le rapport vise à éclairer les chefs d’État et les autres décideurs internationaux qui se réuniront à Paris dans deux semaines.
• Il identifie trois grandes catégories de risques : l’usage malveillant, les défaillances techniques et les risques systémiques généralisés.
• L’usage malveillant s’étend de la diffusion de désinformations et la manipulation électorale jusqu’à la conception d’armes biologiques ou chimiques.
• Les défaillances de l’IA incluent aujourd’hui les biais et, demain, la perte de contrôle sur des super-intelligences artificielles.
• Parmi les risques systémiques, le rapport souligne l’impact sur l’emploi, avec un risque de déplacement massif des travailleurs.
• À SURVEILLER : Le sommet IA de Paris. Alors que la France pousse vers une vision plus optimiste, la dynamique enclenchée à Bletchley Park reste placée sous le signe de l’inquiétude. Le débat sera tranché par la déclaration commune et l’engagement pour un développement durable de l’IA que devraient adopter les dirigeants mondiaux à l’issue du Sommet de février – sous réserve de l’inconnue Trump/Musk.