Bletchley Park : un sommet pour rien ?

Mercredi 1er novembre prochain, la vice-présidente des États-Unis Kamala Harris et le président de Google DeepMind demis Hassabis – un citoyen britannique – participeront à un grand sommet international sur la sécurité de l’IA. Il se tiendra à Bletchley Park, là où Alan Turing a construit l’ordinateur qui a percé la machine cryptographique allemande Enigma pendant la deuxième guerre mondiale. Selon un projet de communiqué final du sommet obtenu par Politico, les pays participants devraient reconnaître que l’IA de pointe peut causer des dommages « graves, voire catastrophiques« . C’est le sens du discours prononcé hier par le Premier ministre britannique Rishi Sunak (vidéo ci-dessus) qui, entre techno-optimisme et révérence au dynamisme entrepreneurial, rappelle le rôle essentiel des États pour éviter les risques.

La Grande-Bretagne semble avoir cultivé l’ambition de lancer, depuis le sommet, un réseau international de recherche préfigurant l’agence internationale sur l’intelligence artificielle que de nombreuses personnalités appellent de leurs vœux, à commencer par le secrétaire général de l’ONU António Guterres, qui a proposé en juillet dernier la création d’une agence des Nations Unies dédiée à la gestion des menaces liées à l’intelligence artificielle, allant de l’utilisation de l’IA dans les armes de destruction massive à son rôle dans la propagation de théories du complot. En mai dernier, de nombreux entrepreneurs de l’IA, Sam Altman en tête, avaient signé une lettre ouverte appelant à ce que le “risque d’extinction lié à l’IA” deviennent une “priorité mondiale” (lire Qant du 31 mai et du 21 septembre).

Selon Politico, le communiqué final devrait indiquer que l’étude de ces risques peut être menée à travers des efforts existants, notamment ceux de l’Organisation des Nations Unies et du Partenariat mondial sur l’IA. Le nouvel organisme prôné par la Grande-Bretagne disparaît, ainsi que les références aux recommandations de l’Unesco et du G20. La Chine, membre de ces deux organisations, a été invitée mais sa présence n’est pas encore confirmée. De plus, des références antérieures à des « sommets internationaux futurs sur la sécurité de l’IA » sont désormais incertaines, indiquant un manque d’accord entre les gouvernements. Le document, daté du 25 octobre, a été présenté par le secrétariat général du Conseil européen aux États membres de l’Union, indique Politico, qui laisse entendre que l’Europe a réussi à aligner “étroitement” le futur sommet avec l’approche de l’IA poursuivie par l’AI Act (lire Qant du 26 octobre).

Faute d’agence mondiale, Rishi Sunak lancera un institut national, dédié à la sécurité de l’intelligence artificielle. L’institut se concentrera sur l’examen, l’évaluation et le test de nouveaux types d’IA, en explorant les risques allant des biais et la désinformation jusqu’aux risques plus extrêmes de la guerre biologique ou nucléaire.

*Pour en savoir plus : *

• Politico
• Reuters
• Bloomberg
• Statement on AI Risk, Center for AI Safety
• Axios