Hier, des chercheurs de premier plan en intelligence artificielle, parmi lesquels on trouve notamment Geoffrey Hinton, ont publié une lettre ouverte demandant que les entreprises et les gouvernements consacrent au moins un tiers de leurs fonds de recherche et développement en IA à la sécurité et à l’utilisation éthique de ces systèmes. Ils proposent notamment de rendre les entreprises légalement responsables des dommages prévisibles et évitables causés par leurs systèmes d’IA avancés.
Le rapport 2023 de l’Agence européenne de cybersécurité (Enisa), publié la semaine dernière, fait chorus. Il souligne le danger croissant de la manipulation de l’information facilitée par l’IA, notamment en vue des élections européennes de 2024. Même si les ransomwares restent la forme dominante de cyberattaques, la montée de l’intelligence artificielle, via les deepfakes et les grands modèles de langage, est identifiée comme une préoccupation majeure pour la sécurité, avec des implications potentielles pour la manipulation de l’information et la cybercriminalité. Au total, entre juillet 2022 et juin 2023, l’Enisa a enregistré environ 2580 incidents, avec des secteurs tels que l’administration publique et la santé étant particulièrement ciblés.
Ces réflexions alimentent une activité politique de plus en plus nourrie. Un nouveau “trilogue” s’est ouvert hier à Bruxelles sur l’AI Act, dans l’effort d’aboutir avant la fin de l’année (et de la présidence espagnole) à un règlement emportant l’accord du Parlement, de la Commission et du Conseil des États européens.
À Washington, le président démocrate du Sénat Chuck Schumer a organisé une deuxième session du forum AI Insights avec des participants tels que Max Tegmark de l’Institut Future of Life, qui préconise une pause dans le développement de l’IA pour mettre en place des mesures de sécurité appropriées, et le capital-risque Marc Andreessen, qui recommande exactement l’inverse (lire Qant du 18 octobre).
Et à Londres, la semaine prochaine, se tiendra un sommet international sur la sécurité de l’IA.
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_b1b1ca2135cc49d98d7087c32e4c0380