Aujourd’hui, ou dans les tout prochains jours à venir, d’après Politico, le président américain Joe Biden devrait signer un décret exécutif sur l’IA, à l’intention de plus d’une douzaine d’agences fédérales. Fort de 111 pages, le décret prévoit la création d’un Conseil similaire à celui sur la sécurité nationale, chargé de coordonner les activités du gouvernement fédéral en matière d’intelligence artificielle. Il met en place des normes pour la confidentialité des données, la cybersécurité, la prévention de la discrimination et la surveillance de la concurrence dans l’industrie de l’IA. Il encourage également l’utilisation de l’IA dans divers secteurs d’action publique, comme la santé, l’éducation, le logement. De plus, il aborde des sujets tels que la concurrence dans l’industrie des semi-conducteurs et la protection des droits des travailleurs face aux perturbations causées par l’IA.Les agences fédérales exerceront un pouvoir d’influence sur le marché grâce à leur capacité d’achat et à leurs outils de mise en application.
Vendredi dernier, le secrétaire général des Nations Unies, António Guterres, tenait sur les fonts baptismaux un groupe consultatif de 39 membres sur les questions de gouvernance internationale de l’intelligence artificielle. Composé de dirigeants d’entreprises technologiques, de responsables gouvernementaux de divers pays et d’universitaires, le groupe a tenu sa première réunion le 27 octobre. Il a pour mission de construire un consensus scientifique mondial sur les risques et les défis de l’IA, et de renforcer la coopération internationale dans la gouvernance de l’IA, avec des recommandations préliminaires attendues pour la fin de cette année et des recommandations finales pour l’été 2024.
Société civile
Jeudi 26, OpenAI a annoncé la création d’un groupe dirigé par Aleksander Madry du MIT, pour évaluer et protéger contre les risques des futurs systèmes d’IA générale et de superintelligence, y compris leur capacité à tromper les humains et à générer des codes malveillants, ainsi que des menaces chimiques, biologiques, radiologiques et nucléaires. Le groupe est ouvert aux candidatures.
Mardi 24, ce sont 24 experts en IA, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio qui ont publié une déclaration commune qui appelle les gouvernements à agir pour gérer les risques liés à l’IA, en se concentrant particulièrement sur les risques extrêmes posés par les systèmes les plus avancés, tels que la facilitation d’activités criminelles ou terroristes à grande échelle. Les auteurs du document recommandent que les grandes entreprises technologiques et les bailleurs de fonds publics consacrent au moins un tiers de leur budget de R&D en IA à des projets promouvant une utilisation sûre et éthique de l’IA, et appellent à la création de normes nationales et internationales. Ils soulignent également les défis réglementaires, comme la nécessité de licences pour développer des modèles d’IA, tout en rejetant l’argument selon lequel cela avantagerait les grandes entreprises.
Les manifestes, consensus et autres lettres ouvertes se suivent et ne se ressemblent pas toujours dans le monde de l’IA. Il y a moins de deux semaines, Marc Andreessen publiait son « Manifeste Techno-optimiste » (lire Qant du 18 octobre). Des lettres ouvertes précédentes ont été signées par des milliers de personnes. La première, sous l’impulsion d’Elon Musk, demandait à mettre en pause le développement d’IA plus puissantes que GPT-4 (lire Qant du 31 mars).
Sommet
La vice-présidente des États-Unis Kamala Harris, qui a piloté la préparation du décret (lire Qant du 5 mai), est attendue au sommet de Bletchley Park, à partir de mercredi, ainsi qu’António Guterres, Sam Altman, Aidan Gomez, Geoffrey Hinton et Yoshua Bengio.
Reste à voir de quoi accouchera la montagne (lire Qant du 27 octobre). Hier dimanche, Aidan Gomez, fondateur de Cohere et co-auteur du papier de recherche qui a créé l’architecture des GPT, mettait en garde contre la distraction que représentent tous ces scénarios apocalyptiques, face aux risques immédiats de la production à grande échelle de désinformation.
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_1536999ed342480b8db4e22fa90c539c
