OpenAI a rendu publique hier soir une initiative pour évaluer les catastrophes potentielles que pourrait causer l’intelligence artificielle. Elle crée un comité externe pour juger des risques et s’engage à ne proposer que des technologies reconnues comme sûres en matière, notamment, de cybersécurité et de de menaces nucléaires.
En matière de gouvernance, une équipe interne assistera le comité consultatif, composé de chercheurs en IA et en informatique, d’experts en sécurité nationale et de professionnels des politiques publiques, à surveiller en continu les développements technologiques d’OpenAI, en effectuant des tests réguliers. La décision de commercialiser reviendra à la direction d’OpenAI, mais le conseil d’administration pourra l’annuler, le cas échéant. OpenAI avait déjà constitué des équipes travaillant sur des problèmes tels que les biais racistes et l’alignement des superintelligences, mais c’est le premier comité extérieur qu’elle crée.
La presse mondiale s’est saisie de l’annonce pour mettre en garde contre les risques de superintelligences artificielles mais, dans bien des domaines, celles-ci existent déjà (lire Expert ci-dessous).
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_b11833995acb4d29ad1720cb30ce8070
