Les lettres ouvertes se suivent et ne se ressemblent pas dans le monde agité de l’IA. Ce lundi, Sam Altman et Greg Brockman, respectivement CEO et président d’OpenAI, ont annoncé que l’entreprise avait signé une lettre ouverte appelant à la “responsabilité collective” pour “maximiser les bénéfices de l’intelligence artificielle et d’en atténuer les risques” pour la société. L’initiative, lancée par un business angel, Ron Conway, est parvenue à réunir tous les grands noms de l’IA : Google, Meta, Microsoft, Hugging Face, le français Mistral et donc OpenAI.
Le contraste est net avec le manifeste du techno-optimisme du fondateur de Netscape et A16Z Marc Andreessen, dans lequel il déclarait en octobre dernier que ralentir les progrès de l’IA revenait à commettre un meurtre (lire Qant du 18 octobre 2023). La lettre ouverte marque au contraire un retour des appels à la prudence.
Pas de traces pour l’instant de X.AI ou de son fondateur Elon Musk, pourtant coutumier du fait. Il faut dire que le procès qui l’oppose désormais à OpenAI (lire Qant du 4 mars) achève de le marginaliser. En revanche, le ton de la lettre fait penser à la lettre ouverte qu’il avait cosignée il y a un an. Publiée par l’Institut Future of Life, elle appelait à un moratoire de six mois sur la formation de systèmes d’IA plus puissants que GPT-4 (lire Qant du 29 mars 2023).
Le loup dans la bergerie
Deux mois plus tard, le Centre pour la Sécurité de l’IA lançait un appel alarmiste sur les risques de l’intelligence artificielle (lire Qant du 31 mai 2023) : « Atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques comme les pandémies et les guerres nucléaires » déclare le très court Statement on AI Risk (voir ci-dessous). Là encore, les grands noms de la Silicon Valley se précipitent, de Sam Altman au directeur général de DeepMind Demis Hassabis, en passant par Daniela et Dario Amodei, Geoffrey Hinton ou encore Yoshua Bengio.
La lettre publiée par Ron Conway ne comporte pas de propositions concrètes ou de messages alarmants comme les deux précédentes. Comme il convient à un secteur qui s’est institutionnalisé, elle propose un texte beaucoup plus court et consensuel. “Nous, les soussignés, bénéficions déjà des avantages de l’IA, et nous nous engageons à construire une IA qui contribuera à un avenir meilleur pour l’humanité” conclut par exemple le texte.
De Copilot à Midjourney en passant par ChatGPT, l’usage des outils d’IA s’est généralisé depuis les mises en garde de l’an dernier. Pourtant, les problèmes d’alignement de l’IA restent irrésolus, comme le montrent les déboires récents de ChatGPT et de Gemini (lire Qant du 23 février). Que l’intelligence artificielle générale soit une perspective à cinq ans, comme le pense le CEO de Nivia Jensen Huang ou qu’elle soit déjà en train d’arriver, comme le soutien Elon Musk dans son procès à OpenAI, elle ne pourra que les aggraver.
Sans doute n’est-il plus utile de crier au loup, alors que celui-ci est entré dans la bergerie. Mais en rejetant la frénésie “accélérationniste” de Marc Andreessen, l’industrie naissante de l’IA veut montrer un attachement à ses valeurs.
Et reconnaître la réalité du risque.
Pour en savoir plus :
- Build AI for a Better Future, SV Angel
- Pause Giant AI Experiments: An Open Letter, Future of life institute
- Statement on AI Risk, Center for AI Safety
- The Techno-optimist Manifesto, Marc Andreessen, Andreessen Horowitz
- Bloomberg
Source archive Kessel : https://qant.kessel.media/posts/pst_869f81d5ce7f4624a30006e56ad1801c
