L’appel au secours de la Silicon Valley

Tous les principaux entrepreneurs de l’intelligence artificielle ont signé et rendu public, hier, ce lapidaire appel:

Atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques tels que les pandémies et les guerres nucléaires.

Parmi eux, Daniela et Dario Amodei, présidente et directeur général d’Anthropic, Demis Hassabis, directeur général de DeepMind, Emad Mostaque, directeur général de Stability AI, Mustafa Suleyman, directeur général d’Inflection AI… et bien sûr Sam Altman, fondateur et directeur général d’OpenAI, qui revient d’un tour du monde où il a tenté de mobiliser les chancelleries sur la création d’une agence similaire à l’Agence internationale pour l’énergie atomique (AIEA). Les entrepreneurs sont rejoints par un assortiment de chercheurs, comme Geoffrey Hinton et Yoshua Bengio (mais pas Yann Le Cun), et d’intellectuels comme le philosophe David Chalmers, le juriste Laurence Tribe et le très médiatique Lex Fridman.

Depuis le mois de mars, le lancement de GPT-4 et les premières étincelles d’IA générale suscitent des craintes sur la généralisation des fake news et le bouleversement du marché du travail. Le risque d’extinction de l’humanité cependant, n’est apparu que ces derniers jours. Il fait référence principalement à l’usage militaire des IA – et subsidiairement à de nombreux films hollywoodiens, ce qui nuit à sa crédibilité.

Ces angoisses pourtant sont partagées par de nombreux dirigeants de la tech. La semaine dernière, Microsoft réclamait la création d’une agence américaine dédiée à l’IA et un “executive order” du président Biden pour imposer, notamment, des contrôles à l’export et des disjoncteurs permettant de désactiver une IA à partir des data centers où elle opère. Le 19 mai, Google avait présenté un livre blanc qui demandait, entre autres, un forum mondial de l’IA, comparable au Global Internet Forum to Counter Terrorism (GIFCT).

Voici donc les entrepreneurs placés dans la position inhabituelle de plaider pour une régulation plus stricte d’une technologie qu’ils développent eux-mêmes et qu’ils s’efforcent de construire plus rapidement que leurs concurrents. Et de réclamer que les institutions jouent leur rôle et défendent l’intérêt général au lieu de repousser la gouvernance de la tech sous le tapis des questions techniques.

Pour en savoir plus, on peut lire, ci-dessous, IA, Démocratie et Ordre Mondial de Manuel Muñiz et Samir Saran, ainsi que :

• Statement on AI Risk, Center for AI Safety
• Associated Press
• New-York Times
• A Policy Agenda for Responsible Progress in Artificial Intelligence, Google