Sacré week-end pour OpenAI. Vendredi soir, son CEO et cofondateur, Sam Altman, a été démis de ses fonctions par le conseil d’administration de l’entreprise pour « manque de transparence ». Mira Murati, directrice technique d’OpenAI, a pris la relève en tant que directrice générale par intérim et tenté une médiation pendant le week-end. En effet, Sam Altman n’est pas tombé seul. Greg Brockman, président et cofondateur d’OpenAI, ainsi que Jakub Pachocki, directeur de la recherche, et deux chercheurs de haut niveau, Aleksander Madry et Szymon Sidor, l’ont immédiatement suivi.
Vendredi soir, OpenAI était décapité. Ce lundi matin, le CEO de Microsoft Satya Nadella vient d’annoncer que Sam Altman et Greg Brockman vont prendre la tête d’une nouvelle équipe de recherche, constituée pour eux, au sein de Microsoft. Emmett Shear, cofondateur de Twitch, prendra la relève de Mira Murati à la tête d’OpenAI, marquant l’échec des négociations.
Idéalisme efficace
Le conseil d’administration de la fondation de recherche qui contrôle OpenAI (voir graphique ci-dessous), aurait jugé sur proposition d’Ilya Sutskever, cofondateur et directeur scientifique, que l’approche de Sam Altman était devenue incompatible avec les responsabilités et les valeurs de la fondation qui contrôle l’entreprise : développer une intelligence artificielle dans de bonnes conditions de sécurité pour l’humanité.
Père de la renaissance des réseaux neuronaux avec Geoffrey Hinton, Ilya Sutskever est aujourd’hui l’un des scientifiques les plus inquiets du développement de l’IA. Il a notamment créé cet été, au sein d’OpenAI, un groupe dédié au “superalignement”, l’alignement des modèles d’IA générale et des “superintelligences”.
Ses inquiétudes auraient trouvé une écoute favorable chez deux autres membres du conseil, Helen Toner, de l’université Georgetown, et l’entrepreneure Tasha McCauley, toutes deux liées au mouvement de “l’altruisme efficace”, tout comme Ilya Sutskever et de nombreuses autres figures de la Silicon Valley (ainsi d’Elon Musk et de Sam Bankman-Fried : lire Qant du 8 novembre).
Or, la gouvernance d’OpenAI – dont s’inspire Kyutai, la fondation de recherche lancée vendredi à Paris – place tout le pouvoir dans les mains des administrateurs de la fondation, aux dépens des actionnaires de la société commerciale.
Cette inquiétude pour la sécurité de l’IA n’est pas nouvelle chez OpenAI : en 2020, en raison de préoccupations similaires, Dario et Daniela Amodei avaient quitté l’entreprise pour créer Anthropic, avec une orientation plus forte vers la sécurité. Les inquiets, cette fois, ont pris le pouvoir.
La Matrice et le grand capital
Microsoft, qui détient 49 % du capital de la société après s’être engagée à y investir 11 milliards de dollars, n’aurait été informée du départ de Sam Altman que quelques minutes avant son officialisation. Les investisseurs extérieurs, des VCs du calibre de Sequoia, Khosla Ventures et Thrive Capital, auraient été mis devant le fait accompli. Or, ceux-ci étaient en train d’organiser une deuxième cession d’actions du personnel, sur la base d’une valeur d’entreprise de 86 milliards de dollars (lire Qant du 23 octobre). Celle-ci est évidemment remise en cause.
La médiation de Mira Murati était donc très clairement dans l’intérêt des salariés d’OpenAI. Certains ont cru initialement que Sam Altman avait souffert des retards de développement de GPT-5 (lire Qant du 19 octobre). Il semble que ce soit tout l’inverse : c’est parce qu’il voulait pousser les feux du développement de nouveaux modèles qu’il a été évincé.
Le ministre délégué au Numérique français, Jean-Noël Barrot, a lancé un appel à l’ancien CEO d’OpenAI : “Sam Altman, son équipe et leurs talents sont les bienvenus s’ils le souhaitent en France où nous accélérons pour mettre l’intelligence artificielle au service du bien commun.”
Microsoft s’est révélée plus attractive, mais on ne sait jamais.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_47194eb5dd254efabc10358c2840347b
