Tout a commencé en octobre dernier, avec le Manifeste techno-optimiste de Marc Andreessen, qui dirige par ailleurs A16Z, le fonds qui a mené le deuxième tour de Mistral AI, champion français de l’IA (lire Qant du 11 décembre). À la tête d’un peloton d’investisseurs et d’entrepreneurs influents de la Silicon Valley, il a donné corps, ou plutôt tête, à un mécontentement profond. Sous le nom de e-acc, l’Effective Accelerationism (“accélérationnisme efficace”) balaie la Silicon Valley, célébrant son triomphe sur la gouvernance d’OpenAI et, tout ensemble, son soutien aux modèles d’IA open source.
L’e-acc s’oppose à “l’altruisme efficace” (Effective Altruism ou EA) des tenants de la prudence dans le développement de l’IA. Bien des élites de la tech souscrivent à cette doctrine, plus ancienne et plus construite, qui prétend juger de la valeur morale d’une action en mesurant le bien qu’elle fait aux autres. Helen Toner, l’une des administratrices d’OpenAI qui s’est le plus fortement opposée à Sam Altman, est connue pour y adhérer. Les appels à ralentir le rythme de l’innovation et à se prémunir contre les risques existentiels de l’IA qui se sont succédé au cours de l’année sont ainsi attribués à l’EA (lire Qant du 29 mars et du 26 mai).
L’aller-retour d’Altman
Quand, début décembre, Eliezer Yudkowsky, fondateur du Machine Intelligence Research Institute à Berkeley, résume d’un tweet les inquiétudes de la plupart des concepteurs de l’IA (“Les concepteurs du réacteur RBMK-1000 qui a explosé à Tchernobyl comprenaient la physique des réacteurs nucléaires bien mieux que quiconque ne comprendra la superintelligence artificielle au moment où elle sera créée”), il s’attire une réponse violente et grossière de Vinod Khosla, un autre des grands VCs de la Silicon Valley.
L’explosion de la gouvernance d’OpenAI, avec le départ forcé puis le retour de Sam Altman (lire Qant du 20 novembre et du 22 novembre), a donné des ailes aux “e-acc”. On y retrouve aussi bien ceux, assez rares, qui estiment farfelue l’hypothèse d’une création prochaine de superintelligences artificielles mais surtout ceux qui pensent que ces AGI/ASI ne poseraient pas plus de risques à la survie de l’humanité que celle-ci n’en pose déjà à elle-même.
De Beff Jezos à Marc Andreessen
« Nous essayons de résoudre le problème de la culture par l’ingénierie« , a déclaré au magazine Forbes l’entrepreneur canadien Guillaume Verdon, qui s’est révélé comme le principal thuriféraire du mouvement. « En tant qu’entrepreneur, vous concevez des moyens d’encourager certains comportements par le biais de gradients et de récompenses, et vous pouvez programmer un système civilisationnel.” Son pseudonyme @BeffJezos est cité par Marc Andreessen comme le premier des “saints patrons” du manifeste des techno-optimistes.
Dans son propre manifeste, passé quasiment inaperçu, @BeffJezos propose un modèle post-humaniste et post-transhumaniste, “sans attachement particulier au substrat biologique de l’intelligence et de la vie”. Il considère que l’évolution se base sur des agents conscients, les individus, mais également sur des “méta-organismes” sociaux et qu’il convient d’accélérer la sélection naturelle parmi ces derniers. Une forme de darwinisme social inversé, qui s’oppose au “contrôle technocratique”. On y retrouve, comme très souvent dans la Silicon Valley, l’héritage des penseurs libertariens de la société du Mont Pélerin : Friedrich-Augustus von Hayek, Ludwig von Mises…
Pour l’heure, le mouvement e-acc exprime surtout le ras-le-bol d’ingénieurs informatiques habitués à “agir vite et casser des choses”, selon la devise informelle qui a présidé à l’hypercroissance de Facebook. Mais comme pour le transhumanisme à la parution de The Singularity is Near, de Ray Kurzweil, il convient de surveiller le développement de ses idées.
Il pourrait s’accélérer.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_e4c9e46917a2482ea31125731e8c4ee3
