Elon Musk, cofondateur d’OpenAI, montrait depuis plusieurs jours son mécontentement. Avec un groupe d’experts en IA et de dirigeants de l’industrie, il vient de lancer un appel à un moratoire de six mois sur la formation de systèmes d’IA plus puissants que GPT-4.
La lettre ouverte, publiée par l’Institut Future of Life, a déjà été signée par plus de 1 000 personnes. Outre Elon Musk, on remarque Emad Mostaque, PDG de Stability AI, des personnalités de l’IA telles que Yoshua Bengio, Gary Marcus, Stuart Russell, Andrew Yang… et des chercheurs de DeepMind, filiale d’Alphabet. Ils évoquent des risques potentiels pour la société et l’humanité et réclament un arrêt temporaire du développement de l’IA avancée jusqu’à ce que des protocoles de sécurité partagés soient élaborés, mis en œuvre et audités par des experts indépendants.
Depuis la sortie de ChatGPT, en fin d’année dernière, de nombreuses entreprises concurrentes ont accéléré le développement de modèles similaires et intégré des modèles d’IA générative dans leurs produits. Certains chercheurs et développeurs de la communauté open source ont dénoncé le fait qu’OpenAI publie peu de données sur GPT-4. Elle reprend au contraire les usages de Microsoft, qui a racheté les parts d’Elon Musk et investi massivement dans OpenAI.
Source : Future of Life
Pour en savoir plus : Reuters
Source archive Kessel : https://qant.kessel.media/posts/pst_acec87fe0f7646468b38bb86a7629ce8
