AMD, Dell, Hugging Face, Intel, Oracle, Sony, Stability AI… L’AI Alliance que Meta et IBM viennent de lancer compte une pléiade d’instituts de recherche et d’universités (du Cern à la Nasa, de Harvard à Stanford), mais aussi des acteurs de poids sur le marché. Les fondateurs expliquent vouloir mettre en avant une innovation « ouverte et transparente« , une critique à peine voilée à OpenAI, qui a quitté le monde de l’open source lors du lancement de GPT-4 (lire Qant du 15 mars).
L’objectif premier est d’augmenter le nombre de modèles de fondation en open source, par opposition aux systèmes propriétaires privilégiés par OpenAI, Anthropic, Microsoft et Google. Face à ceux qui soulignent la facilité avec laquelle les hackers désactivent les garde-fous intégrés dans les modèles open source (cet été, Llama 2 a été “jailbreaké”, débridé, en 48 heures), et le risque de diffusion incontrôlée de connaissances dangereuses (lire Qant du 20 novembre), l’Alliance s’attache à la création d’un catalogue d’outils de sécurité, de sûreté et de confiance vérifiés. Elle produira des contenus éducatifs pour informer le grand public et tenter d’orienter les décideurs politiques sur les avantages, les risques et la régulation de l’IA.
L’Alliance veut également lancer de nouveaux benchmarks (comme Gaia : lire Qant du 5 décembre) et favoriser l’émergence de nouveaux matériels. On note l’absence de Nvidia, alors qu’AMD et Intel ont répondu présent.
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_a82ad2db99e84a8e8020a32411ce8633
