Au-delà des GPT

Meta vient d’ouvrir en open source le code de I-Jepa, le premier des modèles à adopter une architecture prédictive qui imite de plus près le fonctionnement cognitif humain que les modèles génératifs actuels. Spécialisé dans les images, il travaille avec des représentations abstraites d’images. Au lieu de générer le pixel suivant sur la base du prompt, de ses données d’entraînement et des pixels environnants, le très platonicien I-Jepa va prédire les éléments manquants sur la base d’un concept général. Pour savoir si Jepa remplacera l’architecture GPT, qui s’est imposée sur toutes les autres (lire Qant du 5 mai), on attendra Diogène avec une lanterne. Source : ReutersPour en savoir plus : Mahmoud Assran, Yann LeCun, et al, Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture, ArXiv

IA GÉNÉRATIVE

• Une France de plus : McKinsey estime que l’IA générative pourrait ajouter de 2 600 millards jusqu’à 4 400 milliards de dollars par an à l’économie mondiale (le PIB de la France est d’environ 3 000 milliards). Elle transformera jusqu’à 70% des activités professionnelles et augmentera la croissance de la productivité mondiale de 0,2 à 3,3 points de pourcentage chaque année.Pour en savoir plus: New York Times
• OpenAI met à jour ses modèles : OpenAI intègre dans son API de nouvelles fonctionnalités, comme l’appel de fonction (qui renvoie au code de l’utilisateur et non plus aux plugins). Elle réduit à nouveau ses tarifs, tout en introduisant une version de GPT-3.5-turbo avec une fenêtre de contexte élargie et en baissant les prix pour son modèle populaire de texte intégré, text-embedding-ada-002.Pour en savoir plus : Tech Crunch
• Mistral gagnant : La start-up française Mistral AI, quatre semaines après sa fondation par d’ancienss chercheurs de Google et Meta, a levé 105 millions d’euros en fonds pour développer une technologie d’IA générative, visant à concurrencer OpenAI et à rendre cette technologie accessible à tous.Pour en savoir plus: Les Échos

QUANTUM

• IBM domine le bruit: Selon un article de recherche d’IBM paru hier dans la revue Nature, son ordinateur Eagle de 127 qubits a réussi à résoudre un problème physique complexe, en appliquant le modèle d’Ising pour calculer la magnétisation d’un système. Malgré les problèmes de bruit qui pèsent sur les processeurs quantiques supraconducteurs, Eagle a réussi à résoudre un problème hors de portée pour les superordinateurs classiques. Big Blue vient par ailleurs d’annoncer la construction d’un datacenter quantique en Europe, à Ehningen, en Allemagne. Il devrait être opérationnel l’an prochain.Pour en savoir plus: Forbes

BLOCKCHAINS

• Mariage d’atout : Hier à Vivatech, le cabinet PWC présentait son rapport, rédigé pour l’Institut Montaigne, sur les atouts de la France dans l’économie Blockchain et la manière de les consolider. Ses 8 recommandations poursuivent deux objectifs : attirer les acteurs étrangers, et assurer un développement du secteur innovant et protecteur des utilisateurs. Pour en savoir plus: Institut Montaigne