Le Gnome et les autres miracles de l’IA

Résoudre des problèmes mathématiques complexes, découvrir plus de matériaux que l’homme n’est jamais parvenu à le faire ou expliquer la structure des protéines. Autant de prouesses que des modèles spécialisés d’intelligence artificielle réalisent désormais. La “superintelligence artificielle” est en passe de devenir le sujet de conversation des réveillons (lire ci-dessus) existe déjà, mais au sein de modèles spécialisés, pas d’IA générales.

Faire des maths en s’amusant

Google DeepMind a présenté la semaine dernière le modèle de recherche en mathématiques FunSearch. Il explore l’espace des fonctions (Fun pour Function) en combinant un modèle de langage pré-entraîné avec un évaluateur automatique pour éviter les hallucinations. Les chercheurs avancent que, si l’on parvient à contrôler les hallucinations des LLM, leur puissance peut être exploitée non seulement pour produire de nouvelles découvertes mathématiques, mais aussi pour révéler des solutions à des problèmes très concrets.

Après l’évaluation, FunSearch fonctionne de manière itérative, sélectionnant certains programmes d’un pool existant, qui sont ensuite traités par un modèle de langage pour générer de nouveaux programmes. Ces derniers sont évalués automatiquement et les plus prometteurs sont réintroduits dans le pool, créant ainsi une boucle d’amélioration continue. Cette méthode a permis de découvrir de nouvelles solutions pour un problème irrésolu en mathématiques, celui du cap set (qui revient à choisir le plus grand ensemble de points ne pouvant être alignés sur une droite). En informatique, FunSearch a résolu le problème du bin packing, qui a des applications pratiques dans l’optimisation des centres de données.

L’approche de FunSearch a ceci de particulier que l’outil produit des programmes qui révèlent comment les solutions sont construites, plutôt que de se limiter à présenter les solutions elles-mêmes. De plus, FunSearch privilégie la découverte de solutions représentées par des programmes compacts, ce qui facilite leur compréhension et leur application dans divers contextes. 

Un Gnome pour déterrer les matériaux

Quelques semaines avant FunSearch, DeepMind avait présenté un autre système, Gnome, capable de prédire des composés potentiels (lire Qant du 1er décembre).

Gnome a déjà permis de découvrir plus de deux millions de cristaux inorganiques, dont 381 000 présentent une stabilité suffisante pour être potentiellement utilisables, par exemple dans des batteries ou encore des supraconducteurs. Jusqu’à présent, les nouvelles structures stables ont été généralement découvertes par essais et erreurs, en apportant des modifications incrémentielles aux matériaux connus ou en mélangeant des éléments selon les principes de la chimie de l’état solide. Ces expériences humaines ont abouti à la découverte de 20 000 structures de matériaux stables en tout, disponibles dans la base de données Inorganic Crystal Structures Database (ICSD), la plus grande base de données mondiale de matériaux identifiés.

Gnome multiplie donc par 20 le nombre total de matériaux stables connus. Bien que ces matériaux doivent encore être synthétisés et testés, un processus qui peut prendre des mois voire des années, le modèle devrait accélérer considérablement la découverte de nouveaux matériaux nécessaires pour des applications telles que le stockage d’énergie, les cellules solaires et les puces supraconductrices. Parmi les 381 000 matériaux retenus figurent 528 conducteurs potentiels d’ions lithium pouvant être utilisés dans les batteries, et 52 000 nouveaux composés en couches similaires à la structure du graphène, ouvrant la possibilité que certains d’entre eux puissent servir de base à de nouveaux matériaux supraconducteurs.

Gnome a été entraîné en utilisant des données sur les structures des matériaux et leur stabilité. Les chercheurs ont ensuite utilisé Gnome pour suggérer de nouvelles structures susceptibles d’être stables. Des techniques computationnelles établies ont été utilisées pour évaluer plus précisément la stabilité des matériaux générés, améliorant ainsi la précision de ses prédictions de stabilité.

Avant les matériaux, les protéines

Fin octobre, DeepMind a également dévoilé une nouvelle version de son modèle AlphaFold, offrant des données plus précises sur la structure des protéines que ses prédécesseurs et pouvant étudier une gamme plus large de molécules biologiques. 

Les protéines, éléments fondamentaux de la vie, sont en effet des molécules complexes qui se tordent et se plient en diverses formes. La structure d’une protéine influence directement son comportement, ce qui en fait un sujet d’étude majeur. Mais déterminer manuellement la forme d’une protéine peut nécessiter des années de travail. 

Il y a trois ans, DeepMind a été le premier à relever ce défi avec AlphaFold, capable de prédire la structure des protéines en quelques jours. La nouvelle version du modèle offre des capacités de prédiction améliorées, estimant la forme non seulement des protéines mais aussi d’autres molécules biologiques. Elle est notamment utile pour prédire la structure des ligands, des molécules qui peuvent se lier à une protéine et modifier son fonctionnement. Les ligands jouent un rôle crucial dans la signalisation cellulaire, un processus biologique clé par lequel les cellules influencent le comportement les unes des autres. AlphaFold peut également estimer la structure d’autres molécules, y compris les acides nucléiques comme l’ADN et l’ARN. 

Lorsqu’un ligand se lie à une protéine, la structure combinée est connue sous le nom de complexe protéine-ligand. Historiquement, les chercheurs évaluent la forme de ces complexes par une méthode appelée docking, utilisable seulement s’il existe une quantité significative de données sur la composante protéique du complexe. Selon DeepMind, la nouvelle version d’AlphaFold peut prédire la forme des complexes protéine-ligand plus précisément que les meilleures méthodes de docking, et ce, en nécessitant beaucoup moins de données. AlphaFold pourrait ainsi faciliter l’étude de nouveaux complexes protéine-ligand sur lesquels peu d’informations sont disponibles.

Le spectre de l’intelligence artificielle générale agite le monde de l’IA depuis le début de l’hiver. Le projet Q d’OpenAI, probablement à l’origine du départ éphémère de Sam Altman (lire Qant* du 23 novembre) a notamment été perçu comme une percée potentielle vers l’AGI. Alors même qu’il présente encore des limites conséquentes, et notamment son niveau mathématique encore primaire, loin de pouvoir résoudre des problèmes ancestraux… La star de 2024 pourrait bien ne pas être celle que l’on croît.

Pour en savoir plus : 

• Amil Merchant et al., Scaling deep learning for materials discovery, Nature, 2023
• Bernardino Romera-Paredes et al., Mathematical discoveries from program search with large language models, Nature, 2023
• John Jumper et al., Highly accurate protein structure prediction with AlphaFold, Nature, 2021
• Google DeepMind, AlphaFold: a solution to a 50-year-old grand challenge in biology, 2020
• Google DeepMind, FunSearch: Making new discoveries in mathematical sciences using Large Language Models, 2023
• MIT

• Silicon Angle