Début novembre, la vice-présidente des États-Unis Kamala Harris a mis en garde contre les risques majeurs liés à l’IA, qui pourraient menacer l’existence même de l’humanité. Parmi ces menaces, la formulation d’armes biologiques par l’IA, qui ont été discutées lors du sommet mondial sur la sécurité de l’IA au Royaume-Uni (lire Qant du 6 novembre). On peut rester sceptiques mais de fait, les modèles d’intelligence artificielle peuvent contribuer à la planification d’une attaque biologique, sinon à la création d’un agent pathogène.
Dans une étude récente, la Rand Corporation a testé plusieurs grands modèles de langage (LLM) et découvert qu’ils pouvaient fournir des conseils susceptibles d’aider dans la planification et l’exécution d’une attaque biologique. Dans un des scénarios testés par le think tank, un LLM a identifié des agents biologiques potentiels, évalué la possibilité d’obtenir des rongeurs ou des puces infectés par la peste, et discuté des facteurs influençant l’ampleur des décès en cas de pandémie de peste pulmonaire. Les chercheurs de Rand ont admis que pour extraire ces informations d’un LLM, il était nécessaire de « jailbreaker » le modèle, c’est-à-dire d’utiliser des prompts pour contourner les restrictions de sécurité du modèle (lire Qant du 18 octobre).
Lever le voile de l’ignorance
En 1990, Aum Shinrikyo avait dispersé à Tokyo un liquide contenant potentiellement de la toxine botulique. Seul leur manque de connaissances spécifiques a empêché la réussite de leur attaque, d’après Jonas Sandbrink, technical leader du tout nouveau Institut britannique pour la sécurité de l’IA, lancé début novembre (lire Qant du 6 novembre). Dans une étude réalisé pour l’université d’Oxford, où il faisait ses recherches jusqu’à début novembre, il suggère que l’accès à des outils d’IA avancés aurait pu permettre à Aum Shinrikyo, ou à des groupes similaires, de surmonter leurs lacunes.
La facilité d’accès à des connaissances spécialisées que promet l’IA pourrait donc potentiellement permettre à des acteurs malveillants d’acquérir les compétences nécessaires pour se servir efficacement des armes biologiques. Voire en développer.
Libre création
Les systèmes d’IA actuels sont en effet déjà en mesure de remplir certaines étapes complexes dans les processus de production biologique, bien que de manière incomplète et peu fiable, d’après le cofondateur d’Anthropic Dario Amodei, qui témoignait devant le sénat américain. Ils pourraient combler leur retard dans les deux à trois années à venir, estime-t-il.
Jonas Sandbrink estime pour sa part que les avancées dans les outils de conception biologique comme AlphaFold2 et RFdiffusion peuvent faciliter la création d’agents biologiques aux propriétés sans précédent, tout comme ils offrent des avantages significatifs en termes de développement de médicaments et de solutions thérapeutiques. Il indique même que ces nouvelles capacités de conception pourront aider à créer des pandémies plus destructrices que le Sars-Cov-2.
Plus besoin d’un laboratoire à Wuhan.
Pour en savoir plus :
- Christopher Mouton,The Operational Risks of AI in Large-Scale Biological Attacks, Rand Corporation 2023
- Jonas Sandbrink, Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools, Arxiv, Juin 2023
- Maison Blanche
- Sénat des États-Unis
- Semafor
- The Guardian
Source archive Kessel : https://qant.kessel.media/posts/pst_f53d7d0392f64478ae46533eb4a3a9c9
