Dans le contexte de la sophistication quasi exponentielle des modèles d’intelligence artificielle, la protection de leurs poids – les paramètres définis au cours de l’entraînement – est cruciale pour prévenir leur utilisation malveillante. Dans l’alerte qu’il a lancée début juin, l’ancien chercheur d’OpenAI Leopold Aschenbrenner juge cruciales la sécurité des poids et la protection des avancées algorithmiques, pour éviter que des adversaires ne dépassent ou ne rattrapent les efforts des États-Unis (lire Qant du 14 juin). Un rapport de la Rand Corporation vient faire chorus. Les poids des modèles d’IA représentent des investissements majeurs en données et en ressources informatiques. L’entraînement de modèles avancés comme GPT-4 nécessite des mois de calcul sur des dizaines de milliers de GPU, au prix de centaines de millions de dollars. La compromission de ces poids permet à un attaquant de disposer d’un accès direct à l’élément central d’une IA, avec la capacité presque illimitée de les exploiter à des fins malveillantes. Mais certains modèles sont open source et “open weight”, ce qui ouvre une problématique à part.
L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE
Source archive Kessel : https://qant.kessel.media/posts/pst_e1139e6ad0bc4bc9bbbba8f446a119d0
