Cinq groupes de hackers travaillant pour le compte de la Chine, de la Russie, de la Corée du Nord et de l’Iran ont utilisé les systèmes d’OpenAI pour faciliter la création de cyberattaques, révèle un article de recherche publié par OpenAI et Microsoft. Ces pirates ont utilisé l’intelligence artificielle générative de manière routinière, notamment pour la rédaction d’e-mails, la traduction de documents et le débogage de code informatique.
Le rapport de Microsoft décrit diverses utilisations des modèles de langage par les groupes de hackers : les hackers russes les auraient utilisés pour rechercher des technologies satellitaires et radar pouvant concerner les opérations militaires en Ukraine ; les Nord-Coréens pour générer du contenu destiné à des campagnes de phishing ciblé ; les Iraniens pour rédiger des emails plus convaincants, notamment pour attirer des féministes éminentes vers des sites piégés et les Chinois pour poser des questions sur les agences de renseignement rivales et les problèmes de cybersécurité. OpenAI et Microsoft ont annoncé avoir bloqué les accès des comptes concernés. Les diplomates russes, nord-coréens et iraniens n’ont pas répondu aux demandes de commentaires sur ces allégations. En revanche, un porte-parole de l’ambassade de Chine aux États-Unis a rejeté ces accusations.
Un manifeste à Munich
Ces déclarations de Microsoft et OpenAI s’inscrivent dans le contexte de l’ouverture ce vendredi à Munich de la Munich Security Conference. Selon un projet d’accord consulté par plusieurs médias américains, plusieurs géants de la tech parmi lesquelles Adobe, Google, Meta, Microsoft, OpenAI et TikTok, vont s’engager à l’occasion de la conférence de Munich à développer des outils comme des filigranes et des techniques de détection pour identifier, marquer et démentir les images et audios manipulés de figures publiques.
Cet engagement comprend également une volonté de transparence sur les efforts déployés pour combattre la désinformation générée par l’IA sur leurs plateformes. Cet accord, cependant, n’interdit pas le contenu politique trompeur généré par l’IA.
Le document se présente plutôt comme un manifeste, reconnaissant que le contenu généré par l’IA, dont une grande partie est créée par les outils des entreprises et publiée sur leurs plateformes, présente des risques pour les élections et la démocratie. Il propose des mesures pour atténuer ce risque, telles que l’étiquetage du contenu généré par l’IA et la sensibilisation du public aux dangers de l’IA.
L’accord souligne que la protection de l’intégrité électorale et de la confiance publique est une responsabilité partagée et un bien commun qui dépasse les intérêts partisans et les frontières nationales. Le projet d’accord propose le développement de technologies de détection, d’identifiants basés sur des normes ouvertes et de filigranes utilisant les standards C2PA et SynthID, initiatives impliquant Microsoft, Google et d’autres entreprises technologiques. Cependant, il reconnaît que les outils techniques seuls ne peuvent pas atténuer complètement les risques liés à l’IA, suggérant que l’initiative nécessitera le soutien des gouvernements et d’autres organisations pour sensibiliser le public au problème des deepfakes.
Et des hackers gouvernementaux.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_0d3797f665ef43ea8577c4a9dee63b2a
