La sécurité informatique, entend-on souvent dire, commence et se termine par des êtres humains. D’un bout à l’autre de la chaîne, toutefois, la présence de l’IA commence à se généraliser. Par exemple, LinkedIn teste actuellement l’utilisation de l’intelligence artificielle générative pour aider ses employés et fournisseurs externes à obtenir rapidement des réponses concernant ses politiques de cybersécurité. La plateforme, propriété de Microsoft, a développé un chatbot dédié, basé sur les modèles de langage d’OpenAI, pour répondre aux questions de cybersécurité des employés en environ cinq secondes, contre quinze minutes pour une réponse humaine. Les premiers tests montrent que le modèle est précis à environ 90%: le gain est net, même si une supervision humaine reste nécessaire.
Phishing with AI
Plus en amont dans la chaîne, la diffusion de l’IA bénéficie aux bons comme aux méchants, aux voleurs comme aux gendarmes. L’IA générative, par exemple, permet de rendre plus crédibles les attaques de phishing, avec des expéditeurs plus vraisemblables que “Noreply-info-DGFIP <b30.26@icloud.com>” et des messages plus réalistes que par exemple celui-ci :
“Après réevaluation fiscale et processus algorithmique de notre système suite aux multiples opérations de régularisation de la DGFIP sur vos multiples prélèvements bancaires, et compte tenu du montant de l’impôt réel à payer, nous vous informons que vous êtes à ce jour admissible à recevoir votre remboursement.
En second lieu, nous avons l’honneur de vous faire tenir ci-joint le montant perceptible par votre personne : 1479€.
A cet égard, vous êtes donc en droit à ce jour, d’entamer la procédure de remboursement directement dans votre espace personnel en cliquant ci-dessous.Veuillez nous soumettre votre demande de remboursement pour nous permettre de la traiter dans les plus bref délais.
Accéder au formulaire de remboursement
Notez bien que votre dossier sera validé dans un délai de 2 jours ouvrables à compter de la date d’envoi de votre demande.ATTENTION ! :Ce lien est valable pour une durée de 48 heures. »
Dans le genre, ChatGPT peut clairement faire mieux. Mais les modèles d’OpenAI sont surveillés et entraînés pour ne pas répondre à ce genre de demande. Les acteurs de la cybercriminalité doivent donc intégrer des modèles open source, les débrider par un “jailbreak” et les installer sur leurs propres serveurs en se procurant les puces nécessaires. “Pour l’heure, la diffusion de l’IA favorise la défense”, explique Filippo Cassini, Global Technical Officer de la société de cybersécurité Fortinet, l’un des leaders du secteur : “Il ne s’agit pas que de mettre les mains sur un modèle d’IA, encore faut-il disposer des ressources de calcul que cela implique”. Ce n’est cependant probablement qu’une question de temps.
Menaces émergentes…
Outre le phishing, commente son collègue Derek Manky, Global VP, Threat Intelligence chez Fortinet, l’IA générative peut déjà faciliter des attaques de profiling. Il s’agit dans ces cas-là de remonter vers les cibles les plus profitables dans une entreprise, comme le directeur administratif et financier. Pour l’atteindre, les cybercriminels doivent envoyer des mails ciblés à ses collaborateurs – et l’IA générative peut être d’une grande aide.”Cela s’apparente à de l’OSINT, le renseignement sur sources ouvertes”, continue Derek Manky : “Nous vivons dans un monde riche en métadonnées, trop souvent librement disponibles”.
Les deep fakes ne sont que l’exemple le plus connu d’une boîte à outils pour cyber-escrocs qui s’enrichit et se perfectionne. L’association Mitre Corporation dénombre, dans un fascinant “Atlas” (Adversarial Threat Landscape for Artificial-Intelligence Systems), plus de 50 tactiques d’attaque où l’IA peut être utilisée ou l’a déjà été. .
L’agence européenne de cybersécurité, l’Enisa, a ainsi récemment alerté sur le risque que les nouveaux modèles d’IA puissent perturber les élections européennes de juin prochain, en étant utilisés dans des campagnes de manipulation d’informations à grande échelle (lire Qant du 25 octobre). Europol a également mis en garde contre l’utilisation criminelle de systèmes d’IA comme ChatGPT pour la fraude en ligne et d’autres cybercrimes.
… et vrai business
Ces menaces ne représentent cependant que la pointe émergée de la cybercriminalité, qui prospère sur des attaques plus traditionnelles : failles zero-day, rançongiciels… Même les dénis de service distribué (DDOS) ne passent pas de mode. On voit en particulier prospérer les attaques zero-day, qui reposent sur des vulnérabilités que personne, avant le pirate, n’avait décelées. Fortinet en a recensé 22 000 depuis le début de l’année, contre 25 000 pour tout 2022. Les brokers en failles se structurent et perfectionnent leurs techniques de chantage et de blanchiment, via les cryptomonnaies. Un groupe de hackers pro-russe connu, Killnet, est allé jusqu’à établir sa propre bourse de cryptomonnaies, Killnet Exchange.
L’IA pourra aider ces pirates à déceler de nouvelles vulnérabilités. Mais dans l’immédiat, elle assiste les sociétés comme Fortinet à analyser les fichiers qui transitent dans un réseau d’entreprise, pour y déceler des virus ou d’autres menaces. Elle peut aussi traiter les logs en temps réel pour déceler des comportements anormaux, dans une logique assez proche des modèles qui décèle des fraudes dans une grande masse de transactions. Voire, à un terme assez proche, surveiller le trafic de tout un réseau.
Clausewitz, encore
Pour l’heure, dans une logique inspirée de L’Art de la guerre de Carl von Clausewitz, l’IA semble donc favoriser la défense plutôt que l’attaque, la cuirasse plus que la lance. Mais de nouveaux champs se profilent déjà à l’horizon : qu’en sera-t-il quand l’IA générative aidera, massivement, à casser les mots de passe des utilisateurs ? et pourra-t-on un jour attaquer des modèles d’IA ? Après tout, il est déjà possible de perturber leur fonctionnement par des prompts mal intentionnés (dans les prompt injections et les jailbreaks). Qui s’apercevra jamais qu’on a manipulé la boîte noire qu’est un réseau neuronal de deep learning ?
LinkedIn est loin d’être seul. De nombreuses autres grandes entreprises, comme le fabricant de jouets Mattel, expérimentent également l’utilisation de l’IA générative pour des tâches répétitives en cybersécurité. Mais ces questions resteront en filigrane de toute politique de déploiement de l’IA.
La cryptographie post-quantique promettait un nouveau départ à l’industrie de la cybersécurité. C’est l’IA qui pourrait lui apporter.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_e4aa93b2b737492ea6b394d685a38f1c
