Aller au contenu

Veille tech & IA — analyses Qant Recherche

Article

Sécurité : en attendant l’IA

De la cyberguerre aux activités criminelles, l’année 2023 a été riche en rebondissements pour l’industrie de la cybersécurité. Après la cryptographie post-quantique et les escroqueries aux cryptomonnaies, elle s’apprête à faire face aux conséquences de l’IA, explosion du phishing en tête.

Sécurité : en attendant l’IA

Après l’Ukraine, le Moyen-Orient. En début de semaine, les tensions entre Israël et l’Iran ont pris une nouvelle tournure avec une série de cyberattaques ciblant des infrastructures critiques dans les deux pays. L’Iran a été frappé par une attaque qui a perturbé environ 70% de ses stations-service, une action revendiquée par le groupe de hackers Gonjeshke Darande, ou « Moineau Prédateur » en farsi. Accusé par l’Iran d’avoir des liens avec Israël, Gonjeshke Darande a reconnu sa responsabilité. Il a également revendiqué des attaques contre  des réseaux ferroviaires et des usines sidérurgiques. De son côté, la Direction nationale de la cyber-sécurité israélienne a annoncé que l’Iran et le Hezbollah étaient responsables d’une cyberattaque contre le Centre Médical Ziv, à Safed en Israël, à la fin novembre, au cours de laquelle 300 000 dossiers de patients ont été dérobés. 

Ces incidents marquent une escalade significative dans le conflit numérique entre Israël et l’Iran, soulignant la vulnérabilité des infrastructures civiles aux cyberattaques : dans le jargon, les systèmes industriels (OT) et informatiques (IT) convergent dans l’Internet des objets (IOT), les rendant tous également vulnérables. Leur nombre ne cesse de croître : la Security Industry Association américaine estime le nombre d’objets connectés à Internet à 16,7 milliards fin 2023 et 29 milliards en 2027. Et la NSA déclare suivre 70 clusters reliés à des États, notamment susceptibles de lancer des campagnes s’appuyant sur des vulnérabilités inconnues jusqu’alors (“zero-day”).

2023 marquera sans doute un nouveau record dans le nombre de failles découvertes. La découverte en octobre d’une faille dans HTTP/2, le protocole adopté par la moitié des requêtes Web dans le monde selon Cloudflare, ne fait qu’aggraver le problème. Cloudflare, l’une des principales entreprises mondiales de sécurité Internet, a observé sur cette vulnérabilité, HTTP/2 Rapid Reset, la plus violente attaque de déni de service de ses annales.

C’est cependant souvent par mail que les pirates pénètrent un réseau et la part des e-mails malveillants ne cesse de croître. En 2023, elle s’élevait en moyenne à 2,65 % des mails analysés par Cloudflare.

En Ukraine, “l’opération spéciale” de l’armée russe a ainsi été préparée par des campagnes massives de phishing, parfois au nom d’organismes officiels ukrainiens, qui ont continué après le début de la guerre. L’une d’entre elles a touché 14 000 personnes.

Or, même si les deepfakes concentrent l’attention, c’est sans doute d’abord par le phishing que l’IA se révélera dangereuse pour la sécurité en 2024. Les LLM peuvent en effet se nourrir de toutes les traces publiques d’une personne pour générer de faux messages de plus en plus crédibles, aussi bien vocaux que par écrit. Les fakes audio commencent à se généraliser ; les deepfakes vidéo demandent encore quelques perfectionnements.

Enfin, au fur et à mesure que l’IA prend une importance croissante dans la vie quotidienne et les affaires, elle devient elle-même une cible d’attaques. Par exemple, Gartner prévoit que 30% des cyberattaques ciblant l’IA exploiteront l’empoisonnement des données de formation, le vol de modèles d’IA ou des échantillons adverses. C’est l’autre dimension de l’atlas de Mitre sur les menaces de l’IA, que l’on retrouve ci-dessous. 

La NSA avait bien de quoi créer un centre dédié à la sécurité, pour aider son écosystème à s’adapter à la nouvelle déferlante.

Pour en savoir plus :

Source archive Kessel : https://qant.kessel.media/posts/pst_c97f535fc82349e390789ef3abbdd303