GendIArmes et pIArates : la course est ouverte

Pendant que le CEO d’Open AI faisait entendre aux dirigeants européens que son implantation sur le Vieux Continent dépendrait de la sévérité de la règlementation, l’ancien directur général de Google, Eric Schmidt lançait un cri d’alarme. A l’en croire, l’intelligence artificielle pourra poser des “risques existentiels”, définis par un grand nombre de personnes blessées ou tuées, et que les gouvernements devraient savoir comment empêcher l’utilisation malveillante de cette technologie.

Eric Schmidt: Il existe des scénarios, pas aujourd’hui mais dans un avenir assez proche, dans lesquels ces systèmes seront capables de trouver des exploits de type « zero-day » ou de découvrir de nouveaux types de biologie. Il s’agit aujourd’hui d’une fiction, mais ce raisonnement est susceptible de se concrétiser. Et lorsque cela se produira, il faut savoir comment faire en sorte que ces IA ne soient pas utilisées à mauvais escient par des personnes malveillantes

Eric Schmidt n’a pas précisé comment l’IA devrait être régulée, mais il a souligné que cette question dépasse le cadre de la technologie et concerne la société dans son ensemble. Pour la technologie en tout cas, le rapport Top Cybersecurity Threats In 2023 de Forrester Research, qui vient d’être publié, inclut l’IA générative parmi les principales menaces en matière de cybersécurité cette année. Les attaquants utilisent de plus en plus l’IA pour affiner leurs techniques de ransomware et d’ingénierie sociale. L’utilisation croissante des services cloud présente également des risques de sécurité significatifs, notamment les configurations d’infrastructure IaaS non sécurisées. De plus, les tensions géopolitiques, comme l’invasion de l’Ukraine par la Russie ou les tensions commerciales entre la Chine et les États-Unis, peuvent entraîner une augmentation des cyberattaques sur les entreprises.

À quand l’IA de cybersécurité?

L’implémentation efficace des grands modèles de langage (LLM) dans des contextes sensibles à la sécurité représente un défi majeur. Les applications de cybersécurité défensive de l’IA générative en sont encore à leurs débuts, avec des produits comme le Security Copilot de Microsoft en phase de bêta privée. En dépit de leur sophistication, ces outils présentent encore des limites et peuvent véhiculer des informations erronées, ce qui soulève des préoccupations en matière de sécurité.

D’après Forrester, les professionnels de la cybersécurité abordent donc le potentiel défensif de l’IA générative avec un mélange de scepticisme et d’enthousiasme, s’interrogeant sur la capacité de cette technologie à transformer réellement la défense des réseaux et à surpasser les pirates informatiques. Les grandes entreprises du secteur comme Microsoft, Google, IBM et d’autres déploient des outils d’IA pour la cybersécurité, bien que le véritable potentiel et l’impact de ces technologies restent encore flous.

Source : Forrester Research, CNBC

Pour en savoir plus : Venture Beat,