La Grande-Bretagne sonne l’alarme sur les potentielles menaces que représente l’IA pour la sécurité nationale, et notamment ses capacités de manipulation. L’ancien avocat Jonathan Hall, désormais chargé d’évaluer la pertinence de la législation antiterroriste Outre-Manche, a ainsi déclaré que la technologie devait être conçue en tenant compte des intentions des terroristes. Il a également souligné que trop de développements d’IA sont centrés sur les aspects positifs de la technologie sans considérer son utilisation potentielle par les terroristes. Les services de sécurité britanniques sont particulièrement préoccupés par la capacité des chatbots à manipuler des mineurs, qui constituent une part croissante des cas de terrorisme suivis par le MI5.
Pourtant, l’usage de l’IA pour la cybersécurité commence à se répandre dans le secteur privé. OpenAI vient de lancer un programme de bourses en cybersécurité. Dotée de 1 million de dollars, l’initiative vise à soutenir des projets visant à développer des méthodes de quantification pour évaluer l’efficacité des modèles d’IA en cybersécurité et à favoriser des discussions approfondies sur la relation entre l’IA et la cybersécurité.
L’éditeur texan CrowdStrike vient ainsi de lancer Charlotte AI, un bot présenté comme un analyste de sécurité basé sur la génération automatique de données. Pour sa part, le géant américain de la distribution, Walmart, étudie l’utilisation de l’IA générative pour examiner la masse de données qu’il traite à la recherche d’activités suspectes. Rob Duhart, directeur adjoint de la sécurité de l’information de Walmart, a expliqué au Wall Street Journal que, pour gérer des milliards de lignes de code et de points de données chaque année, une certaine forme d’automatisation est inévitable. Cependant, l’IA est utilisée de manière guidée, nécessitant toujours le contrôle et l’intuition humaine pour interpréter le contexte que l’IA pourrait manquer.
Presque du journalisme.
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_a04ee6e0196c46f48b29b887d09d8ba8
