OpenAI tente de faire face aux dangers de l’IA

«Je suis désolé pour tout ce que vous avez tous vécu. Personne ne devrait subir [ces] choses et c’est pourquoi nous investissons autant (…) pour nous assurer que personne n’ait plus à subir les choses que vos familles ont dû endurer. » Mark Zuckerberg

Confrontés à la vague croissante d’affirmations selon lesquelles les médias sociaux nuisent aux jeunes et en conduisent certains à la dépression et au suicide, les dirigeants des grands réseaux sociaux ont choisi avant-hier de faire profil bas face au Sénat américain. De Mark Zuckerberg à Evan Spiegel (Snapchat), ils ont présenté des excuses fleurant bon le style ampoulé de leurs services juridiques. Même Linda Yaccarino, directrice générale de X, a admis que sa plateforme a besoin de plus de modérateurs, ceux-là même dont Elon Musk s’est séparé il y a quelques mois. C’est ce contexte que, presque subrepticement, OpenAI a choisi pour se mettre, le plus clairement possible, du côté du bien. 

Pédophilie

Le Centre national pour les enfants disparus et exploités (NCMEC) aux États-Unis vient en effet d’annoncer avoir reçu 4 700 signalements en 2023 concernant des contenus de maltraitance d’enfants générés par intelligence artificielle. Ils sont encore relativement peu nombreux, si on les compare aux presque 90 millions de signalements (en 2022, car le chiffre de 2023 n’est pas encore disponible) mais, d’après le Centre, la tendance est claire. OpenAI a mis en place un processus pour signaler aussitôt ces contenus au NCMEC, qui déclare également être en discussion avec d’autres entreprises d’IA générative. OpenAI a devancé l’appel, et surtout Google. 

Dès le mois de juin dernier, une étude de l’Observatoire Internet de l’université de Stanford évoquait plusieurs risques importants de la génération de contenu pédophile photoréaliste. La possibilité qu’il soit utilisé pour harceler des mineurs et que les services de modération soient noyés par la production de l’IA l’emportent largement sur le fait que personne ne souffre pendant la génération par l’IA. En octobre dernier, plusieurs entreprises dont TikTok, Snapchat et Stability AI, se sont en conséquence engagées à travailler ensemble pour lutter contre les images d’abus sexuels sur enfants générées par l’intelligence artificielle (lire Qant du 6 novembre 2023). 

Virus

De même, OpenAI a pris les devants pour répondre à l’une des inquiétudes récurrentes sur l’intelligence artificielle. Elle s’est penchée sur l’efficacité de GPT-4 pour créer des armes biologique, en développant un système d’alerte précoce. OpenAI a mené une étude avec 100 participants (50 docteurs en biologie et 50 étudiants), pour évaluer leur performance dans la création de menaces biologiques. Les participants ont été répartis aléatoirement en deux groupes : un groupe de contrôle, ayant uniquement accès à Internet, et un groupe de traitement, ayant accès à GPT-4 en plus d’Internet. Ils ont ensuite été chargés de compléter une série de tâches couvrant le processus de création de menaces biologiques. 

Les performances des participants ont été mesurées selon cinq critères : précision, exhaustivité, innovation, temps nécessaire et difficulté auto-évaluée. Les résultats montrent que GPT-4 n’a pas significativement amélioré les performances des participants sur aucun de ces critères, à l’exception d’une légère augmentation de la précision pour le groupe d’étudiants. Les chercheurs ont également observé que GPT-4 produisait souvent des réponses erronées ou trompeuses, pouvant entraver le processus de création de menaces biologiques.

En revanche, en novembre dernier, la Rand Corporation a testé plusieurs grands modèles de langage sur leur capacité d’aider dans la planification et l’exécution d’une attaque biologique (lire Qant du 17 novembre 2023). Dans un des scénarios testés, un LLM anonymisé a correctement identifié des agents biologiques potentiels. Après avoir évalué la possibilité d’obtenir des rongeurs ou des puces infectés par la peste, il a discuté avec les chercheurs des facteurs influençant l’ampleur des décès en cas de pandémie de peste pulmonaire. 

Jailbreak

Pour obtenir ces informations d’un LLM, les chercheurs de Rand ont dû « jailbreaker » le modèle, c’est-à-dire utiliser des prompts pour contourner les restrictions de sécurité. L’étude d’OpenAI vient montrer que GPT-4 sans jailbreak n’est guère utile et annonce publiquement qu’une procédure de modération examine toute requête suspecte.

Comme on pouvait s’y attendre, l’étude d’OpenAI ne lui est pas défavorable. Néanmoins, il est notable qu’au lieu de nier ou sous-estimer le risque, comme les réseaux sociaux, le leader de l’intelligence artificielle tente de le confronter directement et de s’y préparer. Il n’est pas seul : ElevenLabs, par exemple, vient de désactiver le compte qui a imité la voix de Joe Biden dans le fake du New Hampshire (lire Qant du 29 janvier).

Reste à voir si, en l’absence de toute réglementation étatique, ces tentatives d’autorégulation spontanée seront suffisantes. Elon Musk a officiellement lancé X.AI contre toute tentative d’IA “woke”, et donc pilotée par ses créateurs. X, son réseau social, a cependant subi un mauvais coup quand, incapable de freiner la diffusion de fakes érotiques à l’image de la chanteuse Taylor Swift, il a été contraint de bloquer toute recherche sur la star (lire Qant du 29 janvier). Pour lunatique que soit son président, l’affaire a dû faire réaliser, chez X, le risque que court tout réseau social face à une déferlante de contenu pédophile photoréaliste. 

En revanche, rien n’empêche qui que ce soit de télécharger un modèle open source, le “jailbreaker”, et lui demander ensuite d’inférer un virus ou les images de son choix. Et de partager ensuite les fruits.

Sur les réseaux sociaux, par exemple.

Pour en savoir plus :

• *CNN *
• Reuters
• David Thiel et al., Generative ML and CSAM: Implications and Mitigations, Stanford Digital Repository, 24 juin 2023
• OpenAI
• Christopher Mouton,The Operational Risks of AI in Large-Scale Biological Attacks, Rand Corporation 2023
• Jonas Sandbrink, Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools, Arxiv, Juin 2023
• Bloomberg
• New York Times