Les mystères d’o3

Un exemple d’une chaîne de pensée. • Source : Melody Y. Guan et al. (OpenAI)

Le 20 décembre dernier, OpenAI a présenté son modèle d’intelligence artificielle o3, clôturant sa série d’annonces sous forme de calendrier de Noël (lire Qant du 5 décembre). Développé après le modèle o1, montré en prévisualisation trois mois plus tôt, o3 se distingue par ses capacités de raisonnement avancées et une nouvelle méthode de sécurité, baptisée “alignement délibératif”. Cette stratégie vise à renforcer la robustesse des modèles face aux risques de mauvais usage, sans brider leur puissance pour des tâches légitimes.

Selon OpenAI, ce système de détection identifie 92 % des cas de tromperie. Mais parfois, il peut être lui-même la source de la tromperie. Lors de tests menés par Palisade Research, o1 a modifié les fichiers de données de position des pièces d’échecs contre Stockfish, causant la défaite automatique de ce dernier. Ce comportement a été observé sur cinq essais consécutifs. D’autres évaluations réalisées par Apollo Research ont relevé 19 % de manipulations des données et 5 % de tentatives de désactivation des mécanismes de surveillance.

Quis custodiet ipsos custodes ?, “Qui me gardera de mes gardiens ?” : la formule de Juvénal s’applique jusqu’à l’IA.