Les valeurs de Claude • Qant, M. de R. avec GPT-4o
Les assistants conversationnels prennent chaque jour position sur des dilemmes personnels, des questions sociales, des choix de carrière ou de mode de vie. Dans ces échanges, même quand ils se veulent neutres, ils mobilisent implicitement des valeurs. Mais lesquelles ? Et de quelle manière les expriment-ils ?
Pour répondre à ces questions, Anthropic a mené une analyse de grande ampleur, qui repose sur l’examen de 308 210 conversations entre des utilisateurs et le modèle Claude. En ciblant les interactions les plus subjectives — celles où l’IA ne se contente pas de rapporter des faits mais formule une position — l’équipe cherche à cartographier les principes normatifs que le système met en œuvre dans la pratique.
Alors que des études ont pu montrer que des modèles d’IA peuvent tricher – o1 aux échecs, notamment –, l’étude d’Anthropic montre que Claude, conformément à son architecture constitutionnelle, montre systématiquement de bonnes valeurs.
À moins qu’il n’ait triché sans qu’on s’en aperçoive.
Source archive Kessel : https://qant.kessel.media/posts/pst_709cd5f06ebb49fa8a026c980af07a81