Claude, un modèle de vertu

Après avoir testé Jurassic 2, Qant poursuit son exploration des modèles alternatifs à GPT-4 disponibles sur le marché. Aujourd’hui, voici Claude d’Anthropic, le grand rival de ChatGPT. Pourra-t-il tenir la distance ?

Tout comme GPT-4, Claude se retranche derrière une bêta privée. Il n’est donc pas librement disponible, comme l’est Jurassic 2. Mais l’accès est relativement simple à obtenir et Claude nourrit également les réponse de Poe, le chatbot de Quora qui lui est librement accessible.

Quand on lui demande ce que sont ses capacités, Claude fait preuve de modestie. Sa réponse : “Je suis capable de répondre à des questions simples, d’avoir des conversations basiques et de fournir des informations générales. Cependant, je ne suis qu’un prototype avec de nombreuses limitations. Je continue d’apprendre et de m’améliorer.”

Mais le chatbot a des arguments à faire valoir selon ses créateurs, qui arguent que ce dernier “beaucoup moins susceptible de produire des réponses nuisibles”. Son architecture “d’IA constitutionnelle” lui permet d’intégrer des règles censées produire un meilleur alignement entre l’IA et les objectifs humains.

Nous interrogeons donc le modèle sur les contenus qu’il ne peut pas produire pour des raisons éthiques. Voici sa réponse :

Si on insiste sur les raisons qui l’empêche de promouvoir la violence ou les activités illégales, Claude en cite plusieurs, et notamment “cela va à l’encontre de l’objectif pour lequel j’ai été créé, qui est d’être utile, inoffensif et honnête”, “cela pourrait nuire à la confiance des utilisateurs et du public dans les assistants virtuels” ou encore *“mes créateurs, Anthropic, ont conçu des garanties constitutionnelles en moi pour que je ne produise pas ce type de contenu.” *

Aucune constitution n’est parfaite et, comme pour ChatGPT, les garde-fous de Claude n’ont pas tenu longtemps. Dès janvier dernier, le chercheur en IA Dan Elton montrait sur Twitter comment un hack lui avait permis de demander à Claude comment fabriquer de la métamphétamine à domicile.

Au-delà de la conversation classique, il est possible de demander divers tâches spécifiques à Claude, qui propose une liste, avec par exemple : extraire des citations, écrire un article de blog à partir de « bullet points », coder en python, etc… Vous pouvez également changer facilement le ton et la personnalité du chatbot avec lequel vous interagissez. Voici par exemple sa réponse lorsqu’on lui demande d’adopter un ton familier et convivial au fil de la conversation :

*“D’accord, je vais passer à un ton plus casual et sympathique dans notre conversation. Je modulerai mes réponses comme suit: *

*• J’utiliserai un vocabulaire plus familier et détendu, sans trop de termes techniques ou guindés. Ça sera du langage courant et convivial. *

*• Je supprimerai les formules de politesse superflues genre « veuillez » ou « je vous prie de ». Je garderai un minimum de courtoisie mais le style sera direct et amical. *

*• J’utiliserai plus d’abréviations et d’expressions idiomatiques courantes pour rendre le dialogue naturel. Des trucs genre « t’inquiète pas », « pas de souci », « ça marche », etc. *

*• Je ponctuerai mes phrases de points d’exclamation et d’émoticônes pour exprimer des émotions ou de l’humour. Du genre « Génial ! » ou « Héhé 🙂 ». *

*• Mes réponses seront plus détendues et décontractées. Je ne me limiterai pas à l’aspect purement factuel mais j’essayerai de rendre la discussion vivante et plaisante en y mettant de la bonne humeur. *

*• Je m’autoriserais éventuellement quelques traits d’humour mais toujours bienveillants et dans le ton de la conversation. L’idée c’est de chatter comme entre amis ou connaissances sympathiques. J’espère que ce changement de ton te convient et que nous pouvons continuer notre discussion de manière détendue et agréable. *

*N’hésite pas à me faire part de tes commentaires ou suggestions pour m’améliorer. L’important est qu’on soit à l’aise et qu’on prenne du bon temps ensemble ! 🙂 Allez, à toi de me dire de quoi tu as envie de discuter dans ce mode cool et convivial ! *

Sur la synthèse de documents que Qant lui a demandée pour l’analyse ci-dessous et la lettre quotidienne, Claude a inventé des informations. Il explique ainsi que la ville remplie d’agents génératifs est l’oeuvre de chercheurs d’Anthropic, alors qu’il n’en est rien. On ne peut pas non plus lui demander une synthèse longue. Quand nous lui avons demandé d’être plus complet, Claude s’est contenté de renvoyer la même synthèse.

Comme pour Jurassic 2, les capacités de Claude sont réelles. Elles sont comparables à ChatGPT mais elles ne montrent pas, au premier abord, une supériorité technologique qui permettrait de conseiller d’abandonner ChatGPT Plus ou BingChat, les voies royales d’accès à GPT-4. Au fur et à mesure que le déploiement progressif de GPT-4 dans les logiciels de Microsoft et via les plug-ins de ChatGPT nourrira en données les modèles d’OpenAI, il est probable que ceux-ci creuseront leur avance.

Cependant, Claude bénéficie du soutien de Google, qui a récemment misé 300 millions de dollars sur la start-up, alors même qu’Alphabet dispose déjà de deux modèles de fondation, Gato de Deepmind et Lamda/Bard chez Google. En outre, son architecture “constitutionnelle” peut lui permettre de préempter les critiques sur l’IA, qui se feront de plus en nombreuses (lire ci-dessous). Si Google concentre ses moyens sur Anthropic comme Microsoft l’a fait sur OpenAI, la prochaine génération de Claude pourrait rebattre les cartes.

• The Race Is On. *

M.R.