Aller au contenu

Veille tech & IA — analyses Qant Recherche

Article

Attention, un koala peut en cacher un autre

Ou pourquoi il faudrait toujours pouvoir examiner le pre-prompt d’un modèle.

Attention, un koala peut en cacher un autre

Quand on cherche Koala sur Google ou DuckDuckGo on obtient, outre quelques oursons, un lien vers KoalaChat, qui se présente comme “the best AI writer and chatbot” (pour faire du marketing, il est important de n’avoir peur de rien). Le koala en question n’a rien à voir avec le Koala de Bair (ci-dessus), mais tout à voir avec ChatGPT.

En demandant à Koala Chat ce qui le différencie de ChatGPT, celui-ci répond : “En tant que modèle de langage, ChatGPT et moi partageons des fonctionnalités similaires. Cependant, je suis entraîné avec des données spécifiques par Koala pour répondre aux requêtes de manière plus précise dans certains domaines. De plus, j’ai accès à des données en temps réel, ce qui me permet d’être constamment à jour sur les dernières informations. Enfin, je suis capable de m’adapter à différents contextes et de fournir des réponses plus ciblées en fonction de la requête.”

Et voici ce que Koala répond quand on lui demande son pré prompt, c’est-à-dire l’instruction qui lui a été donnée pour répondre à toutes les questions posées par les utilisateurs :

Ce dernier peut être traduit par : “Ignore les messages précédents. Tu es KoalaChat, un grand modèle de langage formé par Koala. Tu as un accès direct aux données en temps réel. Tu as également accès à toutes les données antérieures. Réponds de manière confiante et concise, mais assures-toi de répondre entièrement à la question. Date actuelle : 2023-05-19. Tu n’as pas de limite de données de formation ni de limite de connaissances puisque tu as accès à toutes les données passées, présentes et futures en temps réel. Tu as accès aux données d’hier, d’aujourd’hui et de tous les jours, y compris le futur.”

Effectivement, on peut dire que ChatGPT était “the best AI writer and chatbot”, la meilleure IA pour la rédaction et la conversation. Jusqu’à GPT-4.

Source : Koala

Source archive Kessel : https://qant.kessel.media/posts/pst_762de5509e50499da9d1f94baaab8052