OpenAI vient de mettre ChatGPT et le modèle de dictée et traduction Whisper à la disposition des développeurs et des entreprises via son API. Une optimisation appelée GPT-3.5-turbo permet de diviser par 10 les coûts d’utilisation du modèle, à 0,002 $ par 1 000 jetons (environ 750 mots de texte non structuré) pour ChatGPT et 0,006 $ la minute pour Whisper. Comme ChatGPT, ce modèle est disponible en plusieurs langues, ce qui lui offre des capacités de traduction vers l’anglais en plus de la transcription speech-to-text.
Ces prix réduits visent officiellement à permettre à davantage d’entreprises de tirer parti des capacités d’OpenAI pour développer des applications de nouvelle génération. Cependant, ces prix se réfèrent aux modèles mutualisés.
Or, OpenAI offre la possibilité aux utilisateurs de bénéficier d’instances dédiées pour mieux contrôler les versions de leurs modèles et la performance de leur système, voire d’entraîner les modèles sur leurs fonds documentaires. Outre Snap, qui a basé My AI de Snapchat sur ChatGPT (cf. Qant du 28 février), les premières références comprennent des apps mobiles assez connues, comme Shop de Shopify, qui se targue d’avoir 100 millions d’utilisateurs, et Instacart (cuisine et alimentation).
Les prix sont alors bien différents et préfigurent ce que pourrait être GPT-4. Nous reviendrons sur ce point demain, dans Qant Expert.
Source : OpenAI
Pour en savoir plus : Tech Crunch
Source archive Kessel : https://qant.kessel.media/posts/pst_cda8120cc3244f1190494ea43e8c4a13