OpenAI vient d’annoncer le lancement de Text Classifier, destiné à identifier les textes générés par l’IA, y compris ceux produits par son propre modèle GPT-3 (et donc l’omniprésent ChatGPT). Bien que son taux de précision soit modeste (26 %), OpenAI estime que, combiné à d’autres techniques, cet outil contribuera à limiter l’utilisation abusive des générateurs de texte d’IA. OpenAI prévient qu’il ne doit être utilisé que comme une méthode complémentaire, et non comme un outil de décision définitif.
Text Classifier a été entraîné sur les données de 34 modèles de génération de texte , créés par cinq organisations – une mesure intéressante, en soi, du développement des LLM dans le monde La longueur minimale requise pour que le classificateur fonctionne est de 1 000 caractères et son ensemble de données d’entraînement se concentre principalement sur l’anglais.
Source : Open AI
Pour en savoir plus : Tech Crunch
Source archive Kessel : https://qant.kessel.media/posts/pst_e43a6b161084441dab10d710b3659c5c
