La « Digital Learning Week » de l’Unesco a rassemblé la semaine dernière des experts mondiaux pour discuter de la transformation numérique de l’éducation: parmi eux, Yann Le Cun, prix Turing et vice-président de Meta en charge de l’intelligence artificielle, Daniel Andler et Yoshua Bengio, de la Sorbonne et l’université de Montréal, respectivement. Une enquête mondiale auprès de plus de 450 établissements scolaires et universitaires a montré que moins de 10 % d’entre eux – surtout des universités – ont mis en place des politiques institutionnelles ou des directives formelles concernant l’utilisation des applications d’IA générative. L’Unesco souligne donc la nécessité d’un programme officiel d’IA pour l’éducation et la formation et appelle les gouvernements à mettre en place rapidement des réglementations, ainsi que des formations pour les enseignants. Pour les y aider, elle présente des directives mondiales pour réglementer l’utilisation de l’IA générative dans l’éducation et la recherche dans une approche “centrée sur l’humain” et “axée sur la protection des droits de l’homme, de l’autonomie, de l’inclusion et du pluralisme lors de la régulation et de l’utilisation de l’IA générative dans l’éducation”.
Politique
Le document, comme on voit, est très politique. “L’approche humaniste de l’IA” se fonde notamment sur le consensus de Pékin en 2019 et les travaux précédents de l’Unesco en matière d’éthique de l’intelligence artificielle, mais l’Unesco propose, plus concrètement:
- Des réglementations internationales ou régionales pour réguler la collecte et l’utilisation des données personnelles similaires au RGPD européen :
- Des stratégies nationales globales sur l’IA pour assurer des réponses coordonnées et intégrées dans tous les secteurs, y compris l’éducation.
- Des réglementations spécifiques sur l’éthique de l’IA.
- Une application stricte des lois sur le droit d’auteur au contenu généré par l’IA, en ajustant le droit pour éclaircir le statut de l’auteur d’une œuvre générée par IA.
- Des cadres réglementaires spécifiques à l’IA générative, sur la base d’une évaluation des lacunes dans les lois existantes.
- Des cadres, des formations, des outils et des référentiels pour une utilisation appropriée de l’IA générative dans l’éducation et la recherche.
- Une réflexion interdisciplinaire sur ce qu’implique, à long terme, la généralisation de l’IA dans l’éducation et la recherche .
Réalisme
Un âge minimum de 13 ans pour l’utilisation des outils d’IA en classe a même été évoqué. Cela semble assez peu réaliste.
En attendant que le droit et l’action publique s’adaptent à la technologie, l’Unesco insiste sur la responsabilité des fournisseurs de GenAI à respecter des valeurs fondamentales et à prévenir la désinformation, tout en protégeant les droits des enseignants et chercheurs utilisant la GenAI. Elle liste leurs 10 responsabilités principales, comme d’assurer des données et modèles fiables, prévenir les biais, et étiqueter le contenu généré. Mais l’absence à la conférence des grands éditeurs, OpenAI, Microsoft et Google, peut porter à s’interroger sur la mise en œuvre, malgré l’appétit pour la réglementation que Sam Altman montre dans ses discours.
De leur côté, les institutions éducatives devraient d’après l’Unesco auditer les algorithmes et données, valider la proportionnalité, et examiner les impacts à long terme. Cela semble bien au-delà de leurs capacités. Par exemple, l’université américaine de Yale, l’une des plus riches au monde et l’une des premières à donner de nouvelles directives à son personnel concernant l’intelligence artificielle et l’apprentissage automatique, s’est contentée d’actions bien plus modestes. Les dirigeants ont envoyé un e-mail aux professeurs pour les sensibiliser aux implications de cette technologie pour l’enseignement et la recherche, qui contenait un lien vers une nouvelle page web fournissant des ressources et des orientations sur l’IA pour le personnel enseignant.
Alors que certains établissements interdisaient l’utilisation de ChatGPT, Yale a considéré que cette décision doit être spécifique à chaque école ou discipline. Certains professeurs mettent en garde contre la dépendance à l’IA et d’autres tâchent d’exploiter son potentiel en tant qu’outil pédagogique.
L’Unesco fait grand cas de la “co-conception” par les enseignants, apprenants et chercheurs des utilisations concrètes de l’IA générative pour assister l’enseignement. Elle l’envisage comme coach personnel pour l’acquisition de compétences de base, la pratique des langues, l’apprentissage du code et des mathématiques et considère qu’elle peut jouer un rôle dans l’apprentissage par projet ou le questionnement socratique. Elle peut aussi assister les enseignants dans la conception de leurs cours et soutenir la recherche en développant des questions et en résumant la littérature.
Inquiétudes
Au revers de la médaille, les questions éthiques et juridiques concernant l’accès, la propriété intellectuelle, les relations humaines, le développement intellectuel, l’impact psychologique et les biais cachés sont nouvelles, mais désormais assez bien connues. On sait aussi qu’il faudra rapidement repenser l’évaluation et les résultats d’apprentissage au-delà des compétences de base que l’IA maîtrise mieux que les humains.
En revanche, à plus long terme, l’homogénéisation des réponses générées par l’IA menace subtilement la diversité et la créativité humaines, d’autant que les sources de contenu et d’apprentissage risquent d’être altérées, avec une dépendance accrue au contenu généré par l’IA. Cette version de “l’infocalypse” demande à être pensée et réfléchie.
Plus généralement, l’interaction humain-IA pourrait bien transformer les processus de pensée et d’acquisition des connaissances. Si c’est le cas, les systèmes héritiers de l’instruction publique et des éducations nationales auront, partout dans le monde, un nouveau but : la relation complémentaire entre l’autonomie humaine et l’IA.
Ou, pour le dire clairement : faire en sorte que l’IA ne supplante pas les capacités humaines, mais les étende.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_d37961218bd645f5b267caeb46b23a39
