Les biais cachés des grands modèles de langage

“Le robot, juge raciste” (Qant, M. de R. avec Midjourney)

Une étude menée par des chercheurs de l’université Stanford, de l’université de Chicago et de l’Allen Institute for AI, met en lumière la présence de préjugés racistes subtils dans les grands modèles de langage comme GPT-4. Selon cette étude publiée dans Nature, ces systèmes d’intelligence artificielle manifestent une forme de racisme voilé contre les locuteurs de l’anglais afro-américain (AAE). Ce phénomène, appelé « préjugé dialectal », apparaît sans que la race ne soit explicitement mentionnée, ce qui soulève des inquiétudes sur le rôle des IA dans la perpétuation et l’amplification des discriminations existantes.