Pourquoi se méfier de l’IA. Et comment.

De la confiance dans l’IA. • Qant, M. de R. avec GPT-4o

À l’heure où la notion d’« IA de confiance » s’impose dans les textes réglementaires comme dans les discours industriels, une équipe de chercheurs allemands défend un point de vue inverse : celui d’une méfiance raisonnée comme condition nécessaire à une relation saine entre humains et systèmes automatisés. Leur article s’inscrit en réaction à une tendance qu’ils jugent problématique : considérer que la conformité d’un système à une série de critères techniques — transparence, robustesse, équité, explicabilité — devrait suffire à susciter la confiance. Or, cette approche fait abstraction du contexte social, politique et économique dans lequel l’IA est utilisée, et des rapports de pouvoir qui traversent ses usages. On peut avoir de bonnes raisons de se méfier d’un système, même s’il est certifié, dès lors qu’il est utilisé à des fins qui vont à l’encontre de ses intérêts.