La grande menace d’une IA persuasive

Par Mark Esposito, Josh Entsminger et Terence Tse, avec Aurélie Jean

Dans un avenir pas si lointain, l’IA générative alimentera de nouveaux systèmes d’IA capables de persuader n’importe quelle personne ou entité. Des tentatives malveillantes d’ingénierie sociale suivront. Les efforts actuels, comme l’AI Act, ne sont pas suffisants.

L’émergence de l’IA générative alimente une crise d’insécurité épistémique : l’ensemble des connaissances qui nous sont propres sont potentiellement remises en question. Dans un avenir pas si lointain, il sera possible de créer des IA qui s’exprimeront au nom des personnes et des entités capables de s’en permettre une. Ces ambassadeurs présenteront des vérités différentes – une IA pour chaque idéologie. Elles se feront concurrence sur leur capacité à générer des réponses convaincantes pour tel ou tel groupe cible. Cela pourra entraîner une vague d’ingénierie sociale assistée par l’IA, où les plus mauvais acteurs pourront aisément, et sans grand investissement, propager la désinformation et perpétrer des escroqueries.

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE