Geoffrey Hinton dénonce les risques des chatbots

Geoffrey Hinton, figure emblématique de l’intelligence artificielle et spécialiste des réseaux neuronaux, vient d’annoncer qu’il quittait Google. Âgé de 75 ans, il a indiqué au New York Times qu’il se séparait de l’entreprise, qu’il considère agir de manière «très responsable», afin de pouvoir parler sans réserve des risques liés à l’IA et exprimer certains regrets quant à son implication dans ce domaine. Il a souligné que les chatbots pourraient devenir plus intelligents que les humains et être exploités à des fins malveillantes, notamment par des dirigeants autoritaires pour influencer leur électorat.

Les inquiétudes de Hinton ne se limitent pas aux dangers immédiats, mais elles englobent également les conséquences à long terme de l’IA sur la société. Il craint que les avancées de l’IA ne rendent de plus en plus difficile la distinction entre le vrai et le faux, avec la création d’images, de vidéos et de textes générés par ordinateur. De plus, Hinton redoute que l’IA ne finisse par remplacer des emplois tels que les juristes, les assistants et bien d’autres tâches. Il figurait parmi les figures de proue de la lettre demandant une pause du développement de l’IA, aux côtés de Gary Marcus et, côté business, Elon Musk et Steve Wozniak (voir Qant du 29 mars).

Source : New-York Times, Geoffrey Hinton

Pour en savoir plus : BBC