Meta vient d’annoncer son intention de détecter et d’étiqueter les images générées par IA sur Facebook, Instagram et Threads, afin de lutter contre les contenus trompeurs. « Pour ce faire, nous apposons des étiquettes « Imaginé avec l’IA » sur les images photoréalistes créées à l’aide de Meta AI, mais nous voulons également pouvoir le faire pour les contenus créés à l’aide d’outils d’autres entreprises » annonce l’auteur du communiqué Nick Clegg, l’ancien vice-Premier ministre britannique chargé des affaires publiques chez Meta. Meta explique notamment qu’elle met au point des outils capables d’identifier des marqueurs invisibles dans les normes techniques CP2A et IPTC. L’enjeu ici est de pouvoir identifier les images de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock, en leur proposant un standard commun de métadonnées identifiant les images que leurs modèles génèrent.
Une demande suivie immédiatement d’effet. OpenAI a annoncé dans la foulée que les images générées par Dall-e et GPT-4 V incluront désormais des métadonnées utilisant les spécifications C2PA. Cela permettra aux plateformes sociales et aux éditeurs de contenu d’identifier les images générées par l’IA. Cela s’ajoute aux efforts d’autorégulation déjà déployés par Open AI, qui s’est notamment penché sur la capacité de GPT-4 à aider à fabriquer des armes biologiques (lire Qant du 2 février).
Cette initiative de Meta intervient au lendemain de critiques émises par le conseil de surveillance de Meta, un organe formellement indépendant, sur les politiques de contenus sur les deepfakes. Il a statué cette semaine qu’une vidéo manipulée de Joe Biden, suggérant un comportement inapproprié envers sa petite-fille, pouvait rester en ligne sur Facebook. La vidéo d’origine, qui montrait Joe Biden en train d’apposer un sticker « A voté » sur l’épaule de sa petite-fille, a été modifiée pour faire croire à un attouchement répété. Pour justifier sa décision, le conseil a expliqué que les politiques de contenus de Meta n’interdisent que les vidéos faisant tenir un discours inventé à un individu, et non une vidéo modifiée comme c’est le cas pour Joe Biden.
Le conseil a exhorté Meta à revoir rapidement ces politiques, à l’approche des élections prévues en 2024. Mais l’IA fait plus de bruit.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_59ad9094a41a442c8ca9a52efa956c03
