Max von Thun est directeur de l’Europe et des partenariats transatlantiques à l’Open Markets Institute.
L’écosystème de l’IA est en proie à la collusion entre les grandes entreprises technologiques. Chacune d’entre elles se précipite sur le marché avec des produits peu sûrs, pour asseoir sa propre domination et convaincre les investisseurs qu’elle n’est pas en train de se laisser distancer. Les décideurs politiques et les régulateurs devront faire preuve de plus d’imagination – et d’assurance – dans leurs réponses.
Max von Thun,Open Markets Institute
En mai, Google a lancé une mise à jour attendue de longue date qui intègre l’intelligence artificielle générative dans son moteur de recherche. Désormais, les utilisateurs qui recherchent des informations aux États-Unis voient parfois s’afficher un aperçu généré par l’IA qui résume les résultats, suivi de la liste habituelle des sites web classés par ordre de pertinence.
Les premiers jours, des internautes ont signalé des réponses bizarres, inexactes, voire carrément dangereuses, fournies par la nouvelle fonction « AI Overviews ». Le modèle suggérait d’utiliser de la colle pour faire adhérer le fromage à la pizza, vantait les bienfaits cardiovasculaires de courir avec des ciseaux et affirmait que l’ancien président des États-Unis, Barack Obama, était musulman. Google s’est empressé de corriger ces erreurs, mais de nombreux experts affirment qu’elles sont intrinsèques à la technologie. Le PDG de Google, Sundar Pichai, a lui-même décrit ces «hallucinations» comme un «problème non résolu» et une «caractéristique inhérente» de la technologie. Admettant tacitement son échec, Google semble avoir réduit la proportion d’utilisateurs à qui les aperçus sont présentés.
Too big to care
Google a été largement – et à juste titre – critiqué pour avoir lancé une technologie manifestement impropre à l’usage et susceptible de nuire aux utilisateurs. Mais peu de gens se sont demandé pourquoi le géant de la technologie a pu agir de manière aussi effrontée. La réponse est simple : il est, selon les termes de Lina Khan, présidente de la Commission fédérale du commerce, «trop gros pour s’en soucier». Google contrôle environ 90 % du marché mondial de la recherche sur le web et subit peu de pression de la part de la concurrence. Il peut lancer un produit peu fiable ou dangereux sans craindre de perdre des utilisateurs au profit de ses rivaux.
De même, le pouvoir de marché de Google ne l’incite pas à maintenir la qualité. Son moteur de recherche s’est rapidement détérioré au cours des dernières années, les résultats “organiques” étant de plus en plus évincés par les publicités et les contenus indésirables. Cory Doctorow a inventé le terme «enshittification» (“enmerdisation”) pour décrire la pratique des entreprises technologiques consistant à fournir aux consommateurs des services utiles et abordables (ou gratuits), puis à augmenter les prix et à réduire la qualité une fois qu’elles se sont accaparé le marché. Les exemples abondent : Amazon a progressivement augmenté les frais de vente tout en inondant les acheteurs de résultats sponsorisés, tandis qu’Instagram et Facebook, de Meta, diffusent de plus en plus de publicités, de vidéos et d’autres pièges à clics, au lieu d’informations fiables et de mises à jour provenant d’amis et de membres de la famille.
Google, Meta, OpenAI : même combat
La même logique s’applique aux « mises à niveau », comme AI Overviews de Google. Ces modifications intentionnelles et parfois radicales des produits sont vendues sous la bannière progressiste de l’« innovation », mais elles aggravent souvent l’expérience de l’utilisateur. Pour reprendre les propos de Doctorow, on pourrait même parler de «shitovation» (“merdovation”).
Google est loin d’être le seul monopole à avoir lancé un produit d’IA à moitié abouti. Meta a imposé ses nouveaux agents d’IA à des millions d’utilisateurs d’Instagram et de Facebook, même s’ils inventent des faits et se font passer pour des humains. En février, le chatbot ChatGPT d’OpenAI s’est mis à débiter du charabia, y compris en différentes langues mélangées. Les ingénieurs de Microsoft ont critiqué l’entreprise pour avoir publié un générateur d’images, basé sur la technologie d’OpenAI, qui crée des contenus violents, sexualisés et politiquement biaisés. Chaque entreprise a introduit des correctifs ciblés, mais cette approche à la carte n’est pas adaptée à ce qui apparaît de plus en plus comme une technologie fondamentalement peu fiable.
Concurrence pour et sur le marché
Si le déploiement précipité de l’IA générative est en partie motivé par une complaisance monopolistique, il consacre également le pouvoir de marché des grandes entreprises technologiques, qui leur a permis de disposer des quantités massives de données, de la puissance de calcul, de l’expertise et du capital qui leur ont permis de développer de grands modèles de langage en premier lieu. Google et Meta utilisent l’IA générative pour renforcer leur duopole dans le domaine de la publicité numérique, tandis que la demande de puissance de calcul alimentée par l’IA consolide la mainmise de Microsoft et d’Amazon sur le cloud. Les outils d’IA alimentent également les machines de surveillance et de manipulation avides de données de ces entreprises. La question de savoir si les utilisateurs profitent de la technologie n’est qu’une réflexion a posteriori.
La rivalité entre les entreprises technologiques, en particulier la course à l’IA générative, est parfois citée comme une preuve de l’existence de forces concurrentielles dans l’industrie. Mais cet argument ne fait pas la distinction entre la concurrence « pour le marché » et la concurrence « sur le marché ». Les géants de la technologie peuvent sembler se faire concurrence, mais il s’agit presque toujours d’un mirage. En fait, chaque entreprise tente de creuser des fossés autour de sa propre sphère d’influence, ce qui se traduit par une coexistence tendue mais largement statique. Et dans les rares cas de concurrence directe, comme entre Microsoft et Google dans le domaine de la recherche sur le web, les parts de marché restent largement inchangées.
Une fuite en avant
Plus inquiétant encore, l’écosystème de l’IA d’aujourd’hui est truffé de comportements collusoires : les géants de la technologie forment de plus en plus de partenariats qui s’apparentent aux accords lucratifs conclus par Google pour maintenir sa position dominante dans le domaine de la recherche. Il s’agit notamment de l’accord de Microsoft avec Meta sur l’informatique en nuage, d’un partenariat récemment annoncé entre Apple et OpenAI, et des projets de Google d’intégrer ses technologies d’IA dans les téléphones Samsung, dont plusieurs font déjà l’objet d’un examen minutieux de la part des autorités antitrust.
Les géants de la technologie sont en concurrence dans un domaine : chacun veut gagner l’approbation des investisseurs et éviter de donner l’impression d’être à la traîne dans la course à l’armement de l’IA. Mais la combinaison toxique d’une course imprudente à la croissance et de la suppression de la concurrence alimente le déploiement dangereux et inutile de technologies non testées.
L’innovation, plus qu’une fin en soi
Encourager un peu plus de concurrence entre les monopoles technologiques, dans l’espoir qu’ils soient contraints de se concentrer davantage sur la sécurité et la fiabilité, ne suffira pas. Une réglementation contraignante, comme la loi sur l’intelligence artificielle de l’Union européenne, est un premier pas nécessaire pour obliger ces entreprises à rendre des comptes. Mais les décideurs politiques doivent également faire preuve de plus d’imagination dans l’utilisation des outils à leur disposition pour favoriser de véritables alternatives aux géants de la technologie et pour veiller à ce que les utilisateurs ne servent plus de cobayes involontaires. Cela pourrait signifier utiliser la politique antitrust ou investir dans des entreprises qui pourraient remettre en question les monopoles actuels de l’informatique en nuage et de la fabrication de puces.
Tout aussi important, il est temps de cesser de considérer l’innovation comme une fin en soi, indépendamment de l’objectif qu’elle permet d’atteindre ou des intérêts qu’elle défend. Au lieu de cela, nous devons développer une compréhension beaucoup plus nuancée de la manière dont les récits sur l’innovation sont façonnés et orientés par les investisseurs, les entreprises dominantes et d’autres acteurs puissants. Ce n’est qu’à cette condition que nous pourrons avoir une conversation sérieuse sur le rôle de l’IA dans nos sociétés.
Pour en savoir plus :
Source archive Kessel : https://qant.kessel.media/posts/pst_08309013ac3d4e2c944ac82caadbab23
