Premières options politiques sur l’IA

Imaginez qu’un agent autonome chargé de détruire la planète finisse par trouver les clefs informatiques d’une puissance nucléaire. Et placez cette idée en filigrane des débats au Sénat américain, au Parlement européen et à la Cnil, dont voici les derniers rebondissements.

Dans la foulée de l’adoption par le Parlement européen d’un AI Act mis à jour sur l’IA générative (lire Qant du 12 mai), la Commission nationale de l’informatique et des libertés (Cnil) a annoncé un plan d’action destiné à réglementer l’intelligence artificielle générative. Dans le but d’instaurer des règles claires pour protéger les données personnelles des citoyens européens et encourager le développement de systèmes d’IA respectueux de la vie privée, la Cnil examinera comment les données des utilisateurs et les informations publiquement disponibles sur Internet sont utilisées pour l’entraînement des modèles et publiera des recommandations pour les fournisseurs de services d’IA générative sur l’application du prochain règlement européen. Enfin, la Cnil effectuera des audits et des contrôles, en particulier en réponse aux plaintes déposées contre OpenAI.

Le débat promet cependant de dépasser rapidement les attributions de la Cnil. Lors d’une très médiatisée audition au Sénat américain, Sam Altman, cofondateur de OpenAI a offert son aide aux législateurs américains de réglementer rapidement l’intelligence artificielle (IA). Il rompt ainsi avec l’arrogance des grands entrepreneurs du numérique, qui semblent souvent – et pas toujours à tort – se considérer plus puissants que les politiques américains et bien mieux au fait de la technologie. Sam Altman a longuement abordé les questions éthiques soulevées par l’IA et insisté sur la nécessité d’une régulation plus stricte. il a notamment cité les bouleversements économiques et l’impact potentiel de l’IA sur la démocratie, évoquant la désinformation ciblée lors des élections à venir.

Pendant l’audition, le professeur Gary Marcus, convoqué aux côtés de Sam Altman, a réclamé une autorisation administrative de mise sur le marché pour les modèles, similaire à celle qui existe pour les médicaments et la création d’un agence ad hoc, de préférence internationale. Cela aurait pour effet de consolider l’avance des Etats-Unis, ce qui peut rendre l’idée intéressante aux yeux d’OpenAI et du législateur américain. Mais cela n’empêcherait en rien la prolifération d’agents autonomes et de modèles basés sur un simple ordinateur, comme Koala (voir ci-dessous). Un groupe nihiliste a déjà chargé l’un d’entre eux, ChaosGPT, de détruire l’humanité (lire Qant du 13 avril dernier).

Plus sérieusement, la réglementation ne peut répondre, seule, aux périls que l’IA générale qui se prépare peut faire courir à l’humanité. Les plus graves, en effet, relèvent des Etats eux-mêmes. “Sur le papier, les dirigeants militaires et politiques gardent le contrôle. (…) Mais comment sont-ils censés réagir si un système d’intelligence artificielle leur annonce qu’une attaque [nucléaire] peut survenir dans quelques instants et leur recommande une attaque préventive ? Oseront-ils ignorer les résultats de l’insondable boîte noire qu’ils auront développée au prix des centaines de milliards de dollars?” s’interrogeait par exemple Peter Coy sur le New York Times. Le débat dépassera vite les compétences de la Cnil.

Source : CNIL, PBS

Pour en savoir plus : L’Usine Digitale, BBC