**Pendant que l’AI Act essaie de réglementer le passé, OpenAI publie ses premières réflexions sur le futur : comment encadrer le développement d’intelligences artificielles générales aux capacités supérieures à l’homme, les “superintelligences”. **
La semaine dernière, le CEO d’OpenAI a rendu visite à tous les chefs d’Etat ou de gouvernement européens qui ont accepté de le recevoir : Emmanuel Macron, mais aussi le premier ministre polonais Mazowiecki et le premier ministre espagnol Sànchez. Désavoué ce dimanche par des élections locales, ce dernier aurait dû détenir la présidence de l’Union Européenne à partir de juillet, au moment crucial pour OpenAI où s’établiront les ultimes négociations sur l’AI Act européen, la première législation majeure sur l’IA générative.
Après quelques cadeaux et politesses – « Le bon niveau de régulation pour l’IA s’établit entre l’UE et les Etats-Unis » expliquait Altman à Londres –, le masque est vite tombé. Si les restrictions votées par le Parlement (lire Qant du 12 mai) sont maintenues dans le futur AI Act, OpenAI se retirera d’Europe, a déclaré Sam Altman à la presse britannique. Adieu ChatGPT, ouvert sur les iPhone européens la même semaine.
Tout comme pour le défaut de paiement américain (lire ci-dessous), la probabilité qu’OpenAI se retire d’Europe est assez limitée. Sam Altman a d’ailleurs fait machine arrière dès le lendemain. Mais sa réaction montre deux différences d’approche entre Bruxelles et la Silicon Valley qui devraient nourrir la réflexion des régulateurs.
Tout d’abord, la protection des données personnelles ou protégées par le droit d’auteur dans l’entraînement des modèles de fondation, que veut imposer le Parlement européen, semble poser de réelles difficultés techniques, peut-être même une impossibilité. Sans doute parce qu’il n’y a pas d’acteurs européens sur le secteur, l’Europe a plus de facilités à imposer des normes irréalisables dans l’intelligence que dans le moteur à explosion ou les pesticides. On peut tout de même s’interroger sur l’intérêt de favoriser les industries du passé au détriment de l’innovation.
Mais surtout, l’Europe semble vouloir réglementer ce qui, pour OpenAI, tient presque du passé. L’entraînement de GPT-4 s’est sans doute conclu vers l’automne dernier. Il a été suivi par six mois de tests approfondis, le « red teaming », avant un lancement très progressif à partir de mars. Toujours la semaine dernière, OpenAI a ouvert le prochain chapitre, en publiant ses propositions pour règlementer les « superintelligences », des IA générales plus puissantes que l’esprit humain..
Trois idées essentielles sont contemplées par le document. La plus marquante : créer une agence internationale pour la superintelligence. Tout comme l’AIEA, pour l’énergie atomique, cet organisme pourrait inspecter les systèmes, exiger des audits, tester la conformité aux normes de sécurité…. Cela inciterait à une coordination entre les principaux efforts de développement, nécessaire pour assurer l’intégration de la superintelligence dans la société. Et, dans l’immédiat, renforcer la recherche pour créer les techniques qui diminueront les risques, réels, que présenteront les futures superintelligences.
Un véritable défi pour toutes les nations du monde. Et pour les régulateurs européens, dans quelques années.
*Pour en savoir plus : *
Source archive Kessel : https://qant.kessel.media/posts/pst_e64cf23df9624d958a6219c4d32534e9
