Réguler l’IA dans la santé

L’adoption de l’IA dans le monde de la santé va si vite que le vénérable New England Journal of Medicine (Nejm) vient de lancer une édition spéciale, Nejm AI. Un coup d’œil à l’actualité récente donne la même sensation : voici une IA pour détecter le cancer de la peau (lire Qant du 19 janvier), une autre pour héberger les données de santé (lire Qant du 9 janvier), des modèles pour assister les professionnels de santé chez Google (lire Qant du 18 décembre 2023)… 

Dans un rapport publié la semaine dernière, l’OMS a mis en avant les risques associés à l’adoption rapide des LLMs dans le secteur de la santé. Après un premier rapport publié en 2021, l’OMS est revenue sur les nombreuses applications de l’IA générative, mettant en garde contre une course mondiale au développement, qui pourrait être précipitée et sans garantie de sécurité ou d’efficacité. L’OMS va jusqu’à évoquer un risque d' »effondrement des modèles », dans lequel des informations inexactes pourraient contaminer les sources publiques d’informations.

Les six principaux risques dans la santé

• Surestimation des avantages des LLM
• Accessibilité et coûts
• Biais systémiques
• Impact sur le travail
• Dépendance des systèmes de santé
• Risques liés à la cybersécurité
  L’OMS appelle à une régulation efficace de ses technologies, impliquant les gouvernements, la société civile, et les bénéficiaires de soins de santé, et dénonce le risque d’une « capture » du développement des LLM par les entreprises privées. Parmi ses 40 préconisations, on peut en trouver cinq principales : investir dans des infrastructures d’IA publiques ou à but non lucratif ;  s’appuyer sur la loi et la réglementation pour garantir que les LLM et les autres IA utilisées dans la santé respectent un socle éthique ; charger une agence réglementaire d’évaluer et d’approuver les LLM ; exiger des audits et des évaluations d’impact obligatoires rendus publics ; impliquer les professionnels de santé dès les premières étapes de conception des modèles.

Chorus

L’OMS n’est pas la seule à s’inquiéter. Chez le think-tank américain Brookings Institution, une équipe de chercheurs souligne de son côté que la performance des outils de GenAI dédiés à la santé dépend fortement de la qualité des données fournies. Des données inexactes, inappropriées ou incomplètes peuvent entraîner une baisse de performance. Selon les chercheurs, la confiance joue un rôle crucial dans l’adoption des outils d’IA par les professionnels de santé et les patients. Pour mieux comprendre ces enjeux, les chercheurs ont utilisé un modèle de simulation basé sur des agents. Ce modèle représente une communauté hypothétique utilisant un outil d’IA pour des recommandations médicales. Les agents dans le modèle, représentant des individus, sont influencés par leur santé et leur niveau de confiance envers l’outil d’IA. Le modèle permet d’explorer comment l’IA pourrait échouer à améliorer la santé globale de la population, introduire des disparités en matière de santé ou perpétuer des inégalités existantes.

Encore faut-il maintenant que Google et OpenAI les écoutent.

Pour en savoir plus :

• OMS
• New England Journal of Medicine
• Matt Kasman et al., The human factor : Anticipating pitfalls in the application of artificial intelligence to health care, Brookings, 2024
• Nature
• Axios