Intelligence artificielle générative (IA) : l'OMS publie de nouvelles lignes directrices sur la gouvernance des LMM

L’OMS a publié de nouvelles orientations sur l’éthique et la gouvernance des grands modèles multimodaux (GMM) en vue de leur utilisation appropriée pour promouvoir et protéger la santé des populations. Les GMM constituent une technologie d’ intelligence artificielle (IA) générative en pleine expansion, avec cinq grandes applications dans le domaine de la santé.

1. Diagnostic et soins cliniques, comme répondre aux questions écrites des patients ; 

2. Utilisation guidée par le patient, par exemple pour étudier les symptômes et le traitement ; 

3. Tâches de bureau et administratives, telles que documenter et résumer les visites des patients dans les dossiers de santé électroniques ; 

4. Formation médicale et infirmière, notamment en offrant aux stagiaires des rencontres simulées avec des patients, et ; 

5. Recherche scientifique et développement de médicaments, notamment pour identifier de nouveaux composés. 

Cependant, ces applications dans le domaine de la santé présentent le risque de produire des résultats faux, inexacts, biaisés ou incomplets, ce qui pourrait nuire aux personnes utilisant ces informations pour prendre des décisions concernant leur santé. De plus, les modèles linéaires mixtes (MLM) peuvent être entraînés sur des données de mauvaise qualité ou biaisées, que ce soit en fonction de l'origine ethnique, de l'ascendance, du sexe, de l'identité de genre ou de l'âge. Il existe également des risques plus généraux pour les systèmes de santé, tels que l'accessibilité et le coût des MLM les plus performants. Les MLM peuvent aussi encourager un « biais d'automatisation » chez les professionnels de santé et les patients, conduisant à négliger des erreurs qui auraient autrement été identifiées ou à déléguer indûment des choix difficiles à un MLM. Les MLM, comme d'autres formes d' IA , sont également vulnérables aux risques de cybersécurité qui pourraient mettre en danger les informations des patients, la fiabilité de ces algorithmes et, plus largement, la prestation des soins de santé.

Par conséquent, pour créer des LMM sûrs et efficaces, l’OMS a formulé des recommandations à l’intention des gouvernements et des développeurs de LMM. 

Les gouvernements ont la responsabilité principale d’établir des normes pour le développement et le déploiement des LMM, ainsi que pour leur intégration et leur utilisation à des fins de santé publique et médicales. Les gouvernements devraient investir ou fournir des infrastructures publiques ou à but non lucratif, y compris une puissance de calcul et des ensembles de données publiques, accessibles aux développeurs des secteurs public, privé et à but non lucratif, qui exigent que les utilisateurs adhèrent à des principes et valeurs éthiques dans échange contre accès. 

• Utiliser les lois, les politiques et les réglementations pour garantir que les modèles mobiles légers et les applications utilisés dans les soins de santé et la médecine, indépendamment des risques ou des avantages associés à la technologie de l'IA , respectent les obligations éthiques et les normes relatives aux droits de l'homme qui affectent, par exemple, la dignité, l'autonomie ou la vie privée d'une personne.

· Désigner une agence de réglementation existante ou nouvelle pour évaluer et approuver les LMM et les applications destinés à être utilisés dans les soins de santé ou la médecine – dans la mesure où les ressources le permettent. 

· Introduire des audits post-publication et des évaluations d'impact obligatoires, y compris pour la protection des données et les droits de l'homme, par des tiers indépendants lorsqu'un LMM est déployé à grande échelle. L'audit et les analyses d'impact devraient être publiés 

et devrait inclure les résultats et les impacts ventilés par type d'utilisateur, y compris par exemple par âge, race ou handicap. 

Les modèles linéaires mixtes ne sont pas conçus uniquement par des scientifiques et des ingénieurs. Les utilisateurs potentiels et toutes les parties prenantes directes et indirectes, y compris les prestataires de soins médicaux, les chercheurs scientifiques, les professionnels de la santé et les patients, devraient être impliqués dès les premières étapes du développement de l'IA dans une conception structurée, inclusive et transparente, et avoir la possibilité de soulever des questions éthiques, d'exprimer leurs préoccupations et de contribuer à l' application d'IA envisagée.

Les LMM sont conçus pour effectuer des tâches bien définies avec la précision et la fiabilité nécessaires pour améliorer la capacité des systèmes de santé et faire progresser les intérêts des patients. Les développeurs doivent également être capables de prédire et de comprendre les résultats secondaires potentiels. 

*** 

Source: 

OMS 2024. Éthique et gouvernance de l’intelligence artificielle pour la santé : orientations relatives aux grands modèles multimodaux. Disponible à l’adresse : https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y

***