• "Si le gouvernement réglemente l’utilisation des drones, des cellules souches ou de l’intelligence artificielle, tout ce que cela signifie, c’est que le travail et la recherche quittent les frontières de ce pays pour aller ailleurs."  Peter Diamandis
  
  " Le secret pour aller de l’avant, c’est de commencer. " Mark Twain
  
  
  • "Certaines personnes craignent que l’intelligence artificielle nous fasse nous sentir inférieurs, mais toute personne saine d’esprit devrait avoir un complexe d’infériorité chaque fois qu’elle regarde une fleur."  Alan Kay
  
  

L’humanité est aujourd’hui témoin d’une opportunité pour les applications de l’intelligence artificielle (IA) dans le domaine de la santé, qui pourraient favoriser des changements transformateurs et réduire les disparités en matière de santé.

Ces applications vont de la découverte de médicaments et de l’aide à la décision clinique à la rédaction de résumés de visites et de messages de portail.

De nombreux acteurs ont mis l’accent sur la recherche de l’équité dans l’utilisation de l’IA.

La National Academy of Medicine définit l’IA équitable comme « des applications accompagnées de preuves de mesures appropriées pour assurer un développement et un accès justes et impartiaux aux avantages associés à l’IA et aux mesures d’atténuation des risques ». 

L’une des principales différences entre l’apprentissage automatique traditionnel et l’IA générative est la capacité à « regarder sous le capot » lors de l’examen des performances.

Les systèmes d’apprentissage automatique traditionnels sont entraînés à des tâches de diagnostic et de prédiction spécifiques à l’aide de données relativement bien comprises, ce qui permet d’inspecter les données d’entraînement, de tester l’équité et d’analyser les performances sur l’ensemble des groupes démographiques à l’aide d’un ensemble de méthodes et d’outils en cours de maturation. 

 En revanche, l’IA générative pose des problèmes d’évaluation de l’équité en raison de cas d’utilisation vastes et hétérogènes, d’une sensibilité à l’ingénierie rapide et d’une formation sur de grands ensembles de données mal caractérisés avec des sources, un échantillonnage et des données démographiques de population inconnus.

Alors que les développeurs appliquent les leçons tirées des études sur l’équité sur les systèmes d’apprentissage automatique traditionnels, aborder l’équité et l’équité avec de grands modèles linguistiques est un domaine de recherche naissant et difficile, qui amplifie les incertitudes et les risques de résultats négatifs pour la santé de certaines populations.

L’utilisation des notions de justice et d’équité par la National Academy of Medicine nécessite une appréciation des rôles étroitement liés des développeurs (par exemple, les entreprises technologiques et les startups) et des adoptants (par exemple, les systèmes de santé et les cliniciens) de l’IA.

Cette nuance émane des différences de signification de la justice dans le développement technologique et de l’équité telle que définie dans la santé et l’ingénierie.  Comme l’a noté Schaekermann, aspirer à l’équité en matière de santé nécessite de considérer que les personnes confrontées à « des obstacles plus importants à l’amélioration de leur santé ont besoin d’efforts plus importants et/ou différents, plutôt qu’égaux, pour bénéficier de cette opportunité équitable ».

 L’équité n’équivaut pas à l’équité des prédictions et des diagnostics de l’IA, qui aspire à avoir des performances égales pour toutes les populations, sans tenir compte des besoins et des processus différentiels de ces populations. Les ingénieurs, l’informatique biomédicale et les communautés de recherche en santé doivent s’aligner sur la terminologie et les définitions pour avancer en tant que communauté.

Alors que l’écosystème de la santé cherche à créer des opportunités et à garantir l’équité en tirant parti des avancées de toutes les formes d’apprentissage automatique, notre expérience historique confirme qu’il n’existe pas de définition unique de l’équité.

Les questions d’équité et d’autres facteurs dans les systèmes d’IA en santé, notamment les détails sur le lieu et la manière dont les systèmes sont déployés et utilisés, contribuent différemment à l’inégalité dans différentes applications.

Ainsi, les hypothèses, les définitions et les objectifs doivent toujours être évoqués et déclarés dans les études sur l’équité du fonctionnement du système d’IA, l’équité de ses performances globales et l’impact résultant des applications d’IA. 

Même avec de grands efforts pour parvenir à un consensus et à une convergence, les développeurs devront probablement prendre en compte plusieurs perspectives sur l’équité du fonctionnement des systèmes d’IA et l’équité dans l’impact global de la prestation de soins de santé influencés par l’IA. Ainsi, pour les études quantitatives, les mesures et les indicateurs sur l’équité devront être conditionnés et fournis avec des définitions d’objectifs. Des discussions multipartites et une feuille de route sont nécessaires pour rapprocher le domaine de l’IA en santé de l’objectif de résultats de santé plus équitables.

Au-delà de l’urgence de mieux définir les objectifs et les mesures d’équité, les auteurs proposent des recommandations concrètes pour améliorer les performances équitables. Ces recommandations s’appuient sur des modèles nouveaux et établis issus de la technologie et de la médecine à trois stades de développement de l’IA pour les applications de santé. Chacune de ces étapes est résumée dans l’ encadré .

Les données issues d’explorations à grande échelle contiennent souvent des inexactitudes, manquent de diversité et présentent un sous-échantillonnage ou des lacunes enracinées dans des biais historiques. Les équipes de développeurs peuvent ne pas reconnaître ces problèmes, en particulier lorsque leur propre diversité est limitée. Indépendamment de la présence ou de l’absence de tels biais dans les données, les modèles résultants peuvent présenter des inégalités ou introduire de nouveaux défis en matière d’équité dans les contextes démographiques et de santé. Pour y remédier, les dirigeants du monde universitaire, de l’industrie et des agences gouvernementales doivent constituer des équipes diversifiées et multipartites ( encadré ). Les équipes doivent délibérer sur les applications et définitions potentielles de l’équité, en tenant compte des défis d’équité dans les soins de santé et de l’impact que l’utilisation de l’IA pourrait avoir sur eux. ³ Cette délibération aidera à évaluer les modèles pendant le développement. Dans certains cas, atteindre l’équité peut nécessiter l’utilisation de données statistiquement biaisées pour atteindre des objectifs de performance spécifiques. ⁴ Enfin, la contribution multipartite doit guider les tests pour identifier les vulnérabilités et les risques en mettant l’accent sur l’équité.

Pour garantir que les systèmes de santé bénéficient de manière égale de l’IA prédictive dans tous les contextes, il est essentiel de bien comprendre le flux de travail de prédiction. 

Par exemple, avant de déployer un modèle visant à améliorer les taux de dépistage du cancer du poumon, un système de santé apprenant doit évaluer les performances de base et les biais afin d’identifier les causes profondes des performances inéquitables et d’orienter les améliorations. Les améliorations peuvent inclure des systèmes de suivi, l’éducation des patients ou des services de transport pour créer un cadre équitable. Les systèmes de santé doivent appliquer des méthodes de systèmes de santé apprenants avec une collaboration multipartite. 

Les systèmes de santé doivent privilégier la sélection d’outils d’IA dont les caractéristiques de fonctionnement, les biais et les utilisations recommandées sont divulgués, en faisant preuve de prudence lors de leur utilisation sur plusieurs sites. Les modèles d’IA nécessitent souvent une formation, un réglage et des tests spécifiques à chaque site dans le contexte de leur flux de travail spécifique. Les outils et les flux de travail doivent être testés en collaboration avec les utilisateurs dans des scénarios réalistes et affinés en fonction des données. L’évaluation des caractéristiques de performance peut suffire si les hypothèses de flux de travail sont respectées ^.

Les organisations de soins de santé qui déploient l’IA doivent assumer la responsabilité de surveiller et d’atteindre des performances équitables. Des essais pragmatiques peuvent être mis en place pour identifier les différences de performances des modèles dans divers contextes de santé, favorisant ainsi des déploiements ciblés. Des mesures périodiques doivent continuer à vérifier l’exactitude ou la dégradation de l’équité. La réévaluation est particulièrement importante lors de la mise en œuvre de nouveaux flux de travail, même lorsque l’on utilise des modèles aux comportements bien caractérisés. En prenant l’exemple du dépistage du cancer du poumon, les systèmes de santé pourraient évaluer périodiquement la formation du personnel, les idées fausses des patients et l’efficacité de la communication sur le dépistage. 

Mark Twain a dit un jour : « Le secret pour aller de l’avant, c’est de commencer. »

Il y a beaucoup à apprendre pour comprendre comment les applications de l’IA affectent les inégalités de longue date et découvrir les meilleurs moyens d’exploiter l’IA pour y remédier. En intégrant les considérations d’équité à chaque étape du développement et du déploiement de l’IA, les États-Unis peuvent commencer à prendre des mesures significatives pour utiliser les capacités croissantes de l’IA pour s’attaquer aux problèmes urgents du secteur de la santé.

Publié le 31 janvier 2025. doi:10.1001/jamahealthforum.2024.5031

Accès libre : il s'agit d'un article en accès libre distribué selon les termes de la licence CC-BY . © 2025 Johnson KB et al. JAMA Health Forum .

Auteur correspondant : Kevin B. Johnson, MD, MS, Division d'informatique biomédicale, Département de biostatistique, d'épidémiologie et d'informatique, Perelman School of Medicine de l'Université de Pennsylvanie, 3700 Hamilton Walk, B202 Richards Building, Philadelphie, PA 19104 ( Cette adresse e-mail est protégée contre les robots spammeurs. Vous devez activer le JavaScript pour la visualiser. ).



Commentaire

L'IA sera confrontée aux déterminants sociaux de la santé , une "bataille " à gagner" ou à "perdre". De plus l'étique doit prévaloir dans tous les cas , comme la transparence !

A LIRE

Equité de santé rechercher les capitaux propres en sante dans le secteur des soins de santé

"Les racines de l'inégalité de la santé

L'inégalité de la santé est une question multifactorielle qui découle de divers facteurs historiques, sociaux et économiques. C'est un problème persistant et omniprésent qui est présent depuis des siècles et retrace ses racines aux premiers jours de la civilisation. L'inégalité de la santé est une construction sociale structurée par les forces historiques, politiques et économiques plutôt que par des facteurs biologiques ou naturels.Il s'agit d'un phénomène qui a été façonné par des siècles de politiques sociales, économiques et politiques qui ont marginalisé certaines populations et créé des disparités dans les résultats pour la santé."

 Aborder les causes profondes de l'inégalité de la santé

La réalisation des capitaux propres de la santé nécessite de traiter les causes profondes de l'inégalité de la santé, qui sont appelées déterminants sociaux de la santé. Ce sont les conditions dans lesquelles les gens naissent, grandissent, vivent, travaillaient et âge, et ils comprennent des facteurs tels que la pauvreté, l'éducation, l'emploi, le logement et l'accès aux soins de santé. Les déterminants sociaux de la santé sont façonnés par la distribution de l'argent, du pouvoir et des ressources aux niveaux mondial, national et local. S'attaquer à ces causes profondes nécessite une approche globale qui va au-delà du secteur des soins de santé pour englober plusieurs secteurs tels que le logement, l'éducation et l'emploi.

https://fastercapital.com/fr/contenu/Equite-de-sante--rechercher-les-capitaux-propres-en-sante-dans-le-secteur-des-soins-de-sante.html

 Droit à la non-discrimination et IA

But  : lutter contre les discriminations susceptibles d’apparaître avec le développement de l’intelligence artificielle en santé 

Faire en sorte que le recours à l’IA ne puisse pas permettre l’apparition d’une médecine à deux vitesses favorisant les malades nantis au détriment des malades les plus faibles

Exemple : se satisfaire d’un traitement anti-cancéreux classique offrant 75 % de chance de guérison là où la machine propose à un coût prohibitif un taux de 95 %

 Nécessité de définir les limites précises des discriminations possibles en cas de recours à l'IA

Droit à l’information

  Question : Quelles limites à la transparence et à l’autonomie de la volonté du patient en cas de recours à l’IA en santé ?

 Ici le droit commun a été délaissé car mise en place d’un droit autonome à l’information par la loi du 2 août 2021 :

 Le professionnel de santé qui décide d'utiliser, pour un acte de prévention, de diagnostic ou de soin, un dispositif médical comportant un traitement de données algorithmique dont l'apprentissage a été réalisé à partir de données massives s'assure que la personne concernée en a été informée et qu'elle est, le cas échéant, avertie de l'interprétation qui en résulte

*  le législateur a donc prévu  une information a priori des patients sur l’utilisation des traitements algorithmiques

 D'aprés Pr Patrick Mistretta, Professeur de Droit Privé et sciences crilmielles, Université Lyon 3/ Vasco 2024

Copyright : Dr Jean Pierre Laroche / 2025