L'intelligence artificielle (IA) est rapidement passée à l'application clinique, comme l'imagerie et d'autres diagnostics, le scribing environnemental et l'aide à la décision. Il a apporté à la fois des avantages potentiels et des risques importants.

Aux États-Unis, il n'est pas clair qui a la responsabilité d'établir les règles, de valider les modèles et, en fin de compte, de payer en cas de problème.

Dans ce contexte, la Commission mixte (TJC, le principal accréditeur d'hôpital américain) s'est associée à la Coalition for Health AI (CHAI, un groupe dirigé par des cliniciens qui comprend l'industrie et les parties prenantes).

Ensemble, ils ont publié de nouvelles directives sur l'utilisation responsable de l'IA dans les soins de santé,qui s'appuient sur des déclarations antérieures de nombreux groupes, y compris l'American Medical Association.

Les principales recommandations comprennent la création de comités multidisciplinaires de gouvernance de l'IA, la validation de modèles sur les données et les flux de travail locaux des patients avant le déploiement et l'institution d'une surveillance continue après la mise sur le marché pour la dérive, la dégradation des performances ou les biais.

Tableau. Résumé des directives TJC et CHAI

(ouvre dans un nouvel onglet)

Titre de la ligne directrice citée	Exigences clés paraphrasées
Politiques d'IA et structures de gouvernance	Exiger une expertise et une représentation interfonctionnelle (leadership, informatique, conformité, cliniciens, sécurité, confidentialité) Superviser la sélection, le cycle de vie, la conformité et la gestion des risques des outils d'IA Signaler les activités de l'IA et les événements indésirables au conseil d'administration
Confidentialité et transparence des patients	Établir des politiques d'accès, d'utilisation et de protection des données conformes à la loi HIPAA et de l'État Divulguer et éduquer les patients sur l'utilisation de l'IA affectant leurs soins ; obtenir le consentement le cas échéant
Protections de la sécurité des données et de l'utilisation des données	Crypter les données en transit et au repos Appliquer des contrôles d'accès stricts et des journaux d'audit Effectuer des évaluations régulières de sécurité et maintenir un plan d'intervention en cas d'incident
Surveillance continue de la qualité	Exiger que les fournisseurs fournissent des données de validation et de test de biais Tester, valider et surveiller en permanence les performances et les biais de l'IA après le déploiement Étaler la fréquence de surveillance à la proximité du risque avec les soins aux patients
Rapports volontaires et aveugles d'événements liés à la sécurité de l'IA	Mettre en œuvre des rapports confidentiels et dépersonnalisés des événements de sécurité de l'IA à des entités indépendantes Intégrer les incidents d'IA dans les systèmes de rapports de sécurité existants
Évaluation des risques et des préjugés	Identifier, documenter et atténuer les risques et les biais avant et après le déploiement Demander des données de biais du fournisseur et des cartes modèles Utiliser des ensembles de données de formation et de validation représentatifs ; tester sur des données locales Effectuer des audits réguliers de biais
Éducation et formation	Fournir une formation en IA spécifique au rôle pour les cliniciens et le personnel Assurer la documentation et les conseils sur chaque outil d'IA

Les directives du CHAI et du TJC laissent de nombreux détails aux organisations de soins de santé à opérationnaliser.

Par exemple, il semble prendre une ligne étonnamment dure sur l'engagement avec les patients, conseillant que "[si]when approprié, les patients devraient être informés lorsque l'IA a un impact direct sur leurs soins.... Le cas échéant, le consentement doit être obtenu. »

Les médecins ne divulguent généralement pas ou ne demandent pas leur consentement pour chaque appareil technologique qu'ils peuvent déployer (par exemple, ce scalpel contre celui-là). L'IA est-elle différente en nature ?

Chaque rapport de radiologue a-t-il besoin d'une clause de non-responsabilité concernant l'utilisation de l'IA ou même d'un préconsent pour cette utilisation ?

Que font les patients de telles divulgations ? ² Les questions difficiles persistent dans les mots de la ligne directrice appropriés et pertinents.

Pour les établissements de soins de santé, le respect des nouvelles directives nécessitera des structures de gouvernance, des tableaux de bord de surveillance, des mécanismes de déclaration des incidents et de la documentation.Ces mesures parallèlement aux cadres de qualité et de sécurité établis (tels que les exigences d'accréditation, les rapports sur les événements de sécurité des patients et les programmes de gestion des risques) afin que la surveillance de l'IA puisse être intégrée dans des structures déjà familières aux hôpitaux.

Cependant, la conformité nécessitera vraisemblablement de nouveaux investissements substantiels.

TJC et CHAI appellent chaque hôpital à mettre en place une structure de gouvernance formelle pour l'IA, avec des politiques et des procédures pour sélectionner, mettre en œuvre et superviser les outils d'IA. Cette fonction exigera que les cadres ayant une expertise appropriée en matière d'IA rassemblent et dirigent un comité multidisciplinaire d'IA. L'un des éléments les plus gourmands en ressources est peut-être la surveillance continue des performances et des résultats de l'IA.

L'hôpital doit mesurer la précision, les erreurs ou les événements indésirables associés aux recommandations d'IA et la performance au fil du temps, y compris l'équité et les préjugés entre les populations de patients. Bien que les grands centres universitaires aient la capacité de valider rigoureusement les outils d'IA, près des deux tiers des hôpitaux américains ont moins de 100 lits, et beaucoup opèrent dans des milieux ruraux avec des contraintes de ressources (par exemple, l'absence de couverture élargie de Medicaid).Un petit hôpital communautaire est plus susceptible de se procurer une technologie prête à l'emploi et à faire confiance aux assurances des fournisseurs. Effectuer un audit indépendant des biais et une analyse des risques pourrait dépasser leur expertise et leurs ressources.

Ces défis expliquent pourquoi la recherche montre que bien que 61 % des hôpitaux utilisant l'IA aient effectué une validation locale pour l'exactitude, seuls 44 % ont évalué leurs modèles pour les biais en utilisant leurs propres données

Pour de nombreux hôpitaux, les directives du CHAI et du TJC peuvent être ambitieuses.

Quelles sont les conséquences de la non-conformité ?

TJC n'a pas (encore) intégré ces normes dans ses exigences d'accréditation, qui sont une condition préalable à la facturation des assureurs publics et privés. Pour l'instant, ces directives affecteront vraisemblablement la responsabilité.

Les tribunaux ont tenu les médecins et les organisations de soins de santé à une norme de soins raisonnable, en partie informée par des conseils persuasifs d'organisations réputées, telles que TJC et CHAI. Un médecin défendeur pourrait utiliser ces directives pour souligner que la responsabilité incombe aux organisations de soins de santé, réduisant ou évitant ainsi la responsabilité du médecin.³ D'autre part, les hôpitaux sont dans une impasse s'ils ne sont pas en mesure de se conformer à des directives onéreuses. Pourtant, les tribunaux peuvent prendre en compte les limites de ressources lors de la responsabilité en cas de négligence.

En plus des préoccupations en matière de distribution qui se répartissent dans les organisations de soins de santé, il existe également des préoccupations plus larges en matière d'efficacité. Est-il logique que chacune des milliers d'organisations de soins de santé fasse tout ce travail de manière indépendante ?

Au contraire, un système rationnel pourrait faire faire une grande partie de ce travail une fois avec autorité. De même, nous ne nous attendons pas à ce que chaque hôpital effectue une évaluation de novo de la compétence de chaque médecin ; au lieu de cela, les comités du personnel hospitalier s'appuient sur les agences d'autorisation de l'État. Pourtant, aucune agence de ce type n'existe actuellement pour l'IA.

Les directives TJC et CHAI tentent de tirer le meilleur parti d'un monde déjà fragmenté, dans lequel le gouvernement fédéral américain n'a pas pris de l'avance pour fournir un mécanisme complet pour évaluer les services d'IA qui sont utilisés dans le commerce interétatique et financés par les programmes fédéraux de soins de santé.À son crédit, le CHAI a également proposé de combler cette lacune en créant un réseau de laboratoires d'assurance privés pour tester les algorithmes afin que les organisations de soins de santé puissent s'y fier. L'administration Biden était alignée sur cette approche, mais l'administration Trump s'y oppose. La préoccupation est qu'une coalition privée, lourde d'industrie, pourrait ancrer les fournisseurs dominants et agir en tant que régulateur de facto.

En partie, l'écart fédéral est créé par une décision de la Food and Drug Administration (FDA) des États-Unis de concentrer son application sur les technologies d'IA automatisées lorsqu'il n'y a pas de médecin dans la boucle. Un budget beaucoup plus important de la FDA serait nécessaire pour atteindre toutes les technologies de soins de santé en matière d'IA, et l'industrie devrait investir massivement pour répondre aux demandes de science dont la FDA aurait besoin. De tels investissements pourraient faire économiser de l'argent pour le système de soins de santé dans son ensemble en réduisant les licenciements locaux et en améliorant la performance globale. À la fin du mois de septembre 2025, la FDA a demandé des commentaires du public sur une nouvelle approche potentielle des « approches pratiques pour mesurer et évaluer la performance des dispositifs médicaux compatibles avec l'IA sur le terrain, y compris des stratégies pour identifier et gérer l'évolution des performances, telles que la détection des changements d'entrée et de sortie ».

En fin de compte, TJC et CHAI ont créé un cadre important visant à améliorer la sécurité des patients, à améliorer les résultats des patients, renforcer la protection des données, accroître la confiance et une plus grande efficacité opérationnelle. Sans un système unifié d'évaluation des produits d'IA, les hôpitaux continueront d'assumer des responsabilités fragmentées, créant des inefficacités et élargissant les disparités en matière de sécurité, de qualité et potentiellement de responsabilité.

Auteur correspondant : Christopher T. Robertson, JD, PhD, Boston University School of Law, 765 Commonwealth Ave, Boston, MA 02215 (Cette adresse e-mail est protégée contre les robots spammeurs. Vous devez activer le JavaScript pour la visualiser.).

RESUME GENERATIF

ANALYSE PDF EXPERT AI

Ce document présente les nouvelles recommandations de la Joint Commission et de la Coalition pour l'IA en santé concernant l'utilisation responsable de l'IA en milieu clinique. Il met en avant des recommandations telles que la gouvernance multidisciplinaire, la validation locale, la surveillance continue et la transparence envers les patients. Il souligne les ressources et l'infrastructure nécessaires aux hôpitaux pour s'y conformer, notamment les tableaux de bord de surveillance, le signalement des incidents et l'expertise de la direction en matière d'IA. Les auteurs examinent les difficultés pratiques rencontrées par les petits hôpitaux, les implications juridiques et de responsabilité potentielles, ainsi que les lacunes de la réglementation fédérale. Ils évoquent les propositions relatives aux laboratoires d'assurance qualité privés, les considérations de la FDA concernant l'évaluation post-commercialisation et les inquiétudes liées à la fragmentation des responsabilités, source d'inefficacité et d'inégalités.

Exigences en matière de notification des patients concernant l'utilisation de l'IA

Les patients doivent être informés de l'utilisation de l'IA dans leurs soins lorsque celle-ci a un impact direct sur ces derniers. Les recommandations de la Coalition pour l'IA en santé (CHAI) et de la Joint Commission (TJC) précisent :

• « Le cas échéant, les patients devraient être informés lorsque l’IA a un impact direct sur leurs soins… Le consentement devrait être obtenu lorsque cela est pertinent. »

Points clés

• Impact direct : une notification est requise lorsque les outils d’IA ont un impact direct sur les décisions ou les résultats relatifs aux soins des patients.
• Pertinence et adéquation : les termes « adéquation » et « adéquation » sont utilisés dans les recommandations, indiquant que la notification et le consentement ne sont pas requis pour chaque utilisation de la technologie, mais seulement dans les situations où le rôle de l’IA est significatif pour les soins du patient..
• Consentement : outre la notification, le consentement doit être obtenu le cas échéant, bien que les directives laissent à la discrétion de l'organisme de soins de santé les détails de ce consentement..

Tableau récapitulatif

Conclusion

Les patients doivent être informés de l’utilisation de l’IA lorsque celle-ci a un impact direct sur leurs soins, et leur consentement doit être recueilli le cas échéant.  Les recommandations laissent aux établissements de santé le soin d’interpréter les termes « approprié » et « pertinent », les obligeant à établir des politiques claires pour ces situations.

TROIS INFOGRAPHIES GÉNÉRÉES PAR NOTEBOOKLM