"Il faut éviter que les biais de la société ne se reflètent dans les décisions prises par les machines" Yann LeCun
Lancet Reg Health Eur. 2024 Dec 1;48:101145. doi: 10.1016/j.lanepe.2024.101145. PMID: 39687669; PMCID: PMC11648885.
https://www.thelancet.com/action/showPdf?pii=S2666-7762%2824%2900314-4
Contexte
Malgré les progrès notables de l’intelligence artificielle (IA) qui permettent à des systèmes complexes d’accomplir certaines tâches avec une précision supérieure à celle des experts médicaux, l’impact sur les résultats cliniques reste incertain. Afin de combler cette lacune, cette revue systématique évalue les bénéfices et les risques associés aux systèmes d’aide à la décision algorithmique (SAD) basés sur l’IA et utilisés par les professionnels de santé, comparativement aux soins standards.
Méthodes
Conformément aux recommandations PRISMA, nous avons inclus les études interventionnelles et observationnelles publiées sous forme d’articles complets évalués par les pairs et répondant aux critères suivants : patients humains ; interventions impliquant des systèmes algorithmiques d’aide à la décision, développés avec et/ou utilisant l’apprentissage automatique (AA) ; et résultats décrivant les bénéfices et les risques pertinents pour le patient ayant un impact direct sur sa santé et sa qualité de vie, tels que la mortalité et la morbidité. Les études n’ayant pas fait l’objet d’un préenregistrement, ne comportant pas de groupe contrôle recevant les soins standards ou portant sur des systèmes d’assistance à l’exécution d’actions (par exemple, en robotique) ont été exclues. Nous avons effectué une recherche dans MEDLINE, EMBASE, IEEE Xplore et Google Scholar pour les études publiées au cours des dix dernières années jusqu’au 31 mars 2024. Nous avons évalué le risque de biais à l’aide des outils RoB 2 et ROBINS-I de Cochrane, et la transparence des données a été évaluée à l’aide des recommandations CONSORT-AI et TRIPOD-AI. Deux chercheurs ont géré le processus de manière indépendante et ont résolu les conflits par la discussion. Cette revue a été enregistrée auprès de PROSPERO (CRD42023412156) et le protocole de l'étude a été publié.
Résultats
Sur 2 582 références identifiées après déduplication, 18 essais contrôlés randomisés (ECR) et une étude de cohorte répondaient aux critères d’inclusion, couvrant des spécialités telles que la psychiatrie, l’oncologie et la médecine interne. Au total, ces études incluaient en moyenne 243 patients (intervalle interquartile [IQR] : 124-828), avec une proportion médiane de femmes de 50,5 % (intervalle : 12,5-79,0 %, IQR : 43,6-53,6 %) dans les groupes d’intervention et de contrôle. Quatre études présentaient un faible risque de biais, sept présentaient des préoccupations et sept autres présentaient un risque de biais élevé ou important. La transparence des rapports était très variable : six études présentaient une conformité élevée, quatre une conformité modérée et cinq une faible conformité aux recommandations CONSORT-AI ou TRIPOD-AI. Douze études (63 %) ont rapporté des bénéfices pertinents pour les patients. Parmi les études présentant un faible risque de biais, les interventions ont réduit la durée d'hospitalisation et de séjour en soins intensifs (10,3 vs 13,0 jours, p = 0,042 ; 6,3 vs 8,4 jours, p = 0,030), la mortalité hospitalière (9,0 % vs 21,3 %, p = 0,018) et les symptômes dépressifs dans les cas non complexes (45,1 % vs 52,3 %, p = 0,03). Cependant, les effets indésirables étaient fréquemment sous-déclarés, seules huit études (42 %) documentant les événements indésirables. Aucune étude n'a rapporté d'augmentation des événements indésirables suite aux interventions.
Interprétation
Les données actuelles sur les systèmes d’aide à la décision basés sur l’IA offrent un aperçu limité des résultats cliniques pertinents.
Nos résultats soulignent l’impérieuse nécessité d’évaluations rigoureuses des bénéfices cliniques, d’un respect accru des normes méthodologiques et d’une prise en compte équilibrée des avantages et des inconvénients afin de garantir une intégration pertinente dans la pratique des soins.
Financement : Cette étude n'a bénéficié d'aucun financement.
RESUME GENERATIF
Cet article est une revue systématique évaluant les avantages et les inconvénients des systèmes de décision algorithmique liés à l'intelligence artificielle utilisés par les professionnels de la santé.
Avantages et inconvénients des systèmes d'IA en santé
Cette revue systématique évalue les bénéfices et les risques des systèmes de décision algorithmique liés à l'IA utilisés par les professionnels de la santé.
- * 19 études incluses : 18 essais contrôlés randomisés (ECR) et 1 étude de cohorte.
- * Spécialités couvertes : psychiatrie, oncologie, médecine interne.
- * 63% des études ont rapporté des bénéfices pour les patients.
- * 42% des études ont documenté des événements indésirables, sans augmentation des événements adverses due aux interventions.
Méthodologie de la revue systématique
La revue a suivi les directives PRISMA pour inclure des études pertinentes sur l'IA en santé.
- * Recherche dans MEDLINE, EMBASE, IEEE Xplore et Google Scholar jusqu'au 31 mars 2024.
- * Inclusion d'études interventionales et observationnelles avec des résultats pertinents pour les patients.
Résultats des études incluses
Les résultats montrent des effets variés des systèmes d'IA sur les résultats des patients.
- * Médiane de 243 patients par étude, avec 50,5% de participantes féminines.
- * Réduction de la mortalité intra-hospitalière de 9,0% à 21,3% dans certaines études.
- * Diminution de la durée de séjour à l'hôpital : 10,3 jours contre 13,0 jours (p = 0,042).
Évaluation des biais et transparence
L'évaluation des biais a révélé des préoccupations variées concernant la qualité des études.
- * 4 études avec faible risque de biais, 7 avec des préoccupations, 7 avec un risque élevé.
- * Conformité variable aux normes de reporting : 3 études avec conformité totale, 6 avec haute conformité.
Implications pour la pratique clinique
Les résultats soulignent la nécessité d'évaluations rigoureuses des systèmes d'IA en santé.
- * Les systèmes d'IA ont le potentiel d'améliorer les soins aux patients, mais des recherches supplémentaires sont nécessaires.
- * Importance d'une évaluation équilibrée des bénéfices et des risques pour une intégration significative dans la pratique clinique.
État des preuves sur l'IA en santé
L'analyse des études sur l'impact de l'intelligence artificielle (IA) dans le domaine de la santé révèle des résultats mitigés concernant les bénéfices pour les patients.
- * Deux études sur deux ont montré des effets positifs sur les résultats de dépression et de douleur.
- * Pour d'autres morbidités, les résultats étaient positifs dans 1 des 2 études.
- * Les résultats sur la mortalité étaient positifs dans 2 des 5 études.
- * Les effets sur l'anxiété des patients et la durée de séjour à l'hôpital n'ont été confirmés que dans 1 des 3 et 1 des 5 études respectivement.
- * Des effets positifs ont été observés sur les réadmissions hospitalières et la qualité de vie dans des études uniques.
- * Les bénéfices étaient constants en psychiatrie (n = 3) mais absents en anesthésie (n = 2).
Risque de biais dans les études
Un nombre significatif d'études présente un risque élevé de biais, ce qui soulève des préoccupations sur la qualité des recherches.
- * Huit études montrent un risque élevé de biais, même après exclusion des essais non préenregistrés.
- * 11 des 19 études n'ont pas un risque élevé, indiquant un effort pour assurer la qualité.
- * Seulement cinq études fournissent une évaluation équilibrée des bénéfices et des risques des systèmes d'aide à la décision.
Conditions d'implémentation de l'IA
Les conditions d'implémentation de l'IA sont essentielles pour maximiser les bénéfices pour les patients, mais souvent négligées dans les études.
- * La formation des utilisateurs est cruciale, mais la moitié des études n'ont pas décrit les exigences minimales.
- * Les cultures d'erreur et d'apprentissage influencent les bénéfices des systèmes, mais peu d'études en parlent.
- * La participation des patients dans le développement et l'implémentation des systèmes d'aide à la décision est rarement rapportée.
Opacité et transparence des données
L'opacité dans le développement des algorithmes et l'accès aux données limite les bénéfices potentiels de l'IA en santé.
- * La plupart des études utilisent des données réelles internes, ce qui souligne le besoin de collaborations en matière de données de santé.
- * Les modèles interprétables et non interprétables sont également représentés, mais la transparence est insuffisante.
- Les violations des normes de rapport d'étude entravent l'implémentation, notamment pour la validité externe des ensembles de données.
Lacunes dans l'évaluation des résultats à long terme
Les études se concentrent principalement sur les résultats à court terme, négligeant les effets à long terme des interventions d'IA.
- * La majorité des études ont été menées dans des pays à revenu élevé, limitant l'applicabilité des résultats.
- * Des lacunes significatives existent dans la disponibilité et la transparence des données, entravant la recherche future.
Importance de la rigueur méthodologique
La nécessité d'une rigueur méthodologique est soulignée pour garantir la validité des études sur l'IA en santé.
- Seulement cinq études sans risque élevé de biais ont étudié des résultats pertinents pour les patients.
- L'accent doit être mis sur la qualité des études, les algorithmes généralisables et les normes de rapport.
- Les futures recherches doivent examiner l'interaction humain-algorithme et l'adhésion des professionnels de santé aux recommandations des systèmes d'IA.
SYNTHÈSE / NOTEBOOKLM
Cette revue systématique examine l'influence des systèmes de prise de décision algorithmique basés sur l'intelligence artificielle sur les résultats cliniques réels des patients. Bien que l'IA surpasse parfois les experts en précision technique, l'étude révèle que les preuves de bénéfices tangibles, comme la réduction de la mortalité ou de la morbidité, restent encore limitées et hétérogènes. Les chercheurs soulignent que si des améliorations sont observées dans des domaines comme la psychiatrie et la gestion de la douleur, de nombreux essais souffrent de risques de biais élevés et d'un manque de transparence. L'analyse conclut que l'intégration de ces outils en médecine nécessite des évaluations rigoureuses et standardisées axées sur le bien-être des patients plutôt que sur la seule performance algorithmique. Enfin, l'étude insiste sur l'importance cruciale de la formation des professionnels de santé et des conditions de mise en œuvre pour garantir l'efficacité de ces technologies.
|
Référence de l'étude
|
Pays
|
Spécialité médicale
|
Type de système d'IA
|
Résultats pertinents pour le patient
|
Risque de biais
|
Source de financement
|
Source
|
|---|---|---|---|---|---|---|---|
|
Bailey et al. (2013)
|
USA
|
Médecine interne hospitalière
|
Système de surveillance
|
Transfert en unité de soins intensifs, mortalité et durée de séjour
|
Élevé ou certaines préoccupations
|
Privé et public
|
[1]
|
|
Delgadillo et al. (2022)
|
Royaume-Uni
|
Psychiatrie
|
Personnalisation du traitement
|
Amélioration des symptômes de dépression et de l'anxiété
|
Élevé ou certaines préoccupations
|
Privé et public
|
[1]
|
|
Gong et al. (2020)
|
Chine
|
Oncologie
|
Système d'amélioration de la qualité en temps réel
|
Événements indésirables et événements indésirables graves
|
Élevé ou certaines préoccupations
|
Public
|
[1]
|
|
Hong et al. (2020)
|
USA
|
Oncologie
|
Système de surveillance
|
Admission à l'hôpital et admission aux urgences
|
Élevé ou certaines préoccupations
|
Privé
|
[1]
|
|
Huang et al. (2023)
|
Chine
|
Médecine interne hospitalière
|
Personnalisation du traitement et système de rappel
|
Incidence de la thromboembolie veineuse associée à l'hôpital, embolie pulmonaire et thrombose veineuse profonde
|
Élevé ou certaines préoccupations
|
Privé et public
|
[1]
|
|
Manz et al. (2023)
|
USA
|
Oncologie
|
Système de rappel
|
Estimations de mortalité, thérapie systémique de fin de vie, inscription en soins palliatifs, durée de séjour, décès à l'hôpital et admission en soins intensifs de fin de vie
|
Faible risque
|
Privé et public
|
[1]
|
|
Martinez-Gutierrez et al. (2023)
|
USA
|
Neurologie
|
Support diagnostique et système de surveillance
|
Durée de séjour à l'hôpital, mortalité et hémorragie intracérébrale symptomatique
|
Élevé ou certaines préoccupations
|
Public
|
[1]
|
|
Nimri et al. (2020)
|
USA, Europe, Israël
|
Diabétologie
|
Système de surveillance et personnalisation du traitement
|
Événements indésirables liés à l'étude sur le diabète
|
Élevé ou certaines préoccupations
|
Privé
|
[1]
|
|
Park & Moon (2023)
|
Corée
|
Soins de longue durée
|
Système de surveillance
|
Épisodes de délire, mortalité, durée de séjour et mortalité hospitalière à 1 et 3 mois
|
Élevé ou certaines préoccupations
|
Public
|
[1]
|
|
Pavel et al. (2020)
|
Irlande, Royaume-Uni, Suède
|
Neurologie
|
Système de surveillance
|
Médication anti-épileptique inappropriée
|
Élevé ou certaines préoccupations
|
Privé et Public
|
[1]
|
|
Piette et al. (2022)
|
USA
|
Psychiatrie
|
Personnalisation du traitement
|
Incapacité liée à la douleur, intensité de la douleur, symptômes de dépression, qualité de vie liée à la santé et mesure de l'impression globale de changement du patient
|
Élevé ou certaines préoccupations
|
Public
|
[1]
|
|
Sadeh-Sharvit et al. (2023)
|
USA
|
Psychiatrie
|
Personnalisation du traitement
|
Changements dans la dépression, changements dans l'anxiété et satisfaction du patient
|
Élevé ou certaines préoccupations
|
Non rapporté
|
[1]
|
|
Schneck et al. (2020)
|
Allemagne
|
Anesthésiologie
|
Système de surveillance
|
Durée de séjour en unité de soins intensifs ou intermédiaires (en heures), et durée de séjour hospitalier (jours)
|
Élevé ou certaines préoccupations
|
Privé
|
[1]
|
|
Seol et al. (2021)
|
USA
|
Pneumologie
|
Système de prévision et système de surveillance
|
Survenue d'exacerbations d'asthme en un an et événements indésirables
|
Élevé ou certaines préoccupations
|
Privé et public
|
[1]
|
|
Shimabukuro et al. (2017)
|
USA
|
Soins intensifs
|
Système de surveillance
|
Durée moyenne de séjour à l'hôpital et en soins intensifs et mortalité hospitalière
|
Faible risque
|
Public
|
[1]
|
|
Wathour et al. (2023)
|
France
|
Audiologie
|
Personnalisation du traitement
|
Performance auditive, confort d'ajustement, satisfaction du patient et adaptation
|
Élevé ou certaines préoccupations
|
Aucun financement
|
[1]
|
|
Wijnberge et al. (2020)
|
Pays-Bas
|
Anesthésiologie
|
Système de surveillance
|
Événements indésirables et événements indésirables graves
|
Faible risque
|
Privé
|
[1]
|
|
Wilson et al. (2023)
|
USA
|
Soins palliatifs
|
Personnalisation du traitement
|
Réadmission hospitalière dans les 30 jours suivant la sortie, admission en soins intensifs, durée de séjour hospitalier, réadmission hospitalière à 60 et 90 jours
|
Élevé ou certaines préoccupations
|
Privé
|
[1]
|
|
Wang et al. (2021)
|
Chine
|
Oncologie
|
Personnalisation du traitement
|
Douleur chronique, qualité de vie
|
Risque sérieux (ROBINS-I)
|
Public
|
[1]
|
Commentaire
Une fois de plus, nous nous trompons sur l'IA dans le domaine médical. Il y a d'un côté l'IA technique/outil qui apporte beaucoup aux médecins : imagerie, recherche, médecine prédictive, les robots chirurgicaux, etc. Tout ceci est du domaine de l' OUTIL. De l'autre côté, il y a la médecine et on veut à tout prix que l'IA devienne médecin, grossière erreur. Le médecin a appris, il a de l'expérience, il sent les choses, il a de l'empathie, il écoute, il partage, il a de la compassion , il a de l'intuition… l'IA non...pour l'instant. Chacun a sa place, que ce soit l'IA ou l'HUMAIN ; il ne doit pas y avoir de concurrence entre eux, mais plutôt une synergie d'action. Entre l'IA et l'HUMAIN, il ya un autre HUMAIN, le patient. Le patient doit dûment être informé et il doit être le bénéficiaire des interactions entre l'IA et le médecin. L'approche médecin/patient est une rencontre consentie , une rencontre très particulière avec tact et mesure, avec des échanges. Le patient dévoile "sa face cachée, sa vie intime" au médecin, etc. C'est pourquoi l'outil doit rester un outil, c'est la participation de l'IA, le médecin lui doit rester un médecin mais avec une vision augmentée grâce à l'IA. Dernier point l'enseignement de l'IA durant le cursus de médecine devra être obligatoire tout au long de ce cursus . Le "grand remplacement" des médecins par l'IA ne serait pas une bonne chose pour les patients. Maus, faute de médecin l.....tout reste possible ! Je suis 100% pour l'IA et 100 % pour un médecin humain, ce ne sont pas des ennemis mais des amis !
IA "exosquelette du médecin" Dr Caniggia
Cet article analyse l'intégration rapide de l'intelligence artificielle dans le secteur médical, en soulignant ses bénéfices pour le diagnostic et le suivi des patients. Les auteurs explorent les défis éthiques majeurs, notamment la protection des données personnelles et la supervision des algorithmes. Un concept central abordé est celui de la garantie humaine, qui impose que les professionnels de santé conservent la responsabilité finale des décisions cliniques. Le texte examine également la complexité du cadre juridique européen et français visant à réguler ces technologies sans compromettre le secret médical.
Finalement, cette source s'interroge sur l'évolution du rôle du médecin face à une machine qui pourrait passer de simple outil de soutien à un remplaçant potentiel."
