IA et pratique cardiovasculaire

Acquisition de données

• Quelles ressources sont utilisées pour entraîner l'IA ?
  Sont-elles générées par l'homme ou par ordinateur ?
  Comment la fiabilité et la précision des ressources d'entraînement sont-elles validées ?

• Comment les données sont-elles collectées ?
  Les méthodes de collecte de données utilisées sont-elles sécurisées ?
  Le développeur d'IA est-il transparent sur la manière dont les données sont collectées ?

• La technologie fait-elle appel à des données humaines ou à des données machine ?
  Quelle est la marge d'erreur/de subjectivité potentielle ?

• Quels personnels/professions sont impliqués dans la collecte et le développement de données en IA ?
  La méthode d'IA est-elle adaptée au sujet traité ou au cas d'utilisation ?

• Quel est le potentiel de déplacement d’emplois, de restructuration organisationnelle ou de recyclage du personnel lié à l’IA ?

Les techniques utilisées par l'IA pour acquérir des données peuvent manquer de transparence, ce qui rend difficile la compréhension de leur fiabilité et de leur exactitude. Par exemple, il peut être difficile de savoir quelles données un outil d'IA utilise, dans quelle mesure ces données sont représentatives et s'il existe des biais. Les données du DSE, par exemple, peuvent ne pas être applicables à la population générale, et leur utilisation comme source de données dans un outil d'IA pourrait entraîner un traitement injuste ou des décisions erronées. 

La transparence peut être obtenue par une définition explicite du modèle suivie de sa validation.

L'IA peut être limitée dans sa capacité à adopter une approche globale de la prise de décision clinique, risquant de négliger la contribution des déterminants psychologiques et sociaux de la santé. Il est donc important que les cliniciens sachent comment les modèles d'IA sont développés afin de vérifier la crédibilité des résultats.

Les prédictions inexactes résultant de données d'entraînement erronées utilisées pour développer le modèle d'IA posent d'importants problèmes de fiabilité.

Relever ces défis nécessite la collaboration de divers professionnels cliniques et administratifs travaillant avec des populations de patients spécifiques. De plus, des solutions durables nécessiteront une collaboration entre développeurs de technologies, chercheurs, décideurs politiques et cliniciens afin de garantir la conception et la mise en œuvre de méthodes et d'outils d'IA responsables, éthiques et sûrs pour la pratique clinique.

Les cliniciens devraient se demander si la technologie d'IA appliquera un algorithme susceptible d'aggraver les inégalités existantes au sein de leur population de patients.

Reconnaissance des données

• Quelles plateformes sont utilisées ? ML, DL, NLP, RBS et/ou RPA ?

• Dans quels groupes l'utilisation de modèles de reconnaissance par IA est-elle appropriée ou inappropriée ? Quelles cohortes/tendances seront utilisées pour la reconnaissance des données ?

• Qui a accès aux données ? Les patients, les prestataires de soins, les organismes de santé, les compagnies d’assurance, les chercheurs, les associations de défense des patients, etc.

Un appel national a été lancé aux entreprises pour qu'elles établissent des normes autour du développement de l'IA, mais aucune norme définitive n'a été universellement adoptée.

Les organismes de santé craignent de plus en plus qu'en l'absence de réglementation, certaines entreprises technologiques privilégient le profit au détriment de la confidentialité et de la sécurité des patients. Les médias s'inquiètent également de la manière dont l'IA peut être instrumentalisée par des pirates informatiques et autres acteurs malveillants.  Les systèmes de santé devront prendre en compte le coût, la complexité et la fonction des nouvelles technologies d'IA, ainsi que leur mise en œuvre. Récemment, des calculateurs complets de retour sur investissement ont vu le jour, permettant aux systèmes de santé d'évaluer les avantages financiers et non financiers de l'IA pour la prise en charge des patients. 

Diagnostic

• Quels algorithmes ont été utilisés pour générer des diagnostics cliniques probables ? Ces algorithmes sont-ils exhaustifs et représentatifs de la population évaluée ?

• Quelle est la répétabilité et la reproductibilité des résultats ou des données de sortie du modèle d’IA ?

• Quelles cohortes/tendances ont été utilisées pour développer des modèles permettant de poser des diagnostics ou d'éclairer les décisions de gestion ? Sont-elles actuelles ?

L'IA peut améliorer considérablement la vitesse et la précision de la prédiction du risque CV et de la détection des maladies. Les techniques d'apprentissage automatique actuellement utilisées par de nombreux tests et procédures CV ont un impact plus important sur la capacité d'un APP à s'exercer lorsque des méthodes d'apprentissage profond sont appliquées. Par exemple, les échocardiogrammes évaluent des paramètres tels que les pressions et les volumes qui conduisent à diverses cardiomyopathies. Les ECG détectent les rythmes cardiaques potentiellement mortels ou le dysfonctionnement ventriculaire gauche. Enfin, les dispositifs cardiaques implantables reconnaissent l'imminence d'une exacerbation aiguë de l'IC. Weng et ses collègues ont démontré l'utilité des modèles d'apprentissage automatique pour prédire le développement des maladies CV. Le modèle d'apprentissage automatique examiné le plus performant prédisait correctement 7,6 % supplémentaires de patients ayant finalement développé une maladie CV sur 10 ans par rapport aux algorithmes de prédiction du risque établis. 50 Dans la prise de décision médicale, les APP peuvent rassembler les informations recueillies auprès des patients, telles que les préférences et les préoccupations, avec des données cliniques pour élaborer des plans de traitement individualisés et fondés sur des preuves.

Gestion

• Comment l'information concernant la gestion est-elle diffusée ?

• Le système d'IA est-il sécurisé ? Est-il lié à une organisation ou à une base de données propriétaire, nationale ou mondiale ?

• Quels algorithmes sont utilisés dans les recommandations de traitement ? Sont-ils propriétaires ou basés sur des directives nationales ou internationales ? Intègrent-ils les considérations relatives à la couverture des régimes d'assurance ?

• Quelles actions l’outil entreprend-il en matière de diffusion et de mise en œuvre ?

• Comment les recommandations d’externalisation sont-elles générées (par exemple, les recommandations pour une consultation chirurgicale, une gestion de cas ou des soins palliatifs) ?

• Les informations ou les conseils seront-ils transmis directement aux patients ou une contribution/validation du prestataire sera-t-elle requise au préalable ?

Les algorithmes d'IA visent à rationaliser les processus administratifs, à optimiser l'allocation des ressources et à réaliser des opérations administratives générales telles que la facturation, la dotation en personnel et la rédaction de notes cliniques.

Le développement d'une IA robuste dans ces processus de santé repose sur la disponibilité de données de santé précises et de haute qualité. Pour une adoption généralisée, les données devront être largement partagées, ce qui nécessitera une anonymisation et une prise en compte accrue de la confidentialité et de la vie privée des patients .

Confidentialité, engagement et adhésion des patients

• Comment les données des patients sont-elles intégrées dans les algorithmes et les règles d’IA pour générer du matériel pédagogique spécifique aux patients ?

• Les données des patients seront-elles utilisées pour développer de futurs algorithmes d'IA ? Comment les identifiants des patients seront-ils sécurisés ?

• La méthode d’IA utilisée crée-t-elle des biais établis sur des données démographiques ou des déterminants sociaux de la santé ?

Français Les applications d'IA ouvrent de nouvelles perspectives pour la gestion personnalisée des soins de santé ou la médecine de précision. Les systèmes pilotés par l'IA peuvent de produire des suggestions personnalisées dans un éventail de domaines tels que la nutrition, la santé mentale et la forme physique ; cependant, la validité et l'efficacité de ces méthodes nécessitent encore une étude plus approfondie.

Par exemple, Dergaa et ses collègues ont étudié l'efficacité des prescriptions d'exercices générées par le modèle Generative Pre-trained Transformer 4 (GPT-4) d'OpenAI. Ils ont constaté que, bien que le modèle soit capable de générer une gamme de programmes soucieux de la sécurité, il manquait de précision pour répondre aux problèmes de santé et aux objectifs personnels du patient.

L'IA s'efforce d'accroître l'engagement et l'observance des patients en améliorant l'accès aux prescriptions d'exercices, aux prescriptions diététiques et au suivi chirurgical et de réhabilitation. Cependant, elle n'est pas encore recommandée à l'échelle mondiale pour remplacer les prescriptions personnalisées et spécifiques à l'état de santé fournies par des professionnels qualifiés. 

Les régimes basés sur l'IA ont tendance à être conservateurs et manquent de spécificité dans les recommandations qui peuvent avoir un impact sur la motivation et l'observance d'un patient. Sans un retour d’information en temps réel et des ajustements de programme réactifs, qu’une APP peut fournir par le biais de visites de suivi virtuelles ou en personne, ces défis sont encore aggravés.

Surveillance

• Comment les tendances seront-elles établies concernant les groupes de diagnostic (GH)/classifications internationales des maladies (CIM) spécifiques à une cohorte ?

• Comment les tendances seront-elles utilisées pour surveiller les niveaux individuel, prestataire et groupe de pratique ?

• Comment les tendances seront-elles utilisées par les Centers for Medicare and Medicaid Services (CMS) et d’autres fournisseurs d’assurance ?

Des préoccupations éthiques, sociales et techniques surgissent souvent lors de l'application des techniques d'IA à la pratique clinique.

La sécurité des données des patients est souvent mise en avant lorsque l'IA utilise les données des DSE. D'un point de vue éthique, les systèmes d'IA doivent préserver la confidentialité des patients tout en fournissant des données pour la construction de réseaux neuronaux artificiels.

 La prise de décision établie sur l'IA soulève des problèmes de fiabilité et de confiance.

Par conséquent, les applications doivent apprendre à utiliser l'IA de manière responsable dans tous les contextes cliniques afin de protéger la confidentialité des patients tout en surveillant leurs résultats individuels à partir de données regroupées spécifiques à chaque population.

Évaluation

• Quelles mesures de contrôle qualité sont en place ? Qui évaluera et réalisera le contrôle qualité (par exemple, le propriétaire de l'IA ou une agence nationale/gouvernementale) ?

• La méthode d’IA utilisée doit-elle être ajustée pour refléter les pratiques actuelles de l’APP ?

• Comment de nouvelles méthodes d’IA seront-elles développées sur la base de recommandations de contrôle qualité ?

Le processus d'évaluation est important pour tout nouveau système d'IA afin de déterminer si les méthodes ou les algorithmes sont efficaces pour l'objectif visé et s'ils s'appuient sur les données probantes ou les études les plus récentes.

Par exemple, l'inclusion des APP dans les panels des groupes d'assurance a été retardée en raison de la lenteur des CMS à reconnaître les APP comme des prestataires indépendants et/ou contributeurs à la gestion des soins de santé.

Les systèmes d'IA doivent continuellement apprendre ou être actualisés pour refléter les normes nationales en vigueur.

Balagurunathan et ses collègues proposent une liste de critères, adaptée ci-dessous, qui peuvent être utilisés pour améliorer la fiabilité et la transparence des méthodes d'IA :

• ✓ Cohorte diversifiée de dossiers de patients pour la formation du modèle, obtenue soit par l'utilisation de modèles d'apprentissage centralisés ou fédérés/distribués qui utilisent des silos de différentes sources de données

• ✓ Utilisation d'une cohorte de données indépendante pour les tests, de préférence dans un environnement distribué avec divers types de patients

• ✓ Transparence de l'architecture du modèle de réseau profond avec des niveaux de confiance dans ses décisions

• ✓ Utilisation éthiquement appropriée des méthodes d’IA avec un certain niveau de surveillance

• ✓ Évaluation de la reproductibilité des modèles d'IA avec des études de type test-retest

• ✓ Transparence du modèle qui divulgue l'architecture, les ensembles de données et les pondérations entraînées pour le réseau

• ✓ Programme d’ assurance qualité pour la mise en œuvre et le suivi continu des performances.