Jean Pierre LAROCHE 23 Août 2025 Clics : 255

Supervision clinique : utilisation IA

" Le leadership est la capacité à traduire une vision en réalité" Warren Bennis.

"Un bon leader inspire confiance en lui-même, un excellent leader inspire confiance en lui-même"Eleanor Roosevelt.

"L’intelligence artificielle est l’électricité de demain : omniprésente, indispensable. Nous avons donc une lourde responsabilité : l’utiliser pour le bien de l’humanité – en créant des emplois, en faisant progresser la médecine, en révolutionnant la production industrielle, en généralisant l’accès à une éducation de qualité ou en mettant au point de petites et grandes inventions qui nous facilitent la vie au quotidien. " Kaï-Fu Lee,

" Les élèves doivent apprendre à utiliser l’IA comme un outil pour compléter et étendre leur propre jugement et créativité, plutôt que comme un remplaçant. "
— Synthèse des recommandations pédagogiques contemporaine
https://www.ac-paris.fr/l-intelligence-artificielle-dans-l-education-130992

"La technologie n’est ni bonne ni mauvaise ni neutre ; elle dépend de l’intention de la personne qui l’utilise. " Melvin Kranzberg,

Educational Strategies for Clinical Supervision of Artificial Intelligence Use ,Stratégies pédagogiques pour la supervision clinique de l'utilisation de l'intelligence artificielle, Raja-Elie E. Abdulnour, Brian Gin, Christy K. Boscardin The New England Journal of Medicine Aug 21, 2025
https://www.nejm.org/doi/full/10.1056/NEJMra2503232

EXTRAITS ...

Les interactions entre l’humain et l’ordinateur existent depuis des décennies, mais les récents développements technologiques en intelligence artificielle (IA) médicale ont conduit à des interactions à la fois plus efficaces et potentiellement plus dangereuses.

Bien que l’engouement autour de l’IA rappelle des révolutions technologiques antérieures, telles que l’essor d’Internet et du dossier médical électronique, l’apparition des grands modèles de langage (LLMs, pour Large Language Models) présente une dimension différente. Les LLMs peuvent simuler la génération de connaissances et le raisonnement clinique avec une aisance proche de celle des humains, ce qui leur confère l’apparence d’une agentivité et d’un traitement autonome de l’information.

Ainsi, l’IA a la capacité de transformer fondamentalement l’apprentissage médical et la pratique clinique.

Comme dans d’autres professions, l’usage de l’IA dans la formation médicale pourrait produire des professionnels très efficaces mais potentiellement moins capables de résoudre des problèmes de manière autonome et d’exercer un esprit critique, comparativement à leurs prédécesseurs d’avant l’ère de l’IA.

Un tel défi représente à la fois des opportunités pédagogiques et des risques.

L’IA peut améliorer l’apprentissage par simulation, la mémorisation des connaissances, le retour d’information immédiat, et elle peut être utilisée pour délester les apprenants de tâches répétitives grâce au déchargement cognitif.

Celui-ci consiste pour l’apprenant à s’appuyer sur l’IA afin de réduire la charge imposée à sa mémoire de travail, une stratégie qui favorise l’engagement mental pour des tâches plus complexes.

Toutefois, déléguer des tâches plus sophistiquées — comme le raisonnement clinique et la prise de décision — risque de mener au biais d’automatisation (dépendance excessive aux systèmes automatisés et risque d’erreur), au désapprentissage (perte de compétences acquises), au non-apprentissage (incapacité à développer certaines compétences essentielles), ou encore au mauvais apprentissage (consolidation de comportements erronés dus aux biais ou erreurs de l’IA).

Ces risques sont d’autant plus préoccupants que les LLMs fonctionnent comme des systèmes opaques et largement imprévisibles : ils génèrent des réponses probabilistes avec une transparence limitée du raisonnement, ce qui complique l’évaluation de leur fiabilité.

Par exemple, une étude a montré que plus d’un tiers d’étudiants en médecine avancés n’avaient pas identifié les erreurs présentes dans les réponses d’un LLM à des scénarios cliniques.

La variabilité intrinsèque et les potentielles inexactitudes des résultats produits par l’IA peuvent laisser même des cliniciens expérimentés incertains face aux recommandations générées.

Ce dilemme n’est pas inédit : il reflète le défi plus large que constitue la confrontation à des problèmes cliniques inconnus. Ces situations exigent une pratique adaptative — c’est-à-dire la capacité de passer de manière fluide d’un comportement routinier, familier et efficient, à une résolution de problèmes novatrice et flexible.

La pensée critique est l’outil cognitif structuré qui sous-tend cette pratique adaptative face à l’incertitude.

Elle permet aux cliniciens de rendre explicites leurs présupposés, de s’engager dans une autoréflexion qui les aide à identifier leurs lacunes ou biais, à réduire les erreurs, à s’adapter à de nouveaux problèmes et à générer ou assimiler des connaissances nouvelles (c’est-à-dire à apprendre).

Ainsi, la pensée critique constitue un fondement essentiel de la pratique adaptative à l’ère de l’IA.

Points Clés

Stratégies pédagogiques pour la supervision clinique de l’utilisation de l’intelligence artificielle

* L’utilisation de l’intelligence artificielle (IA) pour le développement d’une pratique experte offre des opportunités inédites, mais comporte aussi des risques tels que le désapprentissage (deskilling), le non-apprentissage (never-skilling) et le mauvais apprentissage (mis-skilling).
* Les superviseurs cliniques peuvent être moins expérimentés que les apprenants dans l’usage de l’IA. Le développement du corps professoral doit donc favoriser des environnements d’apprentissage partagés permettant une Co exploration des capacités et des limites de l’IA.
* La pratique adaptative — c’est-à-dire l’alternance entre efficacité et innovation — constitue un fondement de l’apprentissage assisté par l’IA. La pensée critique soutient cette transition et doit être enseignée et mise en modèle.
* Les interactions avec l’IA créent des situations où les cliniciens reçoivent des résultats dont ils ne peuvent pas entièrement retracer le raisonnement, ce qui implique une part de saut de confiance. Savoir reconnaître ces moments constitue un élément essentiel de la pensée critique.
DEFT-AI (Diagnosis, Evidence, Feedback, Teaching, and Recommendation for AI use) est un cadre structuré destiné à promouvoir la pensée critique et la littératie en IA lors des interactions apprenant–IA.
- DEFT-AI est un cadre méthodologique qui permet de transformer les sorties opaques des IA médicales en occasions d’apprentissage critique.
- Il protège contre le biais d’automatisation (accepter la réponse sans esprit critique) et contre le mauvais apprentissage.
- Il renforce chez les futurs cliniciens la capacité à développer une pratique adaptative, équilibrée entre l’efficacité permise par l’IA et l’autonomie intellectuelle indispensable en médecine.
  
  Un éducateur observant l’utilisation de l’intelligence artificielle (IA) par un apprenant
  
  Un éducateur, jouant le rôle de précepteur clinique, observe un résident qui utilise un chatbot basé sur un grand modèle de langage afin de l’aider à établir un diagnostic différentiel. L’éducateur prend conscience du défi inhérent qu’il y a à faire confiance à un outil d’IA qui peut ne pas être entièrement fiable. Cette interaction avec l’IA pousse l’éducateur à intervenir dans ce qui pourrait constituer une situation à haut risque, à la fois pour l’apprenant et pour le patient.
  
  En intervenant, l’éducateur crée une opportunité de faire de la pensée critique un véritable support et de stimuler un engagement plus profond dans le raisonnement clinique ainsi que dans l’usage responsable de l’IA — une approche résumée par le cadre DEFT‑AI (diagnostic, preuves, feedback, enseignement et recommandations pour l’usage de l’IA).
  
  Développement de la pratique adaptative et effets de l’IA
  
  Grâce à la pratique et à la pensée critique, les apprenants développent la capacité de passer à une pratique adaptative innovante, en réponse à une rupture dans la routine et la pratique automatique (étoile). À mesure qu’ils progressent et entrent en pratique clinique, l’utilisation de l’IA introduit à la fois des risques et des opportunités.
  
  Le déchargement cognitif sur l’IA peut entraîner une sur dépendance à son égard et un phénomène de désapprentissage (deskilling), tandis qu’une confiance aveugle dans ses réponses peut conduire à un mauvais apprentissage (mis-skilling), les erreurs de l’IA n’étant pas remises en question.
  
  Si elle est introduite trop tôt, l’IA peut empêcher les apprenants d’acquérir des compétences essentielles (non apprentissage ou never-skilling). À l’inverse, une utilisation judicieuse de l’IA peut améliorer la pratique et l’apprentissage en mettant en avant la nécessité de la pensée critique et en favorisant une collaboration efficace entre l’humain et l’IA.
  
  * Deux comportements d’usage de l’IA émergent : le mode cyborg (fort entrelacement de l’utilisateur et de l’IA pour chaque tâche) et le mode centaure (répartition des tâches entre l’utilisateur et l’IA, avec supervision critique). La pratique adaptative de l’IA requiert la capacité de passer d’un mode à l’autre selon la complexité de la tâche et le niveau de risque encouru.
- Traduction GEMINI/IA
  
  Utilisez les outils d'IA dont l'efficacité est reconnue. Recherchez des preuves évaluées par les pairs concernant leur précision et leur sécurité. Il se peut que notre institution ait adapté et validé un modèle similaire sur la base de données de haute qualité.
  
  La formulation des requêtes (prompts) pour un chabot est essentielle pour générer des résultats pertinents et précis. Considérez cela comme une conversation avec un consultant : fournissez suffisamment d'informations spécifiques sur le Qui (le rôle attendu de l'IA et votre rôle), le Où (la description du contexte) et le Quoi (votre objectif et votre tâche ou question spécifique). Demandez toujours à l'IA d'expliquer son raisonnement, ce qui améliore ses réponses et vous permet d'évaluer sa manière de penser et le degré de confiance que vous pouvez lui accorder. Une seule requête ne suffit pas : engagez une conversation et donnez lui des retours. Tout comme je l'ai fait avec vous, vous pouvez également lui demander de procéder à une autoréflexion et de rechercher ses erreurs.
  
  L'IA est toujours sujette aux erreurs et aux biais : vérifiez toujours, puis faites confiance. Assurez-vous de confronter ses réponses à vos propres connaissances, à des sources d'informations médicales fiables, comme les publications du groupe NEJM, et à vos collègues de confiance, comme moi.
  
  Continuez à vous entraîner à utiliser l'IA pour éclairer votre raisonnement plutôt que pour le remplacer. Les résultats de l'IA sont vos données d'entrée préliminaires, tout comme un compte rendu de radiologie préliminaire ou une interprétation automatisée d'ECG : vérifiez, puis faites confiance. Sachez quand vous pouvez vous y fier (cyborg) et quand vous devez confirmer les résultats (centaure).
  
  Quelles requêtes avez-vous saisies dans l'application ? Je lui ai demandé le meilleur test de diagnostic et la meilleure stratégie de traitement.
  
  Formateur / Apprenant
  
  Justification : Le formateur demande une évaluation de l'utilisation de l'IA par l'apprenant, basée sur des données probantes. Le formateur fournit des points d'enseignement ciblés basés sur les conclusions de la conversation et recommande si, quand et comment utiliser l'IA en toute sécurité à l'avenir.
  
  Utilisation de DEFT-AI pour promouvoir la pensée critique lors d'une interaction avec l'IA.
  
  Après avoir identifié une interaction avec l'IA, le formateur engage l'apprenant dans un moment pédagogique structuré pour discuter de l'interaction, l'évaluer, fournir un retour, et enseigner le raisonnement clinique ainsi que l'utilisation de l'IA. La discussion porte sur le processus de raisonnement clinique de l'apprenant et son approche d'utilisation de l'IA, y compris les requêtes (prompts) utilisées. Le formateur questionne l'apprenant sur l'utilisation de données probantes (à l'appui et contradictoires) afin d'évaluer ses connaissances cliniques et sa maîtrise de l'IA. Ce processus permet de déterminer si l'apprenant a utilisé l'IA pour remplacer son raisonnement clinique ou pour l'éclairer, et offre un aperçu de sa littératie en matière d'IA. Le formateur guide ensuite l'apprenant à réfléchir aux pistes d'amélioration et encourage la pensée critique concernant les interactions avec l'IA et le raisonnement clinique. Enfin, le formateur dispense un enseignement ciblé sur l'utilisation efficace de l'IA, la sélection des bons outils et l'amélioration des requêtes. L'apprenant est encouragé à adapter son utilisation de l'IA à la tâche, en alternant entre le fait de se fier aux résultats de l'IA (stratégie du cyborg) et la confirmation de ces résultats (stratégie du centaure).
  
  Utilisation adaptative de l'IA en fonction de la tâche.
  
  La manière d'interagir avec l'IA devrait varier d'un moment à l'autre, en s'adaptant au type de tâche et au risque qui y est associé. Le degré d'intégration humain IA peut aller de la délégation stratégique (centaure) à la collaboration étroite (cyborg). Les stratégies de type centaure sont appropriées lorsque le jugement humain doit prévaloir, particulièrement pour les tâches à fort enjeu ou dans des situations où l'outil d'IA n'a pas été validé pour l'usage spécifique prévu. Avec une approche de type centaure, le clinicien délègue prudemment des tâches à l'IA et évalue systématiquement les résultats. Les stratégies de type cyborg peuvent améliorer l'efficacité pour les tâches à faible risque, créatives ou bien validées. L'utilisation adaptative de l'IA consiste à alterner entre ces modes en fonction des compétences, de la tâche et du contexte
  
  DEFT-AI par PERPLEXITY/IA
  
  🔹 Le cadre DEFT-AI
  
  (Diagnosis, Evidence, Feedback, Teaching, and Recommendation for AI use)
  
  C’est un outil structuré pour encadrer l’usage de l’IA dans la formation médicale, afin de renforcer la pensée critique et la littératie en IA (capacité à comprendre, évaluer et utiliser efficacement l’IA).
  
  1. Diagnosis (Diagnostic)
  - Objectif : Encourager l’apprenant à comparer le diagnostic suggéré par l’IA avec son propre raisonnement clinique.
  - Exemple en supervision :
    - L’IA propose une pneumonie bactérienne à partir d’une radiographie thoracique.
    - Le superviseur demande à l’étudiant : « Quelles données cliniques soutiennent ce diagnostic ? Y a-t-il des diagnostics alternatifs que l’IA n’a peut-être pas envisagés ? »
  2. Evidence (Preuves/Arguments)
  - Objectif : Aider l’apprenant à évaluer la solidité des arguments ou données (preuves scientifiques, guidelines, examens) qui appuient la sortie de l’IA.
  - Exemple en supervision :
    - L’IA recommande un traitement antibiotique.
    - Le superviseur demande : « L’IA s’appuie-t-elle sur des directives reconnues ? As-tu trouvé des preuves dans la littérature ou dans les recommandations nationales qui confirment ou contredisent cette suggestion ? »
  3. Feedback (Retour/Rétroaction)
  - Objectif : Donner un retour sur la manière dont l’apprenant utilise l’IA : est-il trop dépendant ? Est-il critique ? Pose-t-il les bonnes questions ?
  - Exemple en supervision :
    - Le superviseur dit : « J’ai remarqué que tu as accepté la réponse de l’IA sans la questionner : essaie d’identifier d’éventuelles incohérences avant de valider la proposition. »
  4. Teaching (Enseignement et guidance)
  - Objectif : Profiter des interactions avec l’IA pour enseigner directement des compétences cliniques et cognitives (par ex. raisonnement différentiel, interprétation des données).
  - Exemple en supervision :
    - Plutôt que de donner la réponse, le superviseur guide : « Utilisons la réponse de l’IA comme point de départ. Peux-tu reconstruire le raisonnement étape par étape ? »
    - Cela permet d’apprendre comment transformer une solution brute fournie par l’IA en un raisonnement médical valide.
  5. Recommandation for AI use (Recommandations sur l’usage de l’IA)
  - Objectif : Aider l’apprenant à développer un sens pratique de l’utilisation appropriée de l’IA, en tenant compte du contexte clinique, du risque et de ses propres compétences.
  - Exemple en supervision :
    - « Pour des tâches répétitives comme la génération de résumés de dossiers, l’IA est très utile. Mais pour des décisions critiques comme l’initiation d’un traitement lourd, tu dois toujours confronter ses suggestions à des sources validées et à ton raisonnement. »
  🔑 En résumé
Utilisez les outils d'IA dont l'efficacité est reconnue.

Recherchez des preuves évaluées par les pairs concernant leur précision et leur sécurité. Il se peut que notre institution ait adapté et validé un modèle similaire sur la base de données de haute qualité.

La formulation des requêtes (prompts) pour un chatbots est essentielle pour générer des résultats pertinents et précis.

Considérez cela comme une conversation avec un consultant : fournissez suffisamment d'informations spécifiques sur le Qui (le rôle attendu de l'IA et votre rôle), le Où (la description du contexte) et le Quoi (votre objectif et votre tâche ou question spécifique).

Demandez toujours à l'IA d'expliquer son raisonnement, ce qui améliore ses réponses et vous permet d'évaluer sa manière de penser et le degré de confiance que vous pouvez lui accorder. Une seule requête ne suffit pas : engagez une conversation et donnez lui des retours. Tout comme je l'ai fait avec vous, vous pouvez également lui demander de procéder à une autoréflexion et de rechercher ses erreurs.

L'IA est toujours sujette aux erreurs et aux biais : vérifiez toujours, puis faites confiance. Assurez vous de confronter ses réponses à vos propres connaissances, à des sources d'informations médicales fiables, comme les publications du groupe NEJM, et à vos collègues de confiance, comme moi.

Continuez à vous entraîner à utiliser l'IA pour éclairer votre raisonnement plutôt que pour le remplacer. Les résultats de l'IA sont vos données d'entrée préliminaires, tout comme un compte rendu de radiologie préliminaire ou une interprétation automatisée d'ECG : vérifiez, puis faites confiance.
Sachez quand vous pouvez vous y fier (cyborg) et quand vous devez confirmer les résultats (centaure).

Quelles requêtes avez-vous saisies dans l'application ? Je lui ai demandé le meilleur test de diagnostic et la meilleure stratégie de traitement.

Formateur / Apprenant

Justification : Le formateur demande une évaluation de l'utilisation de l'IA par l'apprenant, basée sur des données probantes. Le formateur fournit des points d'enseignement ciblés basés sur les conclusions de la conversation et recommande si, quand et comment utiliser l'IA en toute sécurité à l'avenir.

SYNTHESE
Cet article de fond du New England Journal of Medicine examine l'intégration de l'intelligence artificielle (IA) dans la formation et la pratique médicale, soulignant à la fois ses opportunités et ses risques potentiels. Les auteurs discutent des défis tels que le « dessaisissement » (perte de compétences acquises), le « jamais acquérir » (échec à développer des compétences essentielles), et le « mal-acquérir » (renforcement de comportements incorrects) résultant d'une dépendance excessive à l'IA. Pour contrer ces risques, ils proposent le cadre DEFT-AI (Diagnostic, Evidence, Feedback, Teaching, and recommandation for AI use), une approche structurée visant à promouvoir la pensée critique et la littératie en IA chez les apprenants et les éducateurs. L'article introduit également les concepts de comportements
« centaure » (délégation stratégique de tâches à l'IA)
« cyborg » (collaboration étroite avec l'IA), encourageant une utilisation adaptative de l'IA en fonction de la complexité et du risque des tâches.(Notebook LM)

Commentaire

Tout s'apprend, et même l'IA.

On ne peut improviser avec une IA en médecine, il faut donc apprendre et apprendre tout en gardant un œil critique car l'IA peut se tromper. L'IA n'aura jamais l'intuition, l'expérience acquise du médecin au fil des années face à un patient. L'IA n'aura pas de compréhension du caractère de l'humain, de compassion, de l'empathie. Mais par contre l'IA aura un bagage de connaissances immense, mais la connaissance en médecine doit se mettre en symbiose avec un patient. L'IA va accélérer certaines tâches, notamment les actes techniques. Elle pourra rendre la vie plus facile au médecin sur le plan organisationnel. L'IA peut donner différentes pistes diagnostiques et thérapeutiques avec célérité. L'IA ne remplacera pas le médecin mais deviendra un collaborateur de talent, disons plutôt un outil de talent. C'est ainsi qu'il faut traiter avec l'IA, ne pas en avoir peur . Surtout le médecin doit rester le décideur et le donneur d'ordres vis-à- vis de l'IA car le médecin a une responsabilité, ce que les outils n'ont pas. Il doit rendre des comptes . Il doit garder son sens critique, ses capacités de jugement, son expérience et son intuition. Ne pas laisser votre esprit au repos, attention danger , au contraire travailler avec une IA c'est "doper" sont intellect en étant plus efficace mais en restant le maître du jeu.

A LIRE