Thèse centrale Par OPEN EVIDENCE 

L'article soutient que l'utilisation des grands modèles de langage (LLM) pour synthétiser et générer automatiquement des recommandations cliniques (guidelines) est séduisante plus dangereuse , et propose une alternative : recentrer l'IA sur la détection des erreurs d'omission et la production de synthèses bibliographiques que des cliniciens experts transformeront en résumés concis et sans biais.

Structure argumentative

1. Le constat de départ : des lignes directrices dépassées

Kohane reconnaît la validité du problème : les lignes directrices cliniques sont souvent incomplètes et obsolètes, et les LLM peuvent lire la littérature plus vite que les comités d'experts. Le système Quicker, par exemple, a démontré qu'un LLM pouvait réduire le développement d'une recommandation à 20-40 minutes en automatisant la décomposition des questions cliniques, la recherche bibliographique, la sélection des études et la formulation de recommandations. [1]D'autres travaux ont montré que les LLM peuvent suivre le cadre GRADE et produire des lignes directrices de qualité comparables à celles rédigées par des sociétés savantes. [2]

2. Le danger principal : la compétence linguistique confondue avec la légitimité clinique

L'argument central de Kohane est que le vrai risque n'est pas que l'IA échoue à produire du texte de type « guideline », mais qu'elle en produise trop , y compris pour des situations où aucune donnée fiable n'existe.

Le texte généré, poli et référencé, sera facilement confondu avec une recommandation cliniquement validée par les systèmes de santé, les payeurs et les régulateurs. Ce risque est corroboré par la littérature : les LLM peuvent générer des informations plausibles mais factuellement incorrectes (« hallucinations »), et leur tendance à produire des réponses confiantes même en l'absence de données solides est bien documentée. [3-4]

3. Le problème de la « capture » des lignes directrices par des intérêts secondaires internationaux. Kohane souligne que la médecine fondée sur les preuves est déjà vulnérable à l'instrumentalisation par des sponsors commerciaux, des payeurs ou des régulateurs. L'IA amplifie ce risque car une ligne directrice biaisée peut désormais être « synthétisée, mise à jour, personnalisée, surveillée et appliquée à grande échelle ». Le Lignes directrices International Network (GIN) a d'ailleurs publié en 2025 des principes insistant sur la transparence, la crédibilité et la responsabilité dans l'utilisation de l'IA pour l'élaboration des lignes directrices.[5]

4. Le problème de la complexité combinatoire

cumulée Un patient fragile cumulant insuffisance rénale, diabète, anticoagulation, chutes récurrentes et aidant épuisé « n'est pas la somme de six lignes directrices ». Les combinatoires dépassent rapidement tout document construit autour d'hypothèses mono-pathologiques. Cette critique rejoint celle, formulée depuis plus d'une décennie, selon laquelle la médecine fondée sur les preuves a généré des volumes ingérables de recommandations, au risque de détacher l'évidence du contexte clinique individuel.[6-7]

5. La proposition alternative : deux usages légitimes de l'IA

• Aide à la décision centrale sur les erreurs d'omission : diagnostic manqué, contre-indication oubliée, interaction médicamenteuse dangereuse, détérioration non reconnue. L'approche serait « avez-vous envisagé Y, qu'il serait dangereux de manquer ? » plutôt que « vous devez faire X parce que la directive le dit ». Cette approche est soutenue par la littérature sur les systèmes d'aide à la décision clinique adaptés sur l'IA, qui démontre un potentiel pour réduire les erreurs diagnostiques et améliorer la sécurité des patients. [8-9]

• Synopsis bibliographique : l'IA fournit une synthèse actuelle et référencée de la littérature, mais ce sont des cliniciens experts non biaisés qui lisent les sources primaires et en extraient un résumé concis, digestible et sans biais.

6. La question fondamentale reformulée

Kohane inverse la question : non pas « l'IA peut-elle générer plus de recommandations ? » (elle le peut), ni « peut-elle rendre les lignes directrices plus exhaustives ? » (elle le peut aussi, éventuellement à notre détriment), mais « l'IA peut-elle aider cliniciens et patients à éviter les préjudices évitables tout en préservant l'espace discrétionnaire dans lequel la bonne médecine se pratique ? »

Analyse critique

Forces de l'article :

• La distinction entre « compétence linguistique » et « légitimité clinique » est particulièrement pertinente. La figure ci-dessous, issue d'un article récent du NEJM, illustre bien ce gradient de risque croissant à mesure que l'IA passe du soutien informationnel à la prise de décision clinique directe.

.Cadence de préparation des applications pour les grands modèles de langage.

L’intelligence artificielle générative en médecine — Évaluation des progrès et des défis. N Engl J Med . 26 juin 2025 .

Utilisé sous licence du New England Journal of Medicine.

• La proposition de recentrer l'IA sur les erreurs d'omission est pragmatique et alignée avec les données montrant que les systèmes d'aide à la décision coordonnés sur l'IA sont plus efficaces comme filets de sécurité que comme prescripteurs. [11-12]

• L'alerte sur l'amplification des biais existants par l'automatisation à grande échelle est un apport majeur, rarement formulé aussi explicitement.

Limites :

• L'article ne propose pas de mécanisme concret pour distinguer les « cliniciens experts non biaisés » qui superviseraient les synthèses de l'IA — ou, le biais des experts est précisément l'un des problèmes que l'IA était censée résoudre.

• La dichotomie entre « erreurs d'omission » (domaine légitime de l'IA) et « recommandations positives » (domaine réservé aux humains) est peut-être trop nette : en pratique, signaler une omission implique souvent une recommandation d'action.

• L'article ne discute pas des systèmes hybrides comme CPGPrompt, qui traduisent les lignes directrices narratives en arbres décisionnels exécutables par des LLM tout en maintenant une traçabilité et une auditabilité. [13]

En résumé , cet éditorial de Kohane constitue une mise en garde nuancée contre l'enthousiasme pour les « machines à lignes directrices ». Sa contribution principale est de reformuler la question : l'enjeu n'est pas la capacité technique de l'IA à produire des recommandations, mais la préservation de l'espace de jugement clinique — ce qu'il appelle « l'espace discrétionnaire bienveillant » — qui définit, selon lui, l'avenir même de la profession médicale.