Clics : 274

IA et surveillance des médecins

 

 " L’intelligence artificielle bouleverse l’emploi et le travail en induisant un changement complet des organisations, déplaçant la valeur travail vers des tâches à forte plus-value mais générant et intensifiant le stress : les salariés expriment une crainte de perte ou de transformation de leur emploi et un sentiment de déclassement. " *

« L’intelligence artificielle impose alors de capter le maximum d’informations et de recevoir des résultats produits par un brassage dont l’humain est désormais partie intégrante autant que simple destinataire. »*

* Conseil économique, social et environnemental (CESE)

 

" L'imagination est plus importante que la connaissance." Albert Einstein.


Medical AI and Clinician Surveillance — The Risk of Becoming
Quantified Workers, IA médicale et surveillance des cliniciens - Le risque de devenir des travailleurs quantifiés

Auteurs : I. Glenn Cohen, J.D. https://orcid.org/0000-0002-0223-3305, Ifeoma Ajunwa, J.D., L.L.M., Ph.D., et Ravi B. Parikh, M.D., M.P.P. https://orcid.org/0000-0003-2692-6306Informations sur l'auteur et affiliationsPublié le 14 juin 2025,I. Glenn Cohen, J.D. https://orcid.org/0000-0002-0223-3305, Ifeoma Ajunwa, J.D., L.L.M., Ph.D., et Ravi B. Parikh, M.D., M.P.P. https://orcid.org/0000-0003-2692-6306Informations sur l'auteur et affiliationsPublié le 14 juin 2025, N Engl J Med 2025;3
https://www.nejm.org/doi/pdf/10.1056/nejmp2502448

Cet article très intéressant n'étant pas libre de droits, j'en ai confié l'analyse à PERPLEXITY/IA.

Analyse de l’article : Medical AI and Clinician Surveillance — The Risk of Becoming Quantified Workers

Introduction et contexte

 

Cet article, publié dans le New England Journal of Medicine en juin 2025, aborde les risques liés à la surveillance des cliniciens par l’intelligence artificielle (IA) dans le secteur médical et la transformation de leur rôle en “travailleurs quantifiés”. 

Les auteurs, dont Glenn Cohen, alertent sur la perte d’autonomie professionnelle et sur les enjeux éthiques et sociaux induits par ces technologies.

Concepts clés de l’article

1. Notion de « travailleur quantifié »

  • Un “travailleur quantifié” est un professionnel dont chaque acte, décision ou interaction est surveillé, mesuré et parfois dirigé par des outils d’IA.

  • Cette réduction du champ d’autonomie, jusqu’ici associée au jugement clinique, rapproche progressivement la médecine d’autres secteurs (logistique, transport) déjà massivement contrôlés par des technologies de monitoring.

2. Outils de surveillance déjà existants

  • Des méthodes comme le keylogging (enregistrement des frappes clavier) ou les captures d’écran à intervalles réguliers lors de l’utilisation de dossiers médicaux électroniques commencent à apparaître, parfois à l’insu des cliniciens.

  • L’IA peut ainsi non seulement évaluer la qualité des soins, mais aussi contrôler et réguler les pratiques des professionnels de santé.

3. Conséquences sur la pratique médicale

 

  • Diminution de l’autonomie clinique : la standardisation imposée par l’IA peut contraindre les médecins à suivre des protocoles ou à justifier leurs écarts, diminuant la possibilité d’agir selon leur expérience ou le contexte individuel du patient.

  • Risque pour la confidentialité et l'éthique : le partage de données sur la pratique clinique peut dépasser le strict cadre légal ou réglementaire, renforçant le sentiment de surveillance.

  • Effet sur la motivation et l’engagement : être soumis à une surveillance constante pourrait provoquer une démotivation, voire un désengagement des médecins, qui se sentiraient réduits à l’application mécanique de recommandations algorithmiques.

Débats et perspectives

Points positifs évoqués

 

  • L’IA promet un meilleur suivi de la qualité des soins, la détection d’erreurs ou de biais, et un éventuel allègement des tâches administratives répétitives.

Méfiances et risques soulignés

 

  • Transfert des responsabilités : les médecins, même assistés par l’IA, restent juridiquement et moralement responsables des conséquences, ce qui augmente la pression et l’exposition au blâme en cas d’erreur.

  • Risque de perte de sens : la défiance vis-à-vis d’algorithmes perçus comme opaques ou standardisés peut nuire à la relation patient-médecin et réduire la profession à une simple exécution contrôlée d’instructions.

Recommandations et solutions avancées

 

  • Renforcer la participation des cliniciens à la gouvernance et à la mise en place des outils d’IA.

  • Garantir la transparence sur la manière dont les données de pratique sont collectées, analysées et partagées.

  • Mettre en place des garde-fous éthiques et des évaluations régulières de l’impact de l’IA sur l’autonomie, la qualité des soins et la motivation des professionnels.

Conclusion

L’article met en garde contre une vision de la technologie comme simple support, rappelant la nécessité de préserver l’autonomie, l'éthique et la dimension humaine de la pratique médicale face au développement accéléré de l’IA.

L’enjeu majeur est de trouver un équilibre entre sécurité, efficacité et respect du rôle du clinicien, afin d'éviter une profession déshumanisée et ultracontrôlée par les algorithmes

 
auntif

 

 

Dispositions potentielles d'une charte des droits des cliniciens concernant l’IA (NEJM 2025)

Droit à l’information
Les cliniciens doivent être informés lorsque l’IA est utilisée dans la prise en charge d’un patient.

Droit de participation
Les systèmes de santé doivent s’engager à des processus de gouvernance impliquant les cliniciens dans les décisions concernant la mise en œuvre d’outils d’IA qui pourraient affecter leur autonomie et leurs moyens de subsistance ; les cliniciens doivent avoir la possibilité de poser des questions et d’exprimer des préoccupations concernant l’utilisation d’outils d’IA sans craindre de représailles.

Droit à la vie privée
Les systèmes de santé doivent indiquer clairement aux cliniciens quand et avec qui l’analyse par IA de leur pratique clinique sera partagée, et justifier tout partage allant au-delà de ce qui est requis par la loi ou pour l’autorégulation de l’industrie.

Assurance qualité
Pour les outils d’IA susceptibles de présenter plus qu’un risque minimal pour les patients, les systèmes de santé doivent s’engager à une revue préliminaire avant la mise en œuvre ainsi qu’à des évaluations régulières après la mise en place, dont les résultats doivent être partagés avec les cliniciens.

IA désigne l’intelligence artificielle.

Conclusion de l'article du NEJM

"Enfin, la loi peut être utilisée pour résister à la surveillance problématique des cliniciens. La syndicalisation pourrait être utile pour s’opposer à la surveillance par l’IA ; un syndicat d’infirmiers a récemment protesté contre la mise en place de chatbots et d’autres outils d’IA chez Kaiser Permanente. Les cliniciens sont également protégés par l’Occupational Safety and Health Act, qui devrait leur donner le droit de refuser l’adoption de technologies d’IA susceptibles de rendre leur environnement de travail dangereux, ainsi que de signaler l’utilisation de tels outils, même si l’utilisation de cette loi dans ce contexte reste largement inexplorée.

Plusieurs défenseurs ont témoigné devant le Congrès sur la nécessité d’une déclaration des droits des travailleurs face à l’IA, qui préciserait comment les employeurs peuvent utiliser les technologies d’IA sans enfreindre les lois sur l’emploi, y compris les lois antidiscrimination telles que le Titre VII du Civil Rights Act de 1964, l’Age Discrimination in Employment Act et l’Americans with Disabilities Act. Une déclaration des droits des cliniciens face à l’IA, conçue par des organisations de défense des médecins en partenariat avec des groupes de cliniciens et de patients, des systèmes hospitaliers, des développeurs d’IA et des organisations de la société civile, pourrait encourager les hôpitaux et les systèmes de santé à adopter volontairement des protections contre les usages problématiques de l’IA. Les dispositions pourraient inclure des droits à l’information, à la participation, à la confidentialité et à l’assurance qualité.

De nombreuses innovations en intelligence artificielle, y compris des outils permettant la transcription ou la synthèse ambiante, pourraient bénéficier aux patients et aux cliniciens. Pourtant, la médecine doit tirer des leçons des secteurs dans lesquels l’adoption de l’IA a entraîné une réduction de l’autonomie des travailleurs et une dégradation des conditions de travail. L’IA menace de transformer les cliniciens en sujets de données ; s’ils n’agissent pas maintenant, les cliniciens risquent d’être relégués au statut de travailleurs quantifiés. En s’organisant, en plaidant et en cherchant des recours juridiques proactifs, les cliniciens peuvent contribuer à garantir que leur autonomie soit priorisée, au même titre que la santé des patients, durant la révolution de l’IA."

SYNTHESE
Cet article du New England Journal of Medicine aborde les risques de la surveillance des cliniciens par l'intelligence artificielle (IA), allant au-delà de l'utilisation de l'IA pour les patients. Il explore comment les outils d'IA, tels que les transcripteurs ambiants et les analyseurs de messages patients, pourraient transformer les médecins en « travailleurs quantifiés », avec un suivi de leur efficacité, de leur conformité aux directives et même de leur empathie. L'article discute des implications professionnelles potentielles de cette surveillance accrue, y compris la perte d'autonomie et les ajustements de rémunération. Enfin, il propose des stratégies de résistance pour les cliniciens, comme la sensibilisation publique, l'organisation syndicale et l'élaboration d'une déclaration des droits des cliniciens concernant l'IA, afin de protéger leur autonomie et leurs conditions de travail.

Commentaire

Imaginons une IA, qui contrôle en permanence un médecin dans son dos et dans le secret. C'est possible en clinique et à l'hôpital mais ce n'est pas le rôle de l'IA. Un flicage des médecins s'apparente à une faute déontologique majeure.  L'IA doit rester un outil piloté par le médecin, utile au médecin , mais son rôle s'arrête là. Tout médecin se doit de suivre le code de déontologie, le serment d'Hippocrate. Une machine qui le contrôlerait les médecins à leur insu serait le début d'une nouvelle médecine qui ne serait plus de la médecine.

"Le secret du changement est de concentrer toute votre énergie non pas à combattre l'ancien mais à bâtir le nouveau " Socrate. Bâtir un nouveau systéme médical sur la culture de l'espionnage permanent, c'est détruire la médecine tout simplement. L'IA outil doit rester un outil, ni plus ni moins.

Le "travailleur quantifié" ne concerne pas l'exercice médical dans le sens d'une surveillance permanente par un outil, l'IA, qui dépasserait ce pour quoi elle a été conçue. Une fois de plus l'éthique en IA reste fondamentale.

La notion de travailleur quantifié en médecine est une négation de l'éthique, de la déontologie et de l'humanisme.

La conclusion de l'article du NEJM est claire : en s'organisant, en plaidant et en cherchant des recours juridiques proactifs, les cliniciens peuvent contribuer à garantir que leur autonomie soit priorisée, au même titre que la santé des patients, durant la révolution de l’IA.

Dans le cas contraire ce sera le chaos de la médecine !

L'ordre , les syndicats, les universitaires, les politiques, se doivent de prendre en compte la révolution IA dans l'exercice de la médecine, il le faut maintenant, demain ce sera trop tard. Le concept de médecin quantifié représente la mort de la médecine actuelle, tandis que l'avenir de la médecine demeure encore une énigme...

 Un exemple : la médecine du travail.

 "Loin de la « magie des chiffres » habituellement décrite dans les analyses sociohistoriques sur les statistiques publiques, le cas des statistiques de santé au travail fabriquées par des médecins du travail, donne à voir un processus plus chaotique. Pour ces médecins, l’enjeu n’est pas seulement de faire exister ces chiffres. Il s’agit aussi d’accompagner leur diffusion afin que leurs reprises servent la cause qu’ils défendent. En effet, leurs statistiques circulent au sein des organisations et intéressent un réseau large d’acteurs qui les font exister. De nouvelles catégories circulent et contribuent à requalifier des enjeux de santé au travail. Mais, dans le même temps, ces chiffres sont repris dans de nouveaux usages qui portent des intentions différentes de celles défendues par leurs concepteurs. Les médecins défendent un usage des chiffres inscrit dans une perspective de compréhension et de débat. Toutefois, d’autres usages se développent. Insérés et repris dans des logiques et objectifs différents, voire divergents, les dispositifs échappent en partie aux médecins. Les attributs statistiques paraissent insuffisants, dans les rapports de force avec les gestionnaires et au sein des instances paritaires, pour renforcer l’autorité des médecins à imposer un usage légitime de « leurs » chiffres. Apparaissent alors les premières tensions entre différents objectifs auxquels les dispositifs peuvent répondre : contribuer à la compréhension des mécanismes en jeu dans les liens entre santé et travail ou définir des normes (par exemple des niveaux à partir desquels il est jugé nécessaire d’agir), dans une logique prescriptive. En l’absence d’alliances entre les médecins et des acteurs porteurs d’un usage compréhensif et délibératif des chiffres, ces usages normatifs prennent l’ascendant et orientent la façon de définir les enjeux de santé au travail et les modalités d’action. La production chiffrée a pu participer à accroître la visibilité et l’intervention des médecins au sein des organisations, à renouveler certaines catégories d’appréhension, mais ne leur donne pas, automatiquement, davantage de poids dans la définition des problèmes de santé au travail et de leur mode de prise en charge. Autrement dit, si la production statistique accompagne une plus grande visibilité du domaine de la santé au travail au sein des organisations, ces conflits d’usages replacent les médecins dans les rapports de pouvoir auxquels ils tentaient d’échapper en faisant appel à la science et à la technique. En revanche, le recours à la quantification n’est pas neutre du point de vue des pratiques professionnelles. Bien plus que la simple opposition entre approches qualitative et quantitative, ce qui est en jeu dans ce recours, ce sont les formes d’objectivité – c’est-à-dire « la nature des épreuves par lesquelles peuvent être légitimement défendus dans un contexte donné des jugements sur les états de chose » (Dodier, 2009) – mobilisées par les médecins du travail pour réaliser leur « travail de prévention » (Mias, 2013). En s’adonnant à un tel travail d’objectivation, les médecins du travail sont pris dans un nouveau régime de subjectivation. Les dispositifs de quantification ne sont pas de simples intermédiaires de l’action des médecins, ils ont des effets spécifiques indépendants des objectifs affichés. L’insertion dans la pratique professionnelle d’une activité de quantification conduit les médecins du travail à modifier leurs façons de faire, bouscule leurs routines, affecte leur perception du métier. Par exemple, la production d’indicateurs statistiques amène les médecins à intervenir davantage au sein des instances collectives de l’entreprise au détriment parfois du temps alloué aux visites médicales. Ce déplacement bouleverse les contours de l’activité légitime et dessine une nouvelle place pour le médecin du travail dans le jeu social. En cela, la médecine du travail n’est plus tout à fait la même une fois ces dispositifs à l'œuvre."
 

Copyright : Dr Jean Pierre Laroche/2025