"Le progrès des connaissances a suscité une régression de la pensée" Edgar Morin
« L’émergence croissante de l’IA dans notre monde nécessite une augmentation parallèle de l’intelligence émotionnelle dans notre leadership. » Amit Ray
« La question cruciale est de savoir quand nous rédigerons une déclaration des droits pour l’IA. Quel sera son contenu et qui décidera ? »Gray Scott.
Préambule
La santé par l'OMS
Qui nous sommes et ce que nous faisons…
« La santé est un état de complet bien-être physique, mental et social, et ne consiste pas seulement en une absence de maladie ou d’infirmité. »
Constitution de l'OMS :
Notre but est d’améliorer les perspectives d’avenir et la santé future pour toutes les populations du monde. Par l’intermédiaire des bureaux répartis dans plus de 150 pays, le personnel de l’OMS travaille aux côtés des gouvernements et des autres partenaires pour amener tous les peuples au niveau de santé le plus élevé possible.
Ensemble, nous nous efforçons de combattre les maladies, qu’elles soient infectieuses comme la grippe et le VIH ou non transmissibles comme le cancer et les cardiopathies. Nous aidons les mères et les enfants à survivre et à prospérer de façon à avoir la perspective de vieillir en bonne santé. Nous nous assurons de la sécurité sanitaire de l’air que les personnes respirent, des aliments qu’elles consomment, de l’eau qu’elles boivent, ainsi que des médicaments et des vaccins dont elles ont besoin.
« La santé est un état de complet bien-être physique, mental et social, et ne consiste pas seulement en une absence de maladie ou d’infirmité. »
Constitution de l'OMS :
Notre but est d’améliorer les perspectives d’avenir et la santé future pour toutes les populations du monde. Par l’intermédiaire des bureaux répartis dans plus de 150 pays, le personnel de l’OMS travaille aux côtés des gouvernements et des autres partenaires pour amener tous les peuples au niveau de santé le plus élevé possible.
Ensemble, nous nous efforçons de combattre les maladies, qu’elles soient infectieuses comme la grippe et le VIH ou non transmissibles comme le cancer et les cardiopathies. Nous aidons les mères et les enfants à survivre et à prospérer de façon à avoir la perspective de vieillir en bonne santé. Nous nous assurons de la sécurité sanitaire de l’air que les personnes respirent, des aliments qu’elles consomment, de l’eau qu’elles boivent, ainsi que des médicaments et des vaccins dont elles ont besoin.
Source : http://www.who.int/about/fr/
Les grands modèles multi modaux
"OpenAI vient juste de publier GPT4-V, la dernière édition de son produit phare de grand modèle langage (LLM). Et bien que peu de détails soient disponibles, ce que nous savons, c'est qu'il s'agi d'un modèle « multimodal » (LMM Large Multimodal Model), selon un dirigeant de Microsoft qui a pris la parole lors d'un événement de l'entreprise de Mars 2023.
Fondamentalement, les modèles multimodaux ou LMM combinent du texte avec d’autres types d’informations, telles que des images, des vidéos, de l’audio et d’autres types de données sensorielles. La multimodalité peut résoudre certains des problèmes de la génération actuelle de LLMs. Les modèles LLMs multimodaux permettront également de réaliser de nouvelles applications qui étaient juste impossibles avec les modèles textuels.
Nous ne savons pas encore dans quelle mesure les LLM multimodaux nous rapprocheront de l'intelligence artificielle générale (comme certains l'ont suggéré). Mais ce qui semble certain, c'est que les modèles multimodaux sont en train de devenir la prochaine frontière de la concurrence entre les géants de la technologie qui se battent pour dominer le marché de l'IA générative."
https://www.biznov.fr/post/modéles-multimodaux
L’OMS publie des lignes directrices sur l’éthique et la gouvernance de l’IA pour les grands modèles multimodaux, 18 janvier 2024
L'Organisation mondiale de la santé (OMS) publie de nouvelles lignes directrices sur l' éthique et la gouvernance des grands modèles multimodaux (LMM) – un type de technologie d'intelligence artificielle (IA) générative à croissance rapide avec desapplications dans les soins de santé.
Le guide présente plus de 40 recommandations à l'attention des gouvernements, des entreprises technologiques et des prestataires de soins de santé pour garantir l'utilisation appropriée des LMM afin de promouvoir et de protéger la santé des populations.
Les LMM peuvent accepter un ou plusieurs types d'entrées de données, tels que du texte,des vidéos et des images, et générer diverses sorties non limitées au type de données saisies.
Les LMM sont uniques par leur imitation de la communication humaine et leur capacité à effectuer des tâches pour lesquelles ils n'ont pas été explicitement programmés.
Les LMM ont été adoptés plus rapidement que n'importe quelle application grand public dans l'histoire, avec plusieurs plateformes – telles que ChatGPT, Bard et Bert – entrant dans la conscience du public en 2023.
« Les technologies d’IA générative ont le potentiel d’améliorer les soins de santé, maisseulement si ceux qui développent, réglementent et utilisent ces technologies identifient etprennent pleinement en compte les risques associés », a déclaré le Dr Jeremy Farrar, scientifique en chef de l’OMS. « Nous avons besoin d’informations et de politiques transparentes pour gérer la conception, le développement et l’utilisation des LMM afind’obtenir de meilleurs résultats en matière de santé et de surmonter les inégalités persistantes en matière de santé. »
Avantages et risques potentiels
Les nouvelles directives de l’OMS décrivent cinq grandes applications des LMM pour la santé :
Les nouvelles directives de l’OMS décrivent cinq grandes applications des LMM pour la santé :
- * Diagnostic et soins cliniques, comme répondre aux questions écrites des patients iutilisation guidée par le patient, par exemple pour étudier les symptômes et le traitement
* Tâches de bureau et administratives, telles que documenter et résumer les visites des patients dans les dossiers de santé électroniques ;
* Formation médicale et infirmière, notamment en offrant aux stagiaires des rencontres simulées avec des patients
* Recherche scientifique et développement de médicaments, notamment pour identifier de nouveaux composés.
Même si les LMM commencent à être utilisés à des fins spécifiques liées à la santé, il existe également des risques documentés de production de déclarations fausses, inexactes ,biaisées ou incomplètes, qui pourraient nuire aux personnes utilisant ces informations pour prendre des décisions en matière de santé.
De plus, les LMM peuvent être formés sur des données de mauvaise qualité ou biaisées, que ce soit par race, origine ethnique,ascendance, sexe, identité de genre ou âge.
Les orientations détaillent également les risques plus larges pour les systèmes de santé, tels que l’accessibilité et l’abordabilité des LMM les plus performants.
Le LMMS peut également encourager un « biais d'automatisation » de la part des professionnels de la santé et des patients, par lequel des erreurs qui auraient autrement été identifiées sont négligées ou des choix difficiles sont délégués de manière inappropriée à un LMM.
Les LMM, comme d’autres formes d’IA, sont également vulnérables aux risques de cybersécurité qui pourraient mettre en danger les informations sur les patients ou la fiabilité de ces algorithmes et, plus généralement, la prestation de soins de santé.
Pour créer des LMM sûrs et efficaces, l’OMS souligne la nécessité d’impliquer diverses parties prenantes : gouvernements, entreprises technologiques, prestataires de soins des anté, patients et société civile, à toutes les étapes du développement et du déploiement de ces technologies, y compris leur surveillance et leur réglementation.
« Les gouvernements de tous les pays doivent diriger ensemble les efforts visant àréglementer efficacement le développement et l'utilisation des technologies d'IA, telles que les LMM », a déclaré le Dr Alain Labrique, directeur de l'OMS pour la santé numérique et l'innovation à la Division scientifique.
Recommandations clés
Les nouvelles directives de l'OMS comprennent des recommandations à l'intention des gouvernements, qui ont la responsabilité principale d'établir des normes pour le développement et le déploiement des LMM, ainsi que pour leur intégration et leur utilisation à des fins de santé publique et médicales.
Par exemple, les gouvernements devraient :
* Investir ou fournir une infrastructure publique ou à but non lucratif, y compris une puissance de calcul et des ensembles de données publiques, accessibles aux développeurs des secteurs public ,privé et à but non lucratif, qui oblige les utilisateurs à adhérer à des principes et valeurs éthiques en échange de accéder.
* Utiliser les lois, politiques et réglementations pour garantir que les LMM et les applications utilisées dans les soins de santé et la médecine, quels que soient les risques ou les avantages associés à la technologie de l'IA, respectent les obligations éthiques et les normes des droits del'homme qui affectent, par exemple, la dignité, l'autonomie ou la confidentialité.
* Désignez une agence de réglementation existante ou nouvelle pour évaluer et approuver les LMM et les applications destinés à être utilisés dans les soins de santé ou la médecine, dans la mesure oùles ressources le permettent.
* Introduire des audits post-publication et des évaluations d'impact obligatoires, y compris pour la protection des données et les droits de l'homme, par des tiers indépendants lorsqu'un LMM est déployé à grande échelle.- L'audit et les évaluations d'impact doivent être publiés et doivent inclureles résultats et les impacts ventilés par type d'utilisateur, y compris par exemple par âge, race ou handicap.
Les orientations comprennent également les recommandations clés suivantes à l’intention des développeurs de LMM, qui doivent s’assurer que :
* Les LMM ne sont pas conçus uniquement par des scientifiques et des ingénieurs.
Les utilisateurs potentiels et toutes les parties prenantes directes et indirectes, y compris les prestataires médicaux,les chercheurs scientifiques, les professionnels de santé et les patients, devraient être impliqués dèsles premières étapes du développement de l'IA dans une conception structurée, inclusive et transparente et avoir la possibilité de soulever des questions éthiques, d'exprimer leurs préoccupations et fournir une contribution à l’application d’IA considérée.
* Les LMM sont conçus pour effectuer des tâches bien définies avec la précision et la fiabilité nécessaires pour améliorer la capacité des systèmes de santé et faire progresser les intérêts des patients. Les développeurs doivent également être capables de prédire et de comprendre lesrésultats secondaires potentiels.
Note de l'éditeur
Le nouveau document sur l'éthique et la gouvernance de l'IA pour la santé,- Lignes directrices sur les grands modèles multimodaux, est basé sur les lignes directrices de l'OMS publiées en juin 2021. Accédez à la publication
- : https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1
Commentaire
Décidément après l'Europe quoi nous écrase de règles et de formulaires inutiles, l'OMS y va de son couplet sur l'IA. Si on additionne les règlements de l'OMS et de l'Europe sur l'IA, migraine assurée. Ce n'est pas en multipliant les recommandations que l'on va stopper le train en marche qu'est l'IA en médecine. Bien sur il faut un minimum de règles mais on doit se demander si ces "régulateurs" ont un jour mis leur nez dans l'IA. L'éthique doit être absolument conservée et respecter, je pense que cela fait l'unanimité sans discussion. Pour le reste des gardes foux aussi mais il faut rester lucide et avoir du bon sens. La fabrication d'usines à gaz pour réglementer l'IA doit pas être de plus en plus complexe car plus il y a d'obstacles plus leur franchissement devient un sport national avec toutes les dérives possibles. L'IA est un partenaire à part entière de la médecine, c'est ainsi. L'IA sera un amplificateur de nos besoins médicaux et va améliiorer les besoins de la Santé. L'interaction IA/ MEDECINE devra rester autour de l'humain, autour des patients. Alors ce n'est pas un nouveau stéthoscope mais l'IA va nous accompagner en résolvant des questions de plus en plus complexe. La finalité de l'IA en médecine, une interaction bénéfique et amplifctrice de la science.