La notion d’intelligence artificielle (IA) générative a récemment dominé le discours public. 

L'IA générative utilise l'apprentissage automatique pour créer de nouvelles données (généralement du texte, des images, de l'audio et de la vidéo). Ses modèles sont formés sur de vastes ensembles de données, et l'apprentissage non supervisé permet à ces modèles d'identifier des modèles et des associations au sein des données, permettant ainsi la génération de résultats lorsqu'ils sont invités à fournir des descriptions en langage naturel du résultat souhaité par un utilisateur. 

Les implications de l'IA générative (à la fois positives et négatives) occupent une place prépondérante dans le débat académique et sont devenues un sujet clé de réflexion interdisciplinaire, reliant des domaines apparemment éloignés des technologies de l'information tels que la médecine, les sciences de la sécurité, les beaux-arts, la psychologie, l'ingénierie, cybersécurité, éthique, linguistique et philosophie. 3 Il est difficile de trouver une spécialité qui ignore l’impact potentiel de l’IA générative sur le fonctionnement des individus et des groupes sociaux, ou sur l’humanité en général. 4

L'article lié de Menz et ses collègues (doi : 10.1136/bmj-2023-078538 ) * illustre une approche importante des conséquences de la prolifération de l'IA générative, reconnaissant les opportunités associées aux technologies émergentes tout en reconnaissant également les risques substantiels. 

Dans leur étude, Menz et ses collègues se sont concentrés sur le potentiel de la technologie des grands modèles linguistiques (LLM) de l’IA générative pour produire une désinformation convaincante et de haute qualité qui peut avoir un impact profond et dangereux sur les décisions de santé au sein d’un public ciblé.

 

 Les auteurs ont examiné les capacités des applications LLM/IA générative les plus importantes à générer de la désinformation.

 

 Ils ont décrit des techniques qui permettent de créer un contenu hautement réaliste mais faux et trompeur, susceptible de contourner les protections intégrées des applications (en utilisant des techniques de fiction, de jeu de rôle et de caractérisation).

De plus, les auteurs ont évalué les mécanismes d'atténuation des risques proposés par les développeurs de technologies et leur transparence concernant les éventuels abus de leurs applications. Ils ont souligné de sérieux défis liés à l’absence de normes viables et applicables obligeant les développeurs de technologies à fournir des garanties adéquates pour empêcher que leurs outils ne soient utilisés par des acteurs malveillants pour produire et propager de la désinformation sur la santé.

La désinformation, en particulier sous sa forme améliorée par l’IA, constitue une menace de plus en plus pressante, considérée comme préjudiciable aux sociétés démocratiques et présentant des défis importants pour la sécurité nationale.  

 

Elle est considérée comme le principal risque de cybersécurité pour les entreprises, les gouvernements, les médias et la société dans son ensemble.  De même, les propriétés destructrices de la désinformation sont évidentes dans les disciplines de la médecine et de la santé publique, où des informations non vérifiées, fausses, trompeuses et fabriquées peuvent gravement affecter les décisions et les comportements des patients en matière de santé, comme le reconnaissent l'Organisation mondiale de la santé et l'infodémiologie. savants. 

Des études indiquent que la désinformation a une influence plus large et plus profonde que les informations exactes, ce qui entraîne une diffusion plus rapide auprès des utilisateurs.  Un tel phénomène peut avoir des conséquences catastrophiques s’il cible des groupes vulnérables, tels que les patients atteints de cancer qui recherchent un « deuxième avis » en ligne et deviennent la proie de la manipulation, des théories du complot et des « vérités alternatives ». L'étude de Menz et ses collègues sensibilisera toutes les parties prenantes concernées à l'impact dévastateur que la désinformation médicale renforcée par l'IA générative peut avoir sur les patients et leurs choix de traitement.

Il est important de noter que Menz et ses collègues soulignent un autre problème qui se pose parallèlement à l’abus d’outils d’IA générative par des acteurs malveillants : le manque flagrant de responsabilité des développeurs de technologies concernant les dommages potentiels causés par leurs produits. La technologie elle-même est « au-delà du bien et du mal », mais elle a toujours le potentiel d’être détournée, recalibrée et transformée en arme. Il est de la responsabilité des développeurs  de mettre en œuvre des mesures de protection efficaces dans leurs produits pour prévenir, interdire ou atténuer les menaces associées à une utilisation abusive et à une exploitation malveillante. 

La nécessité d’une mise en œuvre responsable et éthique des solutions d’IA générative afin de minimiser leur potentiel de préjudice doit être reconnue, reconnue et constamment améliorée par les ingénieurs des LLM, en particulier dans des domaines tels que l’information sur la santé, où les conséquences des abus sont les plus grandes. L'indifférence, le manque de transparence et le manque de réactivité des sociétés d'IA générative face aux vulnérabilités de leurs propres inventions constituent l'un des aspects les plus inquiétants de l'étude de Menz et de ses collègues.

Les progrès rapides des technologies d’IA générative (y compris le potentiel de falsification profonde d’usurpation d’identité dans le matériel audio et vidéo généré par l’IA 15 ) nécessitent une approche globale pour garantir une utilisation responsable et éthique. Des réglementations plus strictes sont essentielles pour réduire la propagation de la désinformation, et les développeurs devraient être tenus responsables de la sous-estimation du potentiel d’acteurs malveillants à abuser de leurs produits. La transparence doit être encouragée et des garanties technologiques, des normes de sécurité strictes et des politiques de communication claires doivent être développées et appliquées. Ces mesures doivent être éclairées par des discussions rapides et approfondies entre avocats, éthiciens, experts en santé publique, développeurs informatiques et patients. 

 

De tels efforts de collaboration garantiraient que l’IA générative soit sécurisée dès sa conception et contribueraient à prévenir la génération de désinformation, en particulier dans le domaine critique de la santé publique.