L'OMS publie des lignes directrices pour une utilisation éthique de l'IA générative dans les soins de santé
Dans une démarche vers une gouvernance éthique de l’avancement des technologies génératives intelligence artificielle (IA) dans les soins de santé, l'Organisation mondiale de la santé (OMS) a publié des lignes directrices complètes sur les grands modèles multimodaux (LMM). Ces modèles, capables d'accepter diverses entrées de données telles que du texte, des vidéos et des images, ont connu une adoption sans précédent, avec des plateformes comme ChatGPT, Bard et Bert entrent dans la conscience publique en 2023.
Les orientations de l’OMS, comprenant plus de 40 recommandations, ciblent les gouvernements, les entreprises technologiques et les prestataires de soins de santé, dans le but de garantir une utilisation responsable des LMM pour la promotion et la protection de la santé de la population. Le Dr Jeremy Farrar, scientifique en chef de l'OMS, a souligné les avantages potentiels de IA générative technologies dans les soins de santé, mais a souligné la nécessité d’informations et de politiques transparentes pour gérer les risques associés.
Les LMM, connus pour leur imitation de la communication humaine et leur capacité à effectuer des tâches non explicitement programmées, présentent cinq grandes applications dans le domaine des soins de santé, telles que décrites par l'OMS. Ceux-ci incluent le diagnostic et les soins cliniques, l'utilisation guidée par le patient pour enquêter sur les symptômes et le traitement, les tâches de bureau et administratives dans les dossiers de santé électroniques, la formation médicale et infirmière par le biais de rencontres simulées avec des patients, ainsi que la recherche scientifique et le développement de médicaments pour identifier de nouveaux composés.
Cependant, les lignes directrices mettent en évidence les risques documentés associés aux LMM, notamment la production d'informations fausses, inexactes ou biaisées. Cela présente un risque potentiel pour les personnes qui s’appuient sur ces informations pour prendre des décisions critiques en matière de santé. La qualité et les biais des données de formation, concernant des facteurs tels que la race, l'origine ethnique, l'ascendance, le sexe, l'identité de genre ou l'âge, pourraient compromettre l'intégrité des résultats du LMM.
Au-delà des risques individuels, l’OMS reconnaît des défis plus larges pour les systèmes de santé découlant des LMM. Il s’agit notamment de préoccupations concernant l’accessibilité et le prix abordable des LMM les plus avancés, d’un potentiel « biais d’automatisation » de la part des professionnels de la santé et des patients, et cybersécurité vulnérabilités mettant en danger les informations sur les patients et la fiabilité des algorithmes d’IA dans la prestation de soins de santé.
Besoin d'engagement des parties prenantes pour le déploiement des LLM
Pour relever ces défis, l'OMS souligne la nécessité de l'engagement des diverses parties prenantes tout au long du développement et du déploiement des LMM. Les gouvernements, les entreprises technologiques, les prestataires de soins de santé, les patients et la société civile sont appelés à participer activement pour garantir une utilisation responsable des technologies de l’IA.
Le guide fournit des recommandations spécifiques aux gouvernements, leur confiant la responsabilité principale d'établir des normes pour le développement, le déploiement et l'intégration des LMM dans les pratiques de santé publique et médicales.
Les gouvernements sont invités à investir dans ou à fournir des infrastructures publiques ou à but non lucratif, notamment de la puissance de calcul et des ensembles de données publiques, accessibles aux développeurs de divers secteurs. Ces ressources dépendraient de l’adhésion des utilisateurs à des principes et valeurs éthiques. Des lois, des politiques et des réglementations doivent être utilisées pour garantir que les LMM dans le secteur des soins de santé respectent les obligations éthiques et les normes en matière de droits de l'homme, en protégeant des aspects tels que la dignité, l'autonomie et la vie privée.
Les lignes directrices suggèrent également la mission d'agences de réglementation, existantes ou nouvelles, d'évaluer et d'approuver les LMM et les applications destinées à un usage médical, dans les limites des ressources disponibles. En outre, des audits post-publication et des évaluations d'impact obligatoires par des tiers indépendants sont recommandés pour les déploiements LMM à grande échelle. Ces évaluations doivent inclure des considérations relatives à la protection des données et aux droits de l'homme, avec des résultats et des impacts ventilés par caractéristiques des utilisateurs, telles que l'âge, la race ou le handicap.
Les développeurs de LMM se voient également confier des responsabilités clés. Ils sont invités à veiller à ce que les utilisateurs potentiels et toutes les parties prenantes directes et indirectes, y compris les prestataires médicaux, les chercheurs scientifiques, les professionnels de santé et les patients, soient impliqués dès les premières étapes du processus. Développement IA. Des processus de conception transparents, inclusifs et structurés devraient permettre aux parties prenantes de soulever des questions éthiques, d'exprimer leurs préoccupations et de donner leur avis.
De plus, les LMM doivent être conçus pour fonctionner correctement.defitâches nécessaires avec la précision et la fiabilité nécessaires pour améliorer les systèmes de santé et faire progresser les intérêts des patients. Les développeurs doivent également posséder la capacité de prédire et de comprendre les résultats secondaires potentiels de leurs applications d’IA.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
Plus d'articles
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
