La OMS publica directrices para el uso ético de la IA generativa en la atención sanitaria
En un movimiento hacia la gobernanza ética del avance generativo inteligencia artificial (IA) en la atención sanitaria, la Organización Mundial de la Salud (OMS) ha publicado una guía completa sobre grandes modelos multimodales (LMM). Estos modelos, capaces de aceptar diversas entradas de datos, como texto, vídeos e imágenes, han sido testigos de una adopción sin precedentes, con plataformas como ChatGPT, Bard y Bert entrarán en la conciencia pública en 2023.
La guía de la OMS, que comprende más de 40 recomendaciones, está dirigida a gobiernos, empresas de tecnología y proveedores de atención médica, con el objetivo de garantizar el uso responsable de LMM para la promoción y protección de la salud de la población. El Dr. Jeremy Farrar, científico jefe de la OMS, destacó los beneficios potenciales de IA generativa tecnologías en la atención sanitaria, pero subrayó la necesidad de información y políticas transparentes para gestionar los riesgos asociados.
Los LMM, conocidos por su imitación de la comunicación humana y su capacidad para realizar tareas no programadas explícitamente, exhiben cinco aplicaciones amplias en la atención médica, según lo descrito por la OMS. Estos incluyen diagnóstico y atención clínica, uso guiado por el paciente para investigar síntomas y tratamientos, tareas administrativas y de oficina dentro de registros médicos electrónicos, educación médica y de enfermería a través de encuentros simulados con pacientes e investigación científica y desarrollo de fármacos para identificar nuevos compuestos.
Sin embargo, la guía destaca los riesgos documentados asociados con los LMM, incluida la producción de información falsa, inexacta o sesgada. Esto plantea un daño potencial a las personas que dependen de dicha información para tomar decisiones de salud críticas. La calidad y el sesgo de los datos de entrenamiento, relacionados con factores como raza, etnia, ascendencia, sexo, identidad de género o edad, podrían comprometer la integridad de los resultados del LMM.
Más allá de los riesgos individuales, la OMS reconoce desafíos más amplios para los sistemas de salud derivados de los LMM. Estos incluyen preocupaciones sobre la accesibilidad y asequibilidad de los LMM más avanzados, el posible "sesgo de automatización" por parte de los profesionales de la salud y los pacientes, y la seguridad cibernética vulnerabilidades que ponen en peligro la información del paciente y la confiabilidad de los algoritmos de inteligencia artificial en la prestación de atención médica.
Necesita la participación de las partes interesadas para la implementación de LLM
Para abordar estos desafíos, la OMS enfatiza la necesidad de la participación de varias partes interesadas durante todo el desarrollo y despliegue de los LMM. Se hace un llamado a los gobiernos, las empresas de tecnología, los proveedores de atención médica, los pacientes y la sociedad civil a participar activamente para garantizar el uso responsable de las tecnologías de IA.
La guía proporciona recomendaciones específicas para los gobiernos, asignándoles la responsabilidad principal de establecer estándares para el desarrollo, implementación e integración de LMM en las prácticas médicas y de salud pública.
Se insta a los gobiernos a invertir o proporcionar infraestructura pública o sin fines de lucro, incluida potencia informática y conjuntos de datos públicos, accesibles a los desarrolladores de diversos sectores. Estos recursos estarían supeditados a que los usuarios se adhieran a principios y valores éticos. Se deben emplear leyes, políticas y regulaciones para garantizar que los LMM en el sector de la salud cumplan con obligaciones éticas y estándares de derechos humanos, salvaguardando aspectos como la dignidad, la autonomía y la privacidad.
La guía también sugiere la asignación de agencias reguladoras, existentes o nuevas, para evaluar y aprobar LMM y aplicaciones destinadas al uso sanitario, dentro de las limitaciones de los recursos disponibles. Además, se recomiendan auditorías posteriores al lanzamiento y evaluaciones de impacto obligatorias por parte de terceros independientes para implementaciones de LMM a gran escala. Estas evaluaciones deben incluir consideraciones sobre la protección de datos y los derechos humanos, con resultados e impactos desglosados por características del usuario, como edad, raza o discapacidad.
A los desarrolladores de LMM también se les confían responsabilidades clave. Se les insta a garantizar que los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos proveedores médicos, investigadores científicos, profesionales de la salud y pacientes, participen desde las primeras etapas del proceso. Desarrollo de inteligencia artificial. Los procesos de diseño transparentes, inclusivos y estructurados deberían permitir a las partes interesadas plantear cuestiones éticas, expresar inquietudes y aportar opiniones.
Además, los LMM deben diseñarse para funcionar bien.defitareas definidas con la precisión y confiabilidad necesarias para mejorar los sistemas de salud y promover los intereses de los pacientes. Los desarrolladores también deben poseer la capacidad de predecir y comprender posibles resultados secundarios de sus aplicaciones de IA.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
Más artículos
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
