A OMS enfatiza a importância da IA segura e ética na promoção da saúde e do bem-estar
Em Breve
A Organização Mundial da Saúde (OMS) divulgou uma declaração pedindo o uso seguro e ético de IA e LLMs no setor de saúde.
A OMS disse que a adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde e prejudicar os pacientes.
A OMS recomenda uma avaliação completa das vantagens tangíveis da IA no setor de saúde antes de sua ampla implementação.
A Organização Mundial da Saúde (OMS) juntou-se à conversa em torno da inteligência artificial (IA) e dos grandes modelos de linguagem (LLM), pedindo seu uso seguro e ético para proteger e promover o bem-estar humano, a segurança humana e a autonomia e preservar a saúde pública .
Com o rápido desenvolvimento de plataformas de IA generativas, como OpenAI'S ChatGPT, Bard do Google e outros, a inteligência artificial tem o potencial de transformar o setor de saúde analisando grandes quantidades de dados clínicos e de pacientes para desenvolver novos medicamentos e terapias em potencial e fornecendo informações que podem ajudar os médicos a criar planos de tratamento personalizados para os pacientes.
A IA também pode ajudar a identificar possíveis doenças e recomendar medidas preventivas antes que os sintomas apareçam. Recentemente, pesquisadores descobriram um modelo inovador de IA que pode prever com precisão o risco de as pessoas desenvolverem câncer pancreático.
Em meio às discussões em andamento sobre a regulamentação da IA, a OMS levantou preocupações sobre a tecnologia sendo usada para fins nocivos e está pedindo o desenvolvimento de salvaguardas para mitigar os riscos que podem causar danos aos pacientes e ao setor de saúde.
A organização afirma que é crucial que os riscos sejam cuidadosamente examinados ao usar LLMs para melhorar o acesso a dados de saúde, como uma ferramenta de apoio à decisão ou para aumentar a capacidade de diagnóstico em ambientes com poucos recursos. Embora a OMS apoie o uso apropriado de novas tecnologias, preocupa-se que o cuidado não seja exercido de forma consistente com os LLMs.
De acordo com a OMS, as preocupações que exigem uma supervisão rigorosa necessária para que a IA e os LLMs sejam usados de maneira segura, eficaz e ética incluem:
- Dados tendenciosos podem ser usados para treinar IA, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, equidade e inclusão;
- Os LLMs geram respostas que podem parecer confiáveis e plausíveis para um usuário final, mas podem estar completamente incorretas ou conter erros graves;
- LLMs podem ser treinados em dados obtidos sem permissão, e LLMs podem não proteger dados confidenciais (incluindo dados de saúde) que um usuário fornece a um aplicativo para gerar uma resposta;
- LLMs podem ser mal utilizados para gerar e disseminar desinformação altamente convincente na forma de conteúdo de texto, áudio ou vídeo que o público não consegue discernir de um conteúdo de saúde confiável;
- Embora apoie o aproveitamento de novas tecnologias, incluindo IA e saúde digital, para melhorar a saúde humana, a OMS incentiva os formuladores de políticas a priorizar a segurança e a proteção do paciente, enquanto as empresas de tecnologia trabalham para comercializar LLMs.
A OMS propõe que essas preocupações sejam abordadas e recomenda uma avaliação completa das vantagens tangíveis da IA no setor de saúde antes de sua ampla implementação. Em 2021, a organização publicou orientações sobre o Ética e Governança da Inteligência Artificial para a Saúde. O relatório afirma que o desenvolvimento de tecnologias de IA deve colocar a ética e os direitos humanos no centro de seu design, implantação e uso.
Leia mais:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Cindy é jornalista da Metaverse Post, abordando temas relacionados web3, NFT, metaverso e IA, com foco em entrevistas com Web3 players da indústria. Ela conversou com mais de 30 executivos de nível C e continua aumentando, trazendo seus valiosos insights aos leitores. Originária de Cingapura, Cindy agora mora em Tbilisi, na Geórgia. Ela é bacharel em Estudos de Comunicação e Mídia pela University of South Australia e tem uma década de experiência em jornalismo e redação. Entre em contato com ela através [email protegido] com arremessos de imprensa, anúncios e oportunidades de entrevista.
Mais artigosCindy é jornalista da Metaverse Post, abordando temas relacionados web3, NFT, metaverso e IA, com foco em entrevistas com Web3 players da indústria. Ela conversou com mais de 30 executivos de nível C e continua aumentando, trazendo seus valiosos insights aos leitores. Originária de Cingapura, Cindy agora mora em Tbilisi, na Geórgia. Ela é bacharel em Estudos de Comunicação e Mídia pela University of South Australia e tem uma década de experiência em jornalismo e redação. Entre em contato com ela através [email protegido] com arremessos de imprensa, anúncios e oportunidades de entrevista.