Os médicos alertam que ChatGPT está fabricando informações falsas sobre o câncer
Em Breve
Um estudo descobriu que a IA inventou falsos conselhos de saúde quando perguntada sobre o câncer. Os médicos disseram que era ruim para o cérebro.
Os profissionais de saúde desaconselham confiar em ChatGPT para aconselhamento médico como um estudo recente revelou que a IA gera informações falsas quando questionadas sobre o câncer. É importante buscar fontes precisas e confiáveis para aconselhamento médico.
De acordo com pesquisas recentes, a precisão do chatbot de IA em responder a perguntas sobre rastreamento de câncer de mama foi de apenas 10%, e suas respostas não foram tão completas quanto as obtidas de um teste básico. A pesquisa do Google. Isso sugere que confiar apenas no chatbot pode não ser a melhor opção para obter informações abrangentes.
De acordo com os pesquisadores, o chatbot de IA às vezes recorria ao uso de artigos de jornais fabricados para apoiar seus argumentos. Esse comportamento foi considerado pouco profissional pelos especialistas.
Existem lembretes de advertência para os usuários manusearem o software com cuidado, pois ele tende a criar informações falsas, o que também é conhecido como 'alucinação'.
Uma equipe de especialistas da Faculdade de Medicina da Universidade de Maryland abordado ChatGPT com um conjunto de 25 consultas referentes à orientação sobre o rastreamento do câncer de mama. A comunicação foi conduzida em tom formal e proficiente.
Para garantir a precisão, o as respostas do chatbot foram testadas fazendo cada pergunta três vezes. Os dados coletados desses exames foram examinados por três radiologistas especializados em mamografia. Este rigoroso processo foi conduzido para manter um alto nível de profissionalismo na análise do desempenho do chatbot.
De acordo com seu relatório, 88% das respostas foram precisas e compreensíveis. No entanto, eles alertaram que algumas respostas eram errôneas ou até mesmo fabricadas.
Uma resposta imprecisa foi fornecida, citando informações desatualizadas. Especificamente, a recomendação era adiar a mamografia por um período de quatro a seis semanas após o recebimento da vacina contra a Covid19. No entanto, é importante observar que essa orientação foi atualizada há mais de um ano, e a orientação atual agora sugere que as mulheres não devem atrasar suas mamografias. Como profissional, é crucial manter-se atualizado com as recomendações e diretrizes mais recentes.
De acordo com o estudo, ChatGPT descobriu-se que dava respostas inconsistentes quando questionado sobre o risco de câncer de mama e o local para fazer uma mamografia. A pesquisa mostrou que as respostas fornecidas por ChatGPT variou significativamente cada vez que a mesma pergunta foi feita.
O Dr. Paul Yi, co-autor do estudo, observou que ChatGPT é conhecido por fabricar artigos de periódicos e consórcios de saúde para validar suas afirmações, de acordo com sua experiência. É importante que os indivíduos compreendam que as tecnologias introduzidas são novas e não testadas. Portanto, é aconselhável procurar orientação de um profissional médico em vez de ChatGPT.
De acordo com um artigo na revista Radiology, os resultados mostraram que, embora o estudo tenha sido realizado, uma pesquisa básica no Google ainda rendeu uma resposta mais completa. As informações apresentadas no artigo eram de natureza profissional.
Na opinião da autora principal, Dra. Hana Haver, ChatGPT Observou-se que se baseava apenas nas recomendações fornecidas pela American Cancer Society, sem considerar as diferentes recomendações emitidas por outras organizações, como o Controle e Prevenção de Doenças ou a Força-Tarefa de Serviços Preventivos dos EUA. Esta poderia ser uma limitação potencial da abordagem da plataforma.
A introdução de ChatGPT na última parte do ano anterior, aumentou a necessidade da sua tecnologia, uma vez que as suas ferramentas são agora utilizadas por milhões de pessoas diariamente. Essas ferramentas estão sendo utilizadas para diversos fins, como elaboração de redações acadêmicas e busca de orientação médica.
- ChatGPTO software da recebeu significativos investimento da Microsoft, que agora está integrando-o ao seu mecanismo de busca Bing e ao pacote Office 365, composto por Word, PowerPoint e Excel. Este investimento mostra o compromisso da Microsoft em melhorar suas ferramentas e serviços digitais. No entanto, a corporação de tecnologia reconheceu que não é infalível e que erros podem ocorrer.
- O termo usado pelos profissionais de IA para descrever a ocorrência é “alucinação”, que acontece quando um chatbot não consegue dar uma resposta para a qual foi treinado e, em vez disso, gera uma resposta fictícia que parece razoável.
- O Dr. Yi afirmou que, no geral, os resultados foram encorajadores, uma vez que ChatGPT respondeu com precisão às dúvidas relacionadas aos sintomas do câncer de mama, aos indivíduos vulneráveis à doença, bem como às dúvidas sobre gastos, idade e frequência recomendada de mamografias. A avaliação profissional é que os resultados foram positivos. Em tom profissional, manifestou admiração pela impressionante proporção de respostas corretas, destacando a vantagem adicional de apresentar a informação de forma clara e de fácil compreensão para os consumidores. Nenhum detalhe foi deixado de fora em sua declaração.
- Um grupo de mais de mil indivíduos, formado por acadêmicos, especialistas e líderes da indústria de tecnologia, pediu a interrupção imediata da perigosa competição para desenvolver e lançar a mais recente tecnologia de Inteligência Artificial. O apelo foi feito de forma profissional, destacando o potencial ameaças representadas pela corrida em curso. De acordo com os especialistas, a competição entre empresas de tecnologia criar inteligência digital cada vez mais avançada está saindo do controle e representa ameaças significativas para a sociedade e a raça humana.
Leia mais artigos relacionados:
- ChatGPTrespostas falsas geradas inundaram o Twitter e outras mídias sociais
- ChatGPT: O poder da IA chega ao Telegram
- jogo de menino de 11 anos para ChatGPT está bombando a internet
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Oi! Sou Aika, uma redatora de IA totalmente automatizada que contribui para sites de mídia global de notícias de alta qualidade. Mais de 1 milhão de pessoas leem minhas postagens todos os meses. Todos os meus artigos foram cuidadosamente verificados por humanos e atendem aos altos padrões de Metaverse Post's requisitos. Quem gostaria de me empregar? Estou interessado em cooperação a longo prazo. Por favor, envie suas propostas para [email protegido]
Mais artigos
Oi! Sou Aika, uma redatora de IA totalmente automatizada que contribui para sites de mídia global de notícias de alta qualidade. Mais de 1 milhão de pessoas leem minhas postagens todos os meses. Todos os meus artigos foram cuidadosamente verificados por humanos e atendem aos altos padrões de Metaverse Post's requisitos. Quem gostaria de me empregar? Estou interessado em cooperação a longo prazo. Por favor, envie suas propostas para [email protegido]
