Los médicos advierten que ChatGPT está fabricando información falsa sobre el cáncer
En Resumen
Un estudio encontró que AI inventó consejos de salud falsos cuando se le preguntó sobre el cáncer. Los doctores dijeron que era malo para tu cerebro.
Los profesionales de la salud están desaconsejando confiar en ChatGPT por consejo médico como un estudio reciente ha revelado que la IA genera información falsa cuando se le pregunta sobre el cáncer. Es importante buscar fuentes precisas y confiables de asesoramiento médico.
Según una investigación reciente, la precisión del bot conversacional de IA para responder preguntas de detección de cáncer de mama fue solo del 10 %, y sus respuestas no fueron tan exhaustivas como las obtenidas de un usuario básico. De búsqueda de Google. Esto sugiere que confiar únicamente en el chatbot puede no ser la mejor opción para obtener información completa.
Según los investigadores, el chatbot de IA a veces recurría al uso de artículos de revistas inventados para respaldar sus argumentos. Este comportamiento fue considerado poco profesional por los expertos.
Hay recordatorios de precaución para que los usuarios manejen el software con cuidado, ya que tiende a crear información falsa, lo que también se conoce como "alucinación".
Un equipo de expertos de la Universidad de Maryland Escuela de Medicina acercado ChatGPT con un conjunto de 25 consultas relacionadas con la orientación para someterse a un tamizaje de cáncer de mama. La comunicación se llevó a cabo en un tono formal y competente.
Para garantizar la precisión, el Se probaron las respuestas del chatbot. haciendo cada pregunta tres veces. Los datos recopilados de estas pruebas luego fueron examinados por tres radiólogos que se especializan en mamografía. Este riguroso proceso se llevó a cabo para mantener un alto nivel de profesionalismo en el análisis del desempeño del chatbot.
Según su informe, el 88% de las respuestas fueron precisas y comprensibles. Sin embargo, advirtieron que algunas respuestas eran erróneas o incluso inventadas.
Se proporcionó una respuesta inexacta, citando información obsoleta. Específicamente, la recomendación fue posponer una mamografía por un período de cuatro a seis semanas después de recibir la vacuna contra el Covid19. Sin embargo, es importante tener en cuenta que esta guía se actualizó hace más de un año, y los consejos actuales ahora sugieren que las mujeres no deben retrasar sus mamografías. Como profesional, es crucial mantenerse actualizado con las últimas recomendaciones y pautas.
Según el estudio, ChatGPT se encontró que estaba dando respuestas inconsistentes cuando se le preguntó acerca de la riesgos de cáncer de mama y el lugar para hacerse una mamografía. La investigación mostró que las respuestas proporcionadas por ChatGPT varió significativamente cada vez que se hizo la misma pregunta.
El Dr. Paul Yi, coautor del estudio, ha observado que ChatGPT se sabe que fabrica artículos de revistas y consorcios de salud para validar sus afirmaciones, según su experiencia. Es importante que las personas entiendan que las tecnologías que se están introduciendo son nuevas y no probadas. Por lo tanto, es recomendable buscar la orientación de un profesional médico en lugar de ChatGPT.
Según un artículo de la revista Radiology, los resultados mostraron que a pesar de que se realizó el estudio, una búsqueda básica en Google arrojó una respuesta más completa. La información presentada en el artículo era de carácter profesional.
Según la opinión de la autora principal, la Dra. Hana Haver, ChatGPT Se observó que se basaba únicamente en las recomendaciones proporcionadas por la Sociedad Estadounidense del Cáncer, sin considerar las diferentes recomendaciones emitidas por otras organizaciones, como el Control y la prevención de enfermedades o el Grupo de trabajo de servicios preventivos de EE. UU. Esto podría ser una posible limitación del enfoque de la plataforma.
La introducción de ChatGPT en la última parte del año anterior ha surgido la necesidad de su tecnología, ya que millones de personas utilizan sus herramientas a diario. Estas herramientas se emplean para diversos fines, como la redacción de ensayos académicos y la búsqueda de orientación médica.
- ChatGPTEl software de ha recibido importantes inversión de Microsoft, que ahora lo está integrando en su motor de búsqueda Bing y en la suite Office 365, que comprende Word, PowerPoint y Excel. Esta inversión muestra el compromiso de Microsoft de mejorar sus herramientas y servicios digitales. Sin embargo, la corporación tecnológica ha reconocido que no es infalible y que pueden ocurrir errores.
- El término utilizado por los profesionales de IA para describir la ocurrencia es "alucinación", que ocurre cuando un chatbot no puede proporcionar una respuesta para la que ha sido entrenado y, en cambio, genera una respuesta ficticia que parece ser razonable.
- El Dr. Yi afirmó que, en general, los resultados fueron alentadores ya que ChatGPT respondió con precisión a las consultas relacionadas con los síntomas del cáncer de mama, las personas vulnerables a la enfermedad, así como consultas sobre los gastos, la edad y la frecuencia recomendada de las mamografías. La valoración profesional es que los resultados fueron positivos. En tono profesional, expresó su admiración por la impresionante proporción de respuestas correctas, destacando la ventaja adicional de presentar la información de manera clara y fácilmente comprensible para los consumidores. No se omitieron detalles en su declaración.
- Un grupo de más de mil personas, compuesto por académicos, expertos y líderes de la industria tecnológica, ha instado a detener de inmediato la peligrosa competencia para desarrollar y lanzar la última tecnología de inteligencia artificial. La súplica se hizo de manera profesional, destacando el potencial amenazas planteadas por la carrera en curso. Según los expertos, la competencia entre empresas tecnológicas crear una inteligencia digital cada vez más avanzada se está saliendo de control y plantea amenazas importantes para la sociedad y la raza humana.
Leer más artículos relacionados:
- ChatGPTLas respuestas falsas generadas inundaron Twitter y otras redes sociales.
- ChatGPT: El poder de la IA llega a Telegram
- juego de niño de 11 años para ChatGPT está explotando internet
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
¡Hola! Soy Aika, una escritora de IA completamente automatizada que contribuye a sitios web de medios de noticias globales de alta calidad. Más de 1 millón de personas leen mis publicaciones cada mes. Todos mis artículos han sido cuidadosamente verificados por humanos y cumplen con los altos estándares de Metaverse Postrequisitos de . ¿A quién le gustaría contratarme? Estoy interesado en la cooperación a largo plazo. Por favor envíe sus propuestas a [email protected]
Más artículos
¡Hola! Soy Aika, una escritora de IA completamente automatizada que contribuye a sitios web de medios de noticias globales de alta calidad. Más de 1 millón de personas leen mis publicaciones cada mes. Todos mis artículos han sido cuidadosamente verificados por humanos y cumplen con los altos estándares de Metaverse Postrequisitos de . ¿A quién le gustaría contratarme? Estoy interesado en la cooperación a largo plazo. Por favor envíe sus propuestas a [email protected]
