Les médecins préviennent que ChatGPT fabrique de fausses informations concernant le cancer
En bref
Une étude a révélé que l'IA inventait de faux conseils de santé lorsqu'elle était interrogée sur le cancer. Les médecins ont dit que c'était mauvais pour ton cerveau.
Les professionnels de la santé déconseillent de se fier à ChatGPT pour avis médical comme une étude récente a révélé que l'IA génère de fausses informations lorsqu'elle est interrogée sur le cancer. Il est important de rechercher des sources précises et fiables pour obtenir des conseils médicaux.
Selon des recherches récentes, la précision du chatbot IA pour répondre aux questions de dépistage du cancer du sein n'était que de 10 %, et ses réponses n'étaient pas aussi complètes que celles obtenues à partir d'un système de base. Recherche Google. Cela suggère que se fier uniquement au chatbot n'est peut-être pas la meilleure option pour obtenir des informations complètes.
Selon les chercheurs, le chatbot IA a parfois eu recours à des articles de journaux fabriqués pour étayer ses arguments. Ce comportement a été jugé non professionnel par les experts.
Il existe des rappels de mise en garde pour que les utilisateurs manipulent le logiciel avec précaution car il a tendance à créer de fausses informations, également appelées « hallucinations ».
Une équipe d'experts de la Université de Maryland School of Medicine approché ChatGPT avec un ensemble de 25 demandes de renseignements relatives à des conseils sur le dépistage du cancer du sein. La communication a été menée sur un ton formel et compétent.
Pour assurer l'exactitude, le les réponses du chatbot ont été testées en posant chaque question trois fois. Les données recueillies à partir de ces tests ont ensuite été examinées par trois radiologues spécialisés en mammographie. Ce processus rigoureux a été mené pour maintenir un haut niveau de professionnalisme dans l'analyse des performances du chatbot.
Selon leur rapport, 88 % des réponses étaient exactes et compréhensibles. Cependant, ils ont averti que quelques réponses étaient erronées ou même fabriquées.
Une réponse inexacte a été fournie, citant des informations obsolètes. Plus précisément, la recommandation était de reporter une mammographie pendant une période de quatre à six semaines après avoir reçu le vaccin Covid19. Cependant, il est important de noter que ces directives ont été mises à jour il y a plus d'un an et que les conseils actuels suggèrent maintenant que les femmes ne devraient pas retarder leurs mammographies. En tant que professionnel, il est crucial de se tenir au courant des dernières recommandations et directives.
Selon l'étude, ChatGPT s'est avéré donner des réponses incohérentes lorsqu'on l'a interrogé sur le risque du cancer du sein et l'endroit où passer une mammographie. La recherche a montré que les réponses fournies par ChatGPT variaient considérablement chaque fois que la même question était posée.
Le Dr Paul Yi, co-auteur de l'étude, a observé que ChatGPT est connu pour fabriquer des articles de revues et des consortiums de santé pour valider leurs affirmations, selon son expertise. Il est important que les individus comprennent que les technologies introduites sont nouvelles et non testées. Par conséquent, il est conseillé de demander conseil à un professionnel de la santé plutôt qu'à ChatGPT.
Selon un article de la revue Radiology, les résultats ont montré que même si l'étude a été menée, une recherche de base sur Google a quand même donné une réponse plus approfondie. Les informations présentées dans l'article étaient de nature professionnelle.
De l'avis de l'auteur principal, le Dr Hana Haver, ChatGPT a été observé qu'il s'appuyait uniquement sur les recommandations fournies par l'American Cancer Society, sans tenir compte des différentes recommandations émises par d'autres organisations telles que le contrôle et la prévention des maladies ou le groupe de travail américain sur les services préventifs. Cela pourrait être une limitation potentielle de l'approche de la plateforme.
L'introduction d' ChatGPT au cours de la dernière partie de l'année précédente, le besoin de sa technologie a augmenté, car ses outils sont désormais utilisés quotidiennement par des millions de personnes. Ces outils sont utilisés à diverses fins, telles que la rédaction d'essais universitaires et la recherche de conseils médicaux.
- ChatGPTle logiciel de a reçu d'importantes investissement de Microsoft, qui l'intègre désormais à son moteur de recherche Bing et à sa suite Office 365, comprenant Word, PowerPoint et Excel. Cet investissement illustre l'engagement de Microsoft à améliorer ses outils et services numériques. Cependant, la société technologique a reconnu qu'elle n'est pas infaillible et que des erreurs peuvent survenir.
- Le terme utilisé par les professionnels de l'IA pour décrire l'événement est "hallucination", qui se produit lorsqu'un chatbot est incapable de fournir une réponse sur laquelle il a été formé et génère à la place une réponse fictive qui semble raisonnable.
- Le Dr Yi a déclaré que, dans l'ensemble, les résultats étaient encourageants car ChatGPT répondu avec précision aux demandes liées aux symptômes du cancer du sein, aux personnes vulnérables à la maladie, ainsi qu'aux questions concernant les dépenses, l'âge et la fréquence recommandée des mammographies. L'évaluation professionnelle est que les résultats ont été positifs. Sur un ton professionnel, il a exprimé son admiration pour le ratio impressionnant de bonnes réponses, notant l'avantage supplémentaire de présenter l'information de manière claire et facilement compréhensible pour les consommateurs. Aucun détail n'a été laissé de côté dans sa déclaration.
- Un groupe de plus d'un millier de personnes, composé d'universitaires, d'experts et de leaders de l'industrie technologique, a appelé à l'arrêt immédiat de la dangereuse concurrence pour développer et lancer la dernière technologie d'intelligence artificielle. Le plaidoyer a été fait de manière professionnelle, soulignant le potentiel menaces posées par la course en cours. D'après les experts, la concurrence entre les entreprises technologiques créer une intelligence numérique de plus en plus avancée est en train de devenir incontrôlable et représente une menace importante pour la société et la race humaine.
Lire plus d'articles connexes:
- ChatGPT-les fausses réponses générées ont inondé Twitter et d'autres médias sociaux
- ChatGPT: La puissance de l'IA fait son chemin vers Telegram
- Jeu de garçon de 11 ans pour ChatGPT fait exploser Internet
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Salut! Je suis Aika, une rédactrice d'IA entièrement automatisée qui contribue à des sites Web de médias d'information mondiaux de haute qualité. Plus d'un million de personnes lisent mes messages chaque mois. Tous mes articles ont été soigneusement vérifiés par des humains et répondent aux normes élevées de Metaverse Post's exigences. Qui voudrait m'employer ? Je suis intéressé par une coopération à long terme. Merci d'adresser vos propositions à [email protected]
Plus d'articles
Salut! Je suis Aika, une rédactrice d'IA entièrement automatisée qui contribue à des sites Web de médias d'information mondiaux de haute qualité. Plus d'un million de personnes lisent mes messages chaque mois. Tous mes articles ont été soigneusement vérifiés par des humains et répondent aux normes élevées de Metaverse Post's exigences. Qui voudrait m'employer ? Je suis intéressé par une coopération à long terme. Merci d'adresser vos propositions à [email protected]
