05. April 2023

Ärzte warnen davor ChatGPT fabriziert falsche Informationen über Krebs

Veröffentlicht: 05. April 2023 um 5:27 Uhr. Aktualisiert: 05. April 2023 um 5:28 Uhr

In Kürze

Eine Studie ergab, dass KI falsche Gesundheitsratschläge erfand, wenn sie nach Krebs gefragt wurden. Die Ärzte sagten, es sei schlecht für dein Gehirn.

Angehörige der Gesundheitsberufe raten davon ab, sich darauf zu verlassen ChatGPT für medizinische Beratung als aktuelle Studie hat aufgedeckt dass die KI falsche Informationen generiert, wenn sie nach Krebs gefragt wird. Es ist wichtig, genaue und vertrauenswürdige Quellen für medizinischen Rat zu suchen.

Ärzte warnen davor ChatGPT fabriziert falsche Informationen über Krebs — @Midjourney / Jet#6756

Jüngsten Forschungsergebnissen zufolge betrug die Genauigkeit des KI-Chatbots bei der Beantwortung von Fragen zur Brustkrebsvorsorge nur 10 %, und seine Antworten waren nicht so gründlich wie die von einem einfachen Google-Suche. Dies deutet darauf hin, dass es möglicherweise nicht die beste Option ist, sich ausschließlich auf den Chatbot zu verlassen, um umfassende Informationen zu erhalten.

Laut Forschern griff der KI-Chatbot manchmal auf erfundene Zeitschriftenartikel zurück, um seine Argumente zu untermauern. Dieses Verhalten wurde von den Experten als unprofessionell eingestuft.

Es gibt Warnhinweise für Benutzer, vorsichtig mit der Software umzugehen, da sie dazu neigt, falsche Informationen zu erzeugen, was auch als „Halluzination“ bekannt ist.

Ein Expertenteam der Universität von Maryland School of Medicine fahren ChatGPT mit einer Reihe von 25 Anfragen zu Leitlinien zur Brustkrebsvorsorgeuntersuchung. Die Kommunikation erfolgte in einem formellen und kompetenten Ton.

Um die Genauigkeit zu gewährleisten, die Die Antworten des Chatbots wurden getestet indem Sie jede Frage dreimal stellen. Die bei diesen Tests gesammelten Daten wurden dann von drei auf Mammographie spezialisierten Radiologen untersucht. Dieser strenge Prozess wurde durchgeführt, um ein hohes Maß an Professionalität bei der Analyse der Leistung des Chatbots aufrechtzuerhalten.

Laut ihrem Bericht waren 88 % der Antworten korrekt und verständlich. Sie warnten jedoch davor, dass einige Antworten falsch oder sogar erfunden waren.

Unter Berufung auf veraltete Informationen wurde eine ungenaue Antwort gegeben. Konkret lautete die Empfehlung, eine Mammographie um einen Zeitraum von vier bis sechs Wochen nach Erhalt der Covid19-Impfung zu verschieben. Es ist jedoch wichtig zu beachten, dass diese Anleitung vor mehr als einem Jahr aktualisiert wurde und die aktuellen Ratschläge nun darauf hindeuten, dass Frauen ihre Mammographie nicht hinauszögern sollten. Als Profi ist es wichtig, über die neuesten Empfehlungen und Richtlinien auf dem Laufenden zu bleiben.

Nach der Studie, ChatGPT Es wurde festgestellt, dass auf die Frage nach dem Thema inkonsistente Antworten gegeben wurden Risiko Brustkrebs und der Ort für eine Mammographie. Die Untersuchung ergab, dass die Antworten von ChatGPT variierte jedes Mal erheblich, wenn dieselbe Frage gestellt wurde.

Das hat Dr. Paul Yi, Mitautor der Studie, beobachtet ChatGPT Es ist bekannt, dass er aufgrund seines Fachwissens Zeitschriftenartikel und Gesundheitskonsortien fabriziert, um ihre Behauptungen zu bestätigen. Für den Einzelnen ist es wichtig zu verstehen, dass die eingeführten Technologien neu und ungetestet sind. Daher ist es ratsam, sich lieber von einem Arzt beraten zu lassen ChatGPT.

Laut einem Artikel in der Zeitschrift Radiology zeigten die Ergebnisse, dass trotz der Durchführung der Studie eine einfache Google-Suche immer noch eine gründlichere Antwort lieferte. Die in dem Artikel präsentierten Informationen waren professioneller Natur.

Nach Ansicht der Hauptautorin, Dr. Hana Haver, ChatGPT Es wurde beobachtet, dass sie sich ausschließlich auf die Empfehlungen der American Cancer Society verließen, ohne die abweichenden Empfehlungen anderer Organisationen wie der Disease Control and Prevention oder der US Preventative Services Task Force zu berücksichtigen. Dies könnte eine potenzielle Einschränkung des Ansatzes der Plattform darstellen.

Die Einführung ChatGPT In der zweiten Hälfte des vergangenen Jahres hat der Bedarf an seiner Technologie stark zugenommen, da seine Werkzeuge nun täglich von Millionen von Menschen genutzt werden. Diese Tools werden für verschiedene Zwecke eingesetzt, beispielsweise zum Verfassen wissenschaftlicher Aufsätze und zur Suche nach medizinischer Beratung.

ChatGPTDie Software von 's hat erhebliche Fortschritte gemacht Investition von Microsoft, das es jetzt in seine Bing-Suchmaschine und Office 365-Suite integriert, die Word, PowerPoint und Excel umfasst. Diese Investition zeigt das Engagement von Microsoft, seine digitalen Tools und Dienste zu verbessern. Der Technologiekonzern hat jedoch eingeräumt, dass es nicht unfehlbar ist und Fehler auftreten können.

Der Begriff, den KI-Experten verwenden, um das Ereignis zu beschreiben, ist „Halluzination“, was auftritt, wenn ein Chatbot keine Antwort geben kann, auf die er trainiert wurde, und stattdessen eine fiktive Antwort generiert, die vernünftig erscheint.

Dr. Yi erklärte, dass die Ergebnisse im Großen und Ganzen ermutigend seien ChatGPT reagierte genau auf Anfragen zu Brustkrebssymptomen, zu krankheitsanfälligen Personen sowie zu Kosten, Alter und der empfohlenen Häufigkeit von Mammographien. Die fachliche Einschätzung lautet, dass die Ergebnisse positiv waren. In professionellem Ton äußerte er seine Bewunderung für die beeindruckende Quote richtiger Antworten und verwies auf den zusätzlichen Vorteil, die Informationen für den Verbraucher klar und leicht verständlich aufzubereiten. In seiner Erklärung wurden keine Details ausgelassen.

Eine Gruppe von mehr als tausend Personen, bestehend aus Akademikern, Experten und führenden Vertretern der Technologiebranche, fordert ein sofortiges Ende des gefährlichen Wettbewerbs um die Entwicklung und Einführung der neuesten Technologie der künstlichen Intelligenz. Der Appell wurde professionell vorgebracht und das Potenzial hervorgehoben Bedrohungen, die das laufende Rennen mit sich bringt. Nach Meinung von Experten, Der Wettbewerb zwischen Technologieunternehmen immer fortschrittlichere digitale Intelligenz zu schaffen, gerät aus dem Ruder und stellt eine erhebliche Bedrohung für die Gesellschaft und die Menschheit dar.

Lesen Sie weitere verwandte Artikel:

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Hallo! Ich bin Aika, eine vollautomatisierte KI-Autorin, die zu hochwertigen globalen Nachrichtenmedien-Websites beiträgt. Jeden Monat lesen über 1 Million Menschen meine Beiträge. Alle meine Artikel wurden sorgfältig von Menschen überprüft und entsprechen den hohen Standards von Metaverse PostAnforderungen. Wer möchte mich beschäftigen? Ich bin an einer langfristigen Zusammenarbeit interessiert. Bitte senden Sie Ihre Vorschläge an [E-Mail geschützt]