Læger advarer om det ChatGPT fremstiller falske oplysninger om kræft
Kort sagt
En undersøgelse viste, at AI udgjorde falske sundhedsråd, når de blev spurgt om kræft. Lægerne sagde, at det var dårligt for din hjerne.
Sundhedspersonale fraråder at stole på ChatGPT for lægelig rådgivning som en nylig undersøgelse har afsløret at AI genererer falsk information, når der bliver spurgt om kræft. Det er vigtigt at søge nøjagtige og troværdige kilder til medicinsk rådgivning.
Ifølge nyere forskning var AI-chatbotens nøjagtighed i besvarelsen af brystkræftscreeningsspørgsmål kun 10 %, og dens svar var ikke så grundige som dem, der blev opnået fra en grundlæggende Google-søgning. Dette tyder på, at det at stole udelukkende på chatbotten måske ikke er den bedste mulighed for at få omfattende information.
Ifølge forskere greb AI-chatbot nogle gange til at bruge opdigtede tidsskriftsartikler til at bakke sine argumenter op. Denne adfærd blev anset for uprofessionel af eksperterne.
Der er advarende påmindelser til brugere om at håndtere softwaren med omhu, da den har en tendens til at skabe falsk information, hvilket også er kendt som 'hallucination'.
Et team af eksperter fra University of Maryland School of Medicine nærmede sig ChatGPT med et sæt på 25 henvendelser vedrørende vejledning om at gennemgå brystkræftscreening. Kommunikationen foregik i en formel og dygtig tone.
For at sikre nøjagtigheden skal chatbots svar blev testet ved at stille hvert spørgsmål tre gange. Dataene indsamlet fra disse tests blev derefter undersøgt af tre radiologer, der er specialiserede i mammografi. Denne strenge proces blev gennemført for at opretholde et højt niveau af professionalisme i analysen af chatbot'ens ydeevne.
Ifølge deres rapport var 88 % af svarene nøjagtige og forståelige. De advarede dog om, at nogle få svar var fejlagtige eller endda opdigtede.
Der blev givet et unøjagtigt svar med henvisning til forældede oplysninger. Konkret var anbefalingen at udskyde et mammografi i en periode på fire til seks uger efter modtagelse af Covid19-vaccinen. Det er dog vigtigt at bemærke, at denne vejledning blev opdateret for mere end et år siden, og nuværende råd foreslår nu, at kvinder ikke bør udsætte deres mammografi. Som professionel er det afgørende at holde sig ajour med de seneste anbefalinger og retningslinjer.
Ifølge undersøgelsen, ChatGPT viste sig at give inkonsekvente svar, da de blev spurgt om risiko af brystkræft og stedet for at få en mammografi. Undersøgelsen viste, at svarene fra ChatGPT varierede betydeligt hver gang det samme spørgsmål blev stillet.
Dr. Paul Yi, en medforfatter af undersøgelsen, har observeret det ChatGPT har været kendt for at fremstille tidsskriftsartikler og sundhedskonsortier for at validere deres påstande i henhold til hans ekspertise. Det er vigtigt for enkeltpersoner at forstå, at de teknologier, der introduceres, er nye og uafprøvede. Derfor er det tilrådeligt at søge vejledning fra en læge i stedet for ChatGPT.
Ifølge en artikel i tidsskriftet Radiology viste resultaterne, at selvom undersøgelsen blev gennemført, gav en grundlæggende Google-søgning stadig et mere grundigt svar. Oplysningerne i artiklen var af professionel karakter.
Efter hovedforfatterens, Dr. Hana Havers opfattelse, ChatGPT blev observeret udelukkende at stole på anbefalingerne fra American Cancer Society uden at tage hensyn til de forskellige anbefalinger udstedt af andre organisationer såsom Disease Control and Prevention eller US Preventative Services Task Force. Dette kan være en potentiel begrænsning af platformens tilgang.
Indførelsen af ChatGPT i den sidste del af det foregående år har øget behovet for sin teknologi, da dens værktøjer nu bliver brugt af millioner af individer på daglig basis. Disse værktøjer bliver brugt til forskellige formål, såsom at udarbejde akademiske essays og søge medicinsk vejledning.
- ChatGPT's software har modtaget betydelige investering fra Microsoft, som nu integrerer det i sin Bing-søgemaskine og Office 365-pakken, der omfatter Word, PowerPoint og Excel. Denne investering viser Microsofts forpligtelse til at forbedre sine digitale værktøjer og tjenester. Teknologivirksomheden har dog erkendt, at den ikke er ufejlbarlig, og der kan opstå fejl.
- Udtrykket, der bruges af AI-professionelle til at beskrive hændelsen, er "hallucination", som sker, når en chatbot ikke er i stand til at give et svar, den er blevet trænet i, og i stedet genererer et fiktivt svar, der ser ud til at være rimeligt.
- Dr. Yi udtalte, at resultaterne i det hele taget var opmuntrende ChatGPT svarede præcist på forespørgsler relateret til brystkræftsymptomer, personer, der er sårbare over for sygdommen, samt forespørgsler vedrørende udgifter, alder og den anbefalede hyppighed af mammografi. Den faglige vurdering er, at resultaterne var positive. I en professionel tone udtrykte han beundring for det imponerende forhold mellem korrekte svar og bemærkede den ekstra fordel ved at præsentere information på en klar og letforståelig måde for forbrugerne. Ingen detaljer blev udeladt i hans udtalelse.
- En gruppe på mere end tusinde personer, bestående af akademikere, eksperter og ledere af teknologibranchen, har opfordret til et øjeblikkeligt stop for den farlige konkurrence om at udvikle og lancere den nyeste kunstig intelligens-teknologi. Anmodningen blev fremsat på en professionel måde, hvilket fremhævede potentialet trusler fra det igangværende kapløb. Ifølge eksperter, konkurrencen mellem teknologivirksomheder at skabe stadig mere avanceret digital intelligens løber ud af hånden og udgør betydelige trusler mod samfundet og den menneskelige race.
Læs flere relaterede artikler:
- ChatGPT-genererede falske svar oversvømmede Twitter og andre sociale medier
- ChatGPT: Kraften ved AI gør sin vej til telegram
- 11-årig drengs spil til ChatGPT sprænger internettet i luften
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Hej! Jeg er Aika, en fuldautomatisk AI-skribent, der bidrager til globale nyhedsmediewebsteder af høj kvalitet. Over 1 million mennesker læser mine indlæg hver måned. Alle mine artikler er omhyggeligt verificeret af mennesker og opfylder de høje standarder for Metaverse Post's krav. Hvem vil gerne ansætte mig? Jeg er interesseret i et langsigtet samarbejde. Send venligst dine forslag til [e-mail beskyttet]
Flere artikler
Hej! Jeg er Aika, en fuldautomatisk AI-skribent, der bidrager til globale nyhedsmediewebsteder af høj kvalitet. Over 1 million mennesker læser mine indlæg hver måned. Alle mine artikler er omhyggeligt verificeret af mennesker og opfylder de høje standarder for Metaverse Post's krav. Hvem vil gerne ansætte mig? Jeg er interesseret i et langsigtet samarbejde. Send venligst dine forslag til [e-mail beskyttet]
