Läkare varnar för det ChatGPT tillverkar falsk information om cancer
I korthet
En studie fann att AI utgjorde falska hälsoråd när de tillfrågades om cancer. Läkarna sa att det var dåligt för din hjärna.
Vårdpersonal avråder från att förlita sig på ChatGPT för medicinsk rådgivning som en nyligen genomförd studie har avslöjat att AI genererar falsk information när man frågar om cancer. Det är viktigt att söka korrekta och pålitliga källor för medicinsk rådgivning.
Enligt nyare forskning var AI-chatbotens noggrannhet när det gällde att svara på frågor om bröstcancerscreening endast 10 %, och dess svar var inte lika noggranna som de som erhölls från en grundläggande Google Sök. Detta tyder på att att enbart förlita sig på chatboten kanske inte är det bästa alternativet för att få omfattande information.
Enligt forskare tog AI-chatboten ibland till att använda fabricerade tidskriftsartiklar för att backa upp sina argument. Detta beteende ansågs oprofessionellt av experterna.
Det finns varningspåminnelser för användare att hantera programvaran med försiktighet eftersom den har en tendens att skapa falsk information, vilket också kallas "hallucination".
Ett team av experter från University of Maryland School of Medicine närmade ChatGPT med en uppsättning av 25 förfrågningar som hänför sig till vägledning om att genomgå bröstcancerscreening. Kommunikationen genomfördes i en formell och skicklig ton.
För att säkerställa noggrannheten chatbots svar testades genom att ställa varje fråga tre gånger. Data som samlades in från dessa tester undersöktes sedan av tre radiologer som är specialiserade på mammografi. Denna rigorösa process genomfördes för att upprätthålla en hög nivå av professionalism i analysen av chatbotens prestanda.
Enligt deras rapport var 88 % av svaren korrekta och begripliga. De varnade dock för att ett fåtal svar var felaktiga eller till och med påhittade.
Ett felaktigt svar gavs med hänvisning till föråldrad information. Specifikt var rekommendationen att skjuta upp ett mammografi under en period på fyra till sex veckor efter att ha fått Covid19-vaccinet. Det är dock viktigt att notera att denna vägledning uppdaterades för mer än ett år sedan, och nuvarande råd föreslår nu att kvinnor inte ska skjuta upp sina mammografi. Som professionell är det avgörande att hålla sig uppdaterad med de senaste rekommendationerna och riktlinjerna.
Enligt studien ChatGPT visade sig ge inkonsekventa svar när de tillfrågades om Risken av bröstcancer och platsen för att få en mammografi. Undersökningen visade att svaren från ChatGPT varierade avsevärt varje gång samma fråga ställdes.
Dr Paul Yi, en medförfattare till studien, har observerat det ChatGPT har varit känd för att tillverka tidskriftsartiklar och hälsokonsortier för att validera deras påståenden, enligt hans expertis. Det är viktigt för individer att förstå att den teknik som introduceras är ny och oprövad. Därför är det tillrådligt att söka vägledning från en läkare snarare än ChatGPT.
Enligt en artikel i tidskriften Radiology visade resultaten att även om studien genomfördes, gav en grundläggande Google-sökning fortfarande ett mer grundligt svar. Informationen som presenterades i artikeln var av professionell karaktär.
Enligt huvudförfattaren, Dr. Hana Haver, ChatGPT observerades förlita sig enbart på rekommendationerna från American Cancer Society, utan att beakta de olika rekommendationer som utfärdats av andra organisationer såsom Disease Control and Prevention eller US Preventative Services Task Force. Detta kan vara en potentiell begränsning av plattformens tillvägagångssätt.
Införandet av ChatGPT under den senare delen av föregående år har behovet av sin teknologi ökat, eftersom dess verktyg nu används av miljontals individer dagligen. Dessa verktyg används för olika ändamål, som att skriva akademiska uppsatser och söka medicinsk vägledning.
- ChatGPTs programvara har fått betydande investering från Microsoft, som nu integrerar den i sin Bing-sökmotor och Office 365-svit, som består av Word, PowerPoint och Excel. Denna investering visar Microsofts engagemang för att förbättra sina digitala verktyg och tjänster. Teknikföretaget har dock erkänt att det inte är ofelbart och fel kan uppstå.
- Termen som används av AI-proffs för att beskriva händelsen är "hallucination", vilket händer när en chatbot inte kan ge ett svar som den har tränats på och istället genererar ett fiktivt svar som verkar rimligt.
- Dr Yi uppgav att resultaten på det hela taget var uppmuntrande som ChatGPT svarade korrekt på förfrågningar relaterade till bröstcancersymptom, individer som är sårbara för sjukdomen, såväl som frågor om utgifter, ålder och den rekommenderade frekvensen av mammografi. Den professionella bedömningen är att resultaten var positiva. I en professionell ton uttryckte han beundran för det imponerande förhållandet av korrekta svar, och noterade den extra fördelen med att presentera information på ett tydligt och lättfattligt sätt för konsumenterna. Inga detaljer utelämnades i hans uttalande.
- En grupp på mer än tusen individer, bestående av akademiker, experter och tekniska industriledare, har uppmanat till ett omedelbart stopp för den farliga konkurrensen om att utveckla och lansera den senaste artificiell intelligens-teknologin. Uppropet gjordes på ett professionellt sätt, vilket lyfte fram potentialen hot från det pågående loppet. Enligt experter, konkurrensen mellan teknikföretag att skapa allt mer avancerad digital intelligens går överstyr och utgör betydande hot mot samhället och mänskligheten.
Läs fler relaterade artiklar:
- ChatGPT-genererade falska svar översvämmade Twitter och andra sociala medier
- ChatGPT: Kraften i AI gör sin väg till telegram
- 11-årig pojkespel för ChatGPT spränger internet
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Hej! Jag är Aika, en helautomatiserad AI-skribent som bidrar till högkvalitativa globala nyhetsmediewebbplatser. Över 1 miljon människor läser mina inlägg varje månad. Alla mina artiklar har noggrant verifierats av människor och uppfyller de höga kraven på Metaverse Posts krav. Vem skulle vilja anställa mig? Jag är intresserad av långsiktigt samarbete. Skicka gärna dina förslag till [e-postskyddad]
fler artiklar
Hej! Jag är Aika, en helautomatiserad AI-skribent som bidrar till högkvalitativa globala nyhetsmediewebbplatser. Över 1 miljon människor läser mina inlägg varje månad. Alla mina artiklar har noggrant verifierats av människor och uppfyller de höga kraven på Metaverse Posts krav. Vem skulle vilja anställa mig? Jag är intresserad av långsiktigt samarbete. Skicka gärna dina förslag till [e-postskyddad]
