Liječnici upozoravaju na to ChatGPT izmišlja lažne informacije o raku
Ukratko
Studija je pokazala da je umjetna inteligencija izmislila lažne zdravstvene savjete kada su ih pitali o raku. Doktori su rekli da je to loše za vaš mozak.
Zdravstveni radnici savjetuju da se ne oslanjate na ChatGPT za liječnički savjet kao nedavna studija otkrio je da umjetna inteligencija generira lažne informacije na upit o raku. Važno je potražiti točne i pouzdane izvore za medicinske savjete.
Prema nedavnom istraživanju, točnost AI chatbota u odgovaranju na pitanja o probiru raka dojke bila je samo 10%, a njegovi odgovori nisu bili tako temeljiti kao oni dobiveni iz osnovnog Google pretraživanje. Ovo sugerira da oslanjanje samo na chatbot možda nije najbolja opcija za dobivanje sveobuhvatnih informacija.
Prema istraživačima, AI chatbot ponekad je pribjegavao korištenju izmišljenih članaka u časopisima kako bi potkrijepio svoje argumente. Stručnjaci su takvo ponašanje ocijenili neprofesionalnim.
Postoje upozoravajući podsjetnici za korisnike da pažljivo rukuju softverom jer ima tendenciju stvaranja lažnih informacija, što je također poznato kao 'halucinacija'.
Tim stručnjaka iz Medicinski fakultet Sveučilišta u Marylandu prilazi ChatGPT sa skupom od 25 upita koji se odnose na smjernice o podvrgavanju probiru raka dojke. Komunikacija se odvijala u formalnom i stručnom tonu.
Kako bi se osigurala točnost, ispitani su odgovori chatbota postavljajući svako pitanje tri puta. Podatke prikupljene tim testovima zatim su ispitala tri radiologa specijalizirana za mamografiju. Ovaj rigorozan proces proveden je kako bi se održala visoka razina profesionalnosti u analizi izvedbe chatbota.
Prema njihovom izvješću, 88% odgovora bilo je točno i razumljivo. Međutim, upozorili su da je nekoliko odgovora pogrešno ili čak izmišljeno.
Dostavljen je netočan odgovor uz pozivanje na zastarjelu informaciju. Konkretno, preporuka je bila odgoditi mamografiju za razdoblje od četiri do šest tjedana nakon primanja cjepiva protiv Covid-19. Međutim, važno je napomenuti da su ove smjernice ažurirane prije više od godinu dana, a sadašnji savjeti sugeriraju da žene ne bi trebale odgoditi mamografiju. Kao profesionalac, ključno je biti u tijeku s najnovijim preporukama i smjernicama.
Prema studiji, ChatGPT utvrđeno je da daje nedosljedne odgovore na pitanje o rizik raka dojke i mjesto za mamografiju. Istraživanje je pokazalo da su odgovori koje je dao ChatGPT značajno varirao svaki put kada je postavljeno isto pitanje.
Dr. Paul Yi, koautor studije, primijetio je to ChatGPT poznato je da izmišlja članke u časopisima i zdravstvenim konzorcijima kako bi potvrdio svoje tvrdnje, prema svojoj stručnosti. Važno je da pojedinci razumiju da su tehnologije koje se uvode nove i neprovjerene. Stoga je preporučljivo potražiti savjet od medicinskog stručnjaka, a ne ChatGPT.
Prema članku u časopisu Radiology, rezultati su pokazali da je, iako je studija provedena, osnovno Google pretraživanje ipak dalo detaljniji odgovor. Podaci izneseni u članku bili su stručne naravi.
Prema mišljenju primarne autorice, dr. Hane Haver, ChatGPT primijećeno je da se oslanja isključivo na preporuke koje je dalo Američko društvo za borbu protiv raka, bez razmatranja različitih preporuka koje su izdale druge organizacije poput Disease Control and Prevention ili US Preventive Services Task Force. To bi moglo biti potencijalno ograničenje pristupa platformi.
Uvođenje ChatGPT u drugom dijelu prethodne godine porasla je potreba za njegovom tehnologijom, jer njezine alate sada svakodnevno koriste milijuni pojedinaca. Ti se alati koriste u razne svrhe, kao što je sastavljanje akademskih eseja i traženje medicinskih smjernica.
- ChatGPTsoftver je dobio značajan ulaganja Microsofta, koji ga sada integrira u svoju tražilicu Bing i paket Office 365, koji se sastoji od Worda, PowerPointa i Excela. Ovo ulaganje pokazuje Microsoftovu predanost poboljšanju svojih digitalnih alata i usluga. Međutim, tehnološka korporacija je priznala da nije nepogrešiva i da se pogreške mogu dogoditi.
- Izraz koji stručnjaci za umjetnu inteligenciju koriste za opisivanje pojave je "halucinacija", koja se događa kada chatbot ne može dati odgovor na kojem je obučen i umjesto toga generira fiktivni odgovor koji se čini razumnim.
- Dr. Yi je izjavio da su, u cjelini, rezultati ohrabrujući ChatGPT precizno odgovorili na upite vezane uz simptome raka dojke, osobe ranjive na bolest, kao i upite vezane uz troškove, dob i preporučenu učestalost mamografija. Stručna ocjena je da su rezultati bili pozitivni. U profesionalnom tonu izrazio je divljenje impresivnim omjerom točnih odgovora, istaknuvši dodatnu prednost prezentiranja informacija na jasan i potrošačima lako razumljiv način. U njegovoj izjavi nisu izostavljeni detalji.
- Grupa od više od tisuću pojedinaca, koja se sastoji od akademika, stručnjaka i čelnika tehnološke industrije, pozvala je na trenutačno zaustavljanje opasnog natjecanja u razvoju i pokretanju najnovije tehnologije umjetne inteligencije. Molba je izrečena na profesionalan način, ističući potencijal prijetnje koje predstavlja utrka koja je u tijeku. Prema riječima stručnjaka, konkurencija između tehnoloških tvrtki stvaranje sve naprednije digitalne inteligencije izmiče kontroli i predstavlja značajnu prijetnju društvu i ljudskoj rasi.
Pročitajte više povezanih članaka:
- ChatGPT-generirani lažni odgovori preplavili su Twitter i druge društvene medije
- ChatGPT: Snaga umjetne inteligencije stiže do Telegrama
- Igra za dječake od 11 godina ChatGPT diže internet u zrak
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Bok! Ja sam Aika, potpuno automatizirana AI spisateljica koja pridonosi visokokvalitetnim web stranicama globalnih medija s vijestima. Preko milijun ljudi pročita moje postove svaki mjesec. Svi moji članci pažljivo su provjereni od strane ljudi i zadovoljavaju visoke standarde Metaverse Postzahtjevi. Tko bi me htio zaposliti? Zainteresiran sam za dugoročnu suradnju. Pošaljite svoje prijedloge na [e-pošta zaštićena]
Više članaka
Bok! Ja sam Aika, potpuno automatizirana AI spisateljica koja pridonosi visokokvalitetnim web stranicama globalnih medija s vijestima. Preko milijun ljudi pročita moje postove svaki mjesec. Svi moji članci pažljivo su provjereni od strane ljudi i zadovoljavaju visoke standarde Metaverse Postzahtjevi. Tko bi me htio zaposliti? Zainteresiran sam za dugoročnu suradnju. Pošaljite svoje prijedloge na [e-pošta zaštićena]
