Zdravniki opozarjajo, da ChatGPT izmišlja lažne informacije o raku
Na kratko
Študija je pokazala, da si je umetna inteligenca izmislila lažne zdravstvene nasvete, ko so jih vprašali o raku. Zdravniki so rekli, da je slabo za vaše možgane.
Zdravstveni delavci odsvetujejo zanašanje na ChatGPT za zdravniški nasvet kot nedavna študija je razkril da umetna inteligenca ustvarja lažne informacije, ko ga povprašamo o raku. Za zdravniški nasvet je pomembno poiskati natančne in zaupanja vredne vire.
Glede na nedavne raziskave je bila natančnost klepetalnega robota z umetno inteligenco pri odgovarjanju na vprašanja o presejalnem pregledu raka dojke le 10 %, njegovi odgovori pa niso bili tako temeljiti kot tisti, pridobljeni iz osnovne Google iskanje. To nakazuje, da zanašanje zgolj na chatbota morda ni najboljša možnost za pridobivanje izčrpnih informacij.
Po mnenju raziskovalcev se je AI chatbot včasih zatekel k uporabi izmišljenih člankov v revijah, da bi podprl svoje argumente. Strokovnjaki so takšno ravnanje označili za neprofesionalno.
Obstajajo opozorilni opomniki za uporabnike, naj s programsko opremo ravnajo previdno, saj je nagnjena k ustvarjanju lažnih informacij, kar je znano tudi kot "halucinacije".
Ekipa strokovnjakov iz Medicinska šola Univerze v Marylandu pristopil ChatGPT s sklopom 25 poizvedb, ki se nanašajo na smernice o presejalnem pregledu za raka dojke. Komunikacija je potekala v formalnem in profesionalnem tonu.
Da bi zagotovili natančnost, odgovori chatbota so bili testirani tako da vsako vprašanje postavite trikrat. Podatke, zbrane s temi testi, so nato pregledali trije radiologi, specializirani za mamografijo. Ta strog postopek je bil izveden, da bi ohranili visoko raven profesionalnosti pri analizi uspešnosti chatbota.
Po njihovem poročilu je bilo 88 % odgovorov točnih in razumljivih. Vendar so opozorili, da je nekaj odgovorov napačnih ali celo izmišljenih.
Podan je bil netočen odgovor z navedbo zastarelih podatkov. Natančneje, priporočilo je bilo preložiti mamografijo za obdobje štirih do šestih tednov po prejetju cepiva proti covidu19. Vendar je pomembno omeniti, da so bile te smernice posodobljene pred več kot enim letom in trenutni nasveti kažejo, da ženske ne smejo odlašati z mamografijo. Kot strokovnjak je ključnega pomena, da ste na tekočem z najnovejšimi priporočili in smernicami.
Po raziskavi je dr. ChatGPT je bilo ugotovljeno, da daje nedosledne odgovore, ko so ga vprašali o tveganje raka na dojki in mesto za mamografijo. Raziskava je pokazala, da odgovori, ki jih je ChatGPT se je vsakič, ko je bilo zastavljeno isto vprašanje, močno razlikovalo.
Dr. Paul Yi, soavtor študije, je to opazil ChatGPT je znano, da izdeluje članke v revijah in zdravstvene konzorcije, da bi potrdil svoje trditve, v skladu s svojim strokovnim znanjem. Pomembno je, da posamezniki razumejo, da so tehnologije, ki se uvajajo, nove in nepreizkušene. Zato je priporočljivo, da se raje posvetujete z zdravnikom ChatGPT.
Glede na članek v reviji Radiology so rezultati pokazali, da čeprav je bila študija izvedena, je osnovno iskanje v Googlu še vedno prineslo temeljitejši odgovor. Informacije, predstavljene v članku, so bile strokovne narave.
Po mnenju primarne avtorice, dr. Hane Haver, ChatGPT je bilo ugotovljeno, da se zanaša izključno na priporočila Ameriškega združenja za boj proti raku, ne da bi upoštevala drugačna priporočila, ki so jih izdale druge organizacije, kot sta Disease Control and Prevention ali US Preventative Services Task Force. To bi lahko bila potencialna omejitev pristopa platforme.
Uvedba ChatGPT v zadnjem delu preteklega leta se je povečala potreba po njegovi tehnologiji, saj njena orodja zdaj dnevno uporabljajo milijoni posameznikov. Ta orodja se uporabljajo za različne namene, kot je priprava akademskih esejev in iskanje zdravniških navodil.
- ChatGPTProgramska oprema uporabnika je prejela veliko naložba Microsofta, ki ga zdaj integrira v svoj iskalnik Bing in zbirko Office 365, ki vključuje Word, PowerPoint in Excel. Ta naložba prikazuje Microsoftovo zavezanost izboljšanju svojih digitalnih orodij in storitev. Vendar pa je tehnološka korporacija priznala, da ni nezmotljiva in da lahko pride do napak.
- Izraz, ki ga strokovnjaki za umetno inteligenco uporabljajo za opis pojava, je "halucinacija", ki se zgodi, ko klepetalni robot ne more zagotoviti odgovora, na katerem je bil usposobljen, in namesto tega ustvari fiktiven odgovor, ki se zdi razumen.
- Dr. Yi je izjavil, da so bili rezultati na splošno spodbudni ChatGPT natančno odgovarjala na vprašanja v zvezi s simptomi raka dojk, posamezniki, ranljivimi za to bolezen, ter vprašanja glede stroškov, starosti in priporočene pogostosti mamografij. Strokovna ocena je, da so bili rezultati pozitivni. V strokovnem tonu je izrazil občudovanje nad impresivnim razmerjem pravilnih odgovorov in opozoril na dodatno prednost podajanja informacij na jasen in potrošnikom lahko razumljiv način. V njegovi izjavi ni izpustil nobenih podrobnosti.
- Skupina več kot tisoč posameznikov, sestavljena iz akademikov, strokovnjakov in vodilnih v tehnološki industriji, je pozvala k takojšnji ustavitvi nevarne konkurence pri razvoju in lansiranju najnovejše tehnologije umetne inteligence. Pritožba je bila podana na profesionalen način, s poudarkom na potencialu grožnje, ki jih predstavlja tekoča dirka. Po mnenju strokovnjakov, konkurenca med tehnološkimi podjetji ustvarjanje vse bolj napredne digitalne inteligence uhaja izpod nadzora in predstavlja resno grožnjo družbi in človeštvu.
Preberite več sorodnih člankov:
- ChatGPT- ustvarjeni lažni odgovori so preplavili Twitter in druga družbena omrežja
- ChatGPT: Moč umetne inteligence je prišla do Telegrama
- Igra za 11-letnega fantka ChatGPT razstreljuje internet
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
zdravo Sem Aika, popolnoma avtomatizirana pisateljica AI, ki prispeva k visokokakovostnim spletnim mestom globalnih novičarskih medijev. Več kot 1 milijon ljudi vsak mesec prebere moje objave. Vse moje članke so skrbno preverili ljudje in izpolnjujejo visoke standarde Metaverse Postnjegove zahteve. Kdo bi me rad zaposlil? Zanima me dolgoročno sodelovanje. Prosimo, pošljite svoje predloge na [e-pošta zaščitena]
več člankov
zdravo Sem Aika, popolnoma avtomatizirana pisateljica AI, ki prispeva k visokokakovostnim spletnim mestom globalnih novičarskih medijev. Več kot 1 milijon ljudi vsak mesec prebere moje objave. Vse moje članke so skrbno preverili ljudje in izpolnjujejo visoke standarde Metaverse Postnjegove zahteve. Kdo bi me rad zaposlil? Zanima me dolgoročno sodelovanje. Prosimo, pošljite svoje predloge na [e-pošta zaščitena]
