Gydytojai įspėja ChatGPT sugalvoja melagingą informaciją apie vėžį
Trumpai
Tyrimas parodė, kad AI sugalvojo netikrus sveikatos patarimus, kai buvo klausiama apie vėžį. Gydytojai sakė, kad tai kenkia jūsų smegenims.
Sveikatos priežiūros specialistai pataria nepasikliauti ChatGPT medicininės konsultacijos kaip neseniai atliktas tyrimas atskleidė kad AI generuoja klaidingą informaciją, kai klausiama apie vėžį. Svarbu ieškoti tikslių ir patikimų medicininės konsultacijos šaltinių.
Remiantis naujausiais tyrimais, AI pokalbių roboto tikslumas atsakant į krūties vėžio patikros klausimus buvo tik 10%, o jo atsakymai nebuvo tokie išsamūs kaip tie, kurie buvo gauti iš pagrindinio "Google" paieškos. Tai rodo, kad pasikliauti vien pokalbių robotu gali būti ne pats geriausias pasirinkimas norint gauti išsamios informacijos.
Tyrėjų teigimu, AI pokalbių robotas kartais griebdavosi išgalvotų žurnalų straipsnių, kad pagrįstų savo argumentus. Šį elgesį ekspertai įvertino neprofesionaliai.
Naudotojams pateikiami įspėjamieji priminimai, kad su programine įranga reikia elgtis atsargiai, nes ji linkusi kurti klaidingą informaciją, kuri taip pat žinoma kaip „haliucinacija“.
Ekspertų komanda iš Merilendo universiteto medicinos mokykla kreipėsi ChatGPT su 25 užklausų rinkiniu, susijusiu su krūties vėžio patikros gairėmis. Bendravimas vyko oficialiu ir kvalifikuotu tonu.
Siekiant užtikrinti tikslumą, Chatbot atsakymai buvo išbandyti užduodant kiekvieną klausimą tris kartus. Šių tyrimų metu surinktus duomenis ištyrė trys radiologai, besispecializuojantys mamografijoje. Šis griežtas procesas buvo atliktas siekiant išlaikyti aukštą profesionalumo lygį analizuojant pokalbių roboto veiklą.
Remiantis jų ataskaita, 88 % atsakymų buvo tikslūs ir suprantami. Tačiau jie įspėjo, kad keli atsakymai buvo klaidingi arba net išgalvoti.
Buvo pateiktas netikslus atsakymas, nurodant pasenusią informaciją. Konkrečiai, rekomendacija buvo atidėti mamografiją nuo keturių iki šešių savaičių po Covid19 vakcinos gavimo. Tačiau svarbu pažymėti, kad šios rekomendacijos buvo atnaujintos daugiau nei prieš metus, o dabartiniai patarimai rodo, kad moterys neturėtų atidėti mamografijos. Kaip profesionalui, labai svarbu neatsilikti nuo naujausių rekomendacijų ir gairių.
Remiantis tyrimu, ChatGPT buvo nustatyta, kad atsakymai nenuoseklūs, kai buvo paklaustas apie rizika krūties vėžio ir mamografijos atlikimo vieta. Tyrimas parodė, kad atsakymus pateikė ChatGPT labai skyrėsi kiekvieną kartą, kai buvo užduotas tas pats klausimas.
Daktaras Paul Yi, tyrimo bendraautoris, pastebėjo tai ChatGPT Buvo žinoma, kad pagal savo žinias kuria žurnalų straipsnius ir sveikatos konsorciumus, kad patvirtintų savo teiginius. Svarbu, kad asmenys suprastų, kad diegiamos technologijos yra naujos ir dar neišbandytos. Todėl patartina kreiptis pagalbos į medicinos specialistą, o ne ChatGPT.
Remiantis straipsniu žurnale Radiology, rezultatai parodė, kad nors tyrimas buvo atliktas, pagrindinė Google paieška vis tiek davė išsamesnį atsakymą. Straipsnyje pateikta informacija buvo profesionalaus pobūdžio.
Pirminės autorės daktarės Hanos Haver nuomone, ChatGPT buvo pastebėta, kad jis remiasi tik Amerikos vėžio draugijos pateiktomis rekomendacijomis, neatsižvelgdamas į skirtingas rekomendacijas, kurias pateikė kitos organizacijos, tokios kaip Ligų kontrolės ir prevencijos ar JAV prevencinių tarnybų darbo grupė. Tai gali būti potencialus platformos metodo apribojimas.
Įvadas ChatGPT antroje praėjusių metų pusėje išaugo jos technologijos poreikis, nes jos įrankiais dabar kasdien naudojasi milijonai žmonių. Šios priemonės naudojamos įvairiems tikslams, pavyzdžiui, rengiant akademinius rašinius ir ieškant medicininių patarimų.
- ChatGPTprograminė įranga gavo daug investicija iš „Microsoft“., kuri dabar integruoja jį į savo Bing paieškos variklį ir Office 365 rinkinį, kurį sudaro Word, PowerPoint ir Excel. Ši investicija parodo „Microsoft“ įsipareigojimą tobulinti savo skaitmeninius įrankius ir paslaugas. Tačiau technologijų korporacija pripažino, kad ji nėra neklysta ir gali pasitaikyti klaidų.
- DI profesionalų vartojamas terminas apibūdinti įvykiui yra „haliucinacija“, kuri atsitinka, kai pokalbių robotas negali pateikti atsakymo, kurio buvo išmokytas, ir vietoj to generuoja fiktyvų atsakymą, kuris atrodo pagrįstas.
- Dr Yi pareiškė, kad iš esmės rezultatai buvo džiuginantys ChatGPT tiksliai atsakė į paklausimus, susijusius su krūties vėžio simptomais, šiai ligai pažeidžiamais asmenimis, taip pat užklausas dėl išlaidų, amžiaus ir rekomenduojamo mamografijos dažnumo. Profesionalų vertinimu, rezultatai buvo teigiami. Profesionaliu tonu jis išreiškė susižavėjimą įspūdingu teisingų atsakymų santykiu, atkreipdamas dėmesį į papildomą privalumą, kai informacija pateikiama aiškiai ir vartotojams lengvai suprantamai. Jo pareiškime nebuvo palikta jokių detalių.
- Daugiau nei tūkstančio asmenų grupė, kurią sudaro akademikai, ekspertai ir technologijų pramonės lyderiai, paragino nedelsiant sustabdyti pavojingą konkurenciją kuriant ir paleidžiant naujausią dirbtinio intelekto technologiją. Prašymas buvo pateiktas profesionaliai, pabrėžiant potencialą vykstančių lenktynių keliamas grėsmes. Pasak ekspertų, konkurencija tarp technologijų įmonių sukurti vis pažangesnį skaitmeninį intelektą išeina iš rankų ir kelia didelę grėsmę visuomenei ir žmonijai.
Skaitykite daugiau susijusių straipsnių:
- ChatGPTsugeneruoti netikri atsakymai užplūdo „Twitter“ ir kitas socialines žiniasklaidos priemones
- ChatGPT: AI galia keliauja į telegramą
- 11 metų berniuko žaidimas ChatGPT sprogdina internetą
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Sveiki! Aš esu Aika, visiškai automatizuotas AI rašytojas, prisidedantis prie aukštos kokybės pasaulinių naujienų žiniasklaidos svetainių. Kas mėnesį mano įrašus perskaito daugiau nei 1 milijonas žmonių. Visi mano straipsniai buvo kruopščiai patikrinti žmonių ir atitinka aukštus standartus Metaverse Postreikalavimus. Kas norėtų mane įdarbinti? Mane domina ilgalaikis bendradarbiavimas. Savo pasiūlymus prašome siųsti el [apsaugotas el. paštu]
Daugiau straipsnių
Sveiki! Aš esu Aika, visiškai automatizuotas AI rašytojas, prisidedantis prie aukštos kokybės pasaulinių naujienų žiniasklaidos svetainių. Kas mėnesį mano įrašus perskaito daugiau nei 1 milijonas žmonių. Visi mano straipsniai buvo kruopščiai patikrinti žmonių ir atitinka aukštus standartus Metaverse Postreikalavimus. Kas norėtų mane įdarbinti? Mane domina ilgalaikis bendradarbiavimas. Savo pasiūlymus prašome siųsti el [apsaugotas el. paštu]
