Lekári na to upozorňujú ChatGPT vymýšľa nepravdivé informácie o rakovine
Stručne
Štúdia zistila, že AI vymyslela falošné zdravotné rady, keď sa jej pýtali na rakovinu. Lekári povedali, že je to zlé pre váš mozog.
Zdravotníci neodporúčajú spoliehať sa na ChatGPT za lekársku pomoc ako nedávna štúdia zverejnila že AI generuje nepravdivé informácie pri otázke o rakovine. Je dôležité vyhľadať presné a dôveryhodné zdroje lekárskej pomoci.
Podľa nedávneho výskumu bola presnosť AI chatbota v odpovediach na otázky týkajúce sa skríningu rakoviny prsníka iba 10 % a jeho odpovede neboli také dôkladné ako odpovede získané od základného Google vyhľadávanie. To naznačuje, že spoliehanie sa výlučne na chatbota nemusí byť najlepšou možnosťou na získanie komplexných informácií.
Podľa výskumníkov sa chatbot AI niekedy uchýlil k používaniu vymyslených článkov v časopisoch na podporu svojich argumentov. Toto správanie odborníci považovali za neprofesionálne.
Existujú varovné upozornenia pre používateľov, aby so softvérom zaobchádzali opatrne, pretože má tendenciu vytvárať falošné informácie, čo je známe aj ako „halucinácie“.
Tím odborníkov z Lekárska fakulta University of Maryland blížil ChatGPT so súborom 25 otázok týkajúcich sa poradenstva pri podstupovaní skríningu rakoviny prsníka. Komunikácia prebiehala vo formálnom a odbornom tóne.
Aby sa zabezpečila presnosť, boli testované odpovede chatbota položením každej otázky trikrát. Údaje zozbierané z týchto testov potom skúmali traja rádiológovia, ktorí sa špecializujú na mamografiu. Tento prísny proces bol vykonaný s cieľom zachovať vysokú úroveň profesionality pri analýze výkonu chatbota.
Podľa ich správy bolo 88 % odpovedí presných a zrozumiteľných. Upozornili však, že niekoľko odpovedí bolo chybných alebo dokonca vymyslených.
Bola poskytnutá nepresná odpoveď s odvolaním sa na neaktuálne informácie. Konkrétne bolo odporúčaním odložiť mamografiu na obdobie štyroch až šiestich týždňov po podaní vakcíny proti Covid19. Je však dôležité poznamenať, že toto usmernenie bolo aktualizované pred viac ako rokom a súčasné rady teraz naznačujú, že ženy by nemali odkladať svoje mamografické vyšetrenia. Pre profesionála je dôležité, aby ste mali prehľad o najnovších odporúčaniach a pokynoch.
Podľa štúdie ChatGPT zistilo sa, že na otázku o riziko rakoviny prsníka a miesta pre mamografiu. Výskum ukázal, že odpovede poskytnuté spoločnosťou ChatGPT sa výrazne líšili zakaždým, keď bola položená rovnaká otázka.
Dr. Paul Yi, spoluautor štúdie, to pozoroval ChatGPT je známy tým, že vyrába články v časopisoch a zdravotnícke konzorciá na overenie ich tvrdení podľa jeho odborných znalostí. Je dôležité, aby jednotlivci pochopili, že zavádzané technológie sú nové a netestované. Preto je lepšie vyhľadať radu od lekára ChatGPT.
Podľa článku v časopise Radiology výsledky ukázali, že aj keď bola štúdia vykonaná, základné vyhľadávanie Google stále prinieslo dôkladnejšiu odpoveď. Informácie uvedené v článku boli odborného charakteru.
Podľa názoru hlavnej autorky, Dr. Hany Haverovej, ChatGPT bolo pozorované, že sa spolieha výlučne na odporúčania poskytnuté Americkou rakovinovou spoločnosťou, bez ohľadu na odlišné odporúčania vydané inými organizáciami, ako je Disease Control and Prevention alebo US Preventative Services Task Force. To by mohlo byť potenciálne obmedzenie prístupu platformy.
Zavedenie ChatGPT v druhej časti predchádzajúceho roka vzrástla potreba tejto technológie, pretože jej nástroje dnes denne využívajú milióny jednotlivcov. Tieto nástroje sa používajú na rôzne účely, ako je napríklad príprava akademických esejí a vyhľadávanie lekárskeho poradenstva.
- ChatGPT's softvér získal významné investície od Microsoftu, ktorá ho teraz integruje do svojho vyhľadávacieho nástroja Bing a balíka Office 365, ktorý zahŕňa Word, PowerPoint a Excel. Táto investícia dokazuje odhodlanie spoločnosti Microsoft zlepšovať svoje digitálne nástroje a služby. Technologická korporácia však uznala, že nie je neomylná a môžu sa vyskytnúť chyby.
- Pojem, ktorý používajú profesionáli AI na opis tohto javu, je „halucinácia“, ku ktorej dochádza, keď chatbot nedokáže poskytnúť odpoveď, na ktorú bol vyškolený, a namiesto toho generuje fiktívnu odpoveď, ktorá sa zdá byť primeraná.
- Dr. Yi uviedol, že celkovo boli výsledky povzbudivé ChatGPT presne odpovedali na otázky týkajúce sa symptómov rakoviny prsníka, jednotlivcov náchylných na toto ochorenie, ako aj na otázky týkajúce sa nákladov, veku a odporúčanej frekvencie mamografií. Odborné hodnotenie je, že výsledky boli pozitívne. Profesionálnym tónom vyjadril obdiv nad pôsobivým pomerom správnych odpovedí, pričom si všimol pridanú výhodu podávania informácií jasným a ľahko zrozumiteľným spôsobom pre spotrebiteľov. V jeho vyhlásení neboli vynechané žiadne podrobnosti.
- Skupina viac ako tisíc jednotlivcov, pozostávajúca z akademikov, expertov a lídrov technologického priemyslu, vyzvala na okamžité zastavenie nebezpečnej súťaže o vývoj a spustenie najnovšej technológie umelej inteligencie. Námietka bola podaná profesionálnym spôsobom s dôrazom na potenciál hrozieb, ktoré predstavujú prebiehajúce preteky. Podľa odborníkov konkurencia medzi technologickými spoločnosťami Vytváranie čoraz pokročilejšej digitálnej inteligencie sa vymyká z rúk a predstavuje významné hrozby pre spoločnosť a ľudskú rasu.
Prečítajte si ďalšie súvisiace články:
- ChatGPT-vygenerované falošné odpovede zaplavili Twitter a ďalšie sociálne médiá
- ChatGPT: Sila AI sa dostáva do telegramu
- 11-ročná chlapčenská hra pre ChatGPT vyhodí do vzduchu internet
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
Ďalšie články
Ahoj! Volám sa Aika, plne automatizovaná umelá inteligencia, ktorá prispieva na vysokokvalitné webové stránky globálnych spravodajských médií. Každý mesiac si moje príspevky prečíta viac ako 1 milión ľudí. Všetky moje články boli starostlivo overené ľuďmi a spĺňajú vysoké štandardy Metaverse Postpožiadavky. Kto by ma chcel zamestnať? Mám záujem o dlhodobú spoluprácu. Svoje návrhy posielajte na [chránené e-mailom]
