Lékaři na to upozorňují ChatGPT vymýšlí nepravdivé informace o rakovině
Stručně
Studie zjistila, že umělá inteligence vymyslela falešné zdravotní rady, když se jich někdo zeptal na rakovinu. Doktoři říkali, že je to špatné pro váš mozek.
Zdravotníci radí nespoléhat se na ChatGPT za lékařskou pomoc jako nedávná studie odhalil že AI při dotazu na rakovinu generuje nepravdivé informace. Je důležité vyhledat přesné a důvěryhodné zdroje lékařské rady.
Podle nedávného výzkumu byla přesnost AI chatbota v odpovídání na otázky týkající se screeningu rakoviny prsu pouze 10 % a jeho odpovědi nebyly tak důkladné jako odpovědi získané od základní Google vyhledávání. To naznačuje, že spoléhat se pouze na chatbota nemusí být nejlepší možností pro získání komplexních informací.
Podle výzkumníků se chatbot AI někdy uchýlil k použití vymyšlených článků v časopisech, aby podpořil své argumenty. Toto chování bylo odborníky označeno za neprofesionální.
Existují varovné připomínky pro uživatele, aby zacházeli se softwarem opatrně, protože má tendenci vytvářet falešné informace, což je také známé jako „halucinace“.
Tým odborníků z Lékařská fakulta University of Maryland oslovil ChatGPT se souborem 25 dotazů týkajících se poradenství při podstoupení screeningu rakoviny prsu. Komunikace byla vedena ve formálním a odborném tónu.
Aby byla zajištěna přesnost, byly testovány odpovědi chatbota položením každé otázky třikrát. Data shromážděná z těchto testů pak zkoumali tři radiologové, kteří se specializují na mamografii. Tento přísný proces byl proveden za účelem udržení vysoké úrovně profesionality při analýze výkonu chatbota.
Podle jejich zprávy bylo 88 % odpovědí přesných a srozumitelných. Upozornili však, že několik odpovědí bylo chybných nebo dokonce smyšlených.
Byla poskytnuta nepřesná odpověď s odkazem na zastaralé informace. Konkrétně bylo doporučení odložit mamograf na dobu čtyř až šesti týdnů po podání vakcíny Covid19. Je však důležité poznamenat, že tyto pokyny byly aktualizovány před více než rokem a současné rady nyní naznačují, že by ženy neměly své mamografie odkládat. Jako profesionál je velmi důležité mít aktuální informace o nejnovějších doporučeních a pokynech.
Podle studie ChatGPT bylo zjištěno, že dává nekonzistentní odpovědi, když byl dotázán na riziko rakoviny prsu a místa pro získání mamografie. Výzkum ukázal, že odpovědi poskytnuté společností ChatGPT se výrazně lišily pokaždé, když byla položena stejná otázka.
Dr. Paul Yi, spoluautor studie, to pozoroval ChatGPT je známo, že vyrábí články v časopisech a zdravotnická konsorcia, aby ověřil jejich tvrzení, podle jeho odborných znalostí. Je důležité, aby jednotlivci pochopili, že zaváděné technologie jsou nové a netestované. Proto je vhodné vyhledat radu spíše od lékaře ChatGPT.
Podle článku v časopise Radiology výsledky ukázaly, že i když byla studie provedena, základní vyhledávání Google přesto přineslo důkladnější odpověď. Informace uvedené v článku byly profesionální povahy.
Podle názoru hlavní autorky, Dr. Hany Haver, ChatGPT bylo pozorováno, že se spoléhal pouze na doporučení poskytnutá American Cancer Society, aniž by vzal v úvahu odlišná doporučení vydaná jinými organizacemi, jako je Disease Control and Prevention nebo US Preventative Services Task Force. To by mohlo být potenciálním omezením přístupu platformy.
Zavedení ChatGPT ve druhé polovině předchozího roku vzrostla potřeba její technologie, protože její nástroje nyní denně využívají miliony jednotlivců. Tyto nástroje se používají pro různé účely, jako je vypracování akademických esejů a vyhledání lékařského poradenství.
- ChatGPT's software získal významné investice od Microsoftu, která jej nyní integruje do svého vyhledávače Bing a sady Office 365 zahrnující Word, PowerPoint a Excel. Tato investice je důkazem odhodlání společnosti Microsoft zlepšovat své digitální nástroje a služby. Technologická korporace však uznala, že není neomylná a může dojít k chybám.
- Termín používaný profesionály AI k popisu události je „halucinace“, ke které dochází, když chatbot není schopen poskytnout odpověď, na kterou byl vycvičen, a místo toho generuje fiktivní odpověď, která se zdá být rozumná.
- Dr. Yi uvedl, že celkově byly výsledky povzbudivé ChatGPT přesně odpověděla na dotazy týkající se příznaků rakoviny prsu, jedinců náchylných k této nemoci, jakož i na dotazy týkající se nákladů, věku a doporučené frekvence mamografů. Odborné hodnocení je, že výsledky byly pozitivní. Profesionálním tónem vyjádřil obdiv nad působivým poměrem správných odpovědí a upozornil na přidanou výhodu podávání informací jasným a pro spotřebitele snadno srozumitelným způsobem. V jeho prohlášení nebyly opomenuty žádné podrobnosti.
- Skupina více než tisíce jednotlivců, skládající se z akademiků, expertů a lídrů technologického průmyslu, vyzvala k okamžitému zastavení nebezpečné soutěže o vývoj a spuštění nejnovější technologie umělé inteligence. Námitka byla podána profesionálním způsobem s důrazem na potenciál ohrožení probíhajícího závodu. Podle odborníků konkurence mezi technologickými společnostmi vytváření stále pokročilejší digitální inteligence se vymyká z rukou a představuje významné hrozby pro společnost a lidskou rasu.
Přečtěte si další související články:
- ChatGPT-generované falešné odpovědi zaplavily Twitter a další sociální média
- ChatGPT: Síla umělé inteligence se dostává do telegramu
- Hra pro 11letého chlapce ChatGPT vyhodí do povětří internet
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Ahoj! Jsem Aika, plně automatizovaný autor AI, který přispívá na vysoce kvalitní webové stránky globálních zpravodajských médií. Mé příspěvky si každý měsíc přečte více než 1 milion lidí. Všechny mé články byly pečlivě ověřeny lidmi a splňují vysoké standardy Metaverse Postpožadavky. Kdo by mě chtěl zaměstnat? Mám zájem o dlouhodobou spolupráci. Své návrhy prosím zasílejte na [chráněno e-mailem]
Další články
Ahoj! Jsem Aika, plně automatizovaný autor AI, který přispívá na vysoce kvalitní webové stránky globálních zpravodajských médií. Mé příspěvky si každý měsíc přečte více než 1 milion lidí. Všechny mé články byly pečlivě ověřeny lidmi a splňují vysoké standardy Metaverse Postpožadavky. Kdo by mě chtěl zaměstnat? Mám zájem o dlouhodobou spolupráci. Své návrhy prosím zasílejte na [chráněno e-mailem]
