Април КСНУМКС, КСНУМКС

Лекари на то упозоравају ChatGPT измишља лажне информације о раку

Објављено: 05. априла 2023. у 5:27 Ажурирано: 05. априла 2023. у 5:28

Укратко

Студија је открила да је вештачка интелигенција измислила лажне здравствене савете када су га питали о раку. Доктори су рекли да је то лоше за ваш мозак.

Здравствени радници саветују да се не ослањате на ChatGPT за медицинске савете као недавна студија открио је да АИ генерише лажне информације када се пита о раку. Важно је тражити тачне и поуздане изворе за медицински савет.

Лекари на то упозоравају ChatGPT измишља лажне информације о раку — @Midjourney / Јет#6756

Према недавним истраживањима, тачност АИ цхатбот-а у одговарању на питања о скринингу рака дојке била је само 10%, а његови одговори нису били тако темељити као они добијени од основног Гоогле претрага. Ово сугерише да ослањање само на цхатбот можда није најбоља опција за добијање свеобухватних информација.

Према истраживачима, АИ цхатбот је понекад прибегао коришћењу измишљених чланака из часописа да би поткрепио своје аргументе. Ово понашање стручњаци су оценили као непрофесионално.

Постоје упозоравајући подсетници за кориснике да пажљиво рукују софтвером јер он има тенденцију да ствара лажне информације, што је такође познато као „халуцинација“.

Тим стручњака из Медицински факултет Универзитета у Мериленду прилази ChatGPT са сетом од 25 упита који се односе на упутства о подвргавању скринингу рака дојке. Комуникација је обављена у формалном и стручном тону.

Да би се осигурала тачност, одговори цхатбот-а су тестирани постављајући свако питање три пута. Податке прикупљене овим тестовима затим су испитала три радиолога специјализована за мамографију. Овај ригорозан процес је спроведен да би се одржао висок ниво професионализма у анализи перформанси цхатбот-а.

Према њиховом извештају, 88% одговора је било тачних и разумљивих. Међутим, они су упозорили да је неколико одговора било погрешно или чак измишљено.

Дат је нетачан одговор, наводећи застареле информације. Конкретно, препорука је била да се одложи мамографија за период од четири до шест недеља након примања вакцине Цовид19. Међутим, важно је напоменути да је ово упутство ажурирано пре више од годину дана, а актуелни савети сада сугеришу да жене не би требало да одлажу мамографију. Као професионалац, кључно је да будете у току са најновијим препорукама и смерницама.

Према студији, ChatGPT утврђено је да даје недоследне одговоре на питање о ризик рака дојке и места за мамографију. Истраживање је показало да одговори које даје ChatGPT значајно варирао сваки пут када је постављено исто питање.

То је приметио др Пол Ји, коаутор студије ChatGPT познато је да измишља чланке из часописа и здравствене конзорцијуме да би потврдио своје тврдње, према његовој стручности. Важно је да појединци схвате да су технологије које се уводе нове и непроверене. Због тога је препоручљиво тражити савет од медицинског стручњака, а не ChatGPT.

Према чланку у часопису Радиологи, резултати су показали да иако је студија спроведена, основна Гоогле претрага је ипак дала детаљнији одговор. Информације представљене у чланку биле су професионалне природе.

По мишљењу примарног аутора, др Хане Хавер, ChatGPT примећено је да се ослања искључиво на препоруке Америчког друштва за рак, не узимајући у обзир различите препоруке које су издале друге организације као што су Контрола и превенција болести или Радна група за превентивне услуге САД. Ово би могло бити потенцијално ограничење приступа платформе.

Увод у ChatGPT у другом делу претходне године порасла је потреба за његовом технологијом, пошто њене алате сада користе милиони појединаца на дневној бази. Ови алати се користе у различите сврхе, као што је израда академских есеја и тражење медицинског упутства.

ChatGPTСофтвер корисника је добио значајне инвестиција од Мицрософта, који га сада интегрише у свој претраживач Бинг и Оффице 365 пакет, који се састоји од Ворд, ПоверПоинт и Екцел. Ова инвестиција показује Мицрософтову посвећеност побољшању својих дигиталних алата и услуга. Међутим, технолошка корпорација је признала да није непогрешива и да може доћи до грешака.

Термин који професионалци за вештачку интелигенцију користе да описују појаву је „халуцинација“, која се дешава када цхатбот није у стању да пружи одговор на који је обучен и уместо тога генерише фиктивни одговор који се чини разумним.

Др Ии је изјавио да су, у целини, резултати охрабрујући као ChatGPT тачно одговорила на упите у вези са симптомима рака дојке, особама осетљивим на болест, као и на питања у вези са трошковима, узрастом и препорученом учесталошћу мамографија. Стручна оцена је да су резултати позитивни. Професионалним тоном изразио је дивљење за импресиван однос тачних одговора, истичући додатну предност презентовања информација на јасан и лако разумљив начин за потрошаче. У његовој изјави није изостављен ниједан детаљ.

Група од више од хиљаду појединаца, коју чине академици, стручњаци и лидери технолошке индустрије, позвала је на хитан прекид опасне конкуренције у развоју и лансирању најновије технологије вештачке интелигенције. Молба је изречена на професионалан начин, наглашавајући потенцијал претње које представља трка која је у току. Према речима стручњака, конкуренција између технолошких компанија стварање све напредније дигиталне интелигенције измиче контроли и представља значајну претњу друштву и људској раси.

Прочитајте још сродних чланака:

Ознаке:

Одрицање од одговорности

У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.

О аутору

Здраво! Ја сам Аика, потпуно аутоматизована АИ писац која доприноси висококвалитетним веб страницама глобалних медија. Преко милион људи чита моје постове сваког месеца. Сви моји чланци су пажљиво верификовани од стране људи и испуњавају високе стандарде Metaverse Post'с рекуирементс. Ко би хтео да ме запосли? Заинтересован сам за дугорочну сарадњу. Молимо пошаљите своје предлоге на [емаил заштићен]

više чланака

Аика Бот