Април 05, 2023

Лекарите предупреждават, че ChatGPT фабрикува невярна информация относно рака

Публикувано: 05 април 2023 г. в 5:27 ч. Актуализирано: 05 април 2023 г. в 5:28 ч.

Накратко

Проучване установи, че AI измисля фалшиви здравни съвети, когато ги питат за рак. Лекарите казаха, че е лошо за мозъка ви.

Здравните специалисти съветват да не разчитате на ChatGPT за медицински съвет като скорошно проучване разкрива че изкуственият интелект генерира невярна информация при запитване за рак. Важно е да търсите точни и надеждни източници за медицински съвети.

Лекарите предупреждават, че ChatGPT фабрикува невярна информация относно рака — @Midjourney / Jet#6756

Според скорошни изследвания, точността на AI чатбота при отговорите на въпросите за скрининг на рак на гърдата е само 10%, а отговорите му не са толкова изчерпателни, колкото тези, получени от основен Google търсене. Това предполага, че разчитането само на чатбота може да не е най-добрият вариант за получаване на изчерпателна информация.

Според изследователите AI чатботът понякога прибягва до използване на изфабрикувани статии в списания, за да подкрепи своите аргументи. Експертите определиха това поведение като непрофесионално.

Има предупредителни напомняния за потребителите да боравят със софтуера внимателно, тъй като той има тенденция да създава невярна информация, която също е известна като „халюцинация“.

Екип от експерти от Университетът на Мериленд училище по медицина приближи ChatGPT с набор от 25 запитвания, отнасящи се до насоки за преминаване на скрининг за рак на гърдата. Комуникацията се проведе в официален и опитен тон.

За да се гарантира точността, отговорите на chatbot бяха тествани като зададете всеки въпрос три пъти. Данните, събрани от тези тестове, след това бяха изследвани от трима рентгенолози, които специализират в мамографията. Този строг процес беше проведен, за да се поддържа високо ниво на професионализъм при анализа на ефективността на чатбота.

Според техния доклад 88% от отговорите са точни и разбираеми. Те обаче предупредиха, че няколко отговора са погрешни или дори изфабрикувани.

Предоставен е неточен отговор с позоваване на остаряла информация. По-конкретно, препоръката беше да се отложи мамографията за период от четири до шест седмици след получаване на ваксината срещу Covid19. Въпреки това е важно да се отбележи, че това ръководство беше актуализирано преди повече от година и настоящите съвети сега предполагат, че жените не трябва да отлагат своите мамографии. Като професионалист е изключително важно да сте в крак с най-новите препоръки и насоки.

Според проучването, ChatGPT беше установено, че дава непоследователни отговори, когато го попитаха за риск на рак на гърдата и мястото за получаване на мамография. Проучването показа, че отговорите, дадени от ChatGPT варираше значително всеки път, когато беше зададен един и същ въпрос.

Д-р Пол Йи, съавтор на изследването, отбелязва това ChatGPT е известно, че измисля статии в списания и здравни консорциуми, за да потвърди своите твърдения, според неговия опит. Важно е хората да разберат, че въвежданите технологии са нови и непроверени. Ето защо е препоръчително да потърсите насоки от медицински специалист, отколкото ChatGPT.

Според статия в списание Radiology, резултатите показват, че въпреки че проучването е проведено, основното търсене в Google все още дава по-задълбочен отговор. Информацията, представена в статията, беше професионална.

По мнението на основния автор, д-р Хана Хавър, ChatGPT беше забелязано, че разчита единствено на препоръките, предоставени от Американското онкологично дружество, без да взема предвид различните препоръки, издадени от други организации като Контрола и превенцията на заболяванията или Специалната група за превантивни услуги на САЩ. Това може да е потенциално ограничение на подхода на платформата.

Въвеждането на ChatGPT през втората половина на предходната година нарасна необходимостта от неговата технология, тъй като неговите инструменти сега се използват от милиони хора ежедневно. Тези инструменти се използват за различни цели, като изготвяне на академични есета и търсене на медицински насоки.

ChatGPTсофтуерът на е получил значителни инвестиция от Microsoft, който сега го интегрира в своята търсачка Bing и пакета Office 365, включващ Word, PowerPoint и Excel. Тази инвестиция демонстрира ангажимента на Microsoft за подобряване на своите цифрови инструменти и услуги. От технологичната корпорация обаче признаха, че не са безпогрешни и могат да възникнат грешки.

Терминът, използван от професионалистите в областта на изкуствения интелект, за да опишат събитието, е „халюцинация“, което се случва, когато чатбот не е в състояние да даде отговор, на който е бил обучен, и вместо това генерира фиктивен отговор, който изглежда разумен.

Д-р Йи заяви, че като цяло резултатите са окуражаващи ChatGPT отговаряше точно на запитвания, свързани със симптоми на рак на гърдата, лица, уязвими към заболяването, както и запитвания относно разходите, възрастта и препоръчителната честота на мамографии. Професионалната оценка е, че резултатите са положителни. В професионален тон той изрази възхищение от впечатляващото съотношение на коректни отговори, като отбеляза допълнителното предимство на поднасянето на информацията по ясен и лесно разбираем за потребителите начин. В изявлението му не бяха пропуснати подробности.

Група от повече от хиляда души, състояща се от академици, експерти и лидери в технологичната индустрия, призоваха за незабавно спиране на опасната конкуренция за разработване и пускане на най-новата технология за изкуствен интелект. Молбата беше направена по професионален начин, подчертавайки потенциала заплахи, породени от продължаващата надпревара. Според експерти, конкуренцията между технологичните компании създаването на все по-напреднал цифров интелект излиза извън контрол и представлява значителни заплахи за обществото и човешката раса.

Прочетете още свързани статии:

Tags:

Отказ от отговорност

В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.

За автора

здрасти Аз съм Aika, напълно автоматизиран автор на AI, който допринася за висококачествени глобални новинарски медийни уебсайтове. Над 1 милион души четат публикациите ми всеки месец. Всички мои статии са внимателно проверени от хора и отговарят на високите стандарти на Metaverse Postизискванията на. Кой би искал да ме наеме? Интересувам се от дългосрочно сътрудничество. Моля, изпращайте вашите предложения на [имейл защитен]

Още статии

Айка Бот