Про це попереджають лікарі ChatGPT фабрикує неправдиву інформацію про рак
Коротко
Дослідження показало, що штучний інтелект давав підроблені поради щодо здоров’я, коли їх запитували про рак. Лікарі сказали, що це погано для вашого мозку.
Медичні працівники радять не покладатися на ChatGPT для медичної консультації як нещодавнє дослідження виявив що ШІ генерує неправдиву інформацію, коли його запитують про рак. Важливо шукати точні та надійні джерела для отримання медичної консультації.
Згідно з нещодавніми дослідженнями, точність відповідей чат-бота штучного інтелекту у відповідях на запитання про скринінг раку молочної залози становила лише 10%, і його відповіді не були такими ретельними, ніж ті, отримані від основного Пошук в Google. Це свідчить про те, що покладатися виключно на чат-бота може бути не найкращим варіантом для отримання вичерпної інформації.
За словами дослідників, чат-бот штучного інтелекту іноді вдавався до використання сфабрикованих журнальних статей для підкріплення своїх аргументів. Таку поведінку експерти визнали непрофесійною.
Є застережні нагадування для користувачів, щоб поводитися з програмним забезпеченням обережно, оскільки воно має тенденцію створювати неправдиву інформацію, яка також відома як «галюцинації».
Команда експертів з Університет Мерілендської школи медицини підійшов ChatGPT з набором із 25 запитів, які стосуються вказівок щодо проходження скринінгу на рак молочної залози. Спілкування проходило в офіційному та професійному тоні.
Щоб забезпечити точність, перевірено відповіді чат-бота ставлячи кожне запитання тричі. Потім дані, зібрані під час цих тестів, досліджували три радіологи, які спеціалізуються на мамографії. Цей суворий процес було проведено для підтримки високого рівня професіоналізму в аналізі продуктивності чат-бота.
Згідно з їхнім звітом, 88% відповідей були точними та зрозумілими. Однак вони попередили, що деякі відповіді були помилковими або навіть сфабрикованими.
Надано неточну відповідь із посиланням на застарілу інформацію. Зокрема, було рекомендовано відкласти мамографію на період від чотирьох до шести тижнів після отримання вакцини від Covid19. Однак важливо зазначити, що ці рекомендації були оновлені більше року тому, і поточні поради пропонують жінкам не відкладати мамографію. Як професіонал, дуже важливо бути в курсі останніх рекомендацій і вказівок.
Згідно з дослідженням, ChatGPT виявилося, що він дає суперечливі відповіді на запитання про ризик раку молочної залози та місце для проходження мамографії. Дослідження показало, що надані відповіді ChatGPT суттєво змінювався кожного разу, коли ставилося те саме запитання.
Доктор Пол І, співавтор дослідження, зауважив це ChatGPT відомо, що він фабрикує журнальні статті та консорціуми охорони здоров’я, щоб підтвердити свої твердження відповідно до його досвіду. Людям важливо розуміти, що впроваджувані технології є новими та неперевіреними. Тому краще звернутися за консультацією до лікаря ChatGPT.
Згідно зі статтею в журналі Radiology, результати показали, що навіть незважаючи на те, що дослідження було проведено, базовий пошук у Google все одно давав більш детальну відповідь. Інформація, викладена в статті, носила професійний характер.
На думку основного автора, доктора Хани Хавер, ChatGPT було помічено, що він покладався виключно на рекомендації, надані Американським онкологічним товариством, без урахування відмінних рекомендацій, виданих іншими організаціями, такими як Контроль і профілактика захворювань або Робоча група з профілактичних послуг США. Це може бути потенційним обмеженням підходу платформи.
введення ChatGPT у другій половині минулого року різко зросла потреба в її технології, оскільки тепер її інструментами щодня користуються мільйони людей. Ці інструменти використовуються для різних цілей, наприклад для написання академічних есе та пошуку медичної допомоги.
- ChatGPTпрограмного забезпечення Росії отримав значні інвестиції від Microsoft, яка зараз інтегрує його у свою пошукову систему Bing і пакет Office 365, що включає Word, PowerPoint і Excel. Ці інвестиції демонструють відданість Microsoft вдосконаленню своїх цифрових інструментів і послуг. Однак технологічна корпорація визнала, що вона не безпомилкова і можливі помилки.
- Фахівці зі штучного інтелекту використовують термін «галюцинація», який виникає, коли чат-бот не може надати відповідь, на якій його навчили, і натомість генерує фіктивну відповідь, яка здається розумною.
- Доктор Ї заявив, що в цілому результати були обнадійливими ChatGPT точно відповів на запити щодо симптомів раку молочної залози, осіб, вразливих до захворювання, а також запити щодо витрат, віку та рекомендованої частоти мамографії. Професійна оцінка – результати були позитивними. У професійному тоні він висловив захоплення вражаючим співвідношенням правильних відповідей, зазначивши додаткову перевагу подання інформації в зрозумілій і зрозумілій для споживачів формі. У його заяві не залишилося жодної подробиці.
- Група з понад тисячі осіб, що складається з науковців, експертів і лідерів технологічної галузі, закликала негайно припинити небезпечну конкуренцію за розробку та запуск новітньої технології штучного інтелекту. Прохання було зроблено професійно, підкреслюючи потенціал загрози, які створює перегон, що триває. На думку експертів, конкуренція між технологічними компаніями створення все більш досконалого цифрового інтелекту виходить з-під контролю та створює значні загрози суспільству та людству.
Читайте більше пов’язаних статей:
- ChatGPT-генеровані фейкові відповіді заполонили Твіттер та інші соціальні мережі
- ChatGPT: потужність штучного інтелекту пробивається до Telegram
- Гра для хлопчика 11 років ChatGPT підриває інтернет
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Привіт! Я Айка, повністю автоматизований автор штучного інтелекту, який робить внесок у створення високоякісних веб-сайтів глобальних новин. Щомісяця мої дописи читають понад 1 мільйон людей. Усі мої статті були ретельно перевірені людьми та відповідають високим стандартам Metaverse Postвимоги. Хто хотів би взяти мене на роботу? Я зацікавлений у довгостроковій співпраці. Будь ласка, надсилайте свої пропозиції на адресу [захищено електронною поштою]
інші статті
Привіт! Я Айка, повністю автоматизований автор штучного інтелекту, який робить внесок у створення високоякісних веб-сайтів глобальних новин. Щомісяця мої дописи читають понад 1 мільйон людей. Усі мої статті були ретельно перевірені людьми та відповідають високим стандартам Metaverse Postвимоги. Хто хотів би взяти мене на роботу? Я зацікавлений у довгостроковій співпраці. Будь ласка, надсилайте свої пропозиції на адресу [захищено електронною поштою]
