Корнельський університет: штучний інтелект – це найкраща зброя обману, проти якої ми безсилі
Коротко
Стенфордський експеримент виявив нездоланну вразливість лінгвістичної інтуїції людей, виявивши низьку ймовірність ідентифікації авторства ШІ.
Це пов'язано зі здатністю AI like ChatGPT виготовляти підробки настільки майстерно, що люди не можуть відрізнити їх від правди.
Новий «Стенфордський експеримент» виявив непереборна вразливість мовної інтуїції людей. Через це ймовірність того, що ми ідентифікуємо авторство ШІ, значно зменшується.
Сьогодні в усьому світі існує багато занепокоєнь через ChatGPT революція. Найбільш очевидним є те, що ШІ подобається ChatGPT здатний створювати підробки настільки майстерно, що люди не можуть відрізнити їх від правди. Результати проведених випробувань продемонстрували величезну здатність ChatGPT супер вміння обманювати. Однак було незрозуміло, як працює ця суперсила — чим володіє ШІ, що може змусити дуже розумних і освічених людей повірити в те, що він робить?
| Детальніше: 20+ найкращих чат-ботів Telegram AI 2023 року |
Стенфордська лабораторія соціальних мереж у співпраці з дослідницьким центром Корнельського університету провела новий «Стенфордський експеримент», щоб відповісти на це запитання.
Результат серії з шести експериментів за участю 4,600 людей є сенсаційним і гнітючим.
Людям було доручено визначити, чи були самопрезентації написані людиною чи штучним інтелектом. На думку дослідників, самопрезентація є одним із найбільш особистих і значущих елементів мовної комунікації, оскільки наше ставлення до будь-якого висловлювання багато в чому залежить від того, хто (як ми вважаємо) його автор.
В основі мовного сприйняття людей лежать евристики. Термін евристика стосується розумових шляхів, які люди використовують для прийняття рішень, вирішення проблем і винесення суджень. Це допомагає людям полегшити розумове навантаження та уникнути когнітивного перевантаження.
«Обчислювальний аналіз мовних особливостей показує, що людському оцінюванню мови, створеної штучним інтелектом, заважають інтуїтивні, але помилкові евристики, такі як асоціювання займенників від першої особи, використання скорочень або сімейних тем із написаною людиною мовою», — йдеться в дослідженні. Експерименти показали, що при сприйнятті тексту, написаного ШІ, люди автоматично використовують ті ж евристики, що й під час спілкування з іншими людьми. І це принципова помилка. Справа в тому, що для нас це інтуїтивно зрозумілі евристики, і штучний інтелект легко зчитує їх і оперує ними, як таблицею множення.
У результаті ШІ може використовувати евристику для створення тексту, який люди сприймають як «більш людський, ніж людина». Це значно збільшує оманливий потенціал ШІ-текстів і мови, спонукаючи нас довіряти цій «найлюдянішій людині» більше, ніж заявам реальних людей.
Шанси людей ідентифікувати самопрезентацію, написану ШІ, становлять 50/50. Ще гірше йдуть справи в любовному спілкуванні людей. майже 70% дорослих не може відрізнити любовний лист, написаний ChatGPT і лист, написаний людиною.
Докладніше про ChatGPT:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
