Университет Корнел: AI е най-доброто оръжие за измама, срещу което сме безсилни
Накратко
Експериментът в Станфорд разкри непреодолима уязвимост на лингвистичната интуиция на хората, разкривайки ниската вероятност за идентифициране на авторството на AI.
Това се дължи на способността на AI like ChatGPT да произвежда фалшификати толкова умело, че хората да не могат да ги различат от истината.
Новият "Станфордски експеримент" разкрива непреодолима уязвимост на езиковата интуиция на хората. Поради това вероятността да идентифицираме авторството на AI е значително намалена.
Има много опасения за земното кълбо днес в резултат на ChatGPT революция. Най-очевидното е, че AI харесва ChatGPT е в състояние да произвежда фалшификати толкова умело, че хората не могат да ги различат от истината. Резултатите от проведените опити показаха огромния капацитет на ChatGPT супер способност за измама. Въпреки това не беше ясно как работи тази суперсила - какво притежава AI, което може да накара много умни и образовани хора да повярват в това, което прави?
| Чети повече: 20+ най-добри Telegram AI Chatbots за 2023 г |
Нов „Станфордски експеримент“ беше проведен от Станфордската лаборатория за социални мрежи в сътрудничество с Изследователския център на университета Корнел, за да отговори на този въпрос.
Резултатът от поредица от шест експеримента, включващи 4,600 души, е сензационен и депресиращ.
Хората бяха натоварени със задачата да определят дали самопрезентациите са написани от човек или AI. Според изследователите самопредставянето е един от най-личните и последователни елементи на езиковата комуникация, тъй като отношението ни към всяко твърдение до голяма степен зависи от това кой (както вярваме) е неговият автор.
В основата на езиковото възприятие на хората са евристиките. Терминът евристика се отнася до умствените преки пътища, които хората предприемат, за да стигнат до решения, да разрешат проблеми и да направят преценка. Помага на хората да облекчат умственото си натоварване и да избегнат когнитивното претоварване.
„Изчислителният анализ на езиковите характеристики показва, че човешките преценки на езика, генериран от изкуствен интелект, са възпрепятствани от интуитивни, но погрешни евристики като свързване на местоимения от първо лице, използване на съкращения или семейни теми с човешки писмен език“, се казва в проучването. Експериментите показват, че когато възприемат текст, написан от AI, хората автоматично използват същите евристики, както когато общуват с други хора. И това е фундаментална грешка. Факт е, че това са интуитивни евристики за нас и AI ги чете лесно и работи с тях като таблица за умножение.
В резултат на това AI може да използва евристика, за да създаде текст, който хората възприемат като „по-човешки от човешки“. Това значително увеличава измамния потенциал на AI текстовете и речта, насърчавайки ни да се доверяваме повече на този „най-човешки човек“, отколкото на изявленията на реални хора.
Шансовете хората да идентифицират самопрезентация, написана от AI, са 50/50. Нещата са още по-лоши в любовната комуникация на хората. почти 70% от възрастните не може да направи разлика между любовно писмо, написано от ChatGPT и писмо, написано от човек.
Прочетете повече за ChatGPT:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
