Cornell Egyetem: A mesterséges intelligencia a megtévesztés végső fegyvere, amellyel szemben tehetetlenek vagyunk
Röviden
A Stanford-kísérlet feltárta az emberek nyelvi intuíciójának leküzdhetetlen sebezhetőségét, feltárva az AI szerzőiségének azonosításának alacsony valószínűségét.
Ez annak köszönhető, hogy a mesterséges intelligencia tetszik ChatGPT olyan szakértelemmel gyártani a hamisítványokat, hogy az emberek képtelenek megkülönböztetni őket az igazságtól.
Az új „Stanford-kísérlet” kiderült az emberek nyelvi intuíciójának leküzdhetetlen sebezhetősége. Emiatt nagymértékben csökken annak a valószínűsége, hogy azonosítsuk az AI szerzőségét.
Számos aggodalomra ad okot manapság a földkerekség ennek eredményeként ChatGPT forradalom. A legnyilvánvalóbb az, hogy az AI szereti ChatGPT olyan szakszerűen képes hamisítványokat gyártani, hogy az emberek képtelenek megkülönböztetni őket az igazságtól. Az elvégzett kísérletek eredményei bebizonyították, hogy a ChatGPT szuper megtévesztési képesség. Az azonban nem volt világos, hogyan működik ez a szuperhatalom – mivel rendelkezik a mesterséges intelligencia, ami képes elhitetni a rendkívül okos és képzett emberekkel, amit csinál?
| Bővebben: 20+ 2023 legjobb Telegram AI Chatbotja |
Egy új „Stanford-kísérletet” hajtott végre a Stanford Social Networking Lab a Cornell Egyetem Kutatóközpontjával együttműködve, hogy megválaszolja ezt a kérdést.
A 4,600 ember bevonásával végzett hat kísérletből álló sorozat eredménye szenzációs és lehangoló.
Az embereknek azt a feladatot kapták, hogy eldöntsék, az önbemutatókat személy vagy mesterséges intelligencia írta-e. A kutatók szerint az önbemutatás a nyelvi kommunikáció egyik legszemélyesebb és legkövetkezményesebb eleme, mivel minden kijelentéshez való hozzáállásunk nagymértékben függ attól, hogy ki (ahogyan hisszük) a szerzője.
Az emberek nyelvi felfogásának középpontjában a heurisztika áll. A heurisztika kifejezés azokra a mentális parancsikonokra utal, amelyeket az emberek a döntések meghozatalához, a problémák megoldásához és az ítéletek meghozatalához használnak. Segít az embereknek enyhíteni szellemi terhelésüket és elkerülni a kognitív túlterhelést.
"A nyelvi jellemzők számítógépes elemzése azt mutatja, hogy az MI által generált nyelvről alkotott emberi megítélést akadályozzák az intuitív, de hibás heurisztika, például az első személyű névmások társítása, a kontrakciók használata vagy a családi témák emberi írott nyelvével" - olvasható a tanulmányban. Kísérletek kimutatták, hogy az MI által írt szöveg észlelésekor az emberek automatikusan ugyanazt a heurisztikát használják, mint amikor másokkal kommunikálnak. És ez alapvető hiba. A helyzet az, hogy ezek számunkra intuitív heurisztika, és az AI könnyen beolvassa őket, és úgy működik velük, mint egy szorzótábla.
Ennek eredményeként a mesterséges intelligencia heurisztikák segítségével olyan szöveget hozhat létre, amelyet az emberek „emberibbnek, mint emberinek” érzékelnek. Ez nagymértékben növeli az AI-szövegekben és beszédekben rejlő megtévesztő potenciált, és arra ösztönöz bennünket, hogy jobban bízzunk ebben a „legemberibb emberben”, mint a valódi emberek kijelentéseiben.
50/50 annak az esélye, hogy az emberek azonosítanak egy mesterséges intelligencia által írt önbemutatót. A dolgok még rosszabbak az emberek romantikus kommunikációjában. Majdnem A felnőttek 70% -a nem tud különbséget tenni az általa írt szerelmes levél között ChatGPT és egy személy által írt levél.
További információ ChatGPT:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
