Cornell University: AI je konečná zbraň klamu, proti které jsme bezmocní
Stručně
Stanfordský experiment odhalil nepřekonatelnou zranitelnost lidské jazykové intuice a odhalil nízkou pravděpodobnost identifikace autorství AI.
To je způsobeno schopností AI like ChatGPT vyrábět padělky tak odborně, že je lidé nejsou schopni rozeznat od pravdy.
Nový „stanfordský experiment“ odhalil nepřekonatelná zranitelnost lidské jazykové intuice. Kvůli tomu je pravděpodobnost, že identifikujeme autorství AI, značně snížena.
V důsledku toho dnes existuje mnoho obav o svět ChatGPT revoluce. Nejviditelnější je, že se AI líbí ChatGPT je schopen vyrábět padělky tak odborně, že je lidé nejsou schopni rozeznat od pravdy. Výsledky provedených zkoušek prokázaly obrovskou kapacitu ChatGPT super schopnost klamat. Nebylo však jasné, jak tato superschopnost funguje – co AI vlastní, díky čemuž mohou vysoce chytří a vzdělaní lidé věřit tomu, co dělá?
Nový „Stanfordský experiment“ provedla Stanfordská laboratoř sociálních sítí ve spolupráci s výzkumným centrem Cornell University Research Center, aby odpověděla právě na tuto otázku.
Výsledek série šesti experimentů zahrnujících 4,600 lidí je senzační a depresivní.
Lidé měli za úkol určit, zda sebeprezentace napsal člověk nebo umělá inteligence. Podle vědců je sebeprezentace jedním z nejosobnějších a nejdůslednějších prvků jazykové komunikace, protože náš postoj k jakémukoli prohlášení do značné míry závisí na tom, kdo (jak věříme) je jeho autorem.
Jádrem jazykového vnímání lidí je heuristika. Termín heuristika označuje mentální zkratky, které lidé používají, aby dospěli k rozhodnutím, řešili problémy a dělali úsudky. Pomáhá lidem zmírnit jejich duševní zátěž a vyhnout se kognitivnímu přetížení.
„Výpočetní analýza jazykových prvků ukazuje, že lidskému úsudku o jazyce generovaném umělou inteligencí brání intuitivní, ale chybná heuristika, jako je přiřazování zájmen v první osobě, používání kontrakcí nebo rodinných témat s jazykem psaným člověkem,“ píše se ve studii. Experimenty ukázaly, že při vnímání textu napsaného AI lidé automaticky používají stejnou heuristiku jako při komunikaci s ostatními lidmi. A to je zásadní chyba. Faktem je, že to jsou pro nás intuitivní heuristiky a AI je snadno čte a pracuje s nimi jako s násobilkou.
Díky tomu může umělá inteligence používat heuristiku k vytváření textu, který lidé vnímají jako „lidštější než lidské“. To značně zvyšuje klamný potenciál textů a řeči umělé inteligence a povzbuzuje nás, abychom této „nejlidštější osobě“ důvěřovali více než prohlášením skutečných lidí.
Šance, že lidé identifikují sebeprezentaci napsanou AI, jsou 50/50. Věci jsou ještě horší v romantické komunikaci lidí. Téměř 70% dospělých nedokáže rozlišit mezi milostným dopisem, který napsal ChatGPT a dopis napsaný osobou.
Přečtěte si více o ChatGPT:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
