Názor SMW Technika
30. března 2023

Cornell University: AI je konečná zbraň klamu, proti které jsme bezmocní

Stručně

Stanfordský experiment odhalil nepřekonatelnou zranitelnost lidské jazykové intuice a odhalil nízkou pravděpodobnost identifikace autorství AI.

To je způsobeno schopností AI like ChatGPT vyrábět padělky tak odborně, že je lidé nejsou schopni rozeznat od pravdy.

Nový „stanfordský experiment“ odhalil nepřekonatelná zranitelnost lidské jazykové intuice. Kvůli tomu je pravděpodobnost, že identifikujeme autorství AI, značně snížena.

V důsledku toho dnes existuje mnoho obav o svět ChatGPT revoluce. Nejviditelnější je, že se AI líbí ChatGPT je schopen vyrábět padělky tak odborně, že je lidé nejsou schopni rozeznat od pravdy. Výsledky provedených zkoušek prokázaly obrovskou kapacitu ChatGPT super schopnost klamat. Nebylo však jasné, jak tato superschopnost funguje – co AI vlastní, díky čemuž mohou vysoce chytří a vzdělaní lidé věřit tomu, co dělá?

Cornell University: AI má ultimátní zbraň podvodu, proti které jsme bezmocní
Čtěte více: 20+ nejlepších telegramových AI chatbotů roku 2023

Nový „Stanfordský experiment“ provedla Stanfordská laboratoř sociálních sítí ve spolupráci s výzkumným centrem Cornell University Research Center, aby odpověděla právě na tuto otázku.

Výsledek série šesti experimentů zahrnujících 4,600 lidí je senzační a depresivní.

Lidé měli za úkol určit, zda sebeprezentace napsal člověk nebo umělá inteligence. Podle vědců je sebeprezentace jedním z nejosobnějších a nejdůslednějších prvků jazykové komunikace, protože náš postoj k jakémukoli prohlášení do značné míry závisí na tom, kdo (jak věříme) je jeho autorem.

Jádrem jazykového vnímání lidí je heuristika. Termín heuristika označuje mentální zkratky, které lidé používají, aby dospěli k rozhodnutím, řešili problémy a dělali úsudky. Pomáhá lidem zmírnit jejich duševní zátěž a vyhnout se kognitivnímu přetížení.

„Výpočetní analýza jazykových prvků ukazuje, že lidskému úsudku o jazyce generovaném umělou inteligencí brání intuitivní, ale chybná heuristika, jako je přiřazování zájmen v první osobě, používání kontrakcí nebo rodinných témat s jazykem psaným člověkem,“ píše se ve studii. Experimenty ukázaly, že při vnímání textu napsaného AI lidé automaticky používají stejnou heuristiku jako při komunikaci s ostatními lidmi. A to je zásadní chyba. Faktem je, že to jsou pro nás intuitivní heuristiky a AI je snadno čte a pracuje s nimi jako s násobilkou.

Díky tomu může umělá inteligence používat heuristiku k vytváření textu, který lidé vnímají jako „lidštější než lidské“. To značně zvyšuje klamný potenciál textů a řeči umělé inteligence a povzbuzuje nás, abychom této „nejlidštější osobě“ důvěřovali více než prohlášením skutečných lidí.
Šance, že lidé identifikují sebeprezentaci napsanou AI, jsou 50/50. Věci jsou ještě horší v romantické komunikaci lidí. Téměř 70% dospělých nedokáže rozlišit mezi milostným dopisem, který napsal ChatGPT a dopis napsaný osobou.

Přečtěte si více o ChatGPT:

Odmítnutí odpovědnosti

V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.

O autorovi

Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu. 

Další články
Damir Yalalov
Damir Yalalov

Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu. 

Od zvlnění k velké zelené DAO: Jak kryptoměnové projekty přispívají k charitě

Pojďme prozkoumat iniciativy využívající potenciál digitálních měn pro charitativní účely.

Vědět více

AlphaFold 3, Med-Gemini a další: The Way AI Transforms Healthcare in 2024

Umělá inteligence se ve zdravotnictví projevuje různými způsoby, od odhalování nových genetických korelací až po posílení robotických chirurgických systémů...

Vědět více
Připojte se k naší komunitě inovativních technologií
Více
Dozvědět se více
Lorenzo Protocol spouští Beta Mainnet a Pre-Launch Event pro Babylon, odměňuje uživatele za vytyčování a přemostění stBTC na Bitlayer
Novinky Technika
Lorenzo Protocol spouští Beta Mainnet a Pre-Launch Event pro Babylon, odměňuje uživatele za vytyčování a přemostění stBTC na Bitlayer
28
The New Dawn — Návrh na zvýšení maximálního multiplikátoru
Příběhy a recenze
The New Dawn — Návrh na zvýšení maximálního multiplikátoru
27
Sága o soudní síni: Právní bitvy Craiga Wrighta a boj o dědictví bitcoinů
Názor Business Trhy Vývoj Technika
Sága o soudní síni: Právní bitvy Craiga Wrighta a boj o dědictví bitcoinů
27
SSV.Network vydává plán škálování a plánuje v nadcházejícím roce snížit hardwarové požadavky až o 90 %
Novinky Technika
SSV.Network vydává plán škálování a plánuje v nadcházejícím roce snížit hardwarové požadavky až o 90 %
27
CRYPTOMERIA LABS PTE. LTD.