Cornell University: AI je konečná zbraň podvodu, proti ktorej sme bezmocní
Stručne
Stanfordský experiment odhalil neprekonateľnú zraniteľnosť lingvistickej intuície ľudí a odhalil nízku pravdepodobnosť identifikácie autorstva AI.
Je to kvôli schopnosti AI like ChatGPT vyrábať falzifikáty tak odborne, že ich ľudia nedokážu rozlíšiť od pravdy.
Nový „Stanfordský experiment“ zverejnila neprekonateľná zraniteľnosť jazykovej intuície ľudí. Z tohto dôvodu je pravdepodobnosť, že identifikujeme autorstvo AI, značne znížená.
V dôsledku toho sú dnes mnohé obavy o zemeguľu ChatGPT revolúcie. Najočividnejšie je, že AI má rád ChatGPT je schopný vyrábať falzifikáty tak odborne, že ich ľudia nedokážu rozlíšiť od pravdy. Výsledky vykonaných skúšok preukázali obrovskú kapacitu ChatGPT super schopnosť klamať. Nebolo však jasné, ako táto superschopnosť funguje – čo má AI, vďaka čomu môžu veľmi múdri a vzdelaní ľudia veriť tomu, čo robí?
| Prečítajte si viac: 20+ najlepších telegramových AI chatbotov roku 2023 |
Nový „Stanfordský experiment“ uskutočnilo Stanfordské laboratórium sociálnych sietí v spolupráci s výskumným centrom Cornell University, aby odpovedalo práve na túto otázku.
Výsledok série šiestich experimentov zahŕňajúcich 4,600 XNUMX ľudí je senzačný a deprimujúci.
Ľudia mali za úlohu určiť, či sebaprezentácie napísala osoba alebo AI. Podľa vedcov je sebaprezentácia jedným z najosobnejších a najdôslednejších prvkov jazykovej komunikácie, pretože náš postoj k akémukoľvek výroku do značnej miery závisí od toho, kto (ako veríme) je jeho autorom.
Základom jazykového vnímania ľudí je heuristika. Termín heuristika sa vzťahuje na mentálne skratky, ktoré ľudia používajú, aby dospeli k rozhodnutiam, riešili problémy a robili úsudky. Pomáha ľuďom zmierniť ich duševnú záťaž a vyhnúť sa kognitívnemu preťaženiu.
„Výpočtová analýza jazykových vlastností ukazuje, že ľudskému úsudku o jazyku generovanom AI bránia intuitívne, ale chybné heuristiky, ako je priraďovanie zámen v prvej osobe, používanie kontrakcií alebo rodinných tém s ľudským jazykom,“ píše sa v štúdii. Experimenty ukázali, že pri vnímaní textu napísaného AI ľudia automaticky používajú rovnakú heuristiku ako pri komunikácii s inými ľuďmi. A to je zásadná chyba. Faktom je, že sú to pre nás intuitívne heuristiky a AI ich ľahko číta a pracuje s nimi ako s násobilkou.
Výsledkom je, že AI môže pomocou heuristiky vytvárať text, ktorý ľudia vnímajú ako „ľudskejší ako ľudský“. To výrazne zvyšuje klamlivý potenciál textov a reči AI, čo nás povzbudzuje, aby sme dôverovali tejto „najľudskejšej osobe“ viac ako vyhláseniam skutočných ľudí.
Šanca, že ľudia identifikujú sebaprezentáciu napísanú AI, je 50/50. V romantickej komunikácii ľudí sú veci ešte horšie. Takmer 70% dospelých nedokáže rozlíšiť medzi ľúbostným listom, ktorý napísal ChatGPT a list napísaný osobou.
Prečítajte si viac o ChatGPT:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
