Univerza Cornell: AI je ultimativno orožje zavajanja, proti kateremu smo nemočni
Na kratko
Stanfordski eksperiment je razkril nepremostljivo ranljivost jezikovne intuicije ljudi in razkril nizko verjetnost prepoznavanja avtorstva AI.
To je posledica sposobnosti AI like ChatGPT izdelovati ponaredke tako strokovno, da jih ljudje ne morejo ločiti od resnice.
Novi "stanfordski eksperiment" je razkril nepremostljiva ranljivost jezikovne intuicije ljudi. Zaradi tega je verjetnost, da bomo prepoznali avtorstvo AI, močno zmanjšana.
Danes obstaja veliko skrbi za svet zaradi ChatGPT revolucija. Najbolj očitno je, da je AI všeč ChatGPT je sposoben izdelovati ponaredke tako strokovno, da jih ljudje ne morejo ločiti od resnice. Rezultati opravljenih poskusov so pokazali ogromno zmogljivost ChatGPT super sposobnost zavajanja. Vendar ni bilo jasno, kako deluje ta velesila - kaj ima AI, da lahko zelo pametne in izobražene ljudi prepriča, kaj počne?
| Preberite več: 20+ najboljših klepetalnih robotov Telegram AI v letu 2023 |
Laboratorij Stanford Social Networking Lab je v sodelovanju z raziskovalnim centrom Univerze Cornell izvedel nov »stanfordski eksperiment«, da bi odgovoril na to vprašanje.
Rezultat serije šestih eksperimentov, v katerih je sodelovalo 4,600 ljudi, je senzacionalen in depresiven.
Ljudje so imeli nalogo ugotoviti, ali je samopredstavitve napisala oseba ali AI. Po mnenju raziskovalcev je samopredstavitev eden najbolj osebnih in posledičnih elementov jezikovne komunikacije, saj je naš odnos do katere koli izjave v veliki meri odvisen od tega, kdo (kot verjamemo) je njen avtor.
V središču jezikovnega dojemanja ljudi so hevristike. Izraz hevristika se nanaša na mentalne bližnjice, ki jih ljudje uberejo, da pridejo do odločitev, rešijo težave in presojajo. Ljudem pomaga zmanjšati duševno obremenitev in se izogniti kognitivni preobremenitvi.
"Računalniška analiza jezikovnih značilnosti kaže, da človeško presojo jezika, ki ga ustvari umetna inteligenca, ovirajo intuitivne, a pomanjkljive hevristike, kot je povezovanje prvoosebnih zaimkov, uporaba kontrakcij ali družinskih tem s človeško napisanim jezikom," piše v študiji. Eksperimenti so pokazali, da ljudje pri zaznavanju besedila, ki ga je napisal AI, samodejno uporabljajo isto hevristiko kot pri komunikaciji z drugimi ljudmi. In to je temeljna napaka. Dejstvo je, da so to za nas intuitivne hevristike, umetna inteligenca pa jih zlahka bere in z njimi deluje kot s tabelo množenja.
Posledično lahko umetna inteligenca uporablja hevristiko za ustvarjanje besedila, ki ga ljudje dojemajo kot »bolj človeško od človeka«. To močno poveča zavajajoči potencial besedil in govora AI, kar nas spodbuja, da tej »najbolj človeški osebi« zaupamo bolj kot izjavam resničnih ljudi.
Možnosti, da ljudje prepoznajo samopredstavitev, napisano z umetno inteligenco, so 50/50. Stvari so še slabše v romantični komunikaciji med ljudmi. Skoraj 70% odraslih ne more razlikovati med ljubezenskim pismom, ki ga je napisal ChatGPT in pismo, ki ga je napisala oseba.
Preberite več ChatGPT:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
