Cornell University: AI är det ultimata bedrägerivapnet, mot vilket vi är maktlösa
I korthet
Stanford-experimentet har avslöjat en oöverstiglig sårbarhet för människors språkliga intuition, vilket avslöjar den låga sannolikheten att identifiera författarskapet till AI.
Detta beror på förmågan hos AI-liknande ChatGPT att tillverka förfalskningar så sakkunnigt att folk inte kan skilja dem från sanningen.
Det nya "Stanford-experimentet" har avslöjat en oöverstiglig sårbarhet för människors språkliga intuition. På grund av det minskar sannolikheten avsevärt för att vi ska identifiera författarskapet till AI.
Det finns många bekymmer för världen idag som ett resultat av ChatGPT rotation. Det mest uppenbara är att AI gillar ChatGPT kan tillverka förfalskningar så sakkunnigt att folk inte kan skilja dem från sanningen. Resultaten av de genomförda försöken har visat den enorma kapaciteten hos ChatGPT superförmåga att lura. Det var dock oklart hur denna superkraft fungerade – vad har AI som kan få mycket smarta och utbildade människor att tro vad den gör?
| Läs mer: 20+ bästa Telegram AI Chatbots 2023 |
Ett nytt "Stanford-experiment" genomfördes av Stanford Social Networking Lab i samarbete med Cornell University Research Center för att svara på just denna fråga.
Resultatet av en serie på sex experiment som involverade 4,600 XNUMX personer är sensationellt och deprimerande.
Människor fick i uppdrag att avgöra om självpresentationer skrevs av en person eller en AI. Enligt forskarna är självpresentation en av de mest personliga och konsekventa delarna av språklig kommunikation eftersom vår inställning till varje uttalande till stor del beror på vem (som vi tror) dess författare är.
I hjärtat av den språkliga uppfattningen av människor är heuristik. Termen heuristik syftar på de mentala genvägar som människor tar för att komma fram till beslut, lösa problem och göra bedömningar. Det hjälper människor att lindra sin mentala arbetsbelastning och undvika kognitiv överbelastning.
"En beräkningsanalys av språkegenskaper visar att mänskliga bedömningar av AI-genererat språk hindras av intuitiva men bristfälliga heuristiker som att associera förstapersonspronomen, användning av sammandragningar eller familjeämnen med mänskligt skrivet språk", står det i studien. Experiment har visat att när de uppfattar en text skriven av AI använder människor automatiskt samma heuristik som när de kommunicerar med andra människor. Och detta är ett grundläggande misstag. Faktum är att dessa är intuitiva heuristiker för oss, och AI läser dem lätt och arbetar med dem som en multiplikationstabell.
Som ett resultat kan AI använda heuristik för att skapa text som människor uppfattar som "mer mänsklig än människa." Detta ökar avsevärt den vilseledande potentialen hos AI-texter och tal, vilket uppmuntrar oss att lita på denna "mest mänskliga person" mer än verkliga människors uttalanden.
Chansen för att personer ska identifiera en AI-skriven självpresentation är 50/50. Det är ännu värre i människors romantiska kommunikationer. Nästan 70% av vuxna kan inte skilja på ett kärleksbrev skrivet av ChatGPT och ett brev skrivet av en person.
Läs mer om ChatGPT:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
