Cornell University: AI er det ultimative våben til bedrag, mod hvilket vi er magtesløse
Kort sagt
Stanford-eksperimentet har afsløret en uoverstigelig sårbarhed af folks sproglige intuition, hvilket afslører den lave sandsynlighed for at identificere forfatterskabet til AI.
Dette skyldes evnen til AI som ChatGPT at fremstille forfalskninger så kyndigt, at folk ikke er i stand til at skelne dem fra sandheden.
Det nye "Stanford-eksperiment" har afsløret en uoverstigelig sårbarhed af folks sproglige intuition. På grund af det er sandsynligheden for, at vi identificerer forfatterskabet af AI, stærkt formindsket.
Der er mange bekymringer for kloden i dag som følge af ChatGPT revolution. Det mest tydelige er, at AI kan lide ChatGPT er i stand til at fremstille forfalskninger så kyndigt, at folk ikke er i stand til at skelne dem fra sandheden. Resultaterne af de gennemførte forsøg har vist den enorme kapacitet ChatGPT super evne til at bedrage. Det var dog uklart, hvordan denne supermagt fungerede - hvad besidder AI, der kan få meget kloge og uddannede mennesker til at tro, hvad den laver?
| Læs mere: 20+ bedste Telegram AI Chatbots i 2023 |
Et nyt "Stanford-eksperiment" blev udført af Stanford Social Networking Lab i samarbejde med Cornell University Research Center for at besvare netop dette spørgsmål.
Resultatet af en serie på seks eksperimenter, der involverer 4,600 mennesker, er sensationelt og deprimerende.
Folk fik til opgave at afgøre, om selvpræsentationer var skrevet af en person eller en AI. Ifølge forskerne er selvpræsentation et af de mest personlige og konsekvente elementer i sproglig kommunikation, fordi vores holdning til ethvert udsagn i høj grad afhænger af, hvem (som vi tror) dens forfatter er.
Kernen i den sproglige opfattelse af mennesker er heuristik. Udtrykket heuristik refererer til de mentale genveje, folk tager for at nå frem til beslutninger, løse problemer og træffe domme. Det hjælper folk med at lette deres mentale arbejdsbyrde og undgå kognitiv overbelastning.
"En beregningsmæssig analyse af sprogegenskaber viser, at menneskelige vurderinger af AI-genereret sprog hindres af intuitive, men fejlbehæftede heuristika såsom at forbinde førstepersons pronominer, brug af sammentrækninger eller familieemner med menneskeskreven sprog," lyder undersøgelsen. Eksperimenter har vist, at når de opfatter en tekst skrevet af AI, bruger folk automatisk den samme heuristik, som når de kommunikerer med andre mennesker. Og dette er en grundlæggende fejl. Faktum er, at disse er intuitive heuristika for os, og AI læser dem let og opererer med dem som en multiplikationstabel.
Som et resultat kan AI bruge heuristik til at skabe tekst, som folk opfatter som "mere menneskelig end menneskelig." Dette øger i høj grad det vildledende potentiale i AI-tekster og -tale, og opmuntrer os til at stole mere på denne "mest menneskelige person" end udsagn fra rigtige mennesker.
Chancerne for, at folk identificerer en AI-skrevet selvpræsentation er 50/50. Tingene er endnu værre i folks romantiske kommunikation. Næsten 70% af voksne kan ikke skelne mellem et kærlighedsbrev skrevet af ChatGPT og et brev skrevet af en person.
Læs mere om ChatGPT:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
