Cornellin yliopisto: AI on perimmäinen petoksen ase, jota vastaan olemme voimattomia
Lyhyesti
Stanfordin kokeilu on paljastanut ihmisten kielellisen intuition ylitsepääsemättömän haavoittuvuuden, mikä paljastaa tekoälyn tekijän tunnistamisen alhaisen todennäköisyyden.
Tämä johtuu tekoälyn kyvystä ChatGPT valmistaa väärennöksiä niin asiantuntevasti, etteivät ihmiset pysty erottamaan niitä totuudesta.
Uusi "Stanfordin kokeilu" on paljastunut ihmisten kielellisen intuition ylitsepääsemätön haavoittuvuus. Sen vuoksi todennäköisyys, että tunnistamme tekoälyn tekijän, on pienentynyt huomattavasti.
Maapallolla on nykyään lukuisia huolenaiheita tämän seurauksena ChatGPT vallankumous. Ilmeisin on, että tekoäly pitää ChatGPT pystyy valmistamaan väärennöksiä niin taitavasti, etteivät ihmiset pysty erottamaan niitä totuudesta. Suoritettujen kokeiden tulokset ovat osoittaneet, kuinka suuri kapasiteetti on ChatGPT super kyky pettää. Oli kuitenkin epäselvää, kuinka tämä supervoima toimi – mitä tekoälyllä on, mikä voi saada erittäin älykkäät ja koulutetut ihmiset uskomaan, mitä se tekee?
Stanford Social Networking Lab suoritti uuden "Stanford-kokeen" yhteistyössä Cornellin yliopiston tutkimuskeskuksen kanssa vastatakseen tähän kysymykseen.
Tulos kuuden kokeen sarjasta, johon osallistui 4,600 ihmistä, on sensaatiomainen ja masentava.
Ihmisten tehtävänä oli määrittää, olivatko itseesitykset henkilön vai tekoälyn kirjoittamia. Tutkijoiden mukaan itsensä esittäminen on yksi kielellisen viestinnän persoonallisimmista ja seuratuimmista elementeistä, koska suhtautumisemme mihin tahansa lausuntoon riippuu pitkälti siitä, kuka (kuten uskomme) sen kirjoittaja on.
Ihmisten kielellisen käsityksen ytimessä on heuristiikka. Termi heuristiikka viittaa henkisiin oikopolkuihin, joita ihmiset käyttävät tehdäkseen päätöksiä, ratkaistakseen ongelmia ja tehdäkseen tuomioita. Se auttaa ihmisiä helpottamaan henkistä työtaakkaa ja välttämään kognitiivista ylikuormitusta.
"Kielen ominaisuuksien laskennallinen analyysi osoittaa, että intuitiivinen, mutta virheellinen heuristiikka, kuten ensimmäisen persoonan pronominien yhdistäminen, supisteiden käyttö tai perheaiheet ihmisen kirjoittamaan kieleen, haittaa ihmisten arvioita tekoälyn luomasta kielestä", tutkimuksessa lukee. Kokeet ovat osoittaneet, että havaitessaan tekoälyn kirjoittamaa tekstiä ihmiset käyttävät automaattisesti samaa heuristiikkaa kuin kommunikoidessaan muiden ihmisten kanssa. Ja tämä on perustavanlaatuinen virhe. Tosiasia on, että nämä ovat meille intuitiivisia heuristioita, ja tekoäly lukee ne helposti ja toimii niiden kanssa kuin kertotaulukko.
Tämän seurauksena tekoäly voi käyttää heuristiikkaa luodakseen tekstiä, jonka ihmiset pitävät "inhimillisempänä kuin ihmisenä". Tämä lisää suuresti tekoälytekstien ja puheen petollista potentiaalia ja rohkaisee meitä luottamaan tähän "inhimillisimpään ihmiseen" enemmän kuin oikeiden ihmisten lausuntoihin.
Todennäköisyys, että ihmiset tunnistavat tekoälyn kirjoittaman itseesityksen, on 50/50. Asiat ovat vielä huonommin ihmisten romanttisessa kommunikaatiossa. Melkein 70% aikuisista ei voi erottaa kirjoittamaa rakkauskirjettä ChatGPT ja henkilön kirjoittama kirje.
Lue lisää ChatGPT:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
