Kornela universitāte: AI ir galvenais maldināšanas ierocis, pret kuru mēs esam bezspēcīgi
Īsumā
Stenfordas eksperiments ir atklājis nepārvaramu cilvēku lingvistiskās intuīcijas ievainojamību, atklājot zemo varbūtību identificēt AI autorību.
Tas ir saistīts ar AI līdzīgu spēju ChatGPT izgatavot viltojumus tik prasmīgi, ka cilvēki nespēj tos atšķirt no patiesības.
Jaunais "Stenfordas eksperiments" atklājis cilvēku lingvistiskās intuīcijas nepārvarama ievainojamība. Tāpēc ir ievērojami samazināta iespēja, ka mēs identificēsim AI autorību.
Mūsdienās pasaulē ir daudz bažu, ko izraisa ChatGPT revolūcija. Visredzamākais ir tas, ka AI patīk ChatGPT spēj izgatavot viltojumus tik prasmīgi, ka cilvēki nespēj tos atšķirt no patiesības. Veikto izmēģinājumu rezultāti ir parādījuši milzīgo spēju ChatGPT super spēja maldināt. Tomēr nebija skaidrs, kā šī lielvara darbojas — kas piemīt AI, kas var likt ļoti gudriem un izglītotiem cilvēkiem noticēt tam, ko tas dara?
| Lasīt vairāk: 20+ 2023. gada labākie Telegram AI tērzēšanas roboti |
Lai atbildētu uz šo jautājumu, Stenfordas sociālo tīklu laboratorija sadarbībā ar Kornela universitātes pētniecības centru veica jaunu "Stenfordas eksperimentu".
Sešu eksperimentu sērijas rezultāts, kurā piedalījās 4,600 cilvēku, ir sensacionāls un nomācošs.
Cilvēkiem tika uzdots noteikt, vai pašprezentācijas ir rakstījis cilvēks vai mākslīgais intelekts. Pēc pētnieku domām, sevis prezentēšana ir viens no personīgākajiem un visnozīmīgākajiem lingvistiskās komunikācijas elementiem, jo mūsu attieksme pret jebkuru apgalvojumu lielā mērā ir atkarīga no tā, kurš (kā mēs uzskatām) tā autors.
Cilvēku lingvistiskās uztveres pamatā ir heiristika. Termins heiristika attiecas uz garīgiem īsceļiem, ko cilvēki izmanto, lai pieņemtu lēmumus, atrisinātu problēmas un pieņemtu spriedumus. Tas palīdz cilvēkiem atvieglot garīgo slodzi un izvairīties no kognitīvās pārslodzes.
"Valodas iezīmju skaitļošanas analīze liecina, ka cilvēku spriedumus par AI radīto valodu kavē intuitīva, bet kļūdaina heiristika, piemēram, pirmās personas vietniekvārdu saistīšana, kontrakcijas vai ģimenes tēmas ar cilvēka rakstīto valodu," teikts pētījumā. Eksperimenti ir parādījuši, ka, uztverot AI rakstītu tekstu, cilvēki automātiski izmanto to pašu heiristiku, ko sazinoties ar citiem cilvēkiem. Un tā ir būtiska kļūda. Fakts ir tāds, ka mums tās ir intuitīvas heiristikas, un AI tās viegli nolasa un darbojas ar tām kā reizināšanas tabula.
Rezultātā mākslīgais intelekts var izmantot heiristiku, lai izveidotu tekstu, ko cilvēki uztver kā "vairāk cilvēcisku nekā cilvēku". Tas ievērojami palielina AI tekstu un runas maldinošo potenciālu, mudinot mūs uzticēties šim “cilvēcīgākajam cilvēkam”, nevis reālu cilvēku izteikumiem.
Iespēja, ka cilvēki atpazīs AI rakstītu pašprezentāciju, ir 50/50. Cilvēku romantiskajā komunikācijā lietas ir vēl sliktākas. Gandrīz 70% pieaugušo nevar atšķirt mīlestības vēstuli, kuru uzrakstījis ChatGPT un kādas personas rakstīta vēstule.
Lasiet vairāk par ChatGPT:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
