Universitat de Cornell: la IA és l'arma definitiva d'engany, contra la qual som impotents
En breu
L'experiment de Stanford ha revelat una vulnerabilitat insuperable de la intuïció lingüística de les persones, revelant la baixa probabilitat d'identificar l'autoria de la IA.
Això es deu a la capacitat de la IA ChatGPT per fabricar falsificacions de manera tan experta que la gent és incapaç de diferenciar-les de la veritat.
El nou "experiment de Stanford" ha revelat una vulnerabilitat insuperable de la intuïció lingüística de les persones. A causa d'això, la probabilitat que identifiquem l'autoria de la IA es redueix molt.
Actualment hi ha nombroses preocupacions per al món com a resultat de la ChatGPT revolució. El més evident és que li agrada la IA ChatGPT és capaç de fabricar falsificacions de manera tan experta que la gent és incapaç de diferenciar-les de la veritat. Els resultats dels assaigs duts a terme han demostrat l'enorme capacitat de la ChatGPT super capacitat d'enganyar. Tanmateix, no estava clar com funcionava aquesta superpotència: què posseeix la IA que pot fer que persones molt intel·ligents i educades creguin el que està fent?
El Stanford Social Networking Lab va dur a terme un nou "experiment de Stanford" en col·laboració amb el Cornell University Research Center per respondre aquesta mateixa pregunta.
El resultat d'una sèrie de sis experiments amb 4,600 persones és sensacional i depriment.
Les persones tenien l'encàrrec de determinar si les autopresentacions eren escrites per una persona o una IA. Segons els investigadors, l'autopresentació és un dels elements més personals i conseqüents de la comunicació lingüística perquè la nostra actitud davant qualsevol afirmació depèn en gran mesura de qui (com creiem) sigui el seu autor.
Al cor de la percepció lingüística de les persones hi ha l'heurística. El terme heurística fa referència a les dreceres mentals que prenen les persones per prendre decisions, resoldre problemes i emetre judicis. Ajuda a les persones a alleujar la seva càrrega de treball mental i a evitar la sobrecàrrega cognitiva.
"Una anàlisi computacional de les característiques del llenguatge mostra que els judicis humans del llenguatge generat per l'IA es veuen obstaculitzats per heurístiques intuïtives però defectuoses, com ara l'associació de pronoms en primera persona, l'ús de contraccions o temes familiars amb el llenguatge escrit per humans", diu l'estudi. Els experiments han demostrat que quan perceben un text escrit per IA, les persones utilitzen automàticament les mateixes heurístiques que quan es comuniquen amb altres persones. I això és un error fonamental. El fet és que aquestes són heurístiques intuïtives per a nosaltres, i la IA les llegeix fàcilment i funciona amb elles com una taula de multiplicar.
Com a resultat, la IA pot utilitzar heurístiques per crear text que la gent percebi com "més humà que humà". Això augmenta molt el potencial enganyós dels textos i la parla d'IA, animant-nos a confiar més en aquesta "persona més humana" que en les declaracions de persones reals.
Les possibilitats que les persones identifiquin una autopresentació escrita amb IA són 50/50. Les coses són encara pitjors en les comunicacions romàntiques de la gent. Gairebé 70% dels adults no es pot distingir entre una carta d'amor escrita per ChatGPT i una carta escrita per una persona.
Llegiu més sobre ChatGPT:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
