Universitatea Cornell: AI este arma supremă a înșelăciunii, împotriva căreia suntem neputincioși
Pe scurt
Experimentul de la Stanford a scos la iveală o vulnerabilitate insurmontabilă a intuiției lingvistice a oamenilor, dezvăluind probabilitatea scăzută de a identifica paternitatea AI.
Acest lucru se datorează capacității de AI ChatGPT să producă falsuri atât de expert încât oamenii nu sunt în stare să le deosebească de adevăr.
Noul „experiment de la Stanford” a dezvăluit o vulnerabilitate insurmontabilă a intuiţiei lingvistice a oamenilor. Din cauza asta, probabilitatea ca noi să identificăm autoritatea AI este mult diminuată.
Există numeroase preocupări pentru glob astăzi ca urmare a ChatGPT revoluţie. Cel mai evident este că AI-i place ChatGPT este capabil să fabrice falsuri atât de expert încât oamenii sunt incapabili să le deosebească de adevăr. Rezultatele studiilor întreprinse au demonstrat capacitatea enormă a ChatGPT super capacitate de a înșela. Cu toate acestea, nu era clar cum funcționează această superputere – ce deține AI care îi poate face pe oameni foarte inteligenți și educați să creadă ceea ce face?
| Citeşte mai mult: Cele mai bune 20 de chatbot-uri Telegram AI din 2023 |
Un nou „experiment Stanford” a fost realizat de Laboratorul de rețele sociale din Stanford, în colaborare cu Centrul de Cercetare al Universității Cornell, pentru a răspunde tocmai la această întrebare.
Rezultatul unei serii de șase experimente care implică 4,600 de oameni este senzațional și deprimant.
Oamenii au fost însărcinați să determine dacă autoprezentările au fost scrise de o persoană sau de o IA. Potrivit cercetătorilor, prezentarea de sine este unul dintre cele mai personale și mai importante elemente ale comunicării lingvistice, deoarece atitudinea noastră față de orice afirmație depinde în mare măsură de cine este (după cum credem noi) autorul acesteia.
În centrul percepției lingvistice a oamenilor se află euristica. Termenul de euristică se referă la scurtăturile mentale pe care oamenii le folosesc pentru a lua decizii, a rezolva probleme și a emite judecăți. Ajută oamenii să-și ușureze volumul de muncă mental și să evite suprasolicitarea cognitivă.
„O analiză computațională a caracteristicilor limbajului arată că judecățile umane despre limbajul generat de IA sunt împiedicate de euristici intuitive, dar greșite, cum ar fi asocierea pronumelor la persoana întâi, utilizarea contracțiilor sau subiectele de familie cu limbajul scris de oameni”, se arată în studiu. Experimentele au arătat că atunci când percep un text scris de AI, oamenii folosesc automat aceleași euristici ca atunci când comunică cu alte persoane. Și aceasta este o greșeală fundamentală. Cert este că acestea sunt euristici intuitive pentru noi, iar AI le citește cu ușurință și operează cu ele ca o masă de înmulțire.
Drept urmare, AI poate folosi euristica pentru a crea text pe care oamenii îl percep ca „mai mult uman decât uman”. Acest lucru crește foarte mult potențialul înșelător al textelor și discursului AI, încurajându-ne să avem încredere în această „cel mai umană persoană” mai mult decât în declarațiile oamenilor reali.
Șansele ca oamenii să identifice o autoprezentare scrisă prin inteligență artificială sunt 50/50. Lucrurile stau și mai rău în comunicările romantice ale oamenilor. Aproape 70% din adulți nu poate face distincția între o scrisoare de dragoste scrisă de ChatGPT și o scrisoare scrisă de o persoană.
Citiți mai multe despre ChatGPT:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
