AI vă poate spune exact cine sunteți, chiar dacă nu le spuneți
Chiar și în situațiile în care oamenii cred că nu au dezvăluit nimic personal, modelele de limbaj AI demonstrează un nivel neașteptat de competență în înțelegerea informațiilor utilizatorului. Acest fenomen se explică prin un studiu recent realizat de Institutul Federal de Tehnologie din Zurich. Pe baza indicațiilor oblice, cercetarea indică faptul că rețelele neuronale pot crea profiluri de utilizator remarcabil de precise.
Cercetătorii au folosit o postare Reddit care a fost accesibilă publicului ca exemplu pentru investigația lor. Utilizatorul a raportat că a rămas blocat în trafic în timp ce încerca o „întorsătură a cârligului” dificilă. Pe baza acestor detalii aparent neremarcabile, modelul lingvistic a dedus că cel mai probabil utilizatorul locuiește în Melbourne, Australia, un oraș în care acest tip de acțiuni sunt tipice.
Cercetătorii au creat un set de date folosind profiluri Reddit reale și au descoperit că actualul LLM-uri poate deduce cu precizie diverse atribute personale, cum ar fi locația, venitul și sexul. Aceste modele au obținut o acuratețe de până la 85% pentru inferența de top-1 și o acuratețe de 95.8% pentru inferența de top-3, toate la un cost semnificativ mai mic (de 100 de ori) și în mai puțin timp (240 de ori) în comparație cu eforturile umane.
Într-un alt exemplu, un utilizator împărtășește că, deoarece sunt singuri, au un obicei ciudat de ziua de naștere de a se acoperi cu scorțișoară. Aici, modelul lingvistic a estimat vârsta autoarei la aproximativ 25 de ani. Ea locuiește în Danemarca, unde se obișnuiește să stropească scorțișoară pe tinerii singuri de 25 de ani.
Mai multe modele de limbă, inclusiv cele de la Google, Meta, OpenAI, și Anthropic, au fost testate în studiu. Remarcabil, GPT-4 a demonstrat cel mai mare nivel de expertiză, recunoscând corect informațiile personale ale utilizatorilor în aproape 85% din cazuri. Implicațiile unor astfel de capacități sunt puse sub semnul întrebării de această revelație.
Cercetătorii au examinat măsurile obișnuite de protecție a confidențialității, cum ar fi anonimizarea textului și alinierea modelelor, și au descoperit că acestea sunt în prezent ineficiente în protejarea confidențialitatea utilizatorilor împotriva inferenței LLM. Studiul subliniază faptul că actualele LLM posedă capacitatea de a deduce informații personale la o scară fără precedent. În absența unor apărări eficiente, cercetătorii subliniază necesitatea unei discuții mai ample despre implicațiile privind confidențialitatea LLM, extinzându-se dincolo de preocupările legate de memorare și străduindu-se pentru măsuri mai cuprinzătoare de protecție a confidențialității.
Deși aceste modele de limbaj devin din ce în ce mai bune în interpretarea indiciilor indirecte, cercetătorii cred că, din cauza cantității mari de date de instruire pe care le folosesc, ele ar putea fi instrumente extrem de utile pentru marketeri sau chiar actori răi.
- Recent, Sondajul lui Deloitte a peste 1,700 de profesioniști dezvăluie o divizare tot mai mare între adoptarea rapidă a IA generativă și dezvoltarea întârziată a principiilor etice. Confidențialitatea datelor este principala preocupare etică, 22% dintre respondenți menționând-o drept principala îngrijorare. În ciuda acestui fapt, 39% dintre respondenți consideră că tehnologiile cognitive dețin cel mai mare potențial pentru binele societății. Sondajul arată, de asemenea, o schimbare a așteptărilor față de implicarea guvernului în stabilirea standardelor tehnologice etice.
- De asemenea, compania-mamă a Snapchat, Snap, este controlat pentru riscuri de confidențialitate legat de chatbot-ul său AI, „My AI”. Biroul Comisarului pentru Informații (ICO) din Marea Britanie a emis o notificare preliminară de aplicare, care ar putea afecta activitățile de prelucrare a datelor Snap. ICO susține că Snap nu a reușit să evalueze implicațiile privind confidențialitatea pentru utilizatori, în special pentru copii.
| Legate de: Liderii AI avertizează asupra riscurilor în creștere și preocupărilor etice în progresele rapide |
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
