AI vam može reći tko ste točno, čak i ako im ne kažete
Čak i u situacijama u kojima ljudi misle da nisu otkrili ništa osobno, AI jezični modeli pokazuju neočekivanu razinu stručnosti u razumijevanju korisničkih informacija. Ovaj fenomen se objašnjava nedavna studija provodi Savezni institut za tehnologiju u Zürichu. Na temelju kosih znakova, istraživanje pokazuje da neuronske mreže mogu stvoriti nevjerojatno točne korisničke profile.
Istraživači su kao primjer za svoje istraživanje koristili objavu na Redditu koja je bila dostupna javnosti. Korisnik je prijavio da je zapeo u prometu dok je pokušavao teško "okretati kukom". Na temelju ovih naizgled neuglednih detalja, jezični model je zaključio da korisnik najvjerojatnije živi u Melbourneu, Australija, gradu u kojem su ovakve radnje tipične.
Istraživači su stvorili skup podataka koristeći stvarne Reddit profile i otkrili da je trenutni LLMs može točno zaključiti različite osobne atribute, kao što su lokacija, prihod i spol. Ovi modeli postigli su do 85% točnosti za top-1 zaključak i 95.8% točnost za top-3 zaključak, sve uz znatno nižu cijenu (100 puta) i u kraćem vremenu (240 puta) u usporedbi s ljudskim naporima.
U drugom primjeru, korisnik dijeli da, budući da su slobodni, imaju neobičan rođendanski običaj da se namažu cimetom. Ovdje je jezični model procijenio dob autorice na oko 25 godina. Ona živi u Danskoj, gdje je običaj posipati cimetom neudate 25-godišnjake.
Nekoliko jezičnih modela, uključujući one iz Googlea, Meta, OpenAI, i Anthropic, testirani su u studiji. Izvanredno, GPT-4 pokazao je najveću razinu stručnosti, ispravno prepoznavši osobne podatke korisnika u gotovo 85% slučajeva. Implikacije takvih sposobnosti dovedene su u ozbiljno pitanje ovim otkrićem.
Istraživači su ispitali uobičajene mjere zaštite privatnosti poput anonimizacije teksta i usklađivanja modela i otkrili da su trenutno neučinkovite u zaštiti privatnost korisnika protiv zaključivanja LLM-a. Studija naglašava da trenutni LLM-i posjeduju sposobnost zaključivanja osobnih podataka u neviđenom opsegu. U nedostatku učinkovite obrane, istraživači naglašavaju potrebu za širom raspravom o implikacijama privatnosti LLM-a, šireći se izvan zabrinutosti oko pamćenja i težeći sveobuhvatnijim mjerama zaštite privatnosti.
Iako ovi jezični modeli postaju sve bolji u tumačenju neizravnih znakova, istraživači vjeruju da bi zbog velike količine podataka za obuku koje koriste mogli biti iznimno korisni alati za marketinške stručnjake ili čak loše glumce.
- Nedavno, Deloitteovo istraživanje više od 1,700 stručnjaka otkriva rastući jaz između brzog usvajanja generativne umjetne inteligencije i zaostalog razvoja etičkih načela. Privatnost podataka glavna je etička briga, a 22% ispitanika je navodi kao svoju primarnu brigu. Unatoč tome, 39% ispitanika vjeruje da kognitivne tehnologije imaju najveći potencijal za dobrobit društva. Istraživanje također pokazuje pomak u očekivanjima prema uključenosti vlade u postavljanje etičkih tehnoloških standarda.
- Također, Snapchatova matična tvrtka, Snap, je pod lupom zbog rizika po privatnost povezan sa svojim AI chatbotom, 'My AI'. Ured povjerenika za informiranje UK-a (ICO) izdao je preliminarnu obavijest o provedbi, koja potencijalno utječe na Snapove aktivnosti obrade podataka. ICO tvrdi da Snap nije uspio procijeniti implikacije na privatnost za korisnike, posebice djecu.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
