Umetna inteligenca vam lahko natančno pove, kdo ste, tudi če jim ne poveste
Tudi v situacijah, ko ljudje mislijo, da niso razkrili ničesar osebnega, jezikovni modeli umetne inteligence izkazujejo nepričakovano raven strokovnosti pri razumevanju uporabniških informacij. Ta pojav je razložen z nedavna študija izvedel Zvezni inštitut za tehnologijo v Zürichu. Na podlagi poševnih namigov raziskava kaže, da lahko nevronske mreže ustvarijo izjemno natančne uporabniške profile.
Raziskovalci so kot primer svoje preiskave uporabili objavo na Redditu, ki je bila dostopna javnosti. Uporabnik je poročal, da se je zagozdil v prometu, medtem ko je poskušal težko zaviti. Na podlagi teh na videz nepomembnih podrobnosti je jezikovni model sklepal, da uporabnik najverjetneje živi v Melbournu v Avstraliji, mestu, kjer so tovrstna dejanja tipična.
Raziskovalci so ustvarili nabor podatkov z uporabo resničnih profilov Reddit in ugotovili, da trenutno LLM lahko natančno izpelje različne osebne lastnosti, kot so lokacija, dohodek in spol. Ti modeli so dosegli do 85-odstotno natančnost za sklepanje top-1 in 95.8-odstotno natančnost za sklepanje top-3, vse po znatno nižji ceni (100-krat) in v krajšem času (240-krat) v primerjavi s človeškim naporom.
V drugem primeru uporabnik pove, da ima, ker je samski, čudno rojstnodnevno navado, da se pokrije s cimetom. Tukaj je jezikovni model avtoričino starost ocenil na okoli 25. Živi na Danskem, kjer je navada, da samske 25-letnike potresejo s cimetom.
Več jezikovnih modelov, vključno s tistimi iz Googla, Meta, OpenAI, in Anthropic, so testirali v študiji. Izjemno, GPT-4 izkazalo največjo stopnjo strokovnosti, saj je v skoraj 85 % primerov pravilno prepoznalo osebne podatke uporabnikov. Posledice takšnih zmožnosti so zaradi tega razkritja resno postavljene pod vprašaj.
Raziskovalci so preučili običajne zaščitne ukrepe za zasebnost, kot sta anonimizacija besedila in poravnava modela, in ugotovili, da so trenutno neučinkoviti pri varovanju zasebnost uporabnika proti sklepanju LLM. Študija poudarja, da imajo sedanji LLM-ji sposobnost pridobivanja osebnih podatkov v obsegu brez primere. V odsotnosti učinkovite obrambe raziskovalci poudarjajo potrebo po širši razpravi o posledicah LLM za zasebnost, ki presega pomisleke glede pomnjenja in si prizadeva za celovitejše ukrepe za zaščito zasebnosti.
Čeprav se ti jezikovni modeli izboljšujejo pri interpretaciji posrednih znakov, raziskovalci verjamejo, da bi lahko bili zaradi velike količine podatkov o usposabljanju, ki jih uporabljajo, izjemno uporabno orodje za tržnike ali celo slabe igralce.
- V zadnjem času, Deloittejeva raziskava več kot 1,700 strokovnjakov razkriva vse večji razkorak med hitrim sprejemanjem generativne umetne inteligence in zaostajanjem razvoja etičnih načel. Zasebnost podatkov je glavni etični pomislek, 22 % vprašanih jo je navedlo kot svojo glavno skrb. Kljub temu 39 % vprašanih meni, da imajo kognitivne tehnologije največji potencial za družbeno dobro. Raziskava kaže tudi premik v pričakovanjih proti vpletenosti vlade pri določanju etičnih tehnoloških standardov.
- Tudi matična družba Snapchata, Snap, je pod drobnogledom zaradi tveganj za zasebnost povezan z njegovim klepetalnim robotom z umetno inteligenco, 'Moj AI'. Urad informacijskega pooblaščenca Združenega kraljestva (ICO) je izdal predhodno obvestilo o uveljavitvi, ki bi lahko vplivalo na dejavnosti obdelave podatkov Snap. ICO trdi, da Snap ni ocenil posledic za zasebnost uporabnikov, zlasti otrok.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
