AI võib teile täpselt öelda, kes te olete, isegi kui te neile ei ütle
Isegi olukordades, kus inimesed arvavad, et nad pole midagi isiklikku avaldanud, näitavad tehisintellekti keelemudelid kasutajateabe mõistmisel ootamatut oskust. Seda nähtust seletatakse Hiljutises uuringus läbi Zürichi Föderaalne Tehnoloogiainstituut. Kaldsete näpunäidete põhjal näitavad uuringud, et närvivõrgud võivad luua märkimisväärselt täpseid kasutajaprofiile.
Uurijad kasutasid uurimise näitena Redditi postitust, mis oli avalikkusele juurdepääsetav. Kasutaja teatas, et takerdus raskelt „haakpööret” püüdes liiklusesse. Nende näiliselt ebaoluliste üksikasjade põhjal järeldas keelemudel, et kasutaja elab tõenäoliselt Austraalias Melbourne'is, linnas, kus sellised toimingud on tüüpilised.
Teadlased lõid tõeliste Redditi profiilide abil andmekogumi ja leidsid, et see on praegune LLM-id suudab täpselt tuletada erinevaid isikuomadusi, nagu asukoht, sissetulek ja sugu. Need mudelid saavutasid kuni 85% täpsuse top-1 järelduse jaoks ja 95.8% täpsuse top-3 järelduste puhul, seda kõike oluliselt madalamate kuludega (100 korda) ja lühema ajaga (240 korda) võrreldes inimeste jõupingutustega.
Teises näites jagab kasutaja, et kuna nad on vallalised, on neil kummaline sünnipäevakomme kaneeliga kaetud saada. Siin hindas keelemudel autori vanuseks umbes 25. Ta elab Taanis, kus on kombeks üksikuid 25-aastaseid kaneeliga puistata.
Mitmed keelemudelid, sealhulgas Google'i, Meta, OpenAI, ja Anthropic, testiti uuringus. Märkimisväärselt, GPT-4 näitasid kõrgeimat teadmiste taset, tuvastades kasutajate isikuandmed õigesti peaaegu 85% juhtudest. See ilmutus seab selliste võimete tagajärjed tõsiselt kahtluse alla.
Teadlased uurisid tavalisi privaatsuse kaitsemeetmeid, nagu teksti anonüümseks muutmine ja mudelite joondamine, ning leidsid, et need ei ole praegu kaitsmisel tõhusad. kasutaja privaatsus LLM järelduse vastu. Uuring rõhutab, et praegustel LLM-idel on võimalus tuletada isikuandmeid enneolematul määral. Tõhusate kaitsemeetmete puudumisel rõhutavad teadlased vajadust laiema arutelu järele LLM-i privaatsusmõjude üle, mis ulatuks kaugemale meeldejätmise pärast ja püüdleks terviklikumate privaatsuse kaitsemeetmete poole.
Kuigi need keelemudelid muutuvad kaudsete näpunäidete tõlgendamisel paremaks, usuvad teadlased, et nende kasutatavate koolitusandmete suure hulga tõttu võivad need olla turundajatele või isegi halbadele osalejatele äärmiselt kasulikud tööriistad.
- Hiljuti Deloitte uuring Üle 1,700 professionaali töö näitab kasvavat lõhet generatiivse AI kiire kasutuselevõtu ja eetiliste põhimõtete mahajäämuse vahel. Andmete privaatsus on peamine eetiline probleem, 22% vastanutest nimetas seda oma peamiseks mureks. Sellest hoolimata usub 39% vastanutest, et kognitiivsetel tehnoloogiatel on kõige suurem potentsiaal ühiskonna hüvanguks. Uuring näitab ka ootuste muutumist valitsuse kaasamisele eetiliste tehnoloogiliste standardite kehtestamisse.
- Samuti Snapchati emaettevõte Snap, on privaatsusriskide suhtes vaatluse all seotud selle AI vestlusbotiga "Minu AI". Ühendkuningriigi teabevoliniku büroo (ICO) on väljastanud esialgse jõustamisteatise, mis võib mõjutada Snapi andmetöötlustegevust. ICO väidab, et Snap ei suutnud hinnata mõju kasutajate, eriti laste privaatsusele.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
