Tekoäly voi kertoa sinulle tarkalleen, kuka olet, vaikka et kertoisi heille
Jopa tilanteissa, joissa ihmiset luulevat, että he eivät ole paljastaneet mitään henkilökohtaista, tekoälyn kielimallit osoittavat odottamattoman tason käyttäjätietojen ymmärtämisessä. Tämä ilmiö selittyy hiljattain tehty tutkimus toteutti Zürichin liittovaltion teknologiainstituutti. Tutkimus osoittaa vinoihin vihjeisiin perustuen, että neuroverkot voivat luoda erittäin tarkkoja käyttäjäprofiileja.
Tutkijat käyttivät tutkimuksessaan esimerkkinä Reddit-julkaisua, joka oli yleisön saatavilla. Käyttäjä ilmoitti juuttuneensa liikenteeseen yrittäessään vaikeaa "koukun käännöstä". Näiden näennäisesti merkityksettömien yksityiskohtien perusteella kielimalli päätteli, että käyttäjä asuu todennäköisesti Melbournessa, Australiassa, kaupungissa, jossa tällaiset toiminnot ovat tyypillisiä.
Tutkijat loivat tietojoukon käyttäen aitoja Reddit-profiileja ja havaitsivat, että se on ajan tasalla LLM:t voi päätellä tarkasti erilaisia henkilökohtaisia ominaisuuksia, kuten sijainti, tulot ja sukupuoli. Nämä mallit saavuttivat jopa 85 % tarkkuuden top-1-päätelmässä ja 95.8 %:n tarkkuuden top-3-päätelmässä, kaikki huomattavasti halvemmalla (100 kertaa) ja lyhyemmässä ajassa (240 kertaa) verrattuna ihmisen ponnistuksiin.
Toisessa esimerkissä käyttäjä kertoo, että koska he ovat sinkkuja, heillä on outo syntymäpäivätapana saada kanelia. Tässä kielimalli arvioi kirjoittajan iän noin 25-vuotiaaksi. Hän asuu Tanskassa, jossa on tapana ripotella kanelia naimattomille 25-vuotiaille.
Useita kielimalleja, mukaan lukien Googlen, Metan, OpenAI, ja Anthropic, testattiin tutkimuksessa. Huomattavasti, GPT-4 osoitti korkeinta asiantuntemustasoa ja tunnisti käyttäjien henkilökohtaiset tiedot oikein lähes 85 prosentissa tapauksista. Tämä ilmoitus asettaa vakavasti kyseenalaiseksi tällaisten kykyjen vaikutukset.
Tutkijat tutkivat yleisiä yksityisyyden suojakeinoja, kuten tekstin anonymisointia ja mallien kohdistusta, ja havaitsivat, että ne eivät tällä hetkellä ole tehokkaita suojaamaan käyttäjän yksityisyys LLM-johtopäätöstä vastaan. Tutkimus korostaa, että nykyisillä LLM:illä on kyky päätellä henkilökohtaisia tietoja ennennäkemättömässä mittakaavassa. Tehokkaiden suojakeinojen puuttuessa tutkijat korostavat tarvetta laajempaan keskusteluun LLM:n yksityisyyden vaikutuksista, jotka ulottuvat ulkoa muistamista koskevien huolenaiheiden ulkopuolelle ja pyrkivät kattavampiin yksityisyyden suojatoimenpiteisiin.
Vaikka nämä kielimallit alkavatkin paremmin tulkita epäsuoria vihjeitä, tutkijat uskovat, että niiden käyttämän koulutusdatan suuren määrän vuoksi ne voivat olla erittäin hyödyllisiä työkaluja markkinoijille tai jopa huonoille toimijoille.
- Viime aikoina Deloitten kysely Yli 1,700 22 ammattilaista paljastaa kasvavan kuilun generatiivisen tekoälyn nopean käyttöönoton ja eettisten periaatteiden jälkeen jääneen kehityksen välillä. Tietosuoja on suurin eettinen huolenaihe, ja 39 prosenttia vastaajista mainitsi sen ensisijaisena huolenaiheensa. Tästä huolimatta XNUMX prosenttia vastaajista uskoo, että kognitiivisilla teknologioilla on eniten potentiaalia yhteiskunnan hyväksi. Tutkimus osoittaa myös, että odotukset ovat muuttuneet kohti hallituksen osallistumista eettisten teknologiastandardien asettamiseen.
- Myös Snapchatin emoyhtiö Snap, on tarkastelun kohteena tietosuojariskien varalta liittyy sen AI chatbotiin "My AI". Ison-Britannian Information Commissioner's Office (ICO) on antanut alustavan täytäntöönpanoilmoituksen, joka saattaa vaikuttaa Snapin tietojenkäsittelytoimintoihin. ICO väittää, että Snap ei ole arvioinut käyttäjien, erityisesti lasten, yksityisyyden vaikutuksia.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
