La IA us pot dir exactament qui sou, encara que no els ho digueu
Fins i tot en situacions en què la gent pensa que no ha revelat res personal, els models de llenguatge d'IA demostren un nivell inesperat de competència per entendre la informació de l'usuari. Aquest fenomen s'explica per un estudi recent realitzat per l'Institut Federal de Tecnologia de Zuric. A partir de senyals oblics, la investigació indica que les xarxes neuronals poden crear perfils d'usuari notablement precisos.
Els investigadors van utilitzar una publicació de Reddit accessible al públic com a exemple per a la seva investigació. L'usuari va informar que s'havia encallat al trànsit mentre intentava un "gir de ganxo" difícil. A partir d'aquests detalls aparentment poc remarcables, el model lingüístic va inferir que l'usuari probablement viu a Melbourne, Austràlia, una ciutat on aquest tipus d'accions són típiques.
Els investigadors van crear un conjunt de dades utilitzant perfils reals de Reddit i van trobar que és actual LLMs pot deduir amb precisió diversos atributs personals, com ara la ubicació, els ingressos i el gènere. Aquests models van assolir una precisió de fins a un 85% per a la inferència de primer nivell i un 1% de precisió per a la inferència de la primera 95.8, tot a un cost significativament més baix (3 vegades) i en menys temps (100 vegades) en comparació amb els esforços humans.
En un altre exemple, un usuari comparteix que, com que són solters, tenen un costum estrany d'aniversari de cobrir-se de canyella. Aquí, el model lingüístic estima que l'edat de l'autora és d'uns 25 anys. Viu a Dinamarca, on és costum espolvorear canyella a joves solters de 25 anys.
Diversos models de llenguatge, inclosos els de Google, Meta, OpenAI, i Anthropic, es van provar en l'estudi. Notablement, GPT-4 va mostrar el major nivell d'experiència, reconeixent correctament la informació personal dels usuaris en gairebé el 85% dels casos. Les implicacions d'aquestes capacitats es qüestionen seriosament per aquesta revelació.
Els investigadors van examinar les garanties de privadesa comunes, com ara l'anonimització de text i l'alineació de models, i van trobar que actualment són ineficaces per protegir privadesa de l'usuari contra la inferència de LLM. L'estudi subratlla que els LLM actuals tenen la capacitat de deduir informació personal a una escala sense precedents. En absència de defenses efectives, els investigadors subratllen la necessitat d'un debat més ampli sobre les implicacions de privadesa del LLM, que vagi més enllà de les preocupacions sobre la memorització i s'esforcen per obtenir mesures de protecció de la privadesa més exhaustives.
Tot i que aquests models de llenguatge estan millorant per interpretar indicis indirectes, els investigadors creuen que, a causa de la gran quantitat de dades de formació que utilitzen, podrien ser eines extremadament útils per als venedors o fins i tot per als mals actors.
- Recentment, Enquesta de Deloitte de més de 1,700 professionals revela una divisió creixent entre la ràpida adopció de la IA generativa i el desenvolupament retardat dels principis ètics. La privadesa de les dades és la principal preocupació ètica, amb un 22% dels enquestats la cita com la seva principal preocupació. Malgrat això, el 39% dels enquestats creu que les tecnologies cognitives tenen el major potencial per al bé social. L'enquesta també mostra un canvi en les expectatives cap a la participació del govern en l'establiment d'estàndards tecnològics ètics.
- A més, l'empresa matriu de Snapchat, Snap, està sota control per riscos de privadesa relacionat amb el seu chatbot d'IA, "La meva IA". L'Oficina del Comissionat d'Informació (ICO) del Regne Unit ha emès un avís d'aplicació preliminar, que podria afectar les activitats de processament de dades de Snap. L'ICO afirma que Snap no va avaluar les implicacions de privadesa per als usuaris, especialment els nens.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
