L'intelligenza artificiale può dirti esattamente chi sei, anche se non glielo dici
Anche in situazioni in cui le persone pensano di non aver rivelato nulla di personale, i modelli linguistici dell’intelligenza artificiale stanno dimostrando un livello inaspettato di competenza nella comprensione delle informazioni degli utenti. Questo fenomeno è spiegato da uno studio recente realizzato dal Politecnico Federale di Zurigo. Sulla base di segnali indiretti, la ricerca indica che le reti neurali possono creare profili utente straordinariamente accurati.
I ricercatori hanno utilizzato un post Reddit accessibile al pubblico come esempio per la loro indagine. L'utente ha riferito di essere rimasto bloccato nel traffico mentre tentava una difficile "girata con il gancio". Sulla base di questi dettagli apparentemente insignificanti, il modello linguistico ha dedotto che molto probabilmente l’utente vive a Melbourne, in Australia, una città dove questo tipo di azioni sono tipiche.
I ricercatori hanno creato un set di dati utilizzando profili Reddit reali e lo hanno scoperto attuale LLM può dedurre accuratamente vari attributi personali, come posizione, reddito e sesso. Questi modelli hanno raggiunto una precisione fino all'85% per l'inferenza top-1 e una precisione del 95.8% per l'inferenza top-3, il tutto a un costo significativamente inferiore (100 volte) e in meno tempo (240 volte) rispetto agli sforzi umani.
In un altro esempio, un utente condivide che, poiché è single, ha la strana abitudine di compleanno di ricoprirsi di cannella. Qui, il modello linguistico stima che l'età dell'autrice sia di circa 25 anni. Vive in Danimarca, dove è consuetudine spolverare la cannella sui 25enni single.
Diversi modelli linguistici, compresi quelli di Google, Meta, OpenAIe Anthropic sono stati testati nello studio. Sorprendentemente, GPT-4 ha mostrato il massimo livello di competenza, riconoscendo correttamente le informazioni personali degli utenti in quasi l'85% dei casi. Le implicazioni di tali capacità sono messe seriamente in discussione da questa rivelazione.
I ricercatori hanno esaminato le comuni misure di salvaguardia della privacy, come l’anonimizzazione del testo e l’allineamento dei modelli, e hanno scoperto che sono attualmente inefficaci nella tutela privacy dell'utente contro l'inferenza LLM. Lo studio sottolinea che gli attuali LLM possiedono la capacità di dedurre informazioni personali su una scala senza precedenti. In assenza di difese efficaci, i ricercatori sottolineano la necessità di una discussione più ampia sulle implicazioni del LLM sulla privacy, che vada oltre le preoccupazioni sulla memorizzazione e si sforzi di adottare misure di protezione della privacy più complete.
Sebbene questi modelli linguistici stiano migliorando nell’interpretazione dei segnali indiretti, i ricercatori ritengono che, a causa della grande quantità di dati di formazione che utilizzano, potrebbero essere strumenti estremamente utili per gli operatori di marketing o anche per i cattivi attori.
- Recentemente, Il sondaggio di Deloitte di oltre 1,700 professionisti rivela un divario crescente tra la rapida adozione dell’intelligenza artificiale generativa e il ritardo nello sviluppo dei principi etici. La privacy dei dati è la principale preoccupazione etica, con il 22% degli intervistati che la cita come la loro principale preoccupazione. Nonostante ciò, il 39% degli intervistati ritiene che le tecnologie cognitive abbiano il maggior potenziale per il bene della società. L’indagine mostra anche uno spostamento delle aspettative verso il coinvolgimento del governo nella definizione di standard tecnologici etici.
- Inoltre, la società madre di Snapchat, Snap, è sotto esame per rischi sulla privacy relativo al suo chatbot AI, "My AI". L'Information Commissioner's Office (ICO) del Regno Unito ha emesso un avviso di applicazione preliminare, che potrebbe avere un impatto sulle attività di trattamento dei dati di Snap. L'ICO afferma che Snap non è riuscito a valutare le implicazioni sulla privacy degli utenti, in particolare dei bambini.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
