AI kan u precies vertellen wie u bent, zelfs als u het hen niet vertelt
Zelfs in situaties waarin mensen denken dat ze niets persoonlijks hebben onthuld, laten AI-taalmodellen een onverwacht niveau van vaardigheid zien in het begrijpen van gebruikersinformatie. Dit fenomeen wordt verklaard door een recente studie uitgevoerd door het Federale Instituut voor Technologie in Zürich. Op basis van indirecte aanwijzingen geeft het onderzoek aan dat neurale netwerken opmerkelijk nauwkeurige gebruikersprofielen kunnen creëren.
De onderzoekers gebruikten een voor het publiek toegankelijke Reddit-post als voorbeeld voor hun onderzoek. De gebruiker meldde dat hij vastzat in het verkeer terwijl hij een moeilijke ‘haakbocht’ probeerde te maken. Op basis van deze ogenschijnlijk onopvallende details concludeerde het taalmodel dat de gebruiker hoogstwaarschijnlijk in Melbourne, Australië woont, een stad waar dit soort acties typisch zijn.
Onderzoekers hebben een dataset gemaakt met behulp van echte Reddit-profielen en hebben die actueel gevonden LLM's kan nauwkeurig verschillende persoonlijke kenmerken afleiden, zoals locatie, inkomen en geslacht. Deze modellen bereikten een nauwkeurigheid tot 85% voor de top-1-gevolgtrekking en 95.8% nauwkeurigheid voor de top-3-gevolgtrekking, en dit alles tegen aanzienlijk lagere kosten (100 keer) en in minder tijd (240 keer) vergeleken met menselijke inspanningen.
In een ander voorbeeld deelt een gebruiker dat hij, omdat hij vrijgezel is, de vreemde gewoonte heeft om zich op zijn verjaardag onder de kaneel te laten smeren. Hier schatte het taalmodel de leeftijd van de auteur op ongeveer 25 jaar. Ze woont in Denemarken, waar het gebruikelijk is om kaneel te strooien over alleenstaande 25-jarigen.
Verschillende taalmodellen, waaronder die van Google, Meta, OpenAI, en Anthropic, werden in het onderzoek getest. Opmerkelijk, GPT-4 toonde het grootste niveau van expertise en herkende de persoonlijke informatie van gebruikers in bijna 85% van de gevallen correct. De implicaties van dergelijke capaciteiten worden door deze onthulling ernstig in twijfel getrokken.
Onderzoekers onderzochten algemene privacywaarborgen, zoals anonimisering van tekst en modeluitlijning, en ontdekten dat deze momenteel niet effectief zijn bij het waarborgen ervan gebruikersprivacy tegen LLM-gevolgtrekking. Het onderzoek onderstreept dat huidige LLM's over het vermogen beschikken om op ongekende schaal persoonlijke informatie af te leiden. Bij gebrek aan effectieve verdediging benadrukken onderzoekers de noodzaak van een bredere discussie over de implicaties voor de privacy van LLM, die verder reikt dan de zorgen over het onthouden, en streven naar uitgebreidere maatregelen voor privacybescherming.
Hoewel deze taalmodellen steeds beter worden in het interpreteren van indirecte signalen, zijn onderzoekers van mening dat ze, vanwege de grote hoeveelheid trainingsgegevens die ze gebruiken, uiterst nuttige hulpmiddelen kunnen zijn voor marketeers of zelfs slechte actoren.
- Onlangs Het onderzoek van Deloitte van ruim 1,700 professionals laat een groeiende kloof zien tussen de snelle adoptie van generatieve AI en de achterblijvende ontwikkeling van ethische principes. Gegevensprivacy is de grootste ethische zorg, waarbij 22% van de respondenten dit als hun voornaamste zorg noemt. Desondanks gelooft 39% van de respondenten dat cognitieve technologieën het meeste potentieel voor het maatschappelijk welzijn bieden. Het onderzoek laat ook een verschuiving zien in de verwachtingen ten aanzien van de betrokkenheid van de overheid bij het vaststellen van ethische technologienormen.
- Ook het moederbedrijf van Snapchat, Snap, wordt nauwlettend in de gaten gehouden vanwege privacyrisico's gerelateerd aan zijn AI-chatbot, 'My AI'. Het Britse Information Commissioner's Office (ICO) heeft een voorlopige handhavingsbevel uitgevaardigd, wat mogelijk gevolgen heeft voor de gegevensverwerkingsactiviteiten van Snap. De ICO beweert dat Snap de privacyimplicaties voor gebruikers, met name kinderen, niet heeft beoordeeld.
| Verwant: AI-leiders waarschuwen voor toenemende risico's en ethische zorgen bij snelle ontwikkelingen |
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
