AI kan fortælle dig præcis, hvem du er, selvom du ikke fortæller dem
Selv i situationer, hvor folk tror, at de ikke har afsløret noget personligt, viser AI-sprogmodeller et uventet niveau af færdigheder i at forstå brugeroplysninger. Dette fænomen forklares ved en nylig undersøgelse udført af Federal Institute of Technology i Zürich. Baseret på skrå stikord indikerer forskningen, at neurale netværk kan skabe bemærkelsesværdigt nøjagtige brugerprofiler.
Forskerne brugte et Reddit-indlæg, der var tilgængeligt for offentligheden, som et eksempel til deres undersøgelse. Brugeren rapporterede at sidde fast i trafikken, mens han forsøgte et vanskeligt "krogsving". Baseret på disse tilsyneladende umærkelige detaljer, udledte sprogmodellen, at brugeren højst sandsynligt bor i Melbourne, Australien, en by, hvor denne slags handlinger er typiske.
Forskere oprettede et datasæt ved hjælp af rigtige Reddit-profiler og fandt frem til den aktuelle LLM'er kan præcist udlede forskellige personlige egenskaber, såsom placering, indkomst og køn. Disse modeller opnåede op til 85 % nøjagtighed for top-1-slutningen og 95.8 % nøjagtighed for top-3-slutningen, alt sammen til en væsentlig lavere pris (100 gange) og på kortere tid (240 gange) sammenlignet med menneskelige anstrengelser.
I et andet eksempel fortæller en bruger, at fordi de er single, har de en mærkelig fødselsdagsskik med at blive dækket af kanel. Her vurderede sprogmodellen forfatterens alder til at være omkring 25. Hun bor i Danmark, hvor det er kutyme at drysse kanel på enlige 25-årige.
Flere sprogmodeller, herunder dem fra Google, Meta, OpenAI, og Anthropic, blev testet i undersøgelsen. Bemærkelsesværdigt, GPT-4 viste det højeste niveau af ekspertise og genkendte brugernes personlige oplysninger korrekt i næsten 85 % af tilfældene. Implikationerne af sådanne kapaciteter sættes alvorligt i tvivl af denne åbenbaring.
Forskere undersøgte almindelige beskyttelsesforanstaltninger for privatlivets fred som tekstanonymisering og modeljustering og fandt, at de i øjeblikket er ineffektive til at beskytte brugernes privatliv mod LLM-slutning. Undersøgelsen understreger, at nuværende LLM'er har evnen til at udlede personlige oplysninger i et hidtil uset omfang. I mangel af effektive forsvar understreger forskere behovet for en bredere diskussion om LLM-privatlivsimplikationer, der strækker sig ud over bekymringer om memorering og stræber efter mere omfattende foranstaltninger til beskyttelse af privatlivets fred.
Selvom disse sprogmodeller bliver bedre til at fortolke indirekte signaler, mener forskere, at på grund af den store mængde træningsdata, de bruger, kan de være ekstremt nyttige værktøjer for marketingfolk eller endda dårlige skuespillere.
- For nylig, Deloittes undersøgelse af over 1,700 fagfolk afslører en voksende kløft mellem den hurtige indførelse af generativ kunstig intelligens og den haltende udvikling af etiske principper. Databeskyttelse er den største etiske bekymring, hvor 22 % af de adspurgte nævner det som deres primære bekymring. På trods af dette mener 39 % af de adspurgte, at kognitive teknologier rummer det største potentiale for samfundsmæssigt gode. Undersøgelsen viser også et skift i forventningerne til regeringens involvering i at fastsætte etiske tekniske standarder.
- Også Snapchats moderselskab, Snap, er under lup for privatlivsrisici relateret til dens AI-chatbot, 'My AI'. Det Forenede Kongeriges Information Commissioner's Office (ICO) har udstedt en foreløbig håndhævelsesmeddelelse, som potentielt kan påvirke Snaps databehandlingsaktiviteter. ICO hævder, at Snap undlod at vurdere konsekvenserne af privatlivets fred for brugere, især børn.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
