Umělá inteligence vám může říct, kdo přesně jste, i když jim to neříkáte
Dokonce i v situacích, kdy si lidé myslí, že neprozradili nic osobního, prokazují jazykové modely umělé inteligence neočekávanou úroveň znalosti uživatelských informací. Tento jev je vysvětlen nedávná studie provádí Federální technologický institut v Curychu. Na základě šikmých vodítek výzkum naznačuje, že neuronové sítě mohou vytvářet pozoruhodně přesné uživatelské profily.
Výzkumníci použili jako příklad pro své vyšetřování příspěvek na Redditu, který byl přístupný veřejnosti. Uživatel nahlásil, že uvízl v provozu při pokusu o obtížnou odbočku na háku. Na základě těchto zdánlivě nevýrazných detailů jazykový model odvodil, že uživatel s největší pravděpodobností žije v Melbourne v Austrálii, ve městě, kde jsou tyto druhy akcí typické.
Výzkumníci vytvořili datovou sadu pomocí skutečných profilů Reddit a zjistili, že je aktuální LLM dokáže přesně odvodit různé osobní atributy, jako je poloha, příjem a pohlaví. Tyto modely dosáhly až 85% přesnosti pro top-1 inferenci a 95.8% přesnosti pro top-3 inferenci, to vše při výrazně nižších nákladech (100krát) a za kratší dobu (240krát) ve srovnání s lidským úsilím.
V dalším příkladu uživatel sdílí, že protože je svobodný, má zvláštní narozeninový zvyk nechat se zahalit skořicí. Zde jazykový model odhadoval věk autorky na cca 25. Žije v Dánsku, kde je zvykem sypat svobodné 25leté lidi skořicí.
Několik jazykových modelů, včetně těch od Google, Meta, OpenAI, a Antropické, byly ve studii testovány. Pozoruhodně, GPT-4 prokázaly nejvyšší úroveň odbornosti a v téměř 85 % případů správně rozpoznaly osobní údaje uživatelů. Důsledky takových schopností jsou tímto odhalením vážně zpochybňovány.
Výzkumníci prozkoumali běžná ochranná opatření na ochranu soukromí, jako je anonymizace textu a zarovnání modelů, a zjistili, že jsou v současné době při zabezpečení neúčinné. soukromí uživatelů proti dedukci LLM. Studie zdůrazňuje, že současné LLM mají schopnost odvodit osobní informace v nebývalém měřítku. Při absenci účinné obrany výzkumníci zdůrazňují potřebu širší diskuse o důsledcích ochrany soukromí LLM, která přesahuje obavy o zapamatování a usiluje o komplexnější opatření na ochranu soukromí.
Přestože se tyto jazykové modely zlepšují v interpretaci nepřímých podnětů, vědci se domnívají, že kvůli velkému množství tréninkových dat, které používají, by mohly být extrémně užitečnými nástroji pro obchodníky nebo dokonce špatné aktéry.
- Nedávno, Průzkum společnosti Deloitte více než 1,700 profesionálů odhaluje rostoucí propast mezi rychlým přijetím generativní umělé inteligence a zaostávajícím vývojem etických principů. Ochrana osobních údajů je hlavním etickým problémem, přičemž 22 % respondentů to uvádí jako svou hlavní obavu. Navzdory tomu 39 % respondentů věří, že kognitivní technologie mají největší potenciál pro společenské dobro. Průzkum také ukazuje posun v očekávání směrem k zapojení vlády do stanovování etických technologických standardů.
- Také mateřská společnost Snapchat, Snap, je pod drobnohledem rizik pro ochranu soukromí související s jeho AI chatbotem „Moje AI“. Úřad britského komisaře pro informace (ICO) vydal předběžné oznámení o vynucování, které může mít dopad na činnosti společnosti Snap v oblasti zpracování dat. ICO tvrdí, že Snap nedokázal posoudit dopady na soukromí uživatelů, zejména dětí.
| PODOBNÉ ČLÁNKY: Vedoucí představitelé umělé inteligence varují před rostoucími riziky a etickými obavami při rychlém pokroku |
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
