Umelá inteligencia vám môže presne povedať, kto ste, aj keď im to nehovoríte
Dokonca aj v situáciách, keď si ľudia myslia, že neprezradili nič osobné, jazykové modely AI demonštrujú neočakávanú úroveň odbornosti v porozumení užívateľským informáciám. Tento jav sa vysvetľuje tým nedávna štúdia ktoré uskutočnil Federálny technologický inštitút v Zürichu. Na základe šikmých signálov výskum naznačuje, že neurónové siete môžu vytvárať pozoruhodne presné užívateľské profily.
Výskumníci použili ako príklad pre svoje vyšetrovanie príspevok na Reddit, ktorý bol prístupný verejnosti. Používateľ nahlásil uviaznutie v premávke pri pokuse o náročnú odbočku na háku. Na základe týchto zdanlivo nevýrazných detailov jazykový model vyvodil, že používateľ s najväčšou pravdepodobnosťou žije v Melbourne v Austrálii, v meste, kde sú tieto druhy akcií typické.
Výskumníci vytvorili súbor údajov pomocou skutočných profilov Reddit a zistili, že sú aktuálne LLM dokáže presne odvodiť rôzne osobné atribúty, ako je poloha, príjem a pohlavie. Tieto modely dosiahli až 85% presnosť pre top-1 odvodenie a 95.8% presnosť pre top-3 odvodenie, to všetko pri výrazne nižších nákladoch (100-krát) a za kratší čas (240-krát) v porovnaní s ľudským úsilím.
V inom príklade používateľ zdieľa, že keďže je slobodný, má zvláštny narodeninový zvyk, že sa pokryje škoricou. Tu jazykový model odhadol vek autorky na približne 25. Žije v Dánsku, kde je zvykom posypať slobodných 25-ročných škoricou.
Niekoľko jazykových modelov vrátane modelov od Google, Meta, OpenAIa Antropické, boli v štúdii testované. Je pozoruhodné, GPT-4 preukázali najvyššiu úroveň odbornosti a správne rozpoznali osobné informácie používateľov v takmer 85 % prípadov. Dôsledky takýchto schopností sú týmto odhalením vážne spochybnené.
Výskumníci preskúmali bežné bezpečnostné opatrenia, ako je anonymizácia textu a zarovnanie modelov, a zistili, že sú v súčasnosti neúčinné pri ochrane súkromie používateľa proti dedukcii LLM. Štúdia podčiarkuje, že súčasné LLM majú schopnosť odvodzovať osobné informácie v bezprecedentnom rozsahu. Pri absencii účinnej obrany výskumníci zdôrazňujú potrebu širšej diskusie o dôsledkoch ochrany súkromia LLM, ktorá presahuje obavy týkajúce sa zapamätania a usiluje sa o komplexnejšie opatrenia na ochranu súkromia.
Hoci sa tieto jazykové modely zlepšujú v interpretácii nepriamych podnetov, výskumníci sa domnievajú, že kvôli veľkému množstvu tréningových údajov, ktoré používajú, by mohli byť mimoriadne užitočnými nástrojmi pre obchodníkov alebo dokonca zlých aktérov.
- Nedávno, Prieskum spoločnosti Deloitte viac ako 1,700 22 profesionálov odhaľuje rastúcu priepasť medzi rýchlym prijatím generatívnej AI a zaostávajúcim vývojom etických princípov. Ochrana osobných údajov je hlavným etickým problémom, pričom 39 % respondentov to uviedlo ako svoju hlavnú obavu. Napriek tomu XNUMX % respondentov verí, že kognitívne technológie majú najväčší potenciál pre spoločenské dobro. Prieskum tiež ukazuje posun v očakávaniach smerom k zapojeniu vlády do stanovovania etických technologických štandardov.
- Tiež materská spoločnosť Snapchat, Snap, je pod drobnohľadom kvôli rizikám ochrany súkromia súvisiaci s jeho AI chatbotom „Moja AI“. Kancelária komisára pre informácie v Spojenom kráľovstve (ICO) vydala predbežné oznámenie o presadzovaní práva, ktoré môže mať vplyv na činnosti spracovania údajov spoločnosti Snap. ICO tvrdí, že Snap nedokázal posúdiť dôsledky ochrany súkromia pre používateľov, najmä deti.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
