A mesterséges intelligencia meg tudja mondani, hogy pontosan ki vagy, még akkor is, ha nem mondod el nekik
Még olyan helyzetekben is, amikor az emberek azt hiszik, hogy nem árultak el semmi személyeset, az AI nyelvi modellek nem várt szintű jártasságot mutatnak a felhasználói információk megértésében. Ezt a jelenséget azzal magyarázzák egy közelmúltbeli tanulmány a zürichi Szövetségi Technológiai Intézet végezte. A ferde jelzések alapján a kutatás azt jelzi, hogy a neurális hálózatok rendkívül pontos felhasználói profilokat tudnak létrehozni.
A kutatók egy, a nyilvánosság számára hozzáférhető Reddit-bejegyzést használtak példaként a vizsgálatukhoz. A felhasználó arról számolt be, hogy elakadt a forgalomban, miközben megpróbált egy nehéz „horogkanyarodást”. E látszólag nem figyelemre méltó részletek alapján a nyelvi modell arra a következtetésre jutott, hogy a felhasználó nagy valószínűséggel Melbourne-ben, Ausztráliában él, egy olyan városban, ahol az ilyen jellegű tevékenységek jellemzőek.
A kutatók valódi Reddit-profilok felhasználásával létrehoztak egy adatkészletet, és megállapították, hogy ez aktuális LLM-ek pontosan tud következtetni különféle személyes tulajdonságokra, mint például a hely, a jövedelem és a nem. Ezek a modellek akár 85%-os pontosságot értek el az első számú következtetésnél, és 1%-os pontosságot a top-95.8 következtetésnél, mindezt lényegesen alacsonyabb költséggel (3-szor) és rövidebb idő alatt (100-szer) az emberi erőfeszítésekhez képest.
Egy másik példában egy felhasználó megosztja, hogy mivel egyedülállók, furcsa születésnapi szokásuk van, amikor beborítják a fahéjat. Itt a nyelvi modell körülbelül 25 évre becsülte a szerző életkorát. Dániában él, ahol az egyedülálló 25 éveseket szokás fahéjjal meghinteni.
Számos nyelvi modell, köztük a Google, a Meta, OpenAI, és Anthropic, tesztelték a tanulmányban. Feltűnően, GPT-4 a legmagasabb szintű szakértelemről tett tanúbizonyságot, az esetek csaknem 85%-ában helyesen ismerte fel a felhasználók személyes adatait. Az ilyen képességek következményeit ez a kinyilatkoztatás komolyan megkérdőjelezi.
A kutatók megvizsgálták az olyan általános adatvédelmi biztosítékokat, mint a szöveg anonimizálása és a modellek összehangolása, és azt találták, hogy ezek jelenleg nem hatékonyak a védelemben. felhasználói adatvédelem az LLM következtetés ellen. A tanulmány kiemeli, hogy a jelenlegi LLM-ek képesek arra, hogy soha nem látott mértékben képesek legyenek személyes adatokra következtetni. Hatékony védekezés hiányában a kutatók hangsúlyozzák, hogy szélesebb körű vitára van szükség az LLM adatvédelmi vonatkozásairól, túlmutatva a memorizálással kapcsolatos aggályokon, és átfogóbb adatvédelmi intézkedésekre kell törekedni.
Bár ezek a nyelvi modellek egyre jobban értelmezik a közvetett jeleket, a kutatók úgy vélik, hogy az általuk felhasznált nagy mennyiségű képzési adat miatt rendkívül hasznos eszközök lehetnek a marketingesek vagy akár a rossz szereplők számára.
- Legutóbb, A Deloitte felmérése A több mint 1,700 szakember által végzett felmérés azt mutatja, hogy egyre nagyobb a szakadék a generatív mesterséges intelligencia gyors elterjedése és az etikai elvek elmaradott fejlődése között. Az adatvédelem a legfontosabb etikai aggály, a válaszadók 22%-a ezt jelölte meg elsődleges aggályaként. Ennek ellenére a válaszadók 39%-a úgy gondolja, hogy a kognitív technológiákban rejlik a legnagyobb társadalmi javak potenciálja. A felmérés azt is mutatja, hogy az etikai technológiai normák meghatározásában való kormányzati részvétel iránti elvárások megváltoztak.
- Továbbá a Snapchat anyavállalata, a Snap, adatvédelmi kockázatok miatt vizsgálják az AI chatbotjához, a „My AI”-hoz kapcsolódik. Az Egyesült Királyság Információs Biztosának Hivatala (ICO) előzetes végrehajtási közleményt adott ki, amely potenciálisan hatással lehet a Snap adatfeldolgozási tevékenységére. Az ICO azt állítja, hogy a Snap nem értékelte a felhasználók, különösen a gyermekek adatvédelmi vonatkozásait.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
