AI gali tiksliai pasakyti, kas jūs esate, net jei nesate jiems
Net tais atvejais, kai žmonės mano, kad neatskleidė nieko asmeniško, AI kalbos modeliai rodo netikėtą vartotojo informacijos supratimo įgūdžių lygį. Šis reiškinys paaiškinamas tuo neseniai atliktas tyrimas atliko Federalinis technologijos institutas Ciuriche. Remiantis įstrižais ženklais, tyrimas rodo, kad neuroniniai tinklai gali sukurti nepaprastai tikslius vartotojų profilius.
Tyrėjai savo tyrimui naudojo Reddit įrašą, kuris buvo prieinamas visuomenei. Naudotojas pranešė, kad įstrigo eisme bandydamas sunkiai pasukti „kabliu“. Remiantis šiomis, atrodytų, nepastebimomis detalėmis, kalbos modelis padarė išvadą, kad vartotojas greičiausiai gyvena Melburne, Australijoje – mieste, kuriame tokie veiksmai yra tipiški.
Tyrėjai sukūrė duomenų rinkinį naudodami tikrus Reddit profilius ir nustatė, kad dabar LLM gali tiksliai nustatyti įvairius asmeninius požymius, tokius kaip vieta, pajamos ir lytis. Šiais modeliais buvo pasiektas iki 85 % tikslumas 1 geriausių išvadų metu ir 95.8 % tikslumas – 3 geriausios išvados – visa tai už žymiai mažesnę kainą (100 kartų) ir per trumpesnį laiką (240 kartų), palyginti su žmogaus pastangomis.
Kitame pavyzdyje vartotojas dalijasi tuo, kad yra vienišas, todėl turi keistą gimtadienio paprotį pasidengti cinamonu. Čia kalbos modelis įvertino autorės amžių apie 25. Ji gyvena Danijoje, kur įprasta cinamonu apibarstyti vienišus 25 m.
Keli kalbų modeliai, įskaitant „Google“, „Meta“, OpenAI, ir Anthropic, buvo išbandyti tyrime. Nepaprastai, GPT-4 parodė didžiausią kompetencijos lygį, teisingai atpažindamas vartotojų asmeninę informaciją beveik 85 % atvejų. Šis apreiškimas kelia rimtų klausimų apie tokių gebėjimų pasekmes.
Tyrėjai ištyrė įprastas privatumo apsaugos priemones, pvz., teksto anonimiškumą ir modelių derinimą, ir nustatė, kad šiuo metu jos neveiksmingos. vartotojo privatumas prieš LLM išvadą. Tyrimas pabrėžia, kad dabartiniai LLM turi galimybę išvesti asmeninę informaciją precedento neturinčiu mastu. Nesant veiksmingų apsaugos priemonių, mokslininkai pabrėžia, kad reikia platesnės diskusijos apie LLM privatumo pasekmes, neapsiribojant susirūpinimu dėl įsiminimo, ir siekti išsamesnių privatumo apsaugos priemonių.
Nors šie kalbos modeliai vis geriau interpretuoja netiesiogines užuominas, mokslininkai mano, kad dėl didelio mokymo duomenų kiekio jie gali būti itin naudingi rinkodaros specialistams ar net blogiems veikėjams.
- Pastaruoju metu, Deloitte apklausa Daugiau nei 1,700 specialistų atskleidžia didėjančią atotrūkį tarp spartaus generatyvaus AI pritaikymo ir atsiliekančio etinių principų vystymosi. Duomenų privatumas yra didžiausias etinis susirūpinimas, o 22 % respondentų tai nurodė kaip pagrindinį rūpestį. Nepaisant to, 39 % respondentų mano, kad kognityvinės technologijos turi didžiausią visuomenės gerovės potencialą. Apklausa taip pat rodo, kad pasikeitė lūkesčiai dėl vyriausybės dalyvavimo nustatant etikos technologijų standartus.
- Be to, pagrindinė „Snapchat“ įmonė „Snap“, yra tikrinamas dėl privatumo rizikos susijusi su jos AI pokalbių robotu „Mano AI“. JK Informacijos komisaro biuras (ICO) paskelbė preliminarų vykdymo pranešimą, galintį turėti įtakos Snap duomenų tvarkymo veiklai. ICO teigia, kad „Snap“ neįvertino pasekmių vartotojų, ypač vaikų, privatumui.
| Susijęs: Dirbtinio intelekto lyderiai perspėja dėl didėjančios rizikos ir etinių rūpesčių sparčiai tobulėjant |
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
