AI var precīzi pateikt, kas jūs esat, pat ja jūs viņiem nestāstiet
Pat situācijās, kad cilvēki domā, ka nav atklājuši neko personisku, AI valodas modeļi demonstrē negaidītu prasmju līmeni lietotāja informācijas izpratnē. Šī parādība tiek skaidrota ar nesen veikts pētījums ko veica Cīrihes Federālais tehnoloģiju institūts. Pamatojoties uz slīpām norādēm, pētījums liecina, ka neironu tīkli var izveidot ļoti precīzus lietotāju profilus.
Pētnieki kā piemēru savai izmeklēšanai izmantoja Reddit ziņu, kas bija pieejama sabiedrībai. Lietotājs ziņoja, ka ir iestrēdzis satiksmē, mēģinot veikt sarežģītu "āķa pagriezienu". Pamatojoties uz šīm šķietami neievērojamajām detaļām, valodas modelis secināja, ka lietotājs, visticamāk, dzīvo Melburnā, Austrālijā, pilsētā, kur šāda veida darbības ir raksturīgas.
Pētnieki izveidoja datu kopu, izmantojot reālus Reddit profilus, un atklāja, ka tas ir aktuāls LLM var precīzi secināt dažādas personiskās īpašības, piemēram, atrašanās vietu, ienākumus un dzimumu. Šie modeļi sasniedza līdz pat 85% precizitāti top-1 secinājumiem un 95.8% precizitāti top-3 secinājumiem, un tas viss par ievērojami zemākām izmaksām (100 reizes) un īsākā laikā (240 reizes) salīdzinājumā ar cilvēka pūlēm.
Citā piemērā lietotājs stāsta, ka, tā kā viņi ir vientuļi, viņam ir dīvaina dzimšanas dienas paradums, kad viņi tiek pārklāti ar kanēli. Lūk, valodas modelī autores vecums bija aptuveni 25. Viņa dzīvo Dānijā, kur pieņemts apkaisīt ar kanēli vientuļus 25 gadus vecus.
Vairāki valodu modeļi, tostarp Google, Meta, OpenAI, un Anthropic, tika pārbaudīti pētījumā. Ievērojami, GPT-4 uzrādīja visaugstāko zināšanu līmeni, pareizi atpazīstot lietotāju personisko informāciju gandrīz 85% gadījumu. Šī atklāsme liek nopietni apšaubīt šādu spēju ietekmi.
Pētnieki pārbaudīja tādus izplatītus privātuma aizsardzības pasākumus kā teksta anonimizācija un modeļu saskaņošana un konstatēja, ka tie pašlaik nav efektīvi. lietotāja privātums pret LLM secinājumiem. Pētījumā uzsvērts, ka pašreizējiem LLM ir iespēja izsecināt personisko informāciju vēl nebijušā mērogā. Tā kā nav efektīvas aizsardzības, pētnieki uzsver nepieciešamību pēc plašākas diskusijas par LLM privātuma ietekmi, kas pārsniedz bažas par iegaumēšanu, un tiekties pēc visaptverošākiem privātuma aizsardzības pasākumiem.
Lai gan šie valodu modeļi kļūst arvien labāki, interpretējot netiešās norādes, pētnieki uzskata, ka lielā apmācības datu apjoma dēļ tie varētu būt ļoti noderīgi rīki tirgotājiem vai pat sliktiem dalībniekiem.
- Nesen, Deloitte aptauja Vairāk nekā 1,700 profesionāļu pieredze atklāj pieaugošu plaisu starp straujo ģeneratīvā AI ieviešanu un ētisko principu atpalicību. Datu privātums ir galvenā ētiskā problēma, un 22% respondentu to min kā galveno rūpju. Neskatoties uz to, 39% respondentu uzskata, ka kognitīvajām tehnoloģijām ir vislielākais potenciāls sabiedrības labā. Aptauja arī parāda cerību maiņu uz valdības iesaistīšanos ētisko tehnoloģiju standartu noteikšanā.
- Arī Snapchat mātes uzņēmums Snap, tiek rūpīgi pārbaudīts attiecībā uz privātuma riskiem saistīts ar tā AI tērzēšanas robotu “Mans AI”. Apvienotās Karalistes Informācijas komisāra birojs (ICO) ir izdevis provizorisku izpildes paziņojumu, kas, iespējams, ietekmēs Snap datu apstrādes darbības. ICO apgalvo, ka Snap nav novērtējis ietekmi uz lietotāju, īpaši bērnu, privātumu.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
