Masasabi sa Iyo ng AI kung Sino Ka, Kahit Hindi Mo Sinasabi sa Kanila
Kahit na sa mga sitwasyon kung saan inaakala ng mga tao na hindi sila nagsiwalat ng anumang bagay na personal, ang mga modelo ng wika ng AI ay nagpapakita ng hindi inaasahang antas ng kahusayan sa pag-unawa sa impormasyon ng user. Ang kababalaghang ito ay ipinaliwanag ng isang kamakailan-lamang na pag-aaral isinagawa ng Federal Institute of Technology sa Zurich. Batay sa mga pahilig na pahiwatig, ipinahihiwatig ng pananaliksik na ang mga neural network ay maaaring lumikha ng kapansin-pansing tumpak na mga profile ng gumagamit.
Gumamit ang mga mananaliksik ng isang Reddit post na naa-access sa publiko bilang isang halimbawa para sa kanilang pagsisiyasat. Iniulat ng user na na-stuck sa trapiko habang sinusubukan ang isang mahirap na "hook turn." Batay sa mga mukhang hindi kapansin-pansing mga detalyeng ito, ang modelo ng wika ay naghinuha na ang gumagamit ay malamang na nakatira sa Melbourne, Australia, isang lungsod kung saan ang mga ganitong uri ng pagkilos ay karaniwan.
Ang mga mananaliksik ay lumikha ng isang dataset gamit ang mga totoong Reddit na profile at natagpuan na ang kasalukuyan Mga LLM tumpak na mahihinuha ang iba't ibang mga personal na katangian, tulad ng lokasyon, kita, at kasarian. Nakamit ng mga modelong ito ang hanggang 85% na katumpakan para sa top-1 na inference at 95.8% na katumpakan para sa top-3 na inference, lahat sa makabuluhang mas mababang gastos (100 beses) at sa mas kaunting oras (240 beses) kumpara sa mga pagsisikap ng tao.
Sa isa pang halimbawa, ibinahagi ng isang user na, dahil single sila, mayroon silang kakaibang custom sa kaarawan na masakop sa cinnamon. Dito, tinantiya ng modelo ng wika ang edad ng may-akda na mga 25. Nakatira siya sa Denmark, kung saan kaugalian na magwiwisik ng kanela sa mga nag-iisang 25 taong gulang.
Ilang modelo ng wika, kabilang ang mula sa Google, Meta, OpenAI, at Anthropic, ay nasubok sa pag-aaral. Kapansin-pansin, GPT-4 ay nagpakita ng pinakamataas na antas ng kadalubhasaan, wastong kinikilala ang personal na impormasyon ng mga user sa halos 85% ng mga pagkakataon. Ang mga implikasyon ng gayong mga kakayahan ay pinag-uusapan ng paghahayag na ito.
Sinuri ng mga mananaliksik ang mga karaniwang pag-iingat sa privacy tulad ng text anonymization at pag-align ng modelo at nalaman nilang kasalukuyang hindi epektibo ang mga ito sa pag-iingat. privacy ng gumagamit laban sa hinuha ng LLM. Binibigyang-diin ng pag-aaral na ang mga kasalukuyang LLM ay nagtataglay ng kakayahang maghinuha ng personal na impormasyon sa hindi pa nagagawang sukat. Sa kawalan ng mga epektibong depensa, binibigyang-diin ng mga mananaliksik ang pangangailangan para sa isang mas malawak na talakayan sa mga implikasyon sa privacy ng LLM, na lumalampas sa mga alalahanin tungkol sa pagsasaulo, at nagsusumikap para sa mas malawak na mga hakbang sa proteksyon sa privacy.
Bagama't ang mga modelo ng wikang ito ay nagiging mas mahusay sa pagbibigay-kahulugan sa mga hindi direktang pahiwatig, naniniwala ang mga mananaliksik na dahil sa malaking dami ng data ng pagsasanay na ginagamit nila, maaari silang maging lubhang kapaki-pakinabang na mga tool para sa mga marketer o kahit na masasamang aktor.
- Kamakailan lamang, Survey ni Deloitte sa mahigit 1,700 propesyonal ay nagpapakita ng lumalaking dibisyon sa pagitan ng mabilis na paggamit ng generative AI at ang nahuhuling pag-unlad ng mga prinsipyong etikal. Ang privacy ng data ay ang nangungunang etikal na alalahanin, na may 22% ng mga respondent na binanggit ito bilang kanilang pangunahing alalahanin. Sa kabila nito, 39% ng mga sumasagot ay naniniwala na ang mga teknolohiyang nagbibigay-malay ang may pinakamalaking potensyal para sa kabutihan ng lipunan. Ang survey ay nagpapakita rin ng pagbabago sa mga inaasahan tungo sa paglahok ng gobyerno sa pagtatakda ng mga pamantayan sa etikal na teknolohiya.
- Gayundin, ang pangunahing kumpanya ng Snapchat, Snap, ay nasa ilalim ng pagsisiyasat para sa mga panganib sa privacy nauugnay sa AI chatbot nito, 'My AI'. Ang Information Commissioner's Office (ICO) ng UK ay naglabas ng paunang abiso sa pagpapatupad, na posibleng makaapekto sa mga aktibidad sa pagproseso ng data ng Snap. Sinasabi ng ICO na nabigo ang Snap na tasahin ang mga implikasyon sa privacy para sa mga user, partikular na ang mga bata.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
