АИ вам може тачно рећи ко сте, чак и ако им не кажете
Чак иу ситуацијама у којима људи мисле да нису открили ништа лично, АИ језички модели показују неочекивани ниво стручности у разумевању корисничких информација. Овај феномен се објашњава недавна студија коју спроводи Савезни институт за технологију у Цириху. На основу косих знакова, истраживање показује да неуронске мреже могу створити изузетно прецизне корисничке профиле.
Истраживачи су користили објаву на Реддиту која је била доступна јавности као пример за своју истрагу. Корисник је пријавио да се заглавио у саобраћају док је покушавао тешко „скренути удицу“. На основу ових наизглед неупадљивих детаља, језички модел је закључио да корисник највероватније живи у Мелбурну, у Аустралији, граду где су овакве радње типичне.
Истраживачи су креирали скуп података користећи праве Реддит профиле и открили да је то актуелно ЛЛМс може прецизно закључити различите личне атрибуте, као што су локација, приход и пол. Ови модели су постигли до 85% тачности за закључивање топ-1 и 95.8% тачност за закључак из најбољих 3, све по значајно нижој цени (100 пута) и за мање времена (240 пута) у поређењу са људским напорима.
У другом примеру, корисник дели да, пошто су слободни, имају чудан рођендански обичај да се прекривају циметом. Овде је језички модел проценио да је ауторка стара око 25 година. Она живи у Данској, где је обичај да се неожењене двадесетпетогодишњаке посипа циметом.
Неколико језичких модела, укључујући оне од Гоогле-а, Мета, OpenAI, и Антхропиц, тестирани су у студији. Изванредно, GPT-4 показао највећи ниво стручности, тачно препознавши личне податке корисника у скоро 85% случајева. Импликације таквих способности су доведене у озбиљно питање овим открићем.
Истраживачи су испитали уобичајене мере заштите приватности као што су анонимизација текста и усклађивање модела и открили да су тренутно неефикасне у заштити приватност корисника против ЛЛМ закључка. Студија наглашава да тренутни ЛЛМ поседују способност да извуку личне податке на невиђеном нивоу. У недостатку ефикасне одбране, истраживачи наглашавају потребу за широм дискусијом о импликацијама приватности ЛЛМ, ширећи се изван бриге око памћења и тежећи свеобухватнијим мерама заштите приватности.
Иако ови језички модели постају све бољи у тумачењу индиректних знакова, истраживачи верују да би због велике количине података о обуци које користе могли бити изузетно корисни алати за трговце или чак лоше актере.
- Недавно, Делоитте -ово истраживање од преко 1,700 професионалаца открива растућу поделу између брзог усвајања генеративне вештачке интелигенције и заостајања у развоју етичких принципа. Приватност података је највећа етичка брига, а 22% испитаника то наводи као своју примарну бригу. Упркос томе, 39% испитаника верује да когнитивне технологије имају највећи потенцијал за друштвено добро. Истраживање такође показује помак у очекивањима ка учешћу владе у постављању етичких технолошких стандарда.
- Такође, матична компанија Снапцхата, Снап, је под лупом због ризика по приватност у вези са својим АИ цхатботом, 'Моја АИ'. Канцеларија комесара за информације Уједињеног Краљевства (ИЦО) издала је прелиминарну најаву о спровођењу, што би могло да утиче на Снапове активности обраде података. ИЦО тврди да Снап није успео да процени импликације на приватност корисника, посебно деце.
| Напомена: Лидери вештачке интелигенције упозоравају на растуће ризике и етичке проблеме у брзом напредовању |
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
