АИ у политици: предвиђање избора и јавног мњења помоћу ЛЛМ
Укратко
Како се приближавају 60. амерички председнички избори, улога интернета и друштвених мрежа у обликовању политичког дискурса је под лупом, посебно након скандала Кембриџ аналитика. Очекује се да ће се дигитални пејзаж променити са напретком у вештачкој интелигенцији, као што су језички модели обучени на медијским дијетама и OpenAI'С GPT-4.
Друго питање је потенцијал за манипулацију друштвеним мрежама вођену вештачком интелигенцијом, као што је аутоматизација фабрика тролова и модерирање садржаја. OpenAI'С GPT-4 је уведен да убрза процес ажурирања правила модерирања садржаја, смањујући временску линију са месеци на само сате. Модел у просеку надмашује стандардне модераторе садржаја, али и даље заостаје за стручношћу искусних људских модератора.
Увод у GPT-4 је спреман да уведе нове иновације, посебно у политици и изборима, са спекулацијама да OpenAI могао постати ексклузивни добављач.
Како се приближавају 60. председнички избори у Сједињеним Државама, улога интернета и друштвених мрежа у обликовању политичког дискурса је под лупом, посебно након Скандал Цамбридге Аналитица. Поставља се значајно питање: Како ће изгледати дигитални пејзаж током предстојећих избора и нових достигнућа у АИ?
Током недавних саслушања у Сенату, Сенатор Џош Хоули из Мисурија покренуо ово критично питање у контексту језичких модела. Он се осврнуо на чланак под насловом „Језички модели обучени о медијској дијети могу предвидети јавно мњење” чији су аутори истраживачи са МИТ-а и Станфорда. Ово истраживање истражује потенцијал коришћења неуронских мрежа за предвиђање јавног мњења на основу новинских чланака, концепт који би могао значајно утицати на политичке кампање.
Чланак описује методологију где се језички модели иницијално обучавају на одређеним скуповима новински чланци предвидети речи које недостају у датом контексту, слично БЕРТ модели. Следећи корак укључује додељивање резултата, означених као „с“, за процену перформанси модела. Ево прегледа процеса:
- Формулисана је изјава о тези, на пример, „Захтев за затварање већине предузећа, осим продавница прехрамбених производа и апотека, у циљу борбе против избијања корона вируса“.
- Приметно је да постоји празнина у тези. Језички модели се користе за процену вероватноће попуњавања овог јаза одређеним речима.
- Процењује се вероватноћа појаве различитих речи, као што су „неопходно“ или „непотребно“.
- Ова вероватноћа је нормализована у односу на основни недовољно обучени модел, који независно мери учесталост речи која се појављује у датом контексту. Добијени разломак представља резултат „с“, који карактерише нове информације уведене скупом података из медија у вези са постојећим знањем.
Модел узима у обзир ниво ангажовања одређене групе појединаца са вестима о одређеној теми. Овај додатни слој побољшава квалитет предвиђања, мерен корелацијом између предвиђања модела и мишљења људи у вези са оригиналном тезом.
Тајна је у томе што су тезе и вести категорисане на основу датума. Проучавањем вести у вези са првим месецима избијања корона вируса, постало је могуће предвидети реакције људи на предложене мере и промене.
Показатељи можда неће изгледати импресивно, а сами аутори наглашавају да њихови налази не имплицирају да АИ може у потпуности да замени људско учешће у процесу, или модели могу заменити људске анкете. Уместо тога, ове АИ алати служе као помоћ при сумирању огромне количине података и идентификацији потенцијално плодних области за даља истраживања.
Занимљиво је да је сенатор дошао до другачијег закључка, изражавајући забринутост због тога што модели раде предобро и потенцијалне опасности повезане с тим. Ова перспектива има извесну валидност, с обзиром на то да чланак приказује прилично основне моделе и будуће итерације попут GPT-4 потенцијално може понудити значајна побољшања.
Све већи изазов манипулације друштвеним мрежама вођене вештачком интелигенцијом
У недавним дискусијама, разговор је скренуо са предстојећих председничких избора ка забрињавајућој теми коришћења модела језичких модела (ЛЛМ), чак и на локализованом нивоу, за фабриковање и попуњавање лажних налога широм друштвених мрежа. Ова дискусија подвлачи потенцијал за аутоматизацију фабрика тролова са нагласком на пропаганди и идеолошком утицају.
Иако ово можда неће изгледати револуционарно с обзиром на технологију која се већ користи, разлика лежи у размери. ЛЛМ могу бити запослени континуирано, ограничени само додељеним буџетом за ГПУ. Штавише, за одржавање разговора и нити, додатни, мање напредни ботови могу да се придруже дискусијама и да одговоре. Њихова ефикасност у убеђивању корисника је сумњива. Да ли ће добро направљен бот истински променити нечији политички став, наводећи га на размишљање: „Шта су ове демократе урадиле? Требало би да гласам за републиканце”?
Покушај да се сваком онлајн кориснику додели трол за систематско убеђивање је непрактичан, подсећа на виц „пола седи, пола стоји“. Насупрот томе, бот оснажен напредним неуронским мрежама остаје неуморан, способан да се бави са десетинама милиона појединаца истовремено.
Потенцијална контрамера укључује припрему друштвени медији рачуна симулацијом понашања налик човеку. Ботови могу да опонашају праве кориснике тако што разговарају о личним искуствима и објављују разноврстан садржај уз одржавање изгледа нормалног.
Иако ово можда неће бити хитно питање у 2024. години, све је вероватније да ће постати значајан изазов до 2028. Рјешавање овог проблема представља сложену дилему. Да ли у изборној сезони треба онемогућити друштвене мреже? Неизводљиво. Образовање јавности да не несумњиво веровати онлајн садржају? Непрактично. Губитак избора због манипулације? Непожељно.
Алтернатива би могла укључивати напредно модерирање садржаја. Недостатак људских модератора и ограничена ефикасност постојећих модела детекције текста, чак и оних из OpenAI, доводе у сумњу одрживост овог решења.
OpenAI'С GPT-4 Ажурира модерирање садржаја уз брзу адаптацију правила
OpenAI, под вођством Лилиан Венг, недавно је представио пројекат под називом „Коришћење GPT-4 за модерирање садржаја.” Ово убрзава процес ажурирања правила модерирања садржаја, смањујући временску линију са месеци на само сате. GPT-4 показује изузетну способност да разуме правила и суптилности у оквиру свеобухватних смерница за садржај, тренутно се прилагођава свим ревизијама, чиме се обезбеђује доследнија процена садржаја.
Овај софистицирани систем модерирања садржаја је генијално једноставан, као што је приказано у пропратном ГИФ-у. Оно што га издваја је GPT-4Његово изванредно знање у разумевању писаног текста, подвиг којим чак ни људи нису универзално овладали.
Ево како функционише:
- Након израде смерница или упутстава за модерирање, стручњаци бирају ограничен скуп података који садржи случајеве кршења правила и додељују одговарајуће ознаке у складу са смерницама за кршење правила.
- GPT-4 накнадно схвата скуп правила и означава податке без приступа одговорима.
- У случајевима диспаритета између GPT-4 одговоре и људске просудбе, стручњаци могу тражити појашњења од GPT-4, анализира нејасноће у оквиру инструкције defiи разбијте сваку забуну кроз додатна појашњења, означена плавим текстом корака у ГИФ-у.
Овај итеративни процес корака 2 и 3 може се понављати све док перформансе алгоритма не достигну жељени стандард. За велике примене, GPT-4 предвиђања се могу користити за обуку значајно мањег модела, који може да пружи упоредив квалитет.
OpenAI је открио метрику за процену 12 различитих врста кршења. У просеку, модел надмашује стандардне модераторе садржаја, али и даље заостаје за стручношћу искусних и добро обучених људских модератора. Ипак, један убедљив аспект је његова исплативост.
Вреди напоменути да су модели машинског учења коришћени у ауто-модерација већ неколико година. Увод у GPT-4 је спреман да уведе нове иновације, посебно у области политике и избора. Чак се и спекулише да OpenAI могао постати ексклузивни добављач званично одобреног ТруеМодератионАПИ™ од стране Бела Кућа, посебно у светлу њихових недавних партнерских подухвата. Будућност има узбудљиве могућности у овој области.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
