AI u politici: Predviđanje izbora i javnog mnijenja pomoću LLM-a
Ukratko
Kako se približavaju 60. predsjednički izbori u SAD-u, uloga interneta i društvenih mreža u oblikovanju političkog diskursa je pod lupom, posebice nakon skandala Cambridge Analytica. Očekuje se da će se digitalni pejzaž promijeniti s napretkom u umjetnoj inteligenciji, kao što su jezični modeli uvježbani na medijskim dijetama i OpenAI'S GPT-4.
Drugi problem je potencijal za manipulaciju društvenih mreža vođenu umjetnom inteligencijom, kao što je automatizacija tvornica trolova i moderiranje sadržaja. OpenAI'S GPT-4 je uveden kako bi se ubrzao proces ažuriranja pravila moderiranja sadržaja, skraćujući vremenski rok s mjeseci na samo sate. Model u prosjeku nadmašuje standardne moderatore sadržaja, ali još uvijek zaostaje za stručnošću iskusnih ljudskih moderatora.
Uvođenje GPT-4 je spreman uvesti nove inovacije, osobito u politici i izborima, uz nagađanja da OpenAI mogao postati ekskluzivni pružatelj.
Kako se približavaju 60. predsjednički izbori u Sjedinjenim Državama, uloga interneta i društvenih mreža u oblikovanju političkog diskursa pod lupom je, posebice nakon Skandal Cambridge Analytica. Postavlja se značajno pitanje: Kako će izgledati digitalni krajolik tijekom nadolazećih izbora i novih dostignuća u AI?
Tijekom nedavnih saslušanja u Senatu, Senator Josh Hawley iz Missourija pokrenuo ovo kritično pitanje u kontekstu jezičnih modela. Osvrnuo se na članak pod naslovom "Jezični modeli uvježbani na medijskim dijetama mogu predvidjeti javno mnijenje” čiji su autori istraživači s MIT-a i Stanforda. Ovo istraživanje istražuje potencijal korištenja neuronskih mreža za predviđanje javnog mnijenja na temelju novinskih članaka, koncepta koji bi mogao značajno utjecati na političke kampanje.
U članku se opisuje metodologija u kojoj se jezični modeli početno obučavaju na određenim skupovima vijesti predvidjeti riječi koje nedostaju u određenom kontekstu, slično BERT modeli. Sljedeći korak uključuje dodjeljivanje rezultata, označenih kao "s", za procjenu izvedbe modela. Evo pregleda procesa:
- Formulirana je teza, na primjer, "Zahtjev za zatvaranje većine poduzeća, osim trgovina mješovitom robom i ljekarni, u cilju borbe protiv epidemije koronavirusa."
- Naime, u diplomskom radu postoji praznina. Jezični modeli koriste se za procjenu vjerojatnosti popunjavanja ove praznine određenim riječima.
- Procjenjuje se vjerojatnost različitih riječi, poput "potrebno" ili "nepotrebno".
- Ova je vjerojatnost normalizirana u odnosu na osnovni nedovoljno obučeni model, koji neovisno mjeri učestalost riječi koja se pojavljuje u danom kontekstu. Rezultirajući razlomak predstavlja ocjenu "s", koja karakterizira nove informacije uvedene skupom podataka iz medija u vezi s postojećim znanjem.
Model uzima u obzir stupanj angažiranosti određene skupine pojedinaca s vijestima o određenoj temi. Ovaj dodatni sloj poboljšava kvalitetu predviđanja, mjereno korelacijom između predviđanja modela i mišljenja ljudi o izvornoj tezi.
Tajna je u tome što su teze i vijesti kategorizirane prema datumu. Proučavajući vijesti vezane uz prve mjesece izbijanja koronavirusa, postalo je moguće predvidjeti reakcije ljudi na predložene mjere i promjene.
Mjerni podaci se možda ne čine impresivnima, a sami autori naglašavaju da njihova otkrića ne impliciraju da umjetna inteligencija može u potpunosti zamijeniti ljudsko sudjelovanje u procesu, ili modeli mogu zamijeniti ljudske ankete. Umjesto toga, ove AI alati služe kao pomoć pri sažimanju golemih količina podataka i identificiranju potencijalno plodnih područja za daljnje istraživanje.
Zanimljivo je da je senator došao do drugačijeg zaključka, izrazivši zabrinutost zbog predobrih modela i potencijalnih opasnosti povezanih s tim. Postoji određena valjanost ove perspektive, s obzirom na to da članak prikazuje prilično osnovne modele i buduće iteracije poput GPT-4 mogao potencijalno ponuditi značajna poboljšanja.
Rastući izazov manipulacije društvenim mrežama vođene umjetnom inteligencijom
U nedavnim raspravama razgovor se skrenuo s nadolazećih predsjedničkih izbora na zabrinjavajuću temu korištenja modela jezičnih modela (LLM), čak i na lokalnoj razini, za izradu i popunjavanje lažnih računa na društvenim mrežama. Ova rasprava naglašava potencijal automatizacije tvornica trolova s naglaskom na propagandu i ideološki utjecaj.
Iako se ovo možda ne čini revolucionarnim s obzirom na tehnologiju koja se već koristi, razlika leži u veličini. LLM-i mogu biti zaposleni kontinuirano, ograničeni samo dodijeljenim GPU proračunom. Nadalje, za održavanje razgovora i niti, dodatni, manje napredni botovi mogu se pridružiti raspravama i odgovoriti. Sumnjiva je njihova učinkovitost u uvjeravanju korisnika. Hoće li dobro osmišljen bot istinski promijeniti nečije političko stajalište, navodeći ih da razmišljaju: “Što su ti demokrati učinili? Trebao bih glasati za republikance”?
Pokušaj da se svakom online korisniku dodijeli troll zaposlenik za sustavno uvjeravanje je nepraktičan, podsjeća na vic "pola sjedi, pola stoji". Nasuprot tome, bot osnažen naprednim neuronskim mrežama ostaje neumoran, sposoban surađivati s desecima milijuna pojedinaca istovremeno.
Potencijalna protumjera uključuje pripremu društvenih medija računa simulirajući ljudsko ponašanje. Botovi mogu oponašati prave korisnike raspravljajući o osobnim iskustvima i objavljujući raznolik sadržaj, a da pritom zadrže dojam normalnosti.
Iako ovo možda neće biti gorući problem 2024., sve je vjerojatnije da će postati značajan izazov do 2028. Rješavanje ovog problema predstavlja složenu dilemu. Treba li u izbornoj sezoni onemogućiti društvene mreže? Neizvedivo. Edukacija javnosti da ne nedvojbeno vjerujte online sadržaju? Nepraktičan. Gubitak izbora zbog manipulacija? Nepoželjno.
Alternativa bi mogla uključivati napredno moderiranje sadržaja. Manjak ljudskih moderatora i ograničena učinkovitost postojećih modela detekcije teksta, čak i onih iz OpenAI, bacaju sumnju na održivost ovog rješenja.
OpenAI'S GPT-4 Ažurira moderiranje sadržaja s brzom prilagodbom pravila
OpenAI, pod vodstvom Lilian Weng, nedavno je predstavio projekt pod nazivom "Korištenje GPT-4 za moderiranje sadržaja.” Ovo ubrzava proces ažuriranja pravila moderiranja sadržaja, smanjujući vremensku traku s mjeseci na samo sate. GPT-4 pokazuje iznimnu sposobnost razumijevanja pravila i suptilnosti unutar sveobuhvatnih smjernica sadržaja, trenutno se prilagođava svim revizijama, čime se osigurava dosljednija procjena sadržaja.
Ovaj sofisticirani sustav moderiranja sadržaja genijalno je jednostavan, kao što je prikazano u popratnom GIF-u. Ono što ga izdvaja je GPT-4Njegovo izvanredno umijeće u razumijevanju pisanog teksta, pothvat kojim čak ni ljudi ne vladaju univerzalno.
Evo kako funkcionira:
- Nakon izrade smjernica ili uputa za moderiranje, stručnjaci odabiru ograničen skup podataka koji sadrži slučajeve kršenja i dodjeljuju odgovarajuće oznake u skladu s politikom kršenja.
- GPT-4 naknadno shvaća skup pravila i označava podatke bez pristupa odgovorima.
- U slučajevima nesrazmjera između GPT-4 odgovora i ljudskih prosudbi, stručnjaci mogu tražiti pojašnjenja GPT-4, analizirati nejasnoće unutar upute defii otkloniti svaku zabunu dodatnim pojašnjenjem, označenim plavim korakom u GIF-u.
Ovaj iterativni proces koraka 2 i 3 može se ponavljati sve dok izvedba algoritma ne zadovolji željeni standard. Za velike primjene, GPT-4 predviđanja se mogu koristiti za treniranje znatno manjeg modela, koji može pružiti usporedivu kvalitetu.
OpenAI je otkrio metriku za procjenu 12 različitih vrsta kršenja. U prosjeku, model nadmašuje standardne moderatore sadržaja, ali još uvijek zaostaje za stručnošću iskusnih i dobro obučenih ljudskih moderatora. Ipak, jedan uvjerljiv aspekt je njegova isplativost.
Vrijedno je napomenuti da su modeli strojnog učenja korišteni u auto-moderacija nekoliko godina. Uvođenje GPT-4 je spreman uvesti nove inovacije, posebice u području politike i izbora. Postoje čak i nagađanja da OpenAI mogao postati ekskluzivni pružatelj službeno odobrenog TrueModerationAPI™ od strane Bijela kuća, posebno u svjetlu njihovih nedavnih partnerskih nastojanja. Budućnost nosi uzbudljive mogućnosti u ovoj domeni.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članakaDamir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.