Umelá inteligencia v politike: Predvídanie volieb a verejnej mienky pomocou LLM
Stručne
Ako sa blížia 60. prezidentské voľby v USA, úloha internetu a sociálnych sietí pri formovaní politického diskurzu je pod drobnohľadom, najmä po škandále Cambridge Analytica. Očakáva sa, že digitálne prostredie sa zmení s pokrokom v AI, ako sú jazykové modely trénované na mediálnych diétach a OpenAI'S GPT-4.
Ďalším problémom je potenciál pre manipuláciu so sociálnymi sieťami riadenú AI, ako je automatizácia tovární na trollov a moderovanie obsahu. OpenAI'S GPT-4 bol zavedený s cieľom urýchliť proces aktualizácie pravidiel moderovania obsahu, čím sa skráti časová os z mesiacov na iba hodiny. Model v priemere prekonáva štandardných moderátorov obsahu, no stále zaostáva za odbornosťou skúsených ľudských moderátorov.
Zavedenie GPT-4 je pripravená uviesť na trh nové inovácie, najmä v politike a voľbách, so špekuláciami, že OpenAI sa môže stať výhradným poskytovateľom.
S blížiacimi sa 60. prezidentskými voľbami v Spojených štátoch je úloha internetu a sociálnych sietí pri formovaní politického diskurzu pod drobnohľadom, najmä v dôsledku Škandál Cambridge Analytics. Vynára sa významná otázka: Ako bude vyzerať digitálna krajina počas nadchádzajúcich volieb a nových úspechov v AI?
Počas nedávnych pojednávaní v senáte Senátor Josh Hawley z Missouri nastolil túto kritickú otázku v kontexte jazykových modelov. Odvolával sa na článok s názvom „Jazykové modely vyškolené na mediálne diéty dokážu predpovedať verejnú mienku“, ktorých autorom sú výskumníci z MIT a Stanfordu. Tento výskum skúma potenciál použitia neurónových sietí na predpovedanie verejnej mienky na základe spravodajských článkov, čo je koncept, ktorý by mohol výrazne ovplyvniť politické kampane.
Článok popisuje metodológiu, kde sa jazykové modely spočiatku trénujú na konkrétnych súboroch novinové články predpovedať chýbajúce slová v rámci daného kontextu, podobne ako Modely BERT. Nasledujúci krok zahŕňa priradenie skóre, označeného ako „s“, na vyhodnotenie výkonu modelu. Tu je prehľad procesu:
- Vyhlásenie tézy je formulované napríklad „Žiadosť o zatvorenie väčšiny podnikov, okrem obchodov s potravinami a lekární, s cieľom bojovať proti prepuknutiu koronavírusu“.
- Pozoruhodné je, že v práci je prázdne miesto. Jazykové modely sa používajú na odhad pravdepodobnosti doplnenia tejto medzery konkrétnymi slovami.
- Posudzuje sa pravdepodobnosť výskytu rôznych slov, ako napríklad „nevyhnutné“ alebo „zbytočne“.
- Táto pravdepodobnosť je normalizovaná vzhľadom na základný model nedostatočnej prípravy, ktorý nezávisle meria frekvenciu slova vyskytujúceho sa v danom kontexte. Výsledný zlomok predstavuje skóre „s“, ktoré charakterizuje nové informácie zavedené súborom údajov z médií o existujúcich poznatkoch.
Model zohľadňuje úroveň zapojenia určitej skupiny jednotlivcov do správ na konkrétnu tému. Táto dodatočná vrstva zvyšuje kvalitu predpovedí, meranú koreláciou medzi predpoveďami modelu a názormi ľudí na pôvodnú tézu.
Tajomstvo spočíva v tom, že práce a správy boli kategorizované na základe ich dátumu. Štúdiom správ súvisiacich s prvými mesiacmi prepuknutia koronavírusu bolo možné predvídať reakcie ľudí na navrhované opatrenia a zmeny.
Metriky nemusia pôsobiť pôsobivo a samotní autori zdôrazňujú, že ich zistenia nenaznačujú, že AI môže úplne nahradiť ľudskú účasť v procese, resp. modely môžu nahradiť ľudské prieskumy. Namiesto toho tieto Nástroje AI slúžia ako pomôcka pri zhrnutí obrovského množstva údajov a identifikácii potenciálne plodných oblastí na ďalší prieskum.
Zaujímavé je, že senátor dospel k inému záveru, ktorý vyjadril obavy z príliš dobrých výkonov modelov a možných nebezpečenstiev s tým spojených. Táto perspektíva má určitú platnosť, pretože článok predstavuje skôr základné modely a budúce iterácie GPT-4 môže potenciálne ponúknuť významné zlepšenia.
Rastúca výzva manipulácie sociálnych sietí riadenej AI
V nedávnych diskusiách sa konverzácia odklonila od blížiacich sa prezidentských volieb a smerovala k príslušnej téme využívania modelov jazykových modelov (LLM), dokonca aj v lokalizovanom meradle, na výrobu a napĺňanie falošných účtov na sociálnych sieťach. Táto diskusia podčiarkuje potenciál automatizácie tovární na trollov s dôrazom na propagandu a ideologický vplyv.
Aj keď sa to nemusí zdať prelomové vzhľadom na už používanú technológiu, rozdiel spočíva v rozsahu. LLM môžu byť zamestnané nepretržite, obmedzené iba prideleným rozpočtom GPU. Okrem toho, aby sa zachovali konverzácie a vlákna, môžu sa do diskusií zapojiť aj ďalšie, menej pokročilé roboty. Ich účinnosť pri presviedčaní používateľov je pochybná. Zmení dobre vytvorený bot skutočne niečí politický postoj a prinúti ho, aby si pomyslel: „Čo urobili títo demokrati? Mal by som voliť republikánov“?
Pokúšať sa prideliť každému online používateľovi zamestnanca trolla na systematické presviedčanie je nepraktické, pripomína to vtip „napoly sedí, napoly stojí“. Na rozdiel od toho, bot vybavený pokročilými neurónovými sieťami zostáva neúnavný a dokáže sa spojiť s desiatkami miliónov jednotlivcov súčasne.
Potenciálne protiopatrenie zahŕňa prípravu sociálne médiá simuláciou ľudského správania. Boti môžu napodobňovať skutočných používateľov diskusiou o osobných skúsenostiach a uverejňovaním rôznorodého obsahu, pričom si zachovávajú zdanie normálnosti.
Aj keď to v roku 2024 nemusí byť naliehavý problém, do roku 2028 sa čoraz častejšie stane významnou výzvou. Riešenie tohto problému predstavuje zložitú dilemu. Mali by sa sociálne siete počas volebného obdobia deaktivovať? Nerealizovateľné. Vzdelávať verejnosť, aby nie nesporne dôverujú online obsahu? Nepraktické. Prehra vo voľbách kvôli manipulácii? nežiaduce.
Alternatívou môže byť pokročilé moderovanie obsahu. Nedostatok ľudských moderátorov a obmedzená účinnosť existujúcich modelov detekcie textu, dokonca aj tých z OpenAIspochybňujú životaschopnosť tohto riešenia.
OpenAI'S GPT-4 Aktualizuje moderovanie obsahu pomocou rýchleho prispôsobenia pravidiel
OpenAI, pod vedením Lilian Weng, nedávno predstavila projekt s názvom „Použitím GPT-4 pre moderovanie obsahu.“ To urýchľuje proces aktualizácie pravidiel moderovania obsahu a skracuje časovú os z mesiacov na iba hodiny. GPT-4 vykazuje výnimočnú schopnosť porozumieť pravidlám a jemnostiam v rámci komplexných smerníc k obsahu, pričom sa okamžite prispôsobuje akýmkoľvek revíziám, čím zabezpečuje konzistentnejšie hodnotenie obsahu.
Tento sofistikovaný systém moderovania obsahu je geniálne jednoduchý, ako ukazuje sprievodný GIF. To, čo ho odlišuje, je GPT-4Jeho pozoruhodná zručnosť v porozumení písanému textu, čo je výkon, ktorý všeobecne neovládajú ani ľudia.
Funguje to takto:
- Po vypracovaní usmernení alebo pokynov na moderovanie odborníci vyberú obmedzený súbor údajov obsahujúci prípady porušení a priradia zodpovedajúce označenia v súlade so zásadami porušenia.
- GPT-4 následne pochopí sadu pravidiel a označí dáta bez prístupu k odpovediam.
- V prípadoch rozdielov medzi GPT-4 odpovedí a ľudských úsudkov, od ktorých môžu odborníci požadovať objasnenie GPT-4, analyzovať nejasnosti v rámci inštrukcie defia rozptýliť akýkoľvek zmätok prostredníctvom dodatočného objasnenia označeného modrým textom kroku v GIF.
Tento iteračný proces krokov 2 a 3 sa môže opakovať, kým výkon algoritmu nesplní požadovaný štandard. Pre rozsiahle aplikácie, GPT-4 predpovede môžu byť použité na trénovanie výrazne menšieho modelu, ktorý môže poskytnúť porovnateľnú kvalitu.
OpenAI zverejnila metriky na hodnotenie 12 rôznych typov porušení. Model v priemere prekonáva štandardných moderátorov obsahu, no stále zaostáva za odbornosťou ostrieľaných a dobre trénovaných ľudských moderátorov. Jedným z presvedčivých aspektov je však jeho nákladová efektívnosť.
Stojí za zmienku, že boli použité modely strojového učenia automatické moderovanie na niekoľko rokov. Zavedenie GPT-4 je pripravená priniesť nové inovácie, najmä v oblasti politiky a volieb. Dokonca sa o tom špekuluje OpenAI by sa mohol stať výhradným poskytovateľom oficiálne schváleného TrueModerationAPI™ spoločnosťou Biely dom, najmä vo svetle ich nedávneho partnerského úsilia. Budúcnosť ponúka v tejto oblasti vzrušujúce možnosti.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
