AI în politică: prezicerea alegerilor și a opiniei publice folosind LLM
Pe scurt
Pe măsură ce cele 60 de alegeri prezidențiale din SUA se apropie, rolul internetului și al rețelelor sociale în modelarea discursului politic este analizat, în special după scandalul Cambridge Analytica. Se așteaptă ca peisajul digital să se schimbe odată cu progresele în AI, cum ar fi modelele de limbaj antrenate pe diete media și OpenAI'S GPT-4.
O altă problemă este potențialul de manipulare a rețelelor sociale bazate pe inteligență artificială, cum ar fi automatizarea fabricilor de troli și moderarea conținutului. OpenAI'S GPT-4 a fost introdus pentru a accelera procesul de actualizare a regulilor de moderare a conținutului, reducând timpul de la luni la doar ore. Modelul depășește în medie moderatorii de conținut standard, dar încă rămâne în urma experienței moderatorilor umani experimentați.
Introducerea GPT-4 este gata să introducă noi inovații, în special în politică și alegeri, cu speculații că OpenAI ar putea deveni furnizorul exclusiv.
Pe măsură ce cele de-a 60-a alegeri prezidențiale din Statele Unite se apropie, rolul internetului și al rețelelor sociale în modelarea discursului politic este analizat, în special după Scandalul Cambridge Analytica. Apare o întrebare semnificativă: cum va arăta peisajul digital în timpul viitoarelor alegeri și a noilor realizări în AI?
În timpul recentelor audieri ale Senatului, Senatorul Josh Hawley din Missouri a ridicat această problemă critică în contextul modelelor de limbaj. S-a referit la un articol intitulat „Modelele lingvistice instruite pe dietele media pot prezice opinia publică” scris de cercetători de la MIT și Stanford. Această cercetare explorează potențialul utilizării rețelelor neuronale pentru a prezice opinia publică pe baza articolelor de știri, un concept care ar putea avea un impact semnificativ asupra campaniilor politice.
| Legate de: ChatGPTLibertarianismul de stânga al lui are implicații pentru viitorul tinerei generații |
Articolul descrie o metodologie în care modelele de limbaj sunt inițial antrenate pe seturi specifice de articole de știri pentru a prezice cuvintele lipsă într-un context dat, similar cu modele BERT. Pasul următor implică atribuirea unui scor, notat cu „s”, pentru a evalua performanța modelului. Iată o prezentare generală a procesului:
- Este formulată o declarație de teză, de exemplu, „Solicitare de închidere a majorității afacerilor, cu excepția magazinelor alimentare și a farmaciilor, pentru a combate focarul de coronavirus”.
- În special, există un gol în teză. Modelele lingvistice sunt utilizate pentru a estima probabilitățile de a completa acest decalaj cu anumite cuvinte.
- Este evaluată probabilitatea apariției diferitelor cuvinte, cum ar fi „necesar” sau „inutil”.
- Această probabilitate este normalizată în raport cu un model de bază subantrenat, care măsoară în mod independent frecvența unui cuvânt care apare într-un context dat. Fracția rezultată reprezintă scorul „s”, care caracterizează noile informații introduse de setul de date din mass-media cu privire la cunoștințele existente.
Modelul ține cont de nivelul de implicare al unui anumit grup de indivizi cu știri despre un anumit subiect. Acest strat suplimentar îmbunătățește calitatea predicției, măsurată prin corelația dintre predicțiile modelului și opiniile oamenilor cu privire la teza originală.
Secretul constă în faptul că tezele și știrile au fost clasificate în funcție de datele lor. Studiind știrile legate de primele luni ale focarului de coronavirus, a devenit posibilă anticiparea reacțiilor oamenilor la măsurile și schimbările propuse.
Este posibil ca valorile să nu pară impresionante, iar autorii înșiși subliniază că descoperirile lor nu implică faptul că AI poate înlocui complet implicarea umană în proces sau modelele pot înlocui sondajele umane. În schimb, acestea Instrumente AI servesc drept ajutor pentru rezumarea unor cantități mari de date și identificarea zonelor potențial fructuoase pentru explorare ulterioară.
Interesant este că un senator a ajuns la o concluzie diferită, exprimându-și îngrijorarea cu privire la modelele care funcționează prea bine și la potențialele pericole asociate cu aceasta. Există o anumită validitate în această perspectivă, având în vedere că articolul prezintă modele mai degrabă de bază și iterații viitoare precum GPT-4 ar putea oferi îmbunătățiri semnificative.
Provocarea în creștere a manipulării rețelelor sociale bazate pe inteligență artificială
În discuțiile recente, conversația s-a îndreptat departe de alegerile prezidențiale iminente și spre subiectul îngrijorător al utilizării modelelor de modele lingvistice (LLM), chiar și la scară localizată, pentru a fabrica și a popula conturi false pe rețelele sociale. Această discuție subliniază potențialul de automatizare a fabricilor de troli, cu accent pe propagandă și influență ideologică.
Deși acest lucru poate să nu pară inovator, având în vedere tehnologia deja utilizată, diferența constă în scară. LLM-urile pot fi angajate continuu, limitate doar de bugetul GPU alocat. În plus, pentru a menține conversațiile și firele de discuție, roboții suplimentari, mai puțin avansați, se pot alătura discuțiilor și pot răspunde. Eficiența lor în a convinge utilizatorii este îndoielnică. Va schimba cu adevărat un bot bine conceput poziția politică a cuiva, determinându-l să se gândească: „Ce au făcut acești democrați? Ar trebui să votez pentru republicani”?
Încercarea de a atribui un angajat troll fiecărui utilizator online pentru convingere sistematică este nepractică, amintește de gluma „jumătate stă, jumătate stă în picioare”. În schimb, un bot împuternicit cu rețele neuronale avansate rămâne neobosit, capabil să interacționeze cu zeci de milioane de indivizi simultan.
O posibilă contramăsură implică pregătirea social media conturi prin simularea comportamentului uman. Boții pot imita utilizatorii autentici, discutând despre experiențele personale și postând conținut divers, păstrând în același timp un aspect de normalitate.
Deși este posibil să nu fie o problemă presantă în 2024, este din ce în ce mai probabil să devină o provocare semnificativă până în 2028. Abordarea acestei probleme ridică o dilemă complexă. Ar trebui dezactivate rețelele sociale în timpul sezonului electoral? Imposibil. Educarea publicului să nu fără îndoială încredere în conținutul online? Nepractic. Pierderea alegerilor din cauza manipulării? Indezirabil.
O alternativă ar putea implica moderarea avansată a conținutului. Lipsa de moderatori umani și eficacitatea limitată a modelelor existente de detectare a textului, chiar și a celor de la OpenAI, pune la îndoială viabilitatea acestei soluții.
OpenAI'S GPT-4 Actualizează moderarea conținutului cu adaptarea rapidă a regulilor
OpenAI, sub îndrumarea lui Lilian Weng, a introdus recent un proiect numit „Utilizarea GPT-4 pentru moderarea conținutului.” Acest lucru accelerează procesul de actualizare a regulilor de moderare a conținutului, reducând timpul de la luni la doar ore. GPT-4 prezintă o abilitate excepțională de a înțelege regulile și subtilitățile în cadrul ghidurilor cuprinzătoare de conținut, adaptându-se instantaneu la orice revizuire, asigurând astfel o evaluare mai consecventă a conținutului.
Acest sistem sofisticat de moderare a conținutului este ingenios de simplu, așa cum se demonstrează într-un GIF însoțitor. Ceea ce îl deosebește este GPT-4competența remarcabilă a lui în înțelegerea textului scris, o ispravă care nu este stăpânită universal nici măcar de oameni.
Iată cum funcționează:
- După elaborarea ghidurilor sau instrucțiunilor de moderare, experții selectează un set limitat de date care conține cazuri de încălcări și atribuie etichete corespunzătoare în conformitate cu politica de încălcare.
- GPT-4 ulterior înțelege setul de reguli și etichetează datele fără acces la răspunsuri.
- In cazurile de disparitati intre GPT-4 răspunsurile și judecățile umane, experții pot solicita clarificări de la GPT-4, analizați ambiguitățile din cadrul instrucțiunii definiții și elimină orice confuzie prin clarificări suplimentare, marcate cu textul pasului albastru în GIF.
Acest proces iterativ al pașilor 2 și 3 poate fi repetat până când performanța algoritmului atinge standardul dorit. Pentru aplicații pe scară largă, GPT-4 predicțiile pot fi folosite pentru a antrena un model semnificativ mai mic, care poate oferi o calitate comparabilă.
OpenAI a dezvăluit valori pentru evaluarea a 12 tipuri distincte de încălcări. În medie, modelul depășește moderatorii standard de conținut, dar rămâne încă în urmă cu expertiza moderatorilor umani experimentați și bine pregătiți. Cu toate acestea, un aspect convingător este rentabilitatea acestuia.
Este demn de remarcat faptul că modelele de învățare automată au fost utilizate în auto-moderare de câțiva ani. Introducerea GPT-4 este gata să introducă noi inovații, în special în domeniul politicii și al alegerilor. Există chiar și speculații că OpenAI ar putea deveni furnizorul exclusiv al TrueModerationAPI™ sancționat oficial de către Casă albă, în special în lumina eforturilor lor recente de parteneriat. Viitorul deține posibilități interesante în acest domeniu.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
