IA a la política: predicció d'eleccions i opinió pública mitjançant LLM
En breu
A mesura que s'acosten les 60 eleccions presidencials dels EUA, el paper d'Internet i de les xarxes socials en la configuració del discurs polític està sota escrutini, especialment després de l'escàndol de Cambridge Analytica. S'espera que el panorama digital canviï amb els avenços en IA, com ara models lingüístics formats en dietes mediàtiques i OpenAI'S GPT-4.
Un altre problema és el potencial de la manipulació de xarxes socials impulsada per IA, com ara l'automatització de fàbriques de trolls i la moderació de contingut. OpenAI'S GPT-4 s'ha introduït per accelerar el procés d'actualització de les regles de moderació de contingut, reduint el termini de mesos a poques hores. El model supera de mitjana els moderadors de contingut estàndard, però encara queda enrere de l'experiència dels moderadors humans experimentats.
La introducció de GPT-4 està disposat a introduir noves innovacions, especialment en política i eleccions, amb especulacions que OpenAI podria convertir-se en el proveïdor exclusiu.
A mesura que s'acosten les 60 eleccions presidencials als Estats Units, el paper d'Internet i de les xarxes socials en la configuració del discurs polític està sota escrutini, especialment després del Escàndol Cambridge Analytica. Sorgeix una pregunta important: com serà el panorama digital durant les properes eleccions i els nous èxits en IA?
Durant les darreres audiències al Senat, El senador Josh Hawley de Missouri va plantejar aquesta qüestió crítica en el context dels models lingüístics. Es va referir a un article titulat "Els models lingüístics formats en dietes mediàtiques poden predir l'opinió pública” escrit per investigadors del MIT i Stanford. Aquesta investigació explora el potencial de l'ús de xarxes neuronals per predir l'opinió pública a partir d'articles de notícies, un concepte que podria afectar significativament les campanyes polítiques.
L'article descriu una metodologia on els models lingüístics s'entrenen inicialment en conjunts específics de articles de notícies per predir paraules que falten en un context determinat, semblant a Models BERT. El pas posterior consisteix a assignar una puntuació, denominada "s", per avaluar el rendiment del model. Aquí teniu una visió general del procés:
- Es formula una declaració de tesi, per exemple, "Sol·licitud de tancament de la majoria de comerços, excepte botigues de queviures i farmàcies, per combatre el brot de coronavirus".
- En particular, hi ha un espai en blanc a la tesi. Els models lingüístics s'utilitzen per estimar les probabilitats de completar aquest buit amb paraules específiques.
- S'avalua la probabilitat de diverses paraules, com ara "necessari" o "innecessàriament".
- Aquesta probabilitat es normalitza en relació amb un model de base poc entrenat, que mesura de manera independent la freqüència d'una paraula en un context determinat. La fracció resultant representa la puntuació "s", que caracteritza la nova informació introduïda pel conjunt de dades dels mitjans sobre el coneixement existent.
El model té en compte el nivell de compromís d'un grup concret d'individus amb notícies sobre un tema específic. Aquesta capa addicional millora la qualitat de la predicció, mesurada per la correlació entre les prediccions del model i les opinions de la gent sobre la tesi original.
El secret rau en el fet que les tesis i les notícies es classificaven en funció de les seves dates. Estudiant les notícies relacionades amb els primers mesos del brot de coronavirus, es va poder anticipar les reaccions de la gent davant les mesures i els canvis proposats.
Les mètriques poden no semblar impressionants, i els mateixos autors subratllen que les seves troballes no impliquen que la IA pugui substituir completament la participació humana en el procés, o models poden substituir les enquestes humanes. En canvi, aquests Eines d’intel·ligència artificial servir com a ajuda per resumir grans quantitats de dades i identificar àrees potencialment fructíferes per a una exploració posterior.
Curiosament, un senador va arribar a una conclusió diferent, expressant la seva preocupació pels models que funcionen massa bé i els perills potencials associats amb això. Aquesta perspectiva té certa validesa, tenint en compte que l'article mostra models més aviat bàsics i futures iteracions semblants GPT-4 podria oferir millores importants.
El repte creixent de la manipulació de xarxes socials impulsada per l'IA
En les darreres discussions, la conversa es va allunyar de les imminents eleccions presidencials i cap al tema preocupant de l'ús de models de models lingüístics (LLM), fins i tot a escala localitzada, per fabricar i poblar comptes falsos a les xarxes socials. Aquesta discussió subratlla el potencial d'automatitzar les fàbriques de trolls amb èmfasi en la propaganda i la influència ideològica.
Tot i que això pot no semblar innovador tenint en compte la tecnologia que ja s'utilitza, la diferència rau en l'escala. Els LLM es poden utilitzar contínuament, limitats només pel pressupost de GPU assignat. A més, per mantenir converses i fils, bots addicionals menys avançats poden unir-se a les discussions i respondre. La seva efectivitat per persuadir els usuaris és dubtosa. Un bot ben dissenyat canviarà realment la posició política d'algú, fent-los pensar: "Què han fet aquests demòcrates? Hauria de votar els republicans”?
Intentar assignar un empleat troll a cada usuari en línia per a una persuasió sistemàtica és poc pràctic, i recorda la broma "meitat assegut, meitat dret". En canvi, un bot dotat de xarxes neuronals avançades continua sent incansable, capaç de relacionar-se amb desenes de milions d'individus simultàniament.
Una possible contramesura implica la preparació mitjans de comunicació social comptes simulant un comportament humà. Els robots poden imitar els usuaris genuïns discutint experiències personals i publicant contingut divers tot mantenint una aparença de normalitat.
Tot i que pot no ser un problema urgent el 2024, és cada cop més probable que es converteixi en un repte important el 2028. Abordar aquest problema planteja un dilema complex. S'han de desactivar les xarxes socials durant la temporada electoral? Inviable. Educar el públic a no fer-ho Confiar sens dubte en el contingut en línia? Poc pràctic. Perdre eleccions per manipulació? Indesitjable.
Una alternativa podria implicar una moderació avançada de contingut. L'escassetat de moderadors humans i l'eficàcia limitada dels models de detecció de text existents, fins i tot els de OpenAI, posa en dubte la viabilitat d'aquesta solució.
OpenAI'S GPT-4 Actualitza la moderació de contingut amb l'adaptació ràpida de regles
OpenAI, sota la direcció de Lilian Weng, ha presentat recentment un projecte anomenat "Ús GPT-4 per a la moderació de continguts."Això accelera el procés d'actualització de les regles de moderació de contingut, reduint el termini de mesos a poques hores. GPT-4 mostra una capacitat excepcional per comprendre regles i subtileses dins de directrius de contingut exhaustives, adaptant-se instantàniament a qualsevol revisió, garantint així una avaluació del contingut més coherent.
Aquest sofisticat sistema de moderació de contingut és enginyosament senzill, tal com es demostra en un GIF adjunt. El que el diferencia és GPT-4La notable competència d'entendre textos escrits, una gesta no dominada universalment ni tan sols pels humans.
Així és com funciona:
- Després d'esborrar directrius o instruccions de moderació, els experts seleccionen un conjunt de dades limitat que conté casos d'infraccions i assignen les etiquetes corresponents d'acord amb la política d'infraccions.
- GPT-4 posteriorment entén el conjunt de regles i etiqueta les dades sense accedir a les respostes.
- En casos de disparitats entre GPT-4 respostes i judicis humans, els experts poden demanar aclariments GPT-4, analitzar ambigüitats dins de la instrucció definicions i dissipar qualsevol confusió mitjançant un aclariment addicional, marcat amb un text de pas blau al GIF.
Aquest procés iteratiu dels passos 2 i 3 es pot repetir fins que el rendiment de l'algoritme compleixi l'estàndard desitjat. Per a aplicacions a gran escala, GPT-4 Les prediccions es poden utilitzar per entrenar un model significativament més petit, que pot oferir una qualitat comparable.
OpenAI ha revelat mètriques per avaluar 12 tipus diferents d'infraccions. De mitjana, el model supera els moderadors de contingut estàndard, però encara queda enrere de l'experiència dels moderadors humans experimentats i ben entrenats. No obstant això, un aspecte convincent és la seva rendibilitat.
Val la pena assenyalar que s'han utilitzat models d'aprenentatge automàtic automoderació durant diversos anys. La introducció de GPT-4 està a punt d'introduir noves innovacions, especialment en l'àmbit de la política i les eleccions. Fins i tot s'especula que OpenAI podria convertir-se en el proveïdor exclusiu de la TrueModerationAPI™ oficialment sancionada pel Casa Blanca, especialment a la llum dels seus esforços de col·laboració recents. El futur té possibilitats interessants en aquest àmbit.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
