AI in de politiek: verkiezingen en publieke opinie voorspellen met behulp van LLM's
In het kort
Nu de 60e Amerikaanse presidentsverkiezingen dichterbij komen, wordt de rol van internet en sociale netwerken bij het vormgeven van het politieke discours onder de loep genomen, vooral in de nasleep van het Cambridge Analytica-schandaal. Er wordt verwacht dat het digitale landschap zal veranderen als gevolg van de vooruitgang op het gebied van AI, zoals taalmodellen die zijn getraind op media-diëten OpenAI's GPT-4.
Een ander probleem is het potentieel voor AI-gestuurde manipulatie van sociale netwerken, zoals het automatiseren van trollenfabrieken en het modereren van inhoud. OpenAI's GPT-4 is geïntroduceerd om het proces van het bijwerken van de regels voor inhoudsmoderatie te versnellen, waardoor de tijdlijn wordt teruggebracht van maanden naar slechts enkele uren. Het model presteert gemiddeld beter dan standaard contentmoderators, maar blijft nog steeds achter bij de expertise van doorgewinterde menselijke moderators.
De introductie van GPT-4 staat klaar om nieuwe innovaties in te luiden, vooral op het gebied van de politiek en de verkiezingen, met speculatie daarover OpenAI zou de exclusieve aanbieder kunnen worden.
Nu de 60e presidentsverkiezingen in de Verenigde Staten naderen, wordt de rol van internet en sociale netwerken bij het vormgeven van het politieke discours onder de loep genomen, vooral in de nasleep van de verkiezingen. Cambridge Analytica-schandaal. Een belangrijke vraag rijst: hoe zal het digitale landschap eruit zien tijdens de komende verkiezingen en nieuwe prestaties op het gebied van AI?
Tijdens recente hoorzittingen in de Senaat Senator Josh Hawley van Missouri heeft deze kritische kwestie aan de orde gesteld in de context van taalmodellen. Hij verwees naar een artikel met de titel “Taalmodellen die zijn getraind in mediadiëten kunnen de publieke opinie voorspellen” geschreven door onderzoekers van MIT en Stanford. Dit onderzoek onderzoekt het potentieel van het gebruik van neurale netwerken om de publieke opinie te voorspellen op basis van nieuwsartikelen, een concept dat een aanzienlijke impact zou kunnen hebben op politieke campagnes.
Het artikel beschrijft een methodologie waarbij taalmodellen in eerste instantie worden getraind op specifieke sets van taalmodellen nieuwsartikelen om ontbrekende woorden binnen een bepaalde context te voorspellen, vergelijkbaar met BERT-modellen. De volgende stap omvat het toekennen van een score, aangeduid als “s”, om de prestaties van het model te evalueren. Hier is een overzicht van het proces:
- Er wordt een scriptieverklaring geformuleerd, bijvoorbeeld: “Verzoek om de sluiting van de meeste bedrijven, behalve supermarkten en apotheken, om de uitbraak van het coronavirus te bestrijden.”
- Opvallend is dat er een blanco in het proefschrift zit. Er worden taalmodellen gebruikt om de waarschijnlijkheid in te schatten dat deze leemte met specifieke woorden kan worden opgevuld.
- De waarschijnlijkheid van verschillende woorden, zoals ‘noodzakelijk’ of ‘onnodig’, wordt beoordeeld.
- Deze waarschijnlijkheid wordt genormaliseerd ten opzichte van een basismodel, dat de frequentie van een woord dat in een bepaalde context voorkomt, onafhankelijk meet. De resulterende breuk vertegenwoordigt de score ‘s’, die de nieuwe informatie karakteriseert die door de dataset uit de media wordt geïntroduceerd over bestaande kennis.
Het model houdt rekening met de mate van betrokkenheid van een bepaalde groep individuen bij nieuws over een specifiek onderwerp. Deze extra laag verbetert de kwaliteit van de voorspellingen, zoals gemeten aan de hand van de correlatie tussen de voorspellingen van het model en de mening van mensen over de oorspronkelijke stelling.
Het geheim schuilt in het feit dat scripties en nieuws werden gecategoriseerd op basis van hun data. Door het nieuws over de eerste maanden van de uitbraak van het coronavirus te bestuderen, werd het mogelijk om te anticiperen op de reacties van mensen op voorgestelde maatregelen en veranderingen.
De cijfers lijken misschien niet indrukwekkend, en de auteurs benadrukken zelf dat hun bevindingen niet impliceren dat AI de menselijke betrokkenheid bij het proces volledig kan vervangen. modellen kunnen menselijke onderzoeken vervangen. In plaats daarvan deze AI-hulpmiddelen dienen als hulpmiddel bij het samenvatten van grote hoeveelheden gegevens en het identificeren van potentieel vruchtbare gebieden voor verder onderzoek.
Interessant genoeg kwam een senator tot een andere conclusie, waarbij hij zijn bezorgdheid uitte over de modellen die te goed presteren en de potentiële gevaren die daarmee gepaard gaan. Dit perspectief heeft enige geldigheid, aangezien het artikel tamelijk eenvoudige modellen en toekomstige iteraties laat zien GPT-4 zou mogelijk aanzienlijke verbeteringen kunnen bieden.
De groeiende uitdaging van AI-gestuurde manipulatie van sociale netwerken
In recente discussies verschoof het gesprek van de aanstaande presidentsverkiezingen naar het zorgwekkende onderwerp van het gebruik van Language Model Models (LLM’s), zelfs op gelokaliseerde schaal, om nepaccounts op sociale netwerken te fabriceren en te vullen. Deze discussie onderstreept het potentieel voor het automatiseren van trollenfabrieken, met de nadruk op propaganda en ideologische invloed.
Hoewel dit misschien niet baanbrekend lijkt gezien de technologie die al in gebruik is, ligt het verschil in de schaal. LLM's kunnen continu worden ingezet, alleen beperkt door het toegewezen GPU-budget. Om gesprekken en discussies in stand te houden, kunnen bovendien minder geavanceerde bots deelnemen aan discussies en reageren. Hun effectiviteit bij het overtuigen van gebruikers is twijfelachtig. Zal een goed gemaakte bot iemands politieke standpunt echt veranderen, waardoor hij/zij gaat denken: “Wat hebben deze Democraten gedaan? Ik zou op de Republikeinen moeten stemmen”?
Pogingen om aan elke online gebruiker een trolmedewerker toe te wijzen voor systematische overreding is onpraktisch en doet denken aan de grap ‘half zit, half staat’. Daarentegen blijft een bot met geavanceerde neurale netwerken onvermoeibaar en in staat om tegelijkertijd met tientallen miljoenen individuen in contact te komen.
Een mogelijke tegenmaatregel omvat voorbereiding social media accounts door menselijk gedrag te simuleren. Bots kunnen echte gebruikers nabootsen door persoonlijke ervaringen te bespreken en diverse inhoud te plaatsen, terwijl ze de schijn van normaliteit behouden.
Hoewel dit in 2024 misschien geen dringende kwestie zal zijn, wordt het steeds waarschijnlijker dat het in 2028 een aanzienlijke uitdaging zal worden. De aanpak van dit probleem vormt een complex dilemma. Moeten sociale netwerken worden uitgeschakeld tijdens het verkiezingsseizoen? Onhaalbaar. Het publiek leren dit niet te doen zonder twijfel online-inhoud vertrouwen? Onpraktisch. Verliezen van verkiezingen door manipulatie? Ongewenst.
Een alternatief zou geavanceerde inhoudsmoderatie kunnen inhouden. Het tekort aan menselijke moderators en de beperkte effectiviteit van bestaande tekstdetectiemodellen, zelfs die van OpenAI, doet twijfel rijzen over de haalbaarheid van deze oplossing.
OpenAI's GPT-4 Updatet inhoudsmoderatie met snelle aanpassing van regels
OpenAI, onder leiding van Lilian Weng, heeft onlangs een project geïntroduceerd genaamd “gebruik GPT-4 voor inhoudsmoderatie.Dit versnelt het proces van het bijwerken van de regels voor inhoudsmoderatie, waardoor de tijdlijn wordt teruggebracht van maanden naar slechts enkele uren. GPT-4 vertoont een uitzonderlijk vermogen om regels en subtiliteiten binnen uitgebreide inhoudsrichtlijnen te begrijpen, zich onmiddellijk aan te passen aan eventuele herzieningen, waardoor een consistentere inhoudsbeoordeling wordt gegarandeerd.
Dit geavanceerde contentmoderatiesysteem is ingenieus eenvoudig, zoals blijkt uit een begeleidende GIF. Wat het onderscheidt is GPT-4's opmerkelijke vaardigheid in het begrijpen van geschreven tekst, een prestatie die zelfs door mensen niet universeel wordt beheerst.
Hier is hoe het werkt:
- Na het opstellen van moderatierichtlijnen of -instructies selecteren experts een beperkte dataset met gevallen van overtredingen en kennen overeenkomstige labels toe, in overeenstemming met het overtredingsbeleid.
- GPT-4 begrijpt vervolgens de regelset en labelt de gegevens zonder toegang tot de antwoorden.
- In geval van verschillen tussen GPT-4 reacties en menselijke oordelen waar deskundigen om opheldering kunnen vragen GPT-4, analyseer onduidelijkheden binnen de instructie definaties, en eventuele verwarring wegnemen door middel van aanvullende verduidelijking, gemarkeerd met blauwe staptekst in de GIF.
Dit iteratieve proces van stappen 2 en 3 kan worden herhaald totdat de prestaties van het algoritme aan de gewenste norm voldoen. Voor grootschalige toepassingen is GPT-4 voorspellingen kunnen worden gebruikt om een aanzienlijk kleiner model te trainen, dat vergelijkbare kwaliteit kan leveren.
OpenAI heeft statistieken bekendgemaakt voor het beoordelen van twaalf verschillende soorten overtredingen. Gemiddeld presteert het model beter dan standaard contentmoderators, maar blijft het nog steeds achter bij de expertise van doorgewinterde en goed opgeleide menselijke moderators. Niettemin is een overtuigend aspect de kosteneffectiviteit.
Het is vermeldenswaard dat er machine learning-modellen zijn gebruikt automatische moderatie gedurende meerdere jaren. De introductie van GPT-4 staat klaar om nieuwe innovaties in te luiden, vooral op het gebied van politiek en verkiezingen. Daar wordt zelfs over gespeculeerd OpenAI zou de exclusieve aanbieder kunnen worden van de officieel goedgekeurde TrueModerationAPI™ door de Witte Huis, vooral in het licht van hun recente partnerschapsinspanningen. De toekomst biedt opwindende mogelijkheden op dit gebied.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
