L'IA en politique : prédire les élections et l'opinion publique à l'aide des LLM
En bref
À l’approche de la 60e élection présidentielle américaine, le rôle d’Internet et des réseaux sociaux dans la formation du discours politique est sous surveillance, notamment à la suite du scandale Cambridge Analytica. Le paysage numérique devrait changer avec les progrès de l'IA, tels que les modèles linguistiques formés aux régimes médiatiques et OpenAI's GPT-4.
Un autre problème est le potentiel de manipulation des réseaux sociaux par l’IA, comme l’automatisation des usines à trolls et la modération du contenu. OpenAI's GPT-4 a été introduit pour accélérer le processus de mise à jour des règles de modération du contenu, réduisant le délai de plusieurs mois à quelques heures seulement. Le modèle surpasse en moyenne les modérateurs de contenu standards, mais reste en retard par rapport à l'expertise des modérateurs humains chevronnés.
L'introduction d' GPT-4 est sur le point d'inaugurer de nouvelles innovations, notamment en matière politique et électorale, avec des spéculations selon lesquelles OpenAI pourrait devenir le fournisseur exclusif.
À l'approche de la 60e élection présidentielle aux États-Unis, le rôle d'Internet et des réseaux sociaux dans la formation du discours politique est sous surveillance, en particulier au lendemain des élections présidentielles américaines. Le scandale de Cambridge Analytica. Une question importante se pose : à quoi ressemblera le paysage numérique lors des prochaines élections et des nouvelles avancées en matière d’IA ?
Lors des récentes audiences du Sénat, Sénateur Josh Hawley du Missouri a soulevé cette question critique dans le contexte des modèles de langage. Il a fait référence à un article intitulé «Les modèles linguistiques formés aux régimes médiatiques peuvent prédire l’opinion publique» rédigé par des chercheurs du MIT et de Stanford. Cette recherche explore le potentiel de l'utilisation des réseaux de neurones pour prédire l'opinion publique sur la base d'articles de presse, un concept qui pourrait avoir un impact significatif sur les campagnes politiques.
| Services Connexes: ChatGPTLe libertarianisme de gauche a des implications pour l'avenir de la jeune génération |
L'article décrit une méthodologie dans laquelle les modèles de langage sont initialement formés sur des ensembles spécifiques de articles de presse pour prédire les mots manquants dans un contexte donné, semblable à Modèles BERT. L'étape suivante consiste à attribuer un score, noté « s », pour évaluer les performances du modèle. Voici un aperçu du processus :
- Un énoncé de thèse est par exemple formulé : « Demande de fermeture de la plupart des commerces, à l’exception des épiceries et des pharmacies, afin de lutter contre l’épidémie de coronavirus ».
- Il y a notamment un blanc dans la thèse. Des modèles linguistiques sont utilisés pour estimer les probabilités de combler cette lacune avec des mots spécifiques.
- La probabilité d'utiliser divers mots, tels que « nécessaire » ou « inutilement », est évaluée.
- Cette probabilité est normalisée par rapport à un modèle de base sous-entraîné, qui évalue indépendamment la fréquence d'un mot apparaissant dans un contexte donné. La fraction résultante représente le score « s », qui caractérise les nouvelles informations introduites par l'ensemble de données issues des médias concernant les connaissances existantes.
Le modèle prend en compte le niveau d'engagement d'un groupe particulier d'individus avec des informations sur un sujet spécifique. Cette couche supplémentaire améliore la qualité des prédictions, mesurée par la corrélation entre les prédictions du modèle et les opinions des personnes concernant la thèse originale.
Le secret réside dans le fait que les thèses et les nouvelles ont été classées en fonction de leurs dates. En étudiant l'actualité liée aux premiers mois de l'épidémie de coronavirus, il est devenu possible d'anticiper les réactions des gens aux mesures et changements proposés.
Les mesures ne semblent peut-être pas impressionnantes, et les auteurs eux-mêmes soulignent que leurs conclusions n’impliquent pas que l’IA puisse remplacer complètement l’implication humaine dans le processus, ou encore les modèles peuvent remplacer les enquêtes humaines. Au lieu de cela, ces Outils IA servir d’aide à la synthèse de grandes quantités de données et à l’identification de domaines potentiellement fructueux pour une exploration plus approfondie.
Il est intéressant de noter qu’un sénateur est arrivé à une conclusion différente, exprimant ses inquiétudes quant aux performances trop élevées des modèles et aux dangers potentiels qui y sont associés. Cette perspective a une certaine validité, étant donné que l'article présente des modèles plutôt basiques et des itérations futures comme GPT-4 pourrait potentiellement offrir des améliorations significatives.
| Services Connexes: OpenAI's GPT-4 Entreprend de révolutionner la modération de contenu |
Le défi croissant de la manipulation des réseaux sociaux par l’IA
Lors de discussions récentes, la conversation s'est éloignée des élections présidentielles imminentes et s'est tournée vers le sujet préoccupant de l'utilisation de modèles de langage (LLM), même à une échelle localisée, pour fabriquer et alimenter de faux comptes sur les réseaux sociaux. Cette discussion souligne le potentiel d’automatisation des usines à trolls en mettant l’accent sur la propagande et l’influence idéologique.
Même si cela ne semble pas révolutionnaire compte tenu de la technologie déjà utilisée, la différence réside dans l’échelle. Les LLM peuvent être utilisés en continu, limités uniquement par le budget GPU alloué. De plus, pour maintenir les conversations et les fils de discussion, des robots supplémentaires, moins avancés, peuvent rejoindre les discussions et répondre. Leur efficacité à convaincre les utilisateurs est douteuse. Un robot bien conçu changera-t-il véritablement la position politique de quelqu'un, l'incitant à réfléchir : « Qu'ont fait ces démocrates ? Je devrais voter pour les Républicains » ?
Tenter d’affecter un employé troll à chaque utilisateur en ligne pour une persuasion systématique n’est pas pratique, ce qui n’est pas sans rappeler la blague « moitié assis, moitié debout ». En revanche, un robot doté de réseaux neuronaux avancés reste infatigable, capable d’interagir avec des dizaines de millions d’individus simultanément.
Une contre-mesure potentielle consiste à préparer réseaux sociaux comptes en simulant un comportement humain. Les robots peuvent imiter de véritables utilisateurs en discutant de leurs expériences personnelles et en publiant du contenu diversifié tout en conservant une apparence de normalité.
Même si ce problème ne sera peut-être pas urgent en 2024, il est de plus en plus probable qu’il devienne un défi important d’ici 2028. Aborder ce problème pose un dilemme complexe. Faut-il désactiver les réseaux sociaux en période électorale ? Impraticable. Éduquer le public à ne pas faire incontestablement confiance au contenu en ligne? Pas pratique. Perdre les élections à cause de la manipulation ? Indésirable.
Une alternative pourrait impliquer une modération avancée du contenu. La pénurie de modérateurs humains et l'efficacité limitée des modèles de détection de texte existants, même ceux de OpenAI, jettent le doute sur la viabilité de cette solution.
OpenAI's GPT-4 Met à jour la modération du contenu avec une adaptation rapide des règles
OpenAI, sous la direction de Lilian Weng, a récemment introduit un projet intitulé «En utilisant GPT-4 pour la modération du contenu.« Cela accélère le processus de mise à jour des règles de modération du contenu, réduisant le délai de plusieurs mois à quelques heures seulement. GPT-4 fait preuve d'une capacité exceptionnelle à comprendre les règles et les subtilités dans le cadre de directives de contenu complètes, s'adaptant instantanément à toute révision, garantissant ainsi une évaluation de contenu plus cohérente.
Ce système sophistiqué de modération de contenu est ingénieusement simple, comme le démontre le GIF qui l'accompagne. Ce qui le distingue, c'est GPT-4La capacité remarquable de comprendre un texte écrit, un exploit qui n'est pas universellement maîtrisé, même par les humains.
Voici comment cela fonctionne :
- Après avoir rédigé des directives ou des instructions de modération, les experts sélectionnent un ensemble de données limité contenant des cas de violations et attribuent les étiquettes correspondantes conformément à la politique de violation.
- GPT-4 comprend ensuite l'ensemble de règles et étiquette les données sans accès aux réponses.
- En cas de disparités entre GPT-4 réponses et jugements humains, les experts peuvent demander des éclaircissements à GPT-4, analyser les ambiguïtés au sein de l'instruction definitions et dissiper toute confusion grâce à des éclaircissements supplémentaires, marqués d'un texte d'étape bleu dans le GIF.
Ce processus itératif des étapes 2 et 3 peut être répété jusqu'à ce que les performances de l'algorithme répondent à la norme souhaitée. Pour les applications à grande échelle, GPT-4 les prédictions peuvent être utilisées pour former un modèle nettement plus petit, qui peut fournir une qualité comparable.
OpenAI a divulgué des mesures pour évaluer 12 types distincts de violations. En moyenne, le modèle surpasse les modérateurs de contenu standards, mais il est encore à la traîne par rapport à l'expertise des modérateurs humains chevronnés et bien formés. Néanmoins, un aspect convaincant est sa rentabilité.
Il convient de noter que des modèles d'apprentissage automatique ont été utilisés dans modération automatique depuis plusieurs années. L'introduction de GPT-4 est sur le point d’inaugurer de nouvelles innovations, notamment dans le domaine politique et électoral. Il y a même des spéculations selon lesquelles OpenAI pourrait devenir le fournisseur exclusif de TrueModerationAPI™ officiellement sanctionné par le maison Blanche, surtout à la lumière de leurs récents efforts de partenariat. L’avenir offre des possibilités passionnantes dans ce domaine.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
