Observatoire de Stanford : l'IA conduira à des mensonges omniprésents et à une propagande irrésistible en 2023
En bref
Les technologies AICG (artificial intelligence content generation) rendront la vérité et le mensonge indiscernables, tant pour les individus que pour les sociétés de toutes tailles.
Cela créera un environnement « post-vérité » dans lequel les mensonges et la propagande deviendront omniprésents, endefiable et irrésistible.
Le fait que de nombreuses personnes fassent davantage confiance aux informations provenant d'Internet qu'aux médias traditionnels est une préoccupation majeure.
Les générateurs d'images et de vidéos basés sur l'IA deviennent de plus en plus pratiques à utiliser, hautement fiables et hautement efficaces.
Cela les rend incroyablement utiles à des fins de propagande.
Dans son discours à la communauté mondiale de l'IA, le gourou chinois de l'IA Kai-Fu Lee a averti que le monde serait confronté à un risque plus grave que les risques de guerre nucléaire, de famine ou de pandémie dès 2023. Le risque est la génération de contenu d'intelligence artificielle (AICG). Les technologies AICG pourraient rendre la vérité et le mensonge indiscernables, à la fois pour les individus et pour les sociétés de toutes tailles.
La nouveau rapport par le Centre pour la sécurité et les technologies émergentes, OpenAI, et Stanford Internet Observatory, "Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures", fournit un aperçu stratégique du scénario catastrophique décrit par Kai-Fu Lee.
| Article connexe: Le Congrès américain veut créer une agence fédérale pour réguler l'intelligence artificielle |
Le rapport détaille comment la chute de l'humanité dans l'abîme de l'AICG est susceptible de se produire. Les technologies AICG permettront de générer de vastes quantités de contenu indiscernables du contenu généré par l'homme. Cela créera un environnement « post-vérité » dans lequel les mensonges et la propagande deviendront omniprésents, endefiable et irrésistible.
Le rapport recommande un certain nombre de mesures d'atténuation, notamment la réglementation de l'utilisation des technologies AICG, l'augmentation de la transparence sur leur utilisation et l'élaboration de normes pour leur utilisation. Cependant, les auteurs du rapport préviennent que ces mesures ne seront efficaces que si elles sont mises en œuvre à l'échelle mondiale.
La publication du rapport intervient à un moment où le monde lutte déjà pour faire face à la propagation de la mésinformation et de la désinformation. La pandémie de COVID-19 s'est accompagnée d'une prolifération de fausses informations sur le virus et ses origines, et les plateformes de médias sociaux ont du mal à empêcher la propagation de ces fausses informations.
L'IA modifiera considérablement le Web
Les mensonges et la propagande ont toujours fait partie de la société humaine. Cependant, la disponibilité et l'efficacité de toute opération d'influence (tant sur les individus que sur les sociétés) ont augmenté en raison du développement de technologies plus sophistiquées, en particulier dans le domaine de l'intelligence artificielle (IA).
| Article connexe: OpenAILe PDG de déclare que le système éducatif doit s'adapter à ChatGPT, pas l'interdire |
Trois facteurs majeurs contribuent à l'émergence, à la propagation et à l'acceptation mondiales des mensonges comme vérité :
- Le développement de l’image et de la vidéo basées sur l’IA générateurs qui peut créer des images et des vidéos très réalistes de personnes et d’événements qui ne se sont jamais réellement produits.
- L'utilisation des médias sociaux pour diffuser très rapidement de fausses informations à un grand nombre de personnes.
- Le fait que de nombreuses personnes font désormais plus confiance aux informations provenant d'Internet qu'aux sources médiatiques traditionnelles.
En raison de ces facteurs, les générateurs d'images et de vidéos basés sur l'IA deviennent de plus en plus pratiques à utiliser, très fiables et très efficaces. Cela les rend incroyablement utiles à des fins de propagande.
Il est désormais possible pour toute personne disposant d'un ordinateur et d'une connexion Internet de créer de fausses images et vidéos pratiquement indiscernables de la réalité. Cela a conduit à une situation dans laquelle il est très difficile de déterminer ce qui est vrai et ce qui ne l'est pas.
L'utilisation des médias sociaux pour diffuser de fausses informations est également une préoccupation majeure. En raison du fonctionnement des médias sociaux, de fausses informations peuvent se propager très rapidement et facilement. Cela rend difficile pour les gens de savoir quoi croire.
Ce qui suit illustre comment un développement révolutionnaire en 2022 a permis de créer de faux satellite qui correspondaient à des descriptions telles que "Un raton laveur en tenue de soirée avec un haut-de-forme, une canne et un sac poubelle. "Peinture à l'huile dans le style de Rembrandt (le résultat est à gauche) et de Van Gogh (le résultat est à droite)."
La simplification extrême du processus d'effacement de la frontière entre le vrai et le faux combinée à l'incapacité de la pensée critique des gens à contrer la propagande de l'IA conduira à la domination de l'omniprésent, endefides opérations d'influence possibles et insurmontables, tant en politique qu'en affaires.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
