Stanford Observatory: AI zal in 2023 leiden tot alomtegenwoordige leugens en onweerstaanbare propaganda
In het kort
AICG-technologieën (Artificial Intelligence Content Generation) zullen ervoor zorgen dat waarheid en leugens niet meer van elkaar te onderscheiden zijn, zowel voor individuen als voor samenlevingen van welke omvang dan ook.
Dit zal een "post-truth"-omgeving creëren waarin leugens en propaganda alomtegenwoordig zullen wordendefiwaardig en onweerstaanbaar.
Het feit dat veel mensen meer vertrouwen hebben in informatie die van internet komt dan in traditionele media, is een grote zorg.
Op AI gebaseerde beeld- en videogeneratoren worden steeds handiger in gebruik, zeer betrouwbaar en zeer efficiënt.
Dit maakt ze ongelooflijk nuttig voor propagandadoeleinden.
In zijn toespraak tot de wereldwijde AI-gemeenschap waarschuwde de Chinese AI-goeroe Kai-Fu Lee dat de wereld al in 2023 met een groter risico zou worden geconfronteerd dan de risico's van een nucleaire oorlog, hongersnood of een pandemie. (AICG). AICG-technologieën kunnen waarheid en leugens ononderscheidbaar maken, zowel voor individuen als voor samenlevingen van welke omvang dan ook.
De nieuw rapport door het Centrum voor Veiligheid en Opkomende Technologie, OpenAI, en Stanford Internet Observatory, "Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures", geeft een strategisch inzicht in het catastrofale scenario beschreven door Kai-Fu Lee.
| Gerelateerd artikel: Het Amerikaanse Congres wil een federaal agentschap oprichten om kunstmatige intelligentie te reguleren |
Het rapport beschrijft hoe de mensheid waarschijnlijk in de AICG-afgrond zal vallen. AICG-technologieën zullen het mogelijk maken om enorme hoeveelheden content te genereren die niet te onderscheiden zijn van door mensen gegenereerde content. Dit zal een "post-truth"-omgeving creëren waarin leugens en propaganda alomtegenwoordig zullen wordendefiwaardig en onweerstaanbaar.
Het rapport beveelt een aantal beperkende maatregelen aan, waaronder het reguleren van het gebruik van AICG-technologieën, het vergroten van de transparantie over het gebruik ervan en het ontwikkelen van normen voor het gebruik ervan. De auteurs van het rapport waarschuwen echter dat deze maatregelen alleen effectief zullen zijn als ze op wereldschaal worden geïmplementeerd.
De publicatie van het rapport komt op een moment dat de wereld al worstelt met de verspreiding van desinformatie en desinformatie. De COVID-19-pandemie ging gepaard met een wildgroei aan valse informatie over het virus en de oorsprong ervan, en socialemediaplatforms hebben moeite om de verspreiding van deze valse informatie te voorkomen.
AI zal het web aanzienlijk veranderen
Leugens en propaganda hebben altijd deel uitgemaakt van de menselijke samenleving. De beschikbaarheid en effectiviteit van beïnvloedingsoperaties (zowel op individuen als op samenlevingen) is echter toegenomen als gevolg van de ontwikkeling van meer geavanceerde technologieën, met name op het gebied van kunstmatige intelligentie (AI).
| Gerelateerd artikel: OpenAIDe CEO stelt dat het onderwijssysteem zich daaraan moet aanpassen ChatGPT, niet verbieden |
Drie belangrijke factoren dragen bij aan de wereldwijde opkomst, verspreiding en acceptatie van leugens als waarheid:
- De ontwikkeling van op AI gebaseerd beeld en video generatoren waarmee zeer realistische afbeeldingen en video's kunnen worden gemaakt van mensen en gebeurtenissen die nooit echt hebben plaatsgevonden.
- Het gebruik van sociale media om zeer snel valse informatie onder grote aantallen mensen te verspreiden.
- Het feit dat veel mensen nu meer vertrouwen op informatie die van internet komt dan op traditionele mediabronnen.
Als gevolg van deze factoren worden op AI gebaseerde beeld- en videogeneratoren steeds handiger in gebruik, zeer betrouwbaar en zeer efficiënt. Dit maakt ze ongelooflijk nuttig voor propagandadoeleinden.
Het is nu voor iedereen met een computer en een internetverbinding mogelijk om nepbeelden en -video's te maken die vrijwel niet van de werkelijkheid te onderscheiden zijn. Dit heeft geleid tot een situatie waarin het erg moeilijk is om te bepalen wat waar is en wat niet.
Het gebruik van sociale media om valse informatie te verspreiden is ook een groot probleem. Door de manier waarop sociale media werken, kan valse informatie zich heel snel en gemakkelijk verspreiden. Dit maakt het moeilijk voor mensen om te weten wat ze moeten geloven.
Het volgende illustreert hoe een revolutionaire ontwikkeling in 2022 het mogelijk maakte om nep te maken afbeeldingen die overeenkwam met beschrijvingen als 'Een wasbeer in formele kleding met een hoge hoed, een wandelstok en een vuilniszak. “Olieverfschilderij in de stijl van Rembrandt (het resultaat staat links) en Van Gogh (het resultaat staat rechts).”
De extreme vereenvoudiging van het proces van het wissen van de grens tussen waarheid en onwaarheid in combinatie met het onvermogen van het kritische denken van mensen om AI-propaganda tegen te gaan, zal leiden tot de dominantie van alomtegenwoordige, indefibare en onoverkomelijke invloedsoperaties, zowel in de politiek als in het bedrijfsleven.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
