Stanford Observatory: AI kommer att leda till allestädes närvarande lögner och oemotståndlig propaganda 2023
I korthet
AICG (artificiell intelligens content generation) teknologier kommer att göra sanning och lögner oskiljaktiga, både för individer och för samhällen av alla skala.
Detta kommer att skapa en "post-sanning" miljö där lögner och propaganda kommer att bli allestädes närvarande, idefiduktig och oemotståndlig.
Det faktum att många människor litar mer på information som kommer från internet än från traditionella medier är ett stort problem.
AI-baserade bild- och videogeneratorer blir allt mer bekväma att använda, mycket pålitliga och mycket effektiva.
Detta gör dem otroligt användbara i propagandasyfte.
I sitt tal till den globala AI-gemenskapen varnade den kinesiska AI-gurun Kai-Fu Lee för att världen skulle stå inför en risk som är allvarligare än riskerna för kärnvapenkrig, svält eller en pandemi redan 2023. Risken är generering av artificiell intelligens. (AICG). AICG-teknologier skulle kunna göra sanning och lögner omöjliga att skilja, både för individer och för samhällen av vilken skala som helst.
Smakämnen ny rapport av Center for Security and Emerging Technology, OpenAI, och Stanford Internet Observatory, "Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures," ger en strategisk inblick i det katastrofala scenariot som Kai-Fu Lee beskrev.
| Relaterad artikel: Den amerikanska kongressen vill skapa en federal byrå för att reglera artificiell intelligens |
Rapporten beskriver hur mänsklighetens fall i AICG-avgrunden sannolikt kommer att inträffa. AICG-tekniker kommer att göra det möjligt att generera stora mängder innehåll som inte kan skiljas från mänskligt genererat innehåll. Detta kommer att skapa en "post-sanning" miljö där lögner och propaganda kommer att bli allestädes närvarande, idefiduktig och oemotståndlig.
Rapporten rekommenderar ett antal begränsningsåtgärder, inklusive reglering av användningen av AICG-tekniker, ökad transparens om deras användning och utveckling av standarder för deras användning. Författarna till rapporten varnar dock för att dessa åtgärder endast kommer att vara effektiva om de genomförs på global skala.
Rapportens släpp kommer vid en tidpunkt då världen redan kämpar för att hantera spridningen av desinformation och desinformation. Covid-19-pandemin har åtföljts av en spridning av falsk information om viruset och dess ursprung, och sociala medieplattformar har kämpat för att förhindra spridningen av denna falska information.
AI kommer att avsevärt förändra webben
Lögner och propaganda har alltid varit en del av det mänskliga samhället. Tillgängligheten och effektiviteten av alla inflytandeoperationer (både på individer och på samhällen) har dock ökat på grund av utvecklingen av mer sofistikerade teknologier, särskilt inom området artificiell intelligens (AI).
| Relaterad artikel: OpenAIs vd konstaterar att utbildningssystemet bör anpassa sig till ChatGPT, inte förbjuda det |
Tre viktiga faktorer bidrar till den globala uppkomsten, spridningen och acceptansen av lögner som sanning:
- Utvecklingen av AI-baserad bild och video generatorer som kan skapa mycket realistiska bilder och videor av människor och händelser som aldrig faktiskt hände.
- Användningen av sociala medier för att sprida falsk information till ett stort antal människor mycket snabbt.
- Det faktum att många människor nu litar mer på information som kommer från internet än från traditionella mediekällor.
Som ett resultat av dessa faktorer blir AI-baserade bild- och videogeneratorer allt mer bekväma att använda, mycket pålitliga och mycket effektiva. Detta gör dem otroligt användbara i propagandasyfte.
Det är nu möjligt för alla med en dator och en internetuppkoppling att skapa falska bilder och videor som är praktiskt taget omöjliga att skilja från verkligheten. Detta har lett till en situation där det är mycket svårt att avgöra vad som är sant och vad som inte är det.
Användningen av sociala medier för att sprida falsk information är också ett stort problem. På grund av hur sociala medier fungerar kan falsk information spridas mycket snabbt och enkelt. Detta gör det svårt för människor att veta vad de ska tro.
Följande illustrerar hur en revolutionerande utveckling 2022 gjorde det möjligt att skapa falska bilder som matchade beskrivningar som "En tvättbjörn i formella kläder med en hög hatt, en käpp och en soppåse. "Oljemålning i stil med Rembrandt (resultatet är till vänster) och Van Gogh (resultatet är till höger)."
Den extrema förenklingen av processen att radera gränsen mellan sanning och lögn i kombination med oförmågan hos människors kritiska tänkande att motverka AI-propaganda kommer att leda till dominansen av allestädes närvarande, idefioöverstigliga inflytandeoperationer, både inom politik och näringsliv.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
