Stanford Observatory: AI vil føre til allestedsnærværende løgne og uimodståelig propaganda i 2023
Kort sagt
AICG (artificial intelligence content generation) teknologier vil gøre sandhed og løgne umulige at skelne, både for enkeltpersoner og for samfund af enhver skala.
Dette vil skabe et "post-sandhed" miljø, hvor løgne og propaganda vil blive allestedsnærværende, idefidygtig og uimodståelig.
Det faktum, at mange mennesker har større tillid til information, der kommer fra internettet end fra traditionelle medier, er en stor bekymring.
AI-baserede billed- og videogeneratorer bliver mere og mere bekvemme at bruge, meget pålidelige og yderst effektive.
Dette gør dem utroligt nyttige til propagandaformål.
I sin tale til det globale AI-samfund advarede den kinesiske AI-guru Kai-Fu Lee, at verden ville stå over for en risiko, der er mere alvorlig end risikoen for atomkrig, hungersnød eller en pandemi allerede i 2023. Risikoen er generering af kunstig intelligens-indhold. (AICG). AICG-teknologier kunne gøre sandhed og løgne umulige at skelne, både for enkeltpersoner og for samfund af enhver skala.
ny rapport af Center for Sikkerhed og Emerging Technology, OpenAI, og Stanford Internet Observatory, "Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures," giver et strategisk indblik i det katastrofale scenarie beskrevet af Kai-Fu Lee.
| Relateret artikel: Den amerikanske kongres ønsker at oprette et føderalt agentur til at regulere kunstig intelligens |
Rapporten beskriver, hvordan menneskehedens fald i AICG-afgrunden sandsynligvis vil ske. AICG-teknologier vil gøre det muligt at generere enorme mængder indhold, der ikke kan skelnes fra menneskeskabt indhold. Dette vil skabe et "post-sandhed" miljø, hvor løgne og propaganda vil blive allestedsnærværende, idefidygtig og uimodståelig.
Rapporten anbefaler en række afbødende foranstaltninger, herunder regulering af brugen af AICG-teknologier, øget gennemsigtighed om deres brug og udvikling af standarder for deres anvendelse. Rapportens forfattere advarer dog om, at disse foranstaltninger kun vil være effektive, hvis de implementeres på globalt plan.
Rapportens udgivelse kommer på et tidspunkt, hvor verden allerede kæmper for at klare spredningen af misinformation og desinformation. COVID-19-pandemien er blevet ledsaget af en spredning af falsk information om virussen og dens oprindelse, og sociale medieplatforme har kæmpet for at forhindre spredningen af denne falske information.
AI vil ændre nettet markant
Løgne og propaganda har altid været en del af det menneskelige samfund. Tilgængeligheden og effektiviteten af enhver påvirkningsoperation (både på individer og på samfund) er imidlertid steget på grund af udviklingen af mere sofistikerede teknologier, især inden for kunstig intelligens (AI).
| Relateret artikel: OpenAIs administrerende direktør oplyser, at uddannelsessystemet bør tilpasse sig ChatGPT, ikke forbyde det |
Tre hovedfaktorer bidrager til den globale fremkomst, spredning og accept af løgne som sandhed:
- Udviklingen af AI-baseret billede og video generatorer der kan skabe meget realistiske billeder og videoer af mennesker og begivenheder, der aldrig rent faktisk er sket.
- Brugen af sociale medier til at formidle falsk information til et stort antal mennesker meget hurtigt.
- Det faktum, at mange mennesker nu har større tillid til information, der kommer fra internettet end fra traditionelle mediekilder.
Som et resultat af disse faktorer bliver AI-baserede billed- og videogeneratorer stadig mere bekvemme at bruge, meget pålidelige og yderst effektive. Dette gør dem utroligt nyttige til propagandaformål.
Det er nu muligt for alle med en computer og en internetforbindelse at skabe falske billeder og videoer, der stort set ikke kan skelnes fra virkeligheden. Dette har ført til en situation, hvor det er meget svært at afgøre, hvad der er sandt, og hvad der ikke er.
Brugen af sociale medier til at formidle falsk information er også en stor bekymring. På grund af den måde, sociale medier fungerer på, kan falsk information spredes meget hurtigt og nemt. Dette gør det svært for folk at vide, hvad de skal tro.
Det følgende illustrerer, hvordan en revolutionerende udvikling i 2022 gjorde det muligt at skabe falske billeder der matchede beskrivelser som "En vaskebjørn i formelt tøj med en høj hat, en stok og en skraldepose. "Oliemaleri i stil med Rembrandt (resultatet er til venstre) og Van Gogh (resultatet er til højre)."
Den ekstreme forenkling af processen med at slette grænsen mellem sandhed og løgn kombineret med den manglende evne af folks kritiske tænkning til at imødegå AI-propaganda vil føre til dominansen af allestedsnærværende, idefidygtige og uoverstigelige indflydelsesoperationer, både i politik og erhvervsliv.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
