Observatorij Stanford: Umetna inteligenca bo leta 2023 vodila do vseprisotnih laži in neustavljive propagande
Na kratko
Tehnologije AICG (generiranje vsebin z umetno inteligenco) bodo naredile neločljive resnice in laži, tako za posameznike kot za družbe ne glede na obseg.
To bo ustvarilo "post-resnično" okolje, v katerem bodo laži in propaganda postale vseprisotnedefizmogljiv in neustavljiv.
Dejstvo, da veliko ljudi bolj zaupa informacijam, ki prihajajo z interneta, kot iz tradicionalnih medijev, je zelo zaskrbljujoče.
Generatorji slik in videa, ki temeljijo na AI, postajajo vse bolj priročni za uporabo, zelo zanesljivi in zelo učinkoviti.
Zaradi tega so izjemno uporabni v propagandne namene.
Kitajski guru umetne inteligence Kai-Fu Lee je v svojem nagovoru svetovni skupnosti umetne inteligence opozoril, da se bo svet že leta 2023 soočil s tveganjem, ki bo resnejše od tveganj jedrske vojne, lakote ali pandemije. Tveganje je ustvarjanje vsebin z umetno inteligenco. (AICG). Tehnologije AICG bi lahko naredile resnico in laž neločljive, tako za posameznike kot za družbe ne glede na obseg.
O novo poročilo Center za varnost in nastajajoče tehnologije, OpenAI, in Stanford Internet Observatory, “Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures,” ponuja strateški vpogled v katastrofalni scenarij, ki ga opisuje Kai-Fu Lee.
Poročilo podrobno opisuje, kako bo verjetno prišlo do padca človeštva v brezno AICG. Tehnologije AICG bodo omogočile ustvarjanje ogromnih količin vsebin, ki jih ni mogoče razlikovati od vsebin, ki jih ustvari človek. To bo ustvarilo "post-resnično" okolje, v katerem bodo laži in propaganda postale vseprisotnedefizmogljiv in neustavljiv.
Poročilo priporoča številne omilitvene ukrepe, vključno z ureditvijo uporabe tehnologij AICG, povečanjem preglednosti njihove uporabe in razvojem standardov za njihovo uporabo. Vendar pa avtorji poročila opozarjajo, da bodo ti ukrepi učinkoviti le, če se bodo izvajali v svetovnem merilu.
Objava poročila prihaja v času, ko se svet že bori s širjenjem dezinformacij in dezinformacij. Pandemijo COVID-19 je spremljalo širjenje lažnih informacij o virusu in njegovem izvoru, platforme družbenih medijev pa so se trudile preprečiti širjenje teh lažnih informacij.
AI bo močno spremenil splet
Laži in propaganda sta bili vedno del človeške družbe. Razpoložljivost in učinkovitost kakršnih koli operacij vplivanja (tako na posameznika kot na družbo) pa se povečujeta z razvojem zahtevnejših tehnologij, predvsem na področju umetne inteligence (AI).
| Povezani članek: OpenAIIzvršni direktor navaja, da bi se moral izobraževalni sistem prilagoditi ChatGPT, ne prepovedati |
K globalnemu pojavu, širjenju in sprejemanju laži kot resnice prispevajo trije glavni dejavniki:
- Razvoj slike in videa na osnovi AI generatorji ki lahko ustvari zelo realistične slike in videoposnetke ljudi in dogodkov, ki se v resnici nikoli niso zgodili.
- Uporaba družbenih medijev za zelo hitro širjenje lažnih informacij velikemu številu ljudi.
- Dejstvo, da veliko ljudi zdaj bolj zaupa informacijam, ki prihajajo z interneta, kot iz tradicionalnih medijskih virov.
Zaradi teh dejavnikov postajajo generatorji slik in videa, ki temeljijo na AI, vse bolj priročni za uporabo, zelo zanesljivi in zelo učinkoviti. Zaradi tega so izjemno uporabni v propagandne namene.
Vsakdo, ki ima računalnik in internetno povezavo, lahko zdaj ustvari lažne slike in videoposnetke, ki se praktično ne razlikujejo od resničnosti. To je pripeljalo do situacije, v kateri je zelo težko ugotoviti, kaj je res in kaj ne.
Velika skrb je tudi uporaba družbenih medijev za širjenje lažnih informacij. Zaradi načina delovanja družbenih medijev se lahko lažne informacije zelo hitro in enostavno širijo. Zaradi tega ljudje težko vedo, čemu verjeti.
Naslednje ponazarja, kako je revolucionaren razvoj leta 2022 omogočil ustvarjanje ponaredkov slike ki se ujemajo z opisi, kot je »Rakun v formalnih oblačilih s cilindrom, palico in vrečo za smeti. "Oljna slika v slogu Rembrandta (rezultat je na levi) in Van Gogha (rezultat je na desni)."
Skrajna poenostavitev procesa brisanja meje med resnico in lažjo v kombinaciji z nezmožnostjo kritičnega razmišljanja ljudi, da bi se zoperstavila propagandi umetne inteligence, bo pripeljala do prevlade vseprisotnega, vdefimočne in nepremostljive operacije vplivanja, tako v politiki kot v poslu.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
