Stanfordské observatórium: AI povedie v roku 2023 k všadeprítomným klamstvám a neodolateľnej propagande
Stručne
Vďaka technológiám AICG (artificial intelligence content generation) budú pravda a lži nerozoznateľné pre jednotlivcov aj pre spoločnosti akéhokoľvek rozsahu.
To vytvorí „post-pravdivé“ prostredie, v ktorom sa lož a propaganda stanú všadeprítomnýmidefiušľachtilý a neodolateľný.
Skutočnosť, že mnohí ľudia viac dôverujú informáciám, ktoré pochádzajú z internetu ako z tradičných médií, je veľkým problémom.
Generátory obrazu a videa založené na AI sú čoraz pohodlnejšie na používanie, sú vysoko spoľahlivé a vysoko efektívne.
Vďaka tomu sú neuveriteľne užitočné na propagandistické účely.
Čínsky AI guru Kai-Fu Lee vo svojom príhovore ku globálnej komunite AI varoval, že svet bude čeliť vážnejšiemu riziku, ako sú riziká jadrovej vojny, hladomoru alebo pandémie už v roku 2023. Rizikom je generovanie obsahu umelej inteligencie (AICG). Vďaka technológiám AICG by sa pravda a lož mohla stať nerozoznateľnými pre jednotlivcov aj pre spoločnosti akéhokoľvek rozsahu.
nová správa Centrum pre bezpečnosť a nové technológie, OpenAIa Stanford Internet Observatory, „Generatívne jazykové modely a operácie s automatickým vplyvom: Nové hrozby a potenciálne opatrenia na zmiernenie“, poskytuje strategický pohľad na katastrofický scenár, ktorý opísal Kai-Fu Lee.
| Súvisiaci článok: Americký Kongres chce vytvoriť federálnu agentúru na reguláciu umelej inteligencie |
Správa podrobne popisuje, ako pravdepodobne dôjde k pádu ľudstva do priepasti AICG. Technológie AICG umožnia generovať obrovské množstvá obsahu na nerozoznanie od obsahu vytvoreného ľuďmi. To vytvorí „post-pravdivé“ prostredie, v ktorom sa lož a propaganda stanú všadeprítomnýmidefiušľachtilý a neodolateľný.
Správa odporúča niekoľko zmierňujúcich opatrení vrátane regulácie používania technológií AICG, zvýšenia transparentnosti ich používania a vypracovania noriem na ich používanie. Autori správy však upozorňujú, že tieto opatrenia budú účinné len vtedy, ak budú implementované v globálnom meradle.
Zverejnenie správy prichádza v čase, keď sa svet už snaží vyrovnať so šírením dezinformácií a dezinformácií. Pandémiu COVID-19 sprevádzalo šírenie nepravdivých informácií o víruse a jeho pôvode a platformy sociálnych médií sa snažia zabrániť šíreniu týchto nepravdivých informácií.
AI výrazne zmení web
Klamstvá a propaganda boli vždy súčasťou ľudskej spoločnosti. Dostupnosť a účinnosť akýchkoľvek operácií vplyvu (ako na jednotlivcov, tak na spoločnosti) sa však zvyšuje vďaka rozvoju sofistikovanejších technológií, najmä v oblasti umelej inteligencie (AI).
| Súvisiaci článok: OpenAIGenerálny riaditeľ spoločnosti uvádza, že vzdelávací systém by sa mal prispôsobiť ChatGPT, nie zakázať to |
Tri hlavné faktory prispievajú ku globálnemu vzniku, šíreniu a akceptovaniu lží ako pravdy:
- Vývoj obrazu a videa založených na AI generátory ktorý dokáže vytvárať vysoko realistické obrázky a videá ľudí a udalostí, ktoré sa v skutočnosti nikdy nestali.
- Využívanie sociálnych médií na rýchle šírenie nepravdivých informácií veľkému počtu ľudí.
- Skutočnosť, že mnohí ľudia v súčasnosti viac dôverujú informáciám, ktoré pochádzajú z internetu, ako z tradičných mediálnych zdrojov.
V dôsledku týchto faktorov sú generátory obrázkov a videa založené na AI čoraz pohodlnejšie na používanie, sú vysoko spoľahlivé a vysoko efektívne. Vďaka tomu sú neuveriteľne užitočné na propagandistické účely.
Teraz môže ktokoľvek s počítačom a pripojením na internet vytvárať falošné obrázky a videá, ktoré sú prakticky na nerozoznanie od reality. To viedlo k situácii, v ktorej je veľmi ťažké určiť, čo je pravda a čo nie.
Veľkým problémom je aj používanie sociálnych médií na šírenie nepravdivých informácií. Vzhľadom na spôsob fungovania sociálnych médií sa nepravdivé informácie môžu šíriť veľmi rýchlo a ľahko. Preto je pre ľudí ťažké vedieť, čomu majú veriť.
Nasledujúci text ilustruje, ako revolučný vývoj v roku 2022 umožnil vytvárať falošné obrazy ktoré sa zhodovali s popismi ako „Mýval vo formálnom oblečení s cylindrom, palicou a vrecom na odpadky. "Olejomaľba v štýle Rembrandta (výsledok je vľavo) a Van Gogha (výsledok je vpravo."
Extrémne zjednodušenie procesu stierania hranice medzi pravdou a klamstvom v kombinácii s neschopnosťou kritického myslenia ľudí čeliť propagande AI povedie k dominancii všadeprítomnýchdefinemožné a neprekonateľné operácie vplyvu v politike aj v biznise.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
