Vedoucí představitelé umělé inteligence varují před rostoucími riziky a etickými obavami při rychlém pokroku
V nedávném prohlášení o politice, prominentní osobnosti v oblasti umělé inteligence, včetně Bengia, Hintona, Russella, Harariho a Kahnemana, bili na poplach ohledně rychlého pokroku a rostoucích společenských rizik spojených s umělou inteligencí.
AI se rychle vyvíjí. GPT-2 před čtyřmi lety neuměl počítat od 0 do 100, ale moderní modely dokážou psát kód, vytvářet úžasné obrázky a nabízet intelektuální vedení. A protože jsme v závodě, pokrok může nabrat ještě větší rychlost. Kromě toho AI postupuje rychleji, například tím, že pomáhá při programování nových systémů a shromažďování dat pro jejich školení.
Jakmile pokrok zasáhne lidské úrovně, není důvod si myslet, že se zpomalí nebo zastaví. V určitých oblastech již umělé systémy v tomto ohledu překonaly lidi a projevily se schopnosti, jako je rychlejší zpracování rychlosti, větší kapacity zpracování dat a rozsáhlá škálovatelnost. Podniky disponují finančními prostředky na realizaci školicích programů, které daleko překračují stávající limit.
Autoři se domnívají, že je velká šance, že se během příštích deseti let objeví lepší generalista AI, přesahující lidské schopnosti v mnoha důležitých oblastech.
Co se stane dál? Všechny životy lze zlepšit, pokud jsou správně spravovány a distribuovány. Špatně zvolená varianta s sebou nese značná rizika, na která nejsme dostatečně připraveni. Místo toho, aby byly přiděleny na bezpečnost a prevenci škod, jsou značné zdroje využívány k budování systémů umělé inteligence, které jsou stále účinnější. To je třeba změnit; prosazování dovedností samo o sobě nestačí. A tento proces trvá déle, než se očekávalo. Vyšší rizika musíme plánovat dříve, než nastanou, a to tak, že předvídáme eskalaci současných hrozeb a výskyt nových. Na umělou inteligenci nemáme tolik času, protože trvá desítky let, než se v souvislosti s ní přijme změna klimatu.
Na společenské úrovni existuje řada rizik, včetně nárůstu nespravedlnosti, zhoršení stability a zhoršení běžného vnímání reality. Zde se teroristé a zločinci zabývají rozsáhlou činností. Umělá inteligence by se mohla koncentrovat v rukou několika hráčů, což by vedlo ke zvýšení globální nerovnosti, usnadnění automatizovaného válčení, masové manipulaci, která je přizpůsobena každému jednotlivci, a všudypřítomnému sledování.
Jako autonomní Umělá inteligence se stává sofistikovanější a dokáže plánovat, jednat ve světě a dosáhnout svých cílů, tato rizika jen porostou. Tyto cíle nemusí být v našem nejlepším zájmu a v případě špatných aktérů mohou být dokonce škodlivé. V současné době není jasné, jak vyřešit problém AI Alignment, který zahrnuje sladění chování AI s našimi složitými cíli. Navíc je velmi jednoduché přehlédnout bezpečnostní opatření při závodění s úmyslem vyhrát.
Běžný software je pro lidi obtížně ovladatelný, natož sofistikované systémy umělé inteligence, které jsou stále zběhlejší v sociálním inženýrství, hackování, podvodech a strategickém plánování. To je něco, co autonomní systémy AI mohou získat od lidí nebo vytvořit samy.
Tyto systémy mají schopnost vytvářet koalice s jednotlivci a dalšími systémy, získat důvěru, zajistit financování a ovlivnit osoby s rozhodovací pravomocí. Stejně jako červ jsou schopny sebereplikace v celé síti. Obrovské množství kódu je již napsáno s pomocí asistentů AI; v budoucnu mohou systémy začlenit exploity do mnoha klíčových systémů. Systémy AI mají schopnost používat nebo ohrožovat biologické nebo autonomní zbraně v otevřeném boji. Toto je pouze pokračování současné pohyby směrem k biologickému výzkumu, umělé inteligenci a automatizaci válčení. Lidé mohou považovat za příliš náročné zakročit a vzdorovat.
V mnoha případech jsme ochotni jim dát otěže, aniž by o to museli žádat. Mnoho jednotlivců a podniků je ochotno zavést takové systémy sami v konkurenčním prostředí z obavy, že zaostanou za konkurencí.
Celý dokument lze nalézt zde.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
