Lídri AI varujú pred rastúcimi rizikami a etickými obavami pri rýchlom pokroku
V nedávnom vyhlásení o politike, prominentné osobnosti v oblasti AI, vrátane Bengia, Hintona, Russella, Harariho a Kahnemana, bili na poplach v súvislosti s rýchlym pokrokom a rastúcimi spoločenskými rizikami spojenými s AI.
AI sa rýchlo rozvíja. GPT-2 Pred štyrmi rokmi nevedeli počítať od 0 do 100, ale moderné modely dokážu písať kód, vytvárať úžasné obrázky a poskytovať intelektuálne rady. A keďže sme v pretekoch, pokrok môže nabrať ešte väčšiu rýchlosť. Okrem toho AI napreduje rýchlejšie, napríklad tým, že pomáha pri programovaní nových systémov a zhromažďovaní údajov na ich školenie.
Akonáhle pokrok dosiahne ľudské úrovne, nie je dôvod si myslieť, že sa spomalí alebo zastaví. V niektorých regiónoch už umelé systémy v tomto ohľade prekonali ľudí, čo sa prejavuje schopnosti, ako je rýchlejšie spracovanie rýchlosť, väčšie kapacity spracovania dát a rozsiahla škálovateľnosť. Podniky disponujú finančnými prostriedkami na realizáciu vzdelávacích programov, ktoré ďaleko presahujú súčasný limit.
Autori si myslia, že existuje veľká šanca, že v priebehu nasledujúcich desiatich rokov sa objaví lepší všeobecný odborník na AI. prevyšujúce ľudské schopnosti v mnohých dôležitých oblastiach.
Čo sa stane ďalej? Všetky životy sa dajú zlepšiť, ak sú správne spravované a distribuované. Zle zvolená možnosť so sebou nesie značné riziká, na ktoré nie sme pripravení. Namiesto vyčlenenia na bezpečnosť a prevenciu škôd sa značné zdroje využívajú na budovanie systémov umelej inteligencie, ktoré sú stále výkonnejšie. Toto je potrebné zmeniť; samotné získavanie zručností je nedostatočné. A tento proces trvá dlhšie, ako sa očakávalo. Vyššie riziká musíme plánovať skôr, ako vzniknú, a to predvídaním eskalácie súčasných hrozieb a objavením sa nových. Na umelú inteligenciu nemáme toľko času, pretože jej prijatie v súvislosti s ňou trvá desaťročia zmena klímy.
Na spoločenskej úrovni existujú mnohé riziká, vrátane nárastu nespravodlivosti, zhoršenia stability a zhoršenia bežného vnímania reality. Teroristi a zločinci sú tu zapojení do rozsiahlej činnosti. Umelá inteligencia by sa mohla koncentrovať v rukách niekoľkých hráčov, čo by viedlo k zvýšeniu globálnej nerovnosti, uľahčeniu automatizovaného boja, masovej manipulácii prispôsobenej každému jednotlivcovi a všadeprítomnému dohľadu.
Ako autonómne AI sa stáva sofistikovanejšou a dokáže plánovať, konať vo svete a dosiahnuť svoje ciele, tieto riziká budú len stúpať. Tieto ciele nemusia byť v našom najlepšom záujme a v prípade zlých aktérov môžu byť dokonca škodlivé. Momentálne nie je jasné, ako vyriešiť problém zarovnania AI, ktorý zahŕňa zosúladenie správania AI s našimi zložitými cieľmi. Okrem toho je veľmi jednoduché prehliadať bezpečnostné opatrenia pri pretekaní s úmyslom vyhrať.
Bežný softvér je pre ľudí ťažké ovládať, nehovoriac o sofistikovaných systémoch AI, ktoré sú čoraz šikovnejšie v oblasti sociálneho inžinierstva, hackingu, klamstva a strategického plánovania. To je niečo, čo autonómne systémy AI môžu získať od ľudí alebo vytvoriť sami.
Tieto systémy majú schopnosť vytvárať koalície s jednotlivcami a inými systémami, získavať dôveru, zabezpečovať financovanie a rozhodovať sa. Rovnako ako červ sú schopné sebareplikácie v celej sieti. Obrovské množstvo kódu je už napísané s pomocou asistentov AI; v budúcnosti môžu systémy začleniť exploity do mnohých dôležitých systémov. Systémy AI majú schopnosť používať alebo ohrozovať biologické alebo autonómne zbrane v otvorenom boji. Toto je len pokračovanie súčasné pohyby smerom k biologickému výskumu, umelej inteligencii a automatizácii vojen. Ľudia môžu považovať za príliš náročné zakročiť a odolať.
V mnohých prípadoch sme ochotní dať im opraty bez toho, aby o to museli požiadať. Mnohí jednotlivci a podniky sú ochotní zaviesť takéto systémy sami v konkurenčnom prostredí z obavy, že zaostanú za konkurenciou.
Celý dokument nájdete tu.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
