Odborníci na umelú inteligenciu a verejné osobnosti varujú pred rizikom zániku umelej inteligencie
Stručne
Významní odborníci na AI a vplyvné osobnosti vyjadrujú svoj názor obavy týkajúce sa rizík spojených s AI.
Napriek výraznému pokroku v oblasti AI zostáva veľa problémov súvisiacich s rizikom AI nevyriešených.
Významní odborníci na AI a verejné osobnosti vydali vyhlásenie, v ktorom varujú, že AI môže predstavovať hrozbu pre prežitie ľudstva, ktorá je porovnateľná alebo dokonca väčšia ako riziká pandémií a jadrovej vojny. 350 signatárov tvrdí, že AI by mohla mať nepredvídateľné a katastrofálne následky, ako je vypustenie autonómnych zbraní, narušenie sociálnych a ekonomických systémov alebo vytvorenie superinteligentných agentov, ktorí by dokázali prekabátiť a premôcť ľudí.
Vyzývajú tvorcov politík, aby brali tieto riziká vážne a prijali opatrenia na zabezpečenie bezpečného a prospešného vývoja AI. The vyhlásenie sú podpísané niektoré z popredných osobností výskumu a vývoja AI, ako napr OpenAI Generálny riaditeľ Sam Altman, spoluzakladateľ Skype Jaan Tallinn, generálny riaditeľ DeepMind Demis Hassabis a počítačový vedec AI Geoffrey Hinton, ako aj vplyvné verejné osobnosti, ako je hudobník Grimes a podcaster Sam Harris.
Medzi signatármi boli víťazi Turingovej ceny za rok 2018 za ich prínos k hlbokému vzdelávaniu: Geoffrey Hinton a Yoshua Bengio. Pridali sa k nim profesori z prestížnych univerzít, akými sú Harvard a Tsinghua University v Číne, ako aj Max Tegmark z MIT.
„Zmiernenie rizika vyhynutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách spoločenského rozsahu, ako sú pandémie a jadrová vojna,“
uvádza list zverejnený CAIS.
Centrum pre bezpečnosť AI (CAIS), nezisková organizácia so sídlom v San Franciscu, sa snaží riešiť bezpečnostné problémy súvisiace s umelou inteligenciou. Hoci uznáva potenciálne výhody AI, CAIS zdôrazňuje potrebu vyvinúť a používať ju bezpečne. Napriek výraznému pokroku v oblasti AI zostávajú mnohé základné výzvy v oblasti bezpečnosti AI nevyriešené, verí spoločnosť. Podľa svojej webovej stránky je poslaním CAIS zmierňovať riziká vykonávaním bezpečnostného výskumu, podporovaním komunity výskumníkov bezpečnosti AI a obhajovaním bezpečnostných noriem.
„Existuje mnoho „dôležitých a naliehavých rizík AI“, nielen riziko vyhynutia; napríklad systémová zaujatosť, dezinformácie, zlomyseľné použitie, kybernetické útoky a zbrojenie. To všetko sú dôležité riziká, ktoré treba riešiť. Spoločnosti môžu riadiť viacero rizík naraz; nie je to „buď/alebo“, ale „áno/a“. Z pohľadu manažmentu rizík, rovnako ako by bolo neuvážené uprednostňovať výlučne súčasné škody, bolo by tiež bezohľadné ignorovať ich,“
Dan Hendrycks, riaditeľ CAIS napísal na Twitteri.
V marci viac ako 1,100 XNUMX technologických expertov podpísaný otvorený list požadujúci šesťmesačné zastavenie školenia systémov AI presahujúcich hranice GPT-4. Nedávno aj európski zákonodarcovia schválený prísnejší návrh legislatívy, známy ako zákon o umelej inteligencii, regulujúci nástroje umelej inteligencie, napr ChatGPT. Zákon obsahuje požiadavky na bezpečnostné kontroly, správu údajov a zmierňovanie rizík pre základné modely AI a zakazuje praktiky, ako sú manipulačné techniky a určité použitie biometrie.
Prečítajte si viac:
- OpenAI Odhaľuje svoj najnovší prístup k zaisteniu bezpečnosti AI
- Chystá sa Google oznámiť generátor prevodu textu na avatara pre hráčov?
- Amazon CodeWhisperer dáva vývojárom výhodu, ktorú potrebujú v AI Aréne
- Vitalik Buterin a riaditeľ MIRI Nate Soares sa ponoria do nebezpečenstva AI
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
