AI eksperdid ja avaliku elu tegelased hoiatavad tehisintellekti väljasuremisohu kohta
Põgusalt
Silmapaistvad AI-eksperdid ja mõjukad tegelased väljendavad oma seisukohta muret tehisintellektiga seotud riskide pärast.
Vaatamata tehisintellekti märkimisväärsele edule on paljud tehisintellekti riskiga seotud probleemid lahendamata.
Tuntud tehisintellekti eksperdid ja avaliku elu tegelased on avaldanud avalduse, milles hoiatavad, et tehisintellekt võib kujutada endast ohtu inimkonna ellujäämisele, mis on võrreldav või isegi suurem kui pandeemiate ja tuumasõja oht. 350 allakirjutanud väidavad, et tehisintellektil võivad olla ettenägematud ja katastroofilised tagajärjed, nagu autonoomsete relvade vallandamine, sotsiaalsete ja majanduslike süsteemide lõhkumine või üliintelligentsete agentide loomine, mis võivad inimesi üle kavaldada ja nendest üle saada.
Nad kutsuvad poliitikakujundajaid üles neid riske tõsiselt võtma ja võtma meetmeid ohutu ja kasuliku tehisintellekti arendamise tagamiseks. The avaldus on allkirjastanud mõned AI teadus- ja arendustegevuse juhtivad tegelased, näiteks OpenAI Tegevjuht Sam Altman, Skype Jaan Tallinn kaasasutaja, DeepMindi tegevjuht Demis Hassabis ja tehisintellekti arvutiteadlane Geoffrey Hinton, aga ka mõjukad avalikud isikud, nagu muusik Grimes ja taskuhäälingusaatja Sam Harris.
Allakirjutanute hulgas olid 2018. aasta Turingi auhinna võitjad oma panuse eest süvaõppesse: Geoffrey Hinton ja Yoshua Bengio. Nendega ühinesid professorid mainekatest ülikoolidest nagu Harvard ja Tsinghua ülikool Hiinas, samuti MIT-i Max Tegmark.
Tehisintellektist väljasuremisohu vähendamine peaks olema ülemaailmne prioriteet koos muude ühiskondlike riskidega, nagu pandeemiad ja tuumasõda.
seisab CAISi avaldatud kirjas.
AI ohutuse keskus (CAIS), San Franciscos asuv mittetulundusorganisatsioon, mille eesmärk on tegeleda tehisintellektiga seotud ohutusprobleemidega. Tunnistades tehisintellekti potentsiaalseid eeliseid, rõhutab CAIS vajadust seda ohutult arendada ja kasutada. Ettevõte usub, et hoolimata tehisintellekti olulistest edusammudest on paljud tehisintellekti ohutusega seotud põhiprobleemid lahendamata. Oma veebisaidi kohaselt on CAISi missioon riskide maandamine, viies läbi ohutusuuringuid, edendades tehisintellekti ohutuse teadlaste kogukonda ja propageerides ohutusstandardeid.
Tehisintellektiga kaasnevad mitmed olulised ja kiireloomulised riskid, mitte ainult väljasuremisoht; näiteks süsteemne eelarvamus, valeinformatsioon, pahatahtlik kasutamine, küberrünnakud ja relvastus. Need kõik on olulised riskid, millega tuleb tegeleda. Ühiskonnad saavad korraga juhtida mitut riski; see ei ole "kas/või", vaid "jah/ja". Riskijuhtimise seisukohast, nagu oleks hoolimatu seada esikohale ainult praegune kahju, oleks hoolimatu ka neid ignoreerida.
Dan Hendrycks, CAISi direktor kirjutas puperdama.
Märtsis üle 1,100 tehnikaeksperdi allkirjastatud avalik kiri, milles nõuti tehisintellektisüsteemide väljaõppe peatamist kuueks kuuks GPT-4. Euroopa seadusandjad ka hiljuti heaks tehisintellekti seadusena tuntud rangemad seaduseelnõud, mis reguleerivad selliseid tehisintellekti tööriistu nagu ChatGPT. Seadus sisaldab nõudeid tehisintellekti põhimudelite ohutuskontrolli, andmete haldamise ja riskide maandamise kohta ning keelab sellised tavad nagu manipuleerimistehnikad ja biomeetria teatud kasutusviisid.
Loe rohkem:
- OpenAI Tutvustab oma uusima lähenemisviisiga AI ohutuse tagamiseks
- Kas Google kuulutab välja mängijatele mõeldud teksti-avatari generaatori?
- Amazoni CodeWhisperer annab arendajatele tehisintellekti areenil vajaliku eelise
- Vitalik Buterin ja MIRI direktor Nate Soares süvenevad tehisintellekti ohtudesse
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
Veel artikleid
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
