Strokovnjaki za umetno inteligenco in javne osebnosti sprožajo alarme zaradi nevarnosti izumrtja umetne inteligence
Na kratko
Ugledni strokovnjaki za umetno inteligenco in vplivne osebnosti izražajo svoje mnenje pomisleke glede tveganj, povezanih z umetno inteligenco.
Kljub znatnemu napredku na področju umetne inteligence številni izzivi, povezani s tveganjem umetne inteligence, ostajajo nerešeni.
Ugledni strokovnjaki za umetno inteligenco in javne osebnosti so izdali izjavo, v kateri opozarjajo, da bi lahko umetna inteligenca predstavljala grožnjo preživetju človeštva, primerljivo ali celo večjo od nevarnosti pandemije in jedrske vojne. 350 podpisnikov trdi, da bi umetna inteligenca lahko imela nepredvidene in katastrofalne posledice, kot je sprostitev avtonomnega orožja, motnje družbenih in gospodarskih sistemov ali ustvarjanje superinteligentnih agentov, ki bi lahko prelisičili in premagali ljudi.
Pozivajo oblikovalce politik, naj ta tveganja vzamejo resno in sprejmejo ukrepe za zagotovitev varnega in koristnega razvoja umetne inteligence. The Izjava podpisujejo nekatere vodilne osebnosti v raziskavah in razvoju AI, kot npr OpenAI Izvršni direktor Sam Altman, soustanovitelj Skypea Jaan Tallinn, izvršni direktor DeepMinda Demis Hassabis in računalniški znanstvenik Geoffrey Hinton, pa tudi vplivne javne osebnosti, kot sta glasbenik Grimes in podcaster Sam Harris.
Med podpisniki sta bila dobitnika Turingove nagrade 2018 za svoje prispevke k globokemu učenju: Geoffrey Hinton in Yoshua Bengio. Pridružili so se jim profesorji s prestižnih univerz, kot sta Harvard in univerza Tsinghua na Kitajskem, ter Max Tegmark z MIT-a.
"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti globalna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna,"
piše v pismu, ki ga je objavil CAIS.
Center za varnost umetne inteligence (CAIS), neprofitna organizacija s sedežem v San Franciscu, želi obravnavati varnostna vprašanja, povezana z umetno inteligenco. CAIS sicer priznava možne koristi umetne inteligence, vendar poudarja potrebo po njenem razvoju in varni uporabi. Kljub znatnemu napredku na področju umetne inteligence številni temeljni izzivi na področju varnosti umetne inteligence ostajajo nerešeni, meni podjetje. Glede na njegovo spletno stran je poslanstvo CAIS ublažiti tveganja z izvajanjem varnostnih raziskav, spodbujanjem skupnosti varnostnih raziskovalcev umetne inteligence in zagovarjanjem varnostnih standardov.
»Obstaja veliko »pomembnih in nujnih tveganj zaradi umetne inteligence«, ne le nevarnost izumrtja; na primer sistemska pristranskost, dezinformacije, zlonamerna uporaba, kibernetski napadi in uporaba orožja. Vse to so pomembna tveganja, ki jih je treba obravnavati. Družbe lahko obvladujejo več tveganj hkrati; ni "ali/ali", ampak "da/in." Z vidika obvladovanja tveganja, tako kot bi bilo nepremišljeno dati prednost izključno sedanji škodi, bi bilo prav tako nepremišljeno, če bi jih tudi ignorirali,«
Dan Hendrycks, direktor CAIS Napisal na Twitterju.
Marca več kot 1,100 tehničnih strokovnjakov podpisano odprto pismo, v katerem zahteva šestmesečno prekinitev usposabljanja sistemov umetne inteligence, ki presegajo GPT-4. Nedavno tudi evropski zakonodajalci odobren strožji osnutek zakonodaje, znan kot zakon o AI, ki ureja orodja AI, kot je ChatGPT. Akt vključuje zahteve za varnostne preglede, upravljanje podatkov in zmanjševanje tveganja za temeljne modele umetne inteligence ter prepoveduje prakse, kot so manipulativne tehnike in nekatere uporabe biometrije.
Preberite več:
- OpenAI Razkriva svoj najnovejši pristop k zagotavljanju varnosti AI
- Ali bo Google napovedal generator besedila v avatar za igralce?
- Amazonov CodeWhisperer daje razvijalcem prednost, ki jo potrebujejo v areni umetne inteligence
- Vitalik Buterin in direktor MIRI Nate Soares se poglabljata v nevarnosti umetne inteligence
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
več člankov
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
