Novice Tehnologija
Maj 30, 2023

Strokovnjaki za umetno inteligenco in javne osebnosti sprožajo alarme zaradi nevarnosti izumrtja umetne inteligence

Na kratko

Ugledni strokovnjaki za umetno inteligenco in vplivne osebnosti izražajo svoje mnenje pomisleke glede tveganj, povezanih z umetno inteligenco.

Kljub znatnemu napredku na področju umetne inteligence številni izzivi, povezani s tveganjem umetne inteligence, ostajajo nerešeni.

Strokovnjaki za umetno inteligenco in javne osebnosti sprožajo alarme zaradi nevarnosti izumrtja umetne inteligence

Ugledni strokovnjaki za umetno inteligenco in javne osebnosti so izdali izjavo, v kateri opozarjajo, da bi lahko umetna inteligenca predstavljala grožnjo preživetju človeštva, primerljivo ali celo večjo od nevarnosti pandemije in jedrske vojne. 350 podpisnikov trdi, da bi umetna inteligenca lahko imela nepredvidene in katastrofalne posledice, kot je sprostitev avtonomnega orožja, motnje družbenih in gospodarskih sistemov ali ustvarjanje superinteligentnih agentov, ki bi lahko prelisičili in premagali ljudi.

Pozivajo oblikovalce politik, naj ta tveganja vzamejo resno in sprejmejo ukrepe za zagotovitev varnega in koristnega razvoja umetne inteligence. The Izjava podpisujejo nekatere vodilne osebnosti v raziskavah in razvoju AI, kot npr OpenAI Izvršni direktor Sam Altman, soustanovitelj Skypea Jaan Tallinn, izvršni direktor DeepMinda Demis Hassabis in računalniški znanstvenik Geoffrey Hinton, pa tudi vplivne javne osebnosti, kot sta glasbenik Grimes in podcaster Sam Harris.

Med podpisniki sta bila dobitnika Turingove nagrade 2018 za svoje prispevke k globokemu učenju: Geoffrey Hinton in Yoshua Bengio. Pridružili so se jim profesorji s prestižnih univerz, kot sta Harvard in univerza Tsinghua na Kitajskem, ter Max Tegmark z MIT-a.

"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti globalna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna,"

piše v pismu, ki ga je objavil CAIS.

Center za varnost umetne inteligence (CAIS), neprofitna organizacija s sedežem v San Franciscu, želi obravnavati varnostna vprašanja, povezana z umetno inteligenco. CAIS sicer priznava možne koristi umetne inteligence, vendar poudarja potrebo po njenem razvoju in varni uporabi. Kljub znatnemu napredku na področju umetne inteligence številni temeljni izzivi na področju varnosti umetne inteligence ostajajo nerešeni, meni podjetje. Glede na njegovo spletno stran je poslanstvo CAIS ublažiti tveganja z izvajanjem varnostnih raziskav, spodbujanjem skupnosti varnostnih raziskovalcev umetne inteligence in zagovarjanjem varnostnih standardov.

»Obstaja veliko »pomembnih in nujnih tveganj zaradi umetne inteligence«, ne le nevarnost izumrtja; na primer sistemska pristranskost, dezinformacije, zlonamerna uporaba, kibernetski napadi in uporaba orožja. Vse to so pomembna tveganja, ki jih je treba obravnavati. Družbe lahko obvladujejo več tveganj hkrati; ni "ali/ali", ampak "da/in." Z vidika obvladovanja tveganja, tako kot bi bilo nepremišljeno dati prednost izključno sedanji škodi, bi bilo prav tako nepremišljeno, če bi jih tudi ignorirali,«

Dan Hendrycks, direktor CAIS Napisal na Twitterju. 

Marca več kot 1,100 tehničnih strokovnjakov podpisano odprto pismo, v katerem zahteva šestmesečno prekinitev usposabljanja sistemov umetne inteligence, ki presegajo GPT-4. Nedavno tudi evropski zakonodajalci odobren strožji osnutek zakonodaje, znan kot zakon o AI, ki ureja orodja AI, kot je ChatGPT. Akt vključuje zahteve za varnostne preglede, upravljanje podatkov in zmanjševanje tveganja za temeljne modele umetne inteligence ter prepoveduje prakse, kot so manipulativne tehnike in nekatere uporabe biometrije.

Preberite več:

Tags:

Zavrnitev odgovornosti

V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.

O avtorju

Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].

več člankov
Agne Cimerman
Agne Cimerman

Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].

Od valovanja do velikega zelenega DAO: Kako projekti kriptovalut prispevajo k dobrodelnosti

Raziščimo pobude, ki izkoriščajo potencial digitalnih valut za dobrodelne namene.

Več o tem

AlphaFold 3, Med-Gemini in drugi: način, kako umetna inteligenca spremeni zdravstveno varstvo leta 2024

Umetna inteligenca se v zdravstvu kaže na različne načine, od odkrivanja novih genetskih povezav do opolnomočenja robotskih kirurških sistemov ...

Več o tem
Pridružite se naši inovativni tehnološki skupnosti
Preberi več
Preberi več
Od valovanja do velikega zelenega DAO: Kako projekti kriptovalut prispevajo k dobrodelnosti
Analiza Crypto Wiki ŽELITE POSTATI PARTNER Izobraževanje Življenjski slog Prisotnost Software Tehnologija
Od valovanja do velikega zelenega DAO: Kako projekti kriptovalut prispevajo k dobrodelnosti
Maj 13, 2024
AlphaFold 3, Med-Gemini in drugi: način, kako umetna inteligenca spremeni zdravstveno varstvo leta 2024
AI Wiki Analiza prebaviti Mnenje ŽELITE POSTATI PARTNER Prisotnost Novice Software Zgodbe in ocene Tehnologija
AlphaFold 3, Med-Gemini in drugi: način, kako umetna inteligenca spremeni zdravstveno varstvo leta 2024
Maj 13, 2024
Omrežje Nim bo uvedlo okvir za tokenizacijo lastništva AI in izvedlo prodajo donosa z datumom posnetka, načrtovanim za maj
Prisotnost Novice Tehnologija
Omrežje Nim bo uvedlo okvir za tokenizacijo lastništva AI in izvedlo prodajo donosa z datumom posnetka, načrtovanim za maj
Maj 13, 2024
Binance sodeluje z Argentino za boj proti kibernetskemu kriminalu
Mnenje ŽELITE POSTATI PARTNER Prisotnost Novice Software Tehnologija
Binance sodeluje z Argentino za boj proti kibernetskemu kriminalu
Maj 13, 2024
CRYPTOMERIA LABS PTE. LTD.