Stručnjaci za umjetnu inteligenciju i javne osobe podižu uzbunu zbog opasnosti od izumiranja umjetne inteligencije
Ukratko
Istaknuti stručnjaci za umjetnu inteligenciju i utjecajne osobe izražavaju svoje zajedničko mišljenje zabrinutost u vezi s rizicima povezanim s AI.
Unatoč značajnom napretku u umjetnoj inteligenciji, mnogi izazovi povezani s rizikom od umjetne inteligencije ostaju neriješeni.
Istaknuti stručnjaci za umjetnu inteligenciju i javne osobe izdali su izjavu u kojoj upozoravaju da bi umjetna inteligencija mogla predstavljati prijetnju opstanku čovječanstva, usporedivu ili čak veću od rizika pandemija i nuklearnog rata. 350 potpisnika tvrdi da bi umjetna inteligencija mogla imati nepredviđene i katastrofalne posljedice, poput pokretanja autonomnog oružja, poremećaja društvenih i ekonomskih sustava ili stvaranja superinteligentnih agenata koji bi mogli nadmudriti i nadjačati ljude.
Pozivaju kreatore politike da ozbiljno shvate te rizike i usvoje mjere za osiguranje sigurnog i korisnog razvoja umjetne inteligencije. The izjava potpisuju neke od vodećih osoba u istraživanju i razvoju umjetne inteligencije, kao npr OpenAI CEO Sam Altman, suosnivač Skypea Jaan Tallinn, CEO DeepMinda Demis Hassabis i AI računalni znanstvenik Geoffrey Hinton, kao i utjecajne javne ličnosti, poput glazbenika Grimesa i podcastera Sama Harrisa.
Među potpisnicima bili su dobitnici Turingove nagrade 2018. za doprinos dubokom učenju: Geoffrey Hinton i Yoshua Bengio. Pridružili su im se profesori s prestižnih sveučilišta kao što su Harvard i Sveučilište Tsinghua u Kini, kao i Max Tegmark s MIT-a.
"Ublažavanje rizika od izumiranja uzrokovanog umjetnom inteligencijom trebao bi biti globalni prioritet uz druge rizike na društvenoj razini kao što su pandemije i nuklearni rat",
stoji u pismu koje je objavio CAIS.
Centar za sigurnost umjetne inteligencije (CAIS), neprofitna organizacija sa sjedištem u San Franciscu, ima za cilj rješavanje sigurnosnih problema povezanih s umjetnom inteligencijom. Iako prepoznaje potencijalne prednosti umjetne inteligencije, CAIS naglašava potrebu za njezinim razvojem i sigurnom uporabom. Unatoč značajnom napretku u AI, brojni temeljni izazovi u AI sigurnosti ostaju neriješeni, vjeruje tvrtka. Prema njegovoj web stranici, misija CAIS-a je ublažiti rizike provođenjem sigurnosnih istraživanja, poticanjem zajednice istraživača sigurnosti AI-a i zagovaranjem sigurnosnih standarda.
„Postoje mnogi „važni i hitni rizici od umjetne inteligencije“, a ne samo rizik od izumiranja; na primjer, sistemska pristranost, dezinformacije, zlonamjerna upotreba, kibernetički napadi i upotreba oružja. Sve su to važni rizici s kojima se treba pozabaviti. Društva mogu upravljati s više rizika odjednom; nije "ili/ili" nego "da/i". Iz perspektive upravljanja rizikom, baš kao što bi bilo nepromišljeno dati prioritet isključivo sadašnjim štetama, također bi bilo nepromišljeno zanemariti ih,"
Dan Hendrycks, direktor CAIS-a napisao na Twitter.
U ožujku više od 1,100 tehničkih stručnjaka potpisan otvoreno pismo u kojem se zahtijeva šestomjesečna obustava nadmašivanja sustava umjetne inteligencije GPT-4. Europski zakonodavci također nedavno odobren stroži nacrt zakona, poznat kao Zakon o umjetnoj inteligenciji, koji regulira alate umjetne inteligencije poput ChatGPT. Zakon uključuje zahtjeve za sigurnosne provjere, upravljanje podacima i smanjenje rizika za temeljne modele umjetne inteligencije i zabranjuje prakse poput manipulativnih tehnika i određene upotrebe biometrije.
Pročitajte više:
- OpenAI Otkriva svoj najnoviji pristup osiguravanju AI sigurnosti
- Hoće li Google najaviti generator teksta u avatar za igrače?
- Amazonov CodeWhisperer daje programerima prednost koja im je potrebna u AI Areni
- Vitalik Buterin i direktor MIRI-ja Nate Soares istražuju opasnosti umjetne inteligencije
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
