OpenAI Podiže uzbunu zbog superinteligencije i potencijala umjetne inteligencije da nadmaši ljudske sposobnosti u sljedećem desetljeću
Ukratko
OpenAI poziva na regulaciju superinteligencije, naglašavajući potrebu za upravljanjem u svjetlu brzog napretka umjetne inteligencije.
Predviđa se da će sustavi umjetne inteligencije nadmašiti ljudsku stručnost i korporativnu produktivnost unutar jednog desetljeća, prema OpenAI.
OpenAI naglašava važnost javnog nadzora i demokratske kontrole za moćne AI sustave.
OpenAI, tvorac ChatGPT, uputio je poticajan poziv za propis superinteligencije, povlačeći paralele s regulacijom nuklearne energije. U nedavnoj blog post, OpenAI istaknuo potencijalne implikacije brzog napretka umjetne inteligencije i naglasio hitnu potrebu za upravljanjem u ovom krajoliku koji se razvija. Tvrtka je izjavila da će AI sustavi u roku od deset godina nadmašiti stručnjake i najveće korporacije u produktivnosti i vještinama.
"Moramo također ublažiti rizike današnje AI tehnologije, ali superinteligencija će zahtijevati poseban tretman i koordinaciju", Sam Altman, Greg Brockman i Ilya Sutskever iz OpenAI naglašeno.
Superinteligencija opisuje entitet koji nadilazi ukupnu ljudsku inteligenciju ili neke specifične aspekte inteligencije. Prema autorima, superinteligencija umjetne inteligencije imat će neusporedivu razinu moći, obuhvaćajući i pozitivne i negativne aspekte.
Razvoj i rizici neizbježne superinteligencije
OpenAI je identificirao tri važne ideje koje igraju ključnu ulogu u usmjeravanju uspješnog razvoja superinteligencije. To uključuje koordinaciju između vodećih razvojnih napora, uspostavu međunarodnog tijela sličnog Međunarodnoj agenciji za atomsku energiju (IAEA) i razvoj tehničkih sposobnosti za sigurnost.
Dok OpenAI priznaje da sustavi umjetne inteligencije nose rizike, ti su rizici usporedivi s onima povezanima s drugim tehnologijama povezanim s internetom. Altman, Brockman i Sutskever također izražavaju uvjerenje da su trenutni pristupi društva upravljanju ovim rizicima prikladni. Međutim, glavna briga odnosi se na buduće sustave koji će imati snagu bez presedana.
"Nasuprot tome, sustavi koji nas brinu imat će snagu koja nadilazi bilo koju dosad stvorenu tehnologiju i trebali bismo paziti da ne umanjimo fokus na njih primjenom sličnih standarda na tehnologiju koja je daleko ispod ove granice", stoji u postu na blogu.
Autori tvrde da snažnim AI sustavima treba javni nadzor i demokratska kontrola. Također objašnjavaju zašto grade ovu tehnologiju na OpenAI: stvoriti bolji svijet i izbjeći rizike njegovog zaustavljanja. AI pomaže u raznim područjima, uključujući obrazovanje, kreativnost i produktivnost, kao i opći gospodarski rast.
OpenAI misli da je teško i riskantno zaustaviti superinteligenciju od stvaranja. Superinteligencija ima značajne prednosti, svake je godine sve jeftinija, sve više ljudi radi na njoj i dio je tehnološkog puta tvrtke.
Ilman Šažajev, tehnički poduzetnik u AI i suosnivač tvrtke Farcana Labs, podijelio je nekoliko komentara na vijest. Projekcije pokazuju da bi superinteligencija, ako se njome ne upravlja na odgovarajući način, mogla biti jedan od najrazornijih ljudskih izuma svih vremena. Međutim, razgovori o implementaciji tehnologije i dalje izazivaju podjele jer još nije razvijena. Pritisak na zaustavljanje razvoja temeljen na strahu od predviđanja može lišiti čovječanstvo mogućnosti koje bi nova tehnologija mogla imati.
"OpenAIDecentralizirani pristup upravljanja može pomoći u održavanju njegove opće sigurnosti. Uz odgovarajuće propise, program bi se mogao zatvoriti u slučaju da se predstavlja prijetnju. Budu li ovi zaštitni mehanizmi postojali, tada bi Superinteligencija mogla biti inovacija koju vrijedi istražiti,” rekao je Shazhaev.
Otvoreno raspravljajući o svojim stavovima o AI superinteligenciji i predloženim regulatornim mjerama, OpenAI čini se da potiče informirane rasprave i poziva na različite perspektive.
Sam Altman snažno vjeruje u širokoj dostupnosti AI javnosti. Priznajući da je nemoguće unaprijed predvidjeti sve probleme, zalaže se za rješavanje problema u što ranijoj fazi. Međutim, Altman također naglašava važnost neovisnih revizija za sustave poput ChatGPT prije puštanja na slobodu. Nadalje priznaje mogućnost provedbe mjera kao što je ograničavanje tempa stvaranja novih modela ili osnivanje odbora za procijeniti sigurnost AI modela prije izlaska na tržište. Naime, Altman predviđa da će se količina inteligencije u svemiru udvostručiti svakih 18 mjeseci.
Pročitajte više:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
