OpenAI Rada trauksmi par superinteliģenci un mākslīgā intelekta potenciālu pārspēt cilvēka spējas nākamajā desmitgadē
Īsumā
OpenAI izdod aicinājumu regulēt superinteliģenci, uzsverot vajadzību pēc pārvaldības, ņemot vērā AI straujo attīstību.
Tiek prognozēts, ka AI sistēmas pārspēs cilvēku zināšanas un uzņēmuma produktivitāti desmit gadu laikā, Saskaņā ar OpenAI.
OpenAI uzsver jaudīgu mākslīgā intelekta sistēmu publiskās uzraudzības un demokrātiskas kontroles nozīmi.
OpenAI, radītājs ChatGPT, ir veicis pārdomas rosinošu aicinājumu par regulēšana superinteliģences jomā, velkot paralēles ar kodolenerģijas regulējumu. Nesenā blog post, OpenAI uzsvēra AI straujās attīstības iespējamās sekas un uzsvēra steidzamo vajadzību pēc pārvaldības šajā mainīgajā vidē. Uzņēmums paziņoja, ka AI sistēmas desmit gadu laikā pārspēs ekspertus un lielākās korporācijas produktivitātes un prasmju ziņā.
"Mums ir jāsamazina arī mūsdienu mākslīgā intelekta tehnoloģiju riski, taču superinteliģencei būs nepieciešama īpaša attieksme un koordinācija," saka Sems Altmans, Gregs Brokmens un Iļja Sutskevers. OpenAI uzsvēra.
Superinteliģence apraksta entītiju, kas pārsniedz vispārējo cilvēka intelektu vai dažus specifiskus intelekta aspektus. Pēc autoru domām, mākslīgā intelekta superinteliģencei būs nepārspējams jaudas līmenis, kas aptvers gan pozitīvos, gan negatīvos aspektus.
Neizbēgamā superinteliģences attīstība un riski
OpenAI ir identificējis trīs svarīgas idejas, kurām ir galvenā loma virzībā uz veiksmīgu superinteliģences attīstību. Tie ietver koordināciju starp vadošajiem attīstības centieniem, starptautiskas institūcijas izveidi, kas ir līdzīga Starptautiskajai Atomenerģijas aģentūrai (IAEA), un drošības tehnisko spēju attīstīšanu.
Kamēr OpenAI atzīst, ka AI sistēmas ir saistītas ar riskiem, šie riski ir salīdzināmi ar tiem, kas saistīti ar citām ar internetu saistītām tehnoloģijām. Altmans, Brokmens un Sutskevers arī pauž pārliecību, ka sabiedrības pašreizējās pieejas šo risku pārvaldībai ir piemērotas. Tomēr galvenās bažas ir par nākotnes sistēmām, kurām būs nepieredzēts spēks.
"Turpretim sistēmām, par kurām mēs esam nobažījušies, būs jauda, kas pārsniedz jebkuru vēl izveidoto tehnoloģiju, un mums vajadzētu būt uzmanīgiem, lai nesamazinātu uzmanību uz tām, piemērojot līdzīgus standartus tehnoloģijām, kas ir daudz zem šīs joslas," teikts emuāra ierakstā.
Autori apgalvo, ka jaudīgām mākslīgā intelekta sistēmām ir nepieciešama publiska uzraudzība un demokrātiska kontrole. Viņi arī paskaidro, kāpēc viņi izstrādā šo tehnoloģiju vietnē OpenAI: radīt labāku pasauli un izvairīties no tā apturēšanas riskiem. AI palīdz dažādās jomās, tostarp izglītībā, radošumā un produktivitātē, kā arī vispārējā ekonomikas izaugsmē.
OpenAI uzskata, ka tas ir grūti un riskanti pārtrauciet superinteliģenci no radīšanas. Superinteliģentam ir ievērojamas priekšrocības, tas ar katru gadu kļūst lētāks, pie tā strādā vairāk cilvēku, un tā ir daļa no uzņēmuma tehnoloģiju ceļa.
Ilmans Šažajevs, AI tehnoloģiju uzņēmējs un uzņēmuma līdzdibinātājs Farcana Labs, dalījās ar dažiem komentāriem par jaunumiem. Prognozes liecina, ka, ja tas netiek pareizi pārvaldīts, superinteliģence var būt viens no visu laiku postošākajiem cilvēka izgudrojumiem. Tomēr sarunas par tehnoloģijas ieviešanu joprojām šķeļ, jo tā vēl nav izstrādāta. Spiediens uz attīstības apturēšanu, pamatojoties uz bailēm no prognozēm, var atņemt cilvēcei iespējas, ko varētu sniegt jaunā tehnoloģija.
"OpenAIdecentralizētās pārvaldības pieeja var palīdzēt saglabāt tās plašu drošību. Ar pareiziem noteikumiem programmu varētu slēgt, ja tā notiktu rada draudus. Ja šie aizsardzības pasākumi būtu ieviesti, superinteliģence varētu būt izpētes vērta inovācija, ”sacīja Šažajevs.
Atklāti apspriežot savus uzskatus par mākslīgā intelekta superinteliģenci un ierosinātajiem reglamentējošiem pasākumiem, OpenAI šķiet, ka tas veicina informētas diskusijas un aicina uz dažādām perspektīvām.
Sems Altmans stingri tic plaši izplatītā AI pieejamība sabiedrībai. Atzīstot, ka visas problēmas nav iespējams paredzēt iepriekš, viņš iestājas par to, lai problēmas tiktu risinātas pēc iespējas agrāk. Tomēr Altmans arī uzsver neatkarīgu auditu nozīmi tādām sistēmām kā ChatGPT pirms atbrīvošanas. Viņš arī atzīst iespēju īstenot tādus pasākumus kā jauna modeļa izveides tempa ierobežošana vai komitejas izveide novērtēt AI modeļu drošību pirms laišanas tirgū. Jo īpaši Altmans prognozē, ka intelekta daudzums Visumā dubultosies ik pēc 18 mēnešiem.
Lasīt vairāk:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
Vairāk rakstus
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
