Tehniskie eksperti paraksta atklātu vēstuli, aicinot uz laiku apturēt AI sistēmu apmācību, kas ir progresīvākas nekā GPT-4
Īsumā
Vairāk nekā 1100 parakstītāju ir parakstījuši atklāto vēstuli, aicinot apturēt milzu AI eksperimentus.
Parakstītāju vidū ir arī Elons Masks, Stīvs Vozņaks un Emads Mostake.
Atklātajā vēstulē tika paustas bažas par AI informācijas aizspriedumiem, darba automatizācija un mākslīgā intelekta risks cilvēku civilizācijai.
Vairāk nekā 1,100 parakstītāju, tostarp vadošie tehnoloģiju eksperti, ir parakstījuši Atklāta vēstule aicinot uz sešiem mēnešiem apturēt AI sistēmu apmācību, kas ir progresīvākas nekā GPT-4.
Vēstuli uzrakstīja Future of Life Institute, bezpeļņas organizācija, kas strādā, lai samazinātu globālos katastrofālos un eksistenciālos riskus, ar kuriem saskaras cilvēce, jo īpaši eksistenciālo risku, ko rada attīstīts mākslīgais intelekts.
Citējot plaši atbalstītos Asilomar AI principus, kuros teikts, ka "uzlabots AI varētu radīt pamatīgas izmaiņas dzīvības vēsturē uz Zemes, un tas būtu jāplāno un jāpārvalda ar samērīgu aprūpi un resursiem", vēstulē teikts, ka plānošanas un vadība nenotiek.
Vēstulē teikts, ka mākslīgā intelekta laboratorijas atrodas "ārpus kontroles" sacīkstēs, lai izstrādātu arvien jaudīgāku mākslīgo intelektu, ko neviens nevar saprast, paredzēt vai droši kontrolēt. Kā mūsdienu AI sistēmām patīk GPT-4 var konkurēt ar cilvēkiem Attiecībā uz vispārīgiem uzdevumiem vēstule pauž bažas par AI informācijas aizspriedumiem, darba automatizāciju un risku zaudēt kontroli pār cilvēku civilizāciju.
“Mēs aicinām visas AI laboratorijas nekavējoties vismaz uz 6 mēnešiem apturēt tādu AI sistēmu apmācību, kuras ir jaudīgākas par GPT-4. Šai pauzei ir jābūt publiskai un pārbaudāmai, un tajā jāiekļauj visi galvenie dalībnieki. Ja šādu pauzi nevar ieviest ātri, valdībām būtu jāiejaucas un jāievieš moratorijs.
burts norāda.
Vēstulē AI laboratorijas un tehnoloģiju eksperti tiek aicināti izmantot pauzes periodu, lai izstrādātu un ieviestu drošības protokolus progresīvai AI izstrādei un izstrādei, kurus stingri pārbauda un uzrauga neatkarīgi ārējie eksperti.
Tomēr amerikāņu žurnālists Džefs Džārviss vēstuli kritizēja, sakot, ka tas ir "lielākais morālās panikas paraugs".
Daži no vadošajiem tehnoloģiju un mašīnmācības prātiem, kas parakstījuši vēstuli kopā ar DeepMind pētniekiem un vairākiem universitāšu profesoriem no visas pasaules, ir:
- Yoshua Bengio, Monreālas Universitāte, Tjūringa laureāts par dziļās mācīšanās attīstību, Monreālas Mācību algoritmu institūta vadītājs
- Stjuarts Rasels, Bērklijs, datorzinātņu profesors, Inteliģento sistēmu centra direktors un standarta mācību grāmatas “Mākslīgais intelekts: mūsdienīga pieeja” līdzautors.
- Elons Masks, SpaceX, Tesla un Twitter izpilddirektors
- Emad Mostaque, izpilddirektors, Stability AI
- Jaan Tallina, Skype līdzdibinātājs, eksistenciālo risku izpētes centrs, Dzīvības nākotnes institūts
- Gerijs Markuss, Ņujorkas Universitāte, AI pētnieks, emeritētais profesors
- Marks Rotenbergs, AI un digitālās politikas centrs (CAIDP), prezidents
Jo nesenā vēstuleRotenbergs rakstīja, ka CAIDP iesniegs sūdzību Federālajai tirdzniecības komisijai, aicinot izmeklēt atklāto AI un ChatGPT, kā arī aizliegums turpmākai produkta komerciālai izlaišanai līdz brīdim, kad tiks noteikti drošības pasākumi.
OpenAI Tā ir izpilddirektors Sems Altmans atļauts ka "mums ir nepieciešams arī pietiekami daudz laika, lai mūsu iestādes izdomātu, ko darīt" un ka sabiedrība nav tālu no "potenciāli biedējošiem" ģeneratīvajiem AI rīkiem.
"Mēs lūdzam FTC "nospiest pauzes pogu", lai mūsu iestādēm, likumiem un sabiedrībai būtu iespēja panākt. Mums ir jāapliecina aģentūra pār mūsu radītajām tehnoloģijām, pirms mēs zaudējam kontroli,” teikts CAIDP vēstulē.
Citur ES likumdevēji cenšas līdz gada beigām parakstīt vienošanos ar ES valstīm par mākslīgā intelekta noteikumu ieviešanu, lai gan, pastiprinoties debatēm par to, kā AI būtu jāpārvalda, tas varētu sasniegt sastrēgumu.
Lasīt vairāk:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Sindija ir žurnāliste Metaverse Post, aptverot tēmas, kas saistītas ar web3, NFT, metaverse un AI, koncentrējoties uz intervijām ar Web3 nozares spēlētājiem. Viņa ir runājusi ar vairāk nekā 30 C līmeņa vadītājiem, sniedzot lasītājiem viņu vērtīgās atziņas. Sākotnēji no Singapūras, Sindija tagad atrodas Tbilisi, Džordžijas štatā. Viņai ir bakalaura grāds komunikāciju un mediju studijās Dienvidaustrālijas Universitātē, un viņai ir desmit gadu pieredze žurnālistikā un rakstniecībā. Sazinieties ar viņu, izmantojot [e-pasts aizsargāts] ar preses prezentācijām, paziņojumiem un interviju iespējām.
Vairāk rakstus
Sindija ir žurnāliste Metaverse Post, aptverot tēmas, kas saistītas ar web3, NFT, metaverse un AI, koncentrējoties uz intervijām ar Web3 nozares spēlētājiem. Viņa ir runājusi ar vairāk nekā 30 C līmeņa vadītājiem, sniedzot lasītājiem viņu vērtīgās atziņas. Sākotnēji no Singapūras, Sindija tagad atrodas Tbilisi, Džordžijas štatā. Viņai ir bakalaura grāds komunikāciju un mediju studijās Dienvidaustrālijas Universitātē, un viņai ir desmit gadu pieredze žurnālistikā un rakstniecībā. Sazinieties ar viņu, izmantojot [e-pasts aizsargāts] ar preses prezentācijām, paziņojumiem un interviju iespējām.
