Tehnički stručnjaci potpisuju otvoreno pismo pozivajući na privremenu pauzu u obuci AI sustava naprednijih od GPT-4
Ukratko
Više od 1100 potpisnika potpisalo je otvoreno pismo kojim se poziva na pauzu divovskih eksperimenata umjetne inteligencije.
Među potpisnicima su Elon Musk, Steve Wozniak i Emad Mostaque, među ostalima.
Otvoreno pismo izazvalo je zabrinutost zbog pristranosti informacija od strane umjetne inteligencije, automatizacija posla i rizik AI-ja za ljudsku civilizaciju.
Više od 1,100 potpisnika, uključujući vodeće tehnološke stručnjake, potpisalo je otvoreno pismo pozivajući na šestomjesečnu pauzu u obuci AI sustava naprednijih od GPT-4.
Pismo je napisao Future of Life Institute, neprofitna organizacija koja radi na smanjenju globalnih katastrofalnih i egzistencijalnih rizika s kojima se čovječanstvo suočava, posebice egzistencijalnog rizika od napredne umjetne inteligencije.
Citirajući naširoko prihvaćena Asilomar AI Principles, koja kaže da bi "Napredna AI mogla predstavljati duboku promjenu u povijesti života na Zemlji, te bi je trebalo planirati i upravljati s odgovarajućom pažnjom i resursima", pismo kaže da razina planiranja i upravljanje se ne događa.
U pismu se dalje kaže da su AI laboratoriji u utrci "izvan kontrole" za razvoj sve snažnije umjetne inteligencije koju nitko ne može razumjeti, predvidjeti ili pouzdano kontrolirati. Kao što to vole suvremeni AI sustavi GPT-4 može natjecati se s ljudima o općim zadacima, pismo izaziva zabrinutost zbog pristranosti informacija od strane umjetne inteligencije, automatizacije poslova i rizika od gubitka kontrole nad ljudskom civilizacijom.
“Pozivamo sve laboratorije umjetne inteligencije da odmah zaustave najmanje 6 mjeseci obuku AI sustava moćnijih od GPT-4. Ta bi pauza trebala biti javna i provjerljiva te uključivati sve ključne aktere. Ako se takva stanka ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij,"
stoji slovo.
Pismo poziva laboratorije za umjetnu inteligenciju i tehnološke stručnjake da iskoriste razdoblje pauze za razvoj i implementaciju sigurnosnih protokola za napredni dizajn i razvoj umjetne inteligencije koji su rigorozno revidirani i nadgledani od strane neovisnih vanjskih stručnjaka.
Međutim, američki novinar Jeff Jarvis kritizirao je pismo, izreka da je to "prvi primjerak moralne panike".
Neki od vodećih umova u tehnologiji i strojnom učenju koji su potpisali pismo zajedno sa znanstvenicima DeepMinda i nekoliko sveučilišnih profesora iz cijelog svijeta uključuju:
- Yoshua Bengio, Sveučilište u Montréalu, Turingov laureat za razvoj dubokog učenja, voditelj Montrealskog instituta za algoritme učenja
- Stuart Russell, Berkeley, profesor računarstva, direktor Centra za inteligentne sustave i koautor standardnog udžbenika “Umjetna inteligencija: moderan pristup”
- Elon Musk, izvršni direktor SpaceX-a, Tesle i Twittera
- Emad Mostaque, izvršni direktor, Stability AI
- Jaan Tallinn, suosnivač Skypea, Centra za proučavanje egzistencijalnog rizika, Instituta budućnosti života
- Gary Marcus, Sveučilište New York, istraživač umjetne inteligencije, profesor emeritus
- Marc Rotenberg, predsjednik Centra za umjetnu inteligenciju i digitalnu politiku (CAIDP).
U nedavno pismo, Rotenberg je napisao da će CAIDP podnijeti žalbu Saveznoj komisiji za trgovinu, pozivajući na istragu Open AI i ChatGPT, kao i zabranu daljnjeg komercijalnog puštanja proizvoda u promet dok se ne uspostave zaštitne mjere.
OpenAI CEO Sam Altman ima priznao da “također trebamo dovoljno vremena da naše institucije shvate što učiniti” i da društvo nije daleko od “potencijalno zastrašujućih” generativnih AI alata.
“Tražimo od FTC-a da “pritisne gumb za pauzu” kako bi naše institucije, naši zakoni i naše društvo imali priliku sustići korak. Moramo preuzeti slobodu nad tehnologijama koje stvaramo prije nego što izgubimo kontrolu”, stoji u pismu CAIDP-a.
Drugdje, EU zakonodavci namjeravaju do kraja godine potpisati ugovor sa zemljama EU-a za provedbu pravila umjetne inteligencije, iako bi to moglo naići na usko grlo jer se rasprave o tome kako treba upravljati umjetnom inteligencijom intenziviraju.
Pročitajte više:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Cindy je novinarka u Metaverse Post, pokrivajući teme povezane s web3, NFT, metaverse i AI, s fokusom na intervjue s Web3 igrači u industriji. Razgovarala je s više od 30 rukovoditelja na razini C i sve više, donoseći njihove dragocjene uvide čitateljima. Porijeklom iz Singapura, Cindy sada živi u Tbilisiju u Gruziji. Diplomirala je komunikacije i medijske studije na Sveučilištu Južne Australije i ima desetljeće iskustva u novinarstvu i pisanju. Stupite u kontakt s njom putem [e-pošta zaštićena] s predstavljanjima za novinare, najavama i prilikama za intervjue.
Više članaka
Cindy je novinarka u Metaverse Post, pokrivajući teme povezane s web3, NFT, metaverse i AI, s fokusom na intervjue s Web3 igrači u industriji. Razgovarala je s više od 30 rukovoditelja na razini C i sve više, donoseći njihove dragocjene uvide čitateljima. Porijeklom iz Singapura, Cindy sada živi u Tbilisiju u Gruziji. Diplomirala je komunikacije i medijske studije na Sveučilištu Južne Australije i ima desetljeće iskustva u novinarstvu i pisanju. Stupite u kontakt s njom putem [e-pošta zaštićena] s predstavljanjima za novinare, najavama i prilikama za intervjue.
