Tehnični strokovnjaki podpisali odprto pismo s pozivom k začasni prekinitvi usposabljanja sistemov umetne inteligence, ki so naprednejši od GPT-4
Na kratko
Več kot 1100 podpisnikov je podpisalo odprto pismo, ki poziva k prekinitvi ogromnih eksperimentov z umetno inteligenco.
Med podpisniki so med drugim Elon Musk, Steve Wozniak in Emad Mostaque.
Odprto pismo je izrazilo zaskrbljenost glede informacijske pristranskosti AI, avtomatizacija dela in tveganje umetne inteligence za človeško civilizacijo.
Več kot 1,100 podpisnikov, vključno z vodilnimi tehnološkimi strokovnjaki, je podpisalo Odprto pismo poziva k šestmesečnemu premoru pri usposabljanju sistemov umetne inteligence, ki so naprednejši od GPT-4.
Pismo je napisal Future of Life Institute, neprofitna organizacija, ki si prizadeva zmanjšati globalna katastrofalna in eksistencialna tveganja, s katerimi se sooča človeštvo, zlasti eksistencialno tveganje zaradi napredne umetne inteligence.
S citiranjem široko podprtih načel Asilomar AI, ki navajajo, da bi "napredna umetna inteligenca lahko pomenila globoko spremembo v zgodovini življenja na Zemlji ter bi jo bilo treba načrtovati in upravljati s sorazmerno skrbnostjo in sredstvi," pismo pravi, da raven načrtovanja in upravljanje se ne dogaja.
Pismo še pravi, da so laboratoriji AI v "izven nadzora" tekmi za razvoj vedno močnejše umetne inteligence, ki je nihče ne more razumeti, predvideti ali zanesljivo nadzorovati. Kot sodobni sistemi umetne inteligence GPT-4 lahko tekmovati z ljudmi pri splošnih nalogah pismo vzbuja pomisleke glede informacijskih pristranskosti zaradi umetne inteligence, avtomatizacije dela in tveganja izgube nadzora nad človeško civilizacijo.
»Vse laboratorije AI pozivamo, naj nemudoma za vsaj 6 mesecev ustavijo usposabljanje sistemov AI, zmogljivejših od GPT-4. Ta premor mora biti javen in preverljiv ter vključevati vse ključne akterje. Če takšnega premora ni mogoče sprejeti hitro, bi morale vlade ukrepati in uvesti moratorij,"
črka navaja.
Pismo poziva laboratorije za umetno inteligenco in tehnološke strokovnjake, naj izkoristijo obdobje premora za razvoj in implementacijo varnostnih protokolov za napredno načrtovanje in razvoj umetne inteligence, ki jih strogo revidirajo in nadzorujejo neodvisni zunanji strokovnjaki.
Ameriški novinar Jeff Jarvis pa je pismo kritiziral, rek da je »prvi primerek moralne panike«.
Nekateri vodilni umi na področju tehnologije in strojnega učenja, ki so podpisali pismo skupaj z raziskovalci DeepMinda in številnimi univerzitetnimi profesorji z vsega sveta, vključujejo:
- Yoshua Bengio, Univerza v Montréalu, Turingov nagrajenec za razvoj globokega učenja, vodja Montrealskega inštituta za učne algoritme
- Stuart Russell, Berkeley, profesor računalništva, direktor Centra za inteligentne sisteme in soavtor standardnega učbenika »Umetna inteligenca: sodoben pristop«
- Elon Musk, izvršni direktor SpaceX, Tesla & Twitter
- Emad Mostaque, izvršni direktor, Stability AI
- Jaan Tallinn, soustanovitelj Skypea, Center za študij eksistencialnih tveganj, Inštitut za prihodnost življenja
- Gary Marcus, Univerza v New Yorku, raziskovalec AI, zaslužni profesor
- Marc Rotenberg, Center za umetno inteligenco in digitalno politiko (CAIDP), predsednik
V nedavno pismoRotenberg je zapisal, da bo CAIDP vložil pritožbo pri Zvezni komisiji za trgovino in pozval k preiskavi odprte umetne inteligence in ChatGPT, kot tudi prepoved nadaljnje komercialne izdaje izdelka, dokler se ne vzpostavijo zaščitni ukrepi.
OpenAI Izvršni direktor Sam Altman ima priznal da »potrebujemo tudi dovolj časa, da naše institucije ugotovijo, kaj storiti« in da družba ni daleč od »potencialno strašljivih« generativnih orodij AI.
»FTC prosimo, naj »pritisne gumb za premor«, da bodo naše institucije, naši zakoni in naša družba imeli priložnost, da dohitijo. Preden izgubimo nadzor, moramo prevzeti vlogo nad tehnologijami, ki jih ustvarjamo,« piše v pismu CAIDP.
Drugje, zakonodajalci EU nameravajo do konca leta podpisati dogovor z državami EU za izvajanje pravil o umetni inteligenci, čeprav bi lahko naletel na ozko grlo, saj se razprave o tem, kako bi bilo treba upravljati z umetno inteligenco, krepijo.
Preberite več:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Cindy je novinarka pri Metaverse Post, ki pokriva teme, povezane z web3, NFT, metaverse in AI, s poudarkom na intervjujih z Web3 akterji v industriji. Pogovarjala se je z več kot 30 vodstvenimi delavci na ravni C in jih je še vedno več, pri čemer je bralcem posredovala njihove dragocene vpoglede. Cindy, ki izvira iz Singapurja, je zdaj v Tbilisiju v Gruziji. Ima diplomo iz komunikacijskih in medijskih študij na Univerzi v Južni Avstraliji in ima desetletje izkušenj z novinarstvom in pisanjem. Stopite v stik z njo prek [e-pošta zaščitena] z novinarskimi predstavitvami, napovedmi in priložnostmi za intervjuje.
več člankov
Cindy je novinarka pri Metaverse Post, ki pokriva teme, povezane z web3, NFT, metaverse in AI, s poudarkom na intervjujih z Web3 akterji v industriji. Pogovarjala se je z več kot 30 vodstvenimi delavci na ravni C in jih je še vedno več, pri čemer je bralcem posredovala njihove dragocene vpoglede. Cindy, ki izvira iz Singapurja, je zdaj v Tbilisiju v Gruziji. Ima diplomo iz komunikacijskih in medijskih študij na Univerzi v Južni Avstraliji in ima desetletje izkušenj z novinarstvom in pisanjem. Stopite v stik z njo prek [e-pošta zaščitena] z novinarskimi predstavitvami, napovedmi in priložnostmi za intervjuje.
