Vitalik Buterin i direktor MIRI-ja Nate Soares istražuju opasnosti AI: Može li umjetna inteligencija uzrokovati izumiranje ljudi?
Ukratko
Osnivač Ethereuma Vitalik Buterin i direktor Instituta za istraživanje strojne inteligencije Nate Soares razgovarali su danas o rizicima umjetne inteligencije u Zuzaluu.
Zuzalu je pop-up gradska zajednica u Crnoj Gori koju su pokrenuli Buterin i njegovi vršnjaci u kripto zajednici.
U raspravi, Soares je podijelio svoju perspektivu o tome zašto je vrlo vjerojatno da će AI uništiti sav život na Zemlji.
Osnivač Ethereuma Vitalik Buterin i direktor Instituta za istraživanje strojne inteligencije (MIRI) Nate Soares raspravljali su o rizicima AI-ja danas u Žuzalu.
Zuzalu je "pop-up gradska zajednica" u Crnoj Gori koju su pokrenuli Buterin i njegovi vršnjaci u kripto zajednici koja traje od 25. ožujka do 25. svibnja. Događaj okuplja 200 ključnih stanovnika sa zajedničkom željom da uče, stvaraju, žive dulje i zdravije života i izgraditi samoodržive zajednice. Tijekom dva mjeseca, zajednica također ugošćuje brojne događaje o raznim temama kao što su sintetička biologija, tehnologija za privatnost, javna dobra, dugovječnost, upravljanje i više.
Korištenje električnih romobila ističe rasprava otvorio je Soares koji je predstavio svoj rad u MIRI-ju, neprofitnoj organizaciji sa sjedištem u Berkeleyju koja postoji dulje nego što je on vodi. Posljednjih 20 godina MIRI je pokušavao postaviti temelje kako bi osigurao da razvoj umjetne inteligencije ide dobro. Raspravom se Vitalik nadao pozabaviti se time što AI čini jedinstveno rizičnim u usporedbi s drugim tehnologijama objavljenim u ljudskoj povijesti.
Vjerojatnost da umjetna inteligencija uzrokuje izumiranje ljudi
Vitalik je rekao da ga tema rizika umjetne inteligencije zanima već duže vrijeme i sjeća se da je bio uvjeren da postoji 0.5%-1% šanse da sav život na Zemlji prestane postojati ako umjetna inteligencija krene po zlu — egzistencijalni rizik koji bi uzrokovao izumiranje ljudske rase ili nepovratan kolaps ljudske civilizacije.
Iz Soaresove perspektive, izumiranje ljudi izgleda kao zadana posljedica nesigurnog razvoja AI tehnologije. Uspoređujući to s evolucijom, rekao je da se čini da se razvoj čovječanstva odvija brže nego što teku puke evolucijske promjene. I u procesima umjetne inteligencije i u procesima ljudske evolucije mijenjala se dominantna optimizacija – proces pronalaženja najboljeg rješenja problema kada postoji više ciljeva koje treba razmotriti. Ljudi su dosegli točku u kojoj su mogli prenositi znanje usmenom predajom umjesto da su informacije bile ugrađene u gene prirodnom selekcijom.
“AI je u konačnici slučaj u kojem možete ponovno promijeniti proces makroskopske optimizacije. Mislim da možete učiniti mnogo bolje od ljudi što se tiče optimizacije. Mislim da smo još uvijek prilično glupi kada je u pitanju optimizacija našeg okruženja. S umjetnom inteligencijom prolazimo kroz neku vrstu faznog prijelaza gdje je automatizirana optimizacija sila koja određuje makroskopske značajke svemira,” objasnio je Soares.
Dodao je da ono za što ta budućnost izgleda je ono za što se proces optimizacije optimizira, a to će vjerojatno prestati biti korisno za čovječanstvo jer većina ciljeva optimizacije nema mjesta za ljude.
| Pročitajte: Konzultantska tvrtka Axon Partners Group objavljuje izvješće „Prihvaćanje umjetne inteligencije u 2023.“ |
Mogu li ljudi trenirati AI da čini dobro?
Buterin je istaknuo da su ljudi ti koji treniraju AI i govore mu kako da optimizira. Ako je potrebno, mogli bi promijeniti način na koji je stroj optimiziran. Na to je Soares rekao da je u načelu moguće trenirati umjetnu inteligenciju da čini dobro, ali jednostavno trenirati umjetnu inteligenciju da postigne cilj ne znači da bi to želio ili želi učiniti, svodi se na želju.
Ističući učenje s potkrepljenjem u velikim jezičnim modelima koji dobivaju velike količine podataka o tome što su ljudske preferencije, Buterin je upitao zašto to ne bi funkcioniralo, budući da postojeća inteligencija postaje sve bolja u razumijevanju naših preferencija.
"Postoji veliki jaz između razumijevanja naše motivacije i zabrinjavanja",
Soares je odgovorio.
“Moja tvrdnja nije da veliki jezični model ili AI neće razumjeti sitnice ljudskih preferencija. Moja tvrdnja je da je razumijevanje sitnica ljudskih preferencija vrlo različito od optimizacije za dobrotu,” dodao je.
Član publike napravio je usporedbu između umjetne inteligencije i ljudi, rekavši da, poput umjetne inteligencije, ljudi obično ne razumiju što rade ili predviđaju, što također može biti opasno. Zatim je zamolio Soaresa da se pretvara da je izvanzemaljac i objasni zašto ne bi trebali postojati ljudi.
“Ne bih bio oduševljen davanjem božanskih moći i kontrole nad budućnošću jednom pojedinačnom čovjeku. Zasebno, bio bih puno više oduševljen da dam moć jednom pojedinačnom čovjeku nego AI-ju s nasumičnim ulogama. Izričito ne kažem da ne bismo trebali imati AI. Kažem da to moramo ispraviti. Moramo ih natjerati da brinu o budućnosti koja je puna zabave i sreće i cvjetajućih civilizacija u kojima transljudi trguju s izvanzemaljcima i tako dalje,” pojasnio je Soares. "Ako izgradite snažan proces optimizacije koji brine o različitim stvarima, to bi potencijalno moglo uništiti sve vrijednosti svemira."
Dodao je da stvari koje ljudi cijene nisu univerzalno uvjerljive i da moralnost nije nešto čemu bi težio svaki um koji je proučava. Umjesto toga, to je rezultat nagona ugrađenih u ljude koji su, u okruženju predaka, uzrokovali da budemo dobri u reprodukciji i specifični su za ljude.
U konačnici, Soares vjeruje da ne bismo trebali graditi nešto što je jednako inteligentno ili još inteligentnije što nije u skladu sa zabavom, srećom i procvatom budućnosti. S druge strane, također je rekao da čovječanstvo ne bi trebalo graditi prijateljsku superinteligenciju koja optimizira zabavnu budućnost u prvom pokušaju tijekom utrke u naoružanju. Kratkoročno, AI bi trebao biti posvećen pomaganju čovječanstvu da kupi vrijeme i prostor da shvati što zapravo želi.
ChatGPT neće pojesti cijelu biosferu
Budući da se umjetna inteligencija trenutno gradi za postizanje određenih ciljeva, uključujući predviđanje, Buterin je upitao, što ako umjetna inteligencija ne bude vođena ciljevima? Soares je rekao da je lako izgraditi umjetne inteligencije koje su sigurne i nesposobne, a možda ćemo uskoro imati umjetne inteligencije koje su sposobne, ali teže različitim stvarima. On ne misli ChatGPT će pojesti cijelu biosferu jer nije na toj razini sposobnosti.
Soares je primijetio da najzanimljivije aplikacije umjetne inteligencije, poput automatizacije znanstvenog i tehnološkog razvoja i istraživanja, izgleda zahtijevaju određenu potragu za ciljevima.
“Nije greška koju možete dobiti GPT napisati uredan haiku, ali ga ne možete natjerati da napiše roman. Ograničenja trenutnih sustava povezana su s činjenicom da oni ne teže ovim dubljim ciljevima, barem za mene.”
Pročitajte više:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Cindy je novinarka u Metaverse Post, pokrivajući teme povezane s web3, NFT, metaverse i AI, s fokusom na intervjue s Web3 igrači u industriji. Razgovarala je s više od 30 rukovoditelja na razini C i sve više, donoseći njihove dragocjene uvide čitateljima. Porijeklom iz Singapura, Cindy sada živi u Tbilisiju u Gruziji. Diplomirala je komunikacije i medijske studije na Sveučilištu Južne Australije i ima desetljeće iskustva u novinarstvu i pisanju. Stupite u kontakt s njom putem [e-pošta zaštićena] s predstavljanjima za novinare, najavama i prilikama za intervjue.
Više članaka
Cindy je novinarka u Metaverse Post, pokrivajući teme povezane s web3, NFT, metaverse i AI, s fokusom na intervjue s Web3 igrači u industriji. Razgovarala je s više od 30 rukovoditelja na razini C i sve više, donoseći njihove dragocjene uvide čitateljima. Porijeklom iz Singapura, Cindy sada živi u Tbilisiju u Gruziji. Diplomirala je komunikacije i medijske studije na Sveučilištu Južne Australije i ima desetljeće iskustva u novinarstvu i pisanju. Stupite u kontakt s njom putem [e-pošta zaštićena] s predstavljanjima za novinare, najavama i prilikama za intervjue.
