Vitalik Buterin in direktor MIRI Nate Soares se poglobita v nevarnosti umetne inteligence: ali bi lahko umetna inteligenca povzročila izumrtje človeštva?
Na kratko
Ustanovitelj Ethereuma Vitalik Buterin in direktor raziskovalnega inštituta za strojno inteligenco Nate Soares sta danes v Zuzalu razpravljala o tveganjih umetne inteligence.
Zuzalu je pop-up mestna skupnost v Črni gori, ki so jo ustanovili Buterin in njegovi vrstniki v kripto skupnosti.
V razpravi je Soares delil svoj pogled na to, zakaj bo umetna inteligenca zelo verjetno končala vse življenje na Zemlji.
Ustanovitelj Ethereuma Vitalik Buterin in direktor Raziskovalnega inštituta za strojno inteligenco (MIRI) Nate Soares danes razpravljali o tveganjih umetne inteligence v Zuzalu.
Zuzalu je »pojavna mestna skupnost« v Črni gori, ki so jo sprožili Buterin in njegovi vrstniki v kripto skupnosti, ki poteka od 25. marca do 25. maja. Dogodek združuje 200 osrednjih prebivalcev s skupno željo po učenju, ustvarjanju, življenju dlje in bolj zdravo življenja in zgraditi samozadostne skupnosti. Skupnost v dveh mesecih gosti tudi številne dogodke o različnih temah, kot so sintetična biologija, tehnologija za zasebnost, javne dobrine, dolgoživost, upravljanje in drugo.
O Razprava začel s Soaresom, ki je predstavil svoje delo pri MIRI, neprofitni organizaciji s sedežem v Berkeleyju, ki obstaja dlje, kot jo on vodi. V zadnjih 20 letih je MIRI poskušal postaviti temelje za zagotovitev, da bo razvoj umetne inteligence potekal dobro. Z razpravo je Vitalik upal, da bo obravnaval, zakaj je umetna inteligenca edinstveno tvegana v primerjavi z drugimi tehnologijami, izdanimi v človeški zgodovini.
Verjetnost, da bo umetna inteligenca povzročila izumrtje človeštva
Vitalik je dejal, da ga tema tveganja umetne inteligence zanima že dolgo časa in se spominja, da je bil prepričan, da obstaja 0.5 %-1 % možnosti, da bo vse življenje na Zemlji prenehalo obstajati, če gre umetna inteligenca narobe – eksistencialno tveganje, ki bi povzročilo izumrtje človeške rase ali nepovraten propad človeške civilizacije.
S Soaresovega vidika je izumrtje ljudi videti kot privzeti rezultat nevarnega razvoja tehnologije umetne inteligence. V primerjavi z evolucijo je dejal, da se zdi, da se razvoj človeštva odvija hitreje kot zgolj evolucijske spremembe. Tako v procesih umetne inteligence kot v procesu človeške evolucije se je prevladujoča optimizacija – proces iskanja najboljše rešitve za problem, ko je treba upoštevati več ciljev – spreminjala. Ljudje so dosegli točko, ko so lahko prenašali znanje od ust do ust, namesto da bi imeli informacije vgrajene v gene prek naravne selekcije.
»AI je navsezadnje primer, ko lahko znova preklopite postopek makroskopske optimizacije. Mislim, da lahko z optimizacijo naredite veliko bolje kot ljudje. Mislim, da smo še vedno precej neumni, ko gre za optimizacijo našega okolja. Z umetno inteligenco gremo skozi neke vrste fazni prehod, kjer je avtomatizirana optimizacija tista sila, ki določa makroskopske značilnosti vesolja,« je pojasnil Soares.
Dodal je, da je ta prihodnost videti tisto, za kar optimizira postopek optimizacije, in to verjetno ne bo več koristilo človeštvu, saj večina ciljev optimizacije nima prostora za ljudi.
| Se glasi: Svetovalno podjetje Axon Partners Group objavlja poročilo »Sprejemanje umetne inteligence leta 2023« |
Ali lahko ljudje usposobimo AI, da dela dobro?
Buterin je poudaril, da so ljudje tisti, ki usposabljajo AI in ji govorijo, kako naj optimizira. Po potrebi bi lahko spremenili način optimizacije stroja. Na to je Soares dejal, da je načeloma mogoče usposobiti umetno inteligenco, da dela dobro, vendar preprosto usposobiti umetno inteligenco, da doseže cilj, še ne pomeni, da bi to želel ali bi to storil, odvisno od želje.
Buterin je opozoril na učenje s krepitvijo v velikih jezikovnih modelih, ki pridobivajo velike količine podatkov o tem, kakšne so človeške preference, in vprašal, zakaj ne bi delovalo, saj obstoječa inteligenca postaja vse boljša pri razumevanju naših preferenc.
"Obstaja velik razkorak med razumevanjem naših motivov in tem, da nam je vseeno,"
Soares se je odzval.
»Moja trditev ni, da velik jezikovni model ali AI ne bo razumel podrobnosti človeških preferenc. Trdim, da je razumevanje podrobnosti človeških preferenc zelo drugačno od optimizacije za dobroto,« je dodal.
Član občinstva je naredil primerjavo med umetno inteligenco in ljudmi, pri čemer je rekel, da tako kot umetna inteligenca tudi ljudje ne razumejo, kaj počnejo ali napovedujejo, kar je lahko tudi nevarno. Nato je prosil Soaresa, naj se pretvarja, da je vesoljec, in pojasni, zakaj ne bi smelo biti ljudi.
»Ne bi bil navdušen nad tem, da bi enemu posameznemu človeku dal božje moči in nadzor nad prihodnostjo. Poleg tega bi bil veliko bolj navdušen, če bi dal moč enemu posameznemu človeku kot AI z naključnimi vlogami. Izrecno ne trdim, da ne bi smeli imeti AI. Pravim, da moramo to popraviti. Moramo jih pripraviti do tega, da jim bo mar za prihodnost, ki je polna zabave in sreče ter cvetočih civilizacij, kjer transljudje sodelujejo s pozitivnimi vsotami trgovanja z nezemljani in tako naprej,« je pojasnil Soares. "Če zgradite močan proces optimizacije, ki skrbi za različne stvari, bi to lahko uničilo vse vrednote vesolja."
Dodal je, da stvari, ki jih ljudje cenimo, niso univerzalno prepričljive in da morala ni nekaj, kar bi si prizadeval kateri koli um, ki jo preučuje. Namesto tega je rezultat nagonov, vgrajenih v ljudi, ki so v okolju prednikov povzročili, da smo bili dobri pri razmnoževanju in so specifični za ljudi.
Navsezadnje Soares verjame, da ne bi smeli graditi nečesa, kar je podobno ali celo bolj inteligentno, kar ni v skladu z zabavo, srečo in cvetočo prihodnostjo. Po drugi strani pa je tudi dejal, da človeštvo ne bi smelo graditi prijazne superinteligence, ki optimizira zabavno prihodnost v prvem poskusu med oboroževalno tekmo. Kratkoročno bi morala biti AI namenjena pomoči človeštvu pri nakupu časa in prostora, da ugotovi, kaj pravzaprav želi.
ChatGPT ne bo zaužil celotne biosfere
Ker se AI trenutno gradi za doseganje določenih ciljev, vključno s predvidevanjem, je Buterin vprašal, kaj če AI ne bi bil ciljno usmerjen? Soares je dejal, da je preprosto zgraditi umetne inteligence, ki so varne in nezmogljive, in morda bomo kmalu imeli umetne inteligence, ki so zmožne, vendar si prizadevajo za drugačne stvari. Ne misli ChatGPT bo zaužil celotno biosfero, ker ni na tej ravni zmogljivosti.
Soares je opozoril, da se zdi, da večina zanimivih aplikacij AI, kot je avtomatizacija znanstvenega in tehnološkega razvoja in raziskav, zahteva določeno zasledovanje ciljev.
»Ni pomote, da lahko dobite GPT napisati čeden haiku, vendar ga ne morete pripraviti do pisanja romana. Omejitve sedanjih sistemov so povezane z dejstvom, da ne zasledujejo teh globljih ciljev, vsaj zame.«
Preberite več:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Cindy je novinarka pri Metaverse Post, ki pokriva teme, povezane z web3, NFT, metaverse in AI, s poudarkom na intervjujih z Web3 akterji v industriji. Pogovarjala se je z več kot 30 vodstvenimi delavci na ravni C in jih je še vedno več, pri čemer je bralcem posredovala njihove dragocene vpoglede. Cindy, ki izvira iz Singapurja, je zdaj v Tbilisiju v Gruziji. Ima diplomo iz komunikacijskih in medijskih študij na Univerzi v Južni Avstraliji in ima desetletje izkušenj z novinarstvom in pisanjem. Stopite v stik z njo prek [e-pošta zaščitena] z novinarskimi predstavitvami, napovedmi in priložnostmi za intervjuje.
več člankov
Cindy je novinarka pri Metaverse Post, ki pokriva teme, povezane z web3, NFT, metaverse in AI, s poudarkom na intervjujih z Web3 akterji v industriji. Pogovarjala se je z več kot 30 vodstvenimi delavci na ravni C in jih je še vedno več, pri čemer je bralcem posredovala njihove dragocene vpoglede. Cindy, ki izvira iz Singapurja, je zdaj v Tbilisiju v Gruziji. Ima diplomo iz komunikacijskih in medijskih študij na Univerzi v Južni Avstraliji in ima desetletje izkušenj z novinarstvom in pisanjem. Stopite v stik z njo prek [e-pošta zaščitena] z novinarskimi predstavitvami, napovedmi in priložnostmi za intervjuje.
