Vitalik Buterin ja MIRI direktor Nate Soares süvenevad tehisintellekti ohtudesse: kas tehisintellekt võib põhjustada inimese väljasuremise?
Põgusalt
Ethereumi asutaja Vitalik Buterin ja masinintellekti uurimisinstituudi direktor Nate Soares arutasid täna Zuzalus tehisintellektiga seotud riske.
Zuzalu on Montenegro pop-up linnakogukond, mille algatasid Buterin ja tema krüptokogukonna eakaaslased.
Arutelus jagas Soares oma vaatenurka selle kohta, miks AI suure tõenäosusega lõpetab kogu elu Maal.
Ethereumi asutaja Vitalik Buterin ja masinintellekti uurimisinstituudi (MIRI) direktor Nate Soares arutas täna Zuzalus tehisintellektiga seotud riske.
Zuzalu on Montenegro pop-up linnakogukond, mille algatasid Buterin ja tema eakaaslased krüptokogukonnas, mis kestab 25. märtsist 25. maini. Üritus toob kokku 200 põhielanikku, kellel on ühine soov õppida, luua, elada kauem ja tervemana. elusid ja luua isemajandavaid kogukondi. Kahe kuu jooksul korraldab kogukond ka mitmeid üritusi erinevatel teemadel, nagu sünteetiline bioloogia, privaatsustehnoloogia, avalikud hüved, pikaealisus, valitsemine ja palju muud.
. arutelu avati Soaresiga, kes tutvustas oma tööd Berkeleys asuvas mittetulundusühingus MIRI, mis on eksisteerinud kauem, kui ta seda juhtinud on. Viimased 20 aastat on MIRI püüdnud luua põhjatööd, et AI arendus sujuks hästi. Aruteluga lootis Vitalik käsitleda seda, mis muudab AI ainulaadselt riskantseks võrreldes teiste inimkonna ajaloos välja antud tehnoloogiatega.
Tõenäosus, et AI põhjustab inimese väljasuremise
Vitalik ütles, et on tehisintellektiriskide teema vastu huvi tundnud juba pikka aega ja mäletas, et ta oli veendunud, et 0.5%-1% tõenäosusega lakkab kogu elu Maal, kui tehisintellekt valesti läheb – eksistentsiaalne risk, mis põhjustab inimkonna väljasuremine või inimtsivilisatsiooni pöördumatu kokkuvarisemine.
Soarese vaatenurgast näib inimeste väljasuremine tehisintellekti tehnoloogia ohtliku arengu vaiketulemusena. Võrreldes seda evolutsiooniga, ütles ta, et inimkonna areng näis toimuvat kiiremini kui pelgalt evolutsiooni muutused. Nii tehisintellekti kui ka inimese evolutsiooniprotsessides oli muutumas domineeriv optimeerimine – protsess, mille käigus leitakse probleemile parim lahendus, kui kaaluda on mitu eesmärki. Inimesed olid jõudnud punkti, kus nad suutsid teadmisi edasi anda suust suhu, selle asemel, et teave loodusliku valiku kaudu geenidesse siduda.
"AI on lõppkokkuvõttes juhtum, kus saate makroskoopilist optimeerimisprotsessi uuesti vahetada. Ma arvan, et saate optimeerimise osas palju paremini teha kui inimesed. Ma arvan, et oleme endiselt üsna lollid, kui on vaja oma ümbrust optimeerida. Tehisintellektiga läbime omamoodi faasisiirde, kus automatiseeritud optimeerimine on jõud, mis määrab universumi makroskoopilisi omadusi, ”selgitas Soares.
Ta lisas, et see tulevik näeb välja selline, mille jaoks optimeerimisprotsess optimeerib, ja tõenäoliselt ei ole see enam inimkonnale kasulik, kuna enamikul optimeerimise sihtmärkidel pole inimestele ruumi.
| Loe: Konsultatsioonifirma Axon Partners Group avaldab aruande „Teisintellekti omaksvõtmine 2023. aastal” |
Kas inimesed saavad AI-d treenida head tegema?
Buterin juhtis tähelepanu sellele, et inimesed on need, kes tehisintellekti treenivad ja räägivad sellele, kuidas seda optimeerida. Vajadusel võivad nad muuta masina optimeerimise viisi. Selle peale ütles Soares, et tehisintellekti on põhimõtteliselt võimalik treenida head tegema, kuid lihtsalt AI treenimine eesmärgi saavutamiseks ei tähenda, et ta seda teha tahaks või tahaks, taandudes soovile.
Arvestades õppimise tugevdamist suurtes keelemudelites, mis saavad suurel hulgal andmeid inimeste eelistuste kohta, küsis Buterin, miks see ei töötaks, kuna olemasolev intelligentsus hakkab paremini aru saama, millised on meie eelistused.
"Meie motivatsiooni mõistmise ja jamamise vahel on suur lõhe,"
Soares vastas.
"Minu väide ei seisne selles, et suur keelemudel või tehisintellekt ei mõistaks inimeste eelistuste pisiasju. Minu väide on, et inimeste eelistuste pisiasjade mõistmine on hoopis teistsugune kui headuse optimeerimine,” lisas ta.
Üks publiku liige võrdles tehisintellekti ja inimesi, öeldes, et sarnaselt tehisintellektiga ei kipu ka inimesed aru saama, mida nad teevad või ennustavad, mis võib samuti olla ohtlik. Seejärel palus ta Soaresel teeselda, et ta on tulnukas, ja selgitada, miks ei tohiks inimesi olla.
„Ma ei oleks vaimustuses, kui anda ühele inimesele jumalasarnased jõud ja kontroll tuleviku üle. Eraldi oleksin palju rohkem põnevil, kui annaksin võimu üksikule inimesele kui juhuslikult valitud tehisintellektile. Ma ei ütle kindlalt, et meil ei peaks olema AI-d. Ma ütlen, et me peame selle korda saama. Peame panema nad hoolima tulevikust, mis on täis lõbu ja õnne, ning õitsvatest tsivilisatsioonidest, kus transinimesed teevad positiivseid tehinguid tulnukatega ja nii edasi,“ selgitas Soares. "Kui loote tugeva optimeerimisprotsessi, mis hoolib erinevatest asjadest, võib see potentsiaalselt hävitada kõik universumi väärtused."
Ta lisas, et asjad, mida inimesed hindavad, ei ole üldiselt veenvad ja et moraal ei ole midagi, mida ükski seda uuriv mõistus ei taotleks. Selle asemel on see inimestesse sisseehitatud ajendite tulemus, mis esivanemate keskkonnas panid meid hästi paljunema ja on inimestele omased.
Lõppkokkuvõttes usub Soares, et me ei peaks ehitama midagi, mis on samamoodi intelligentne või veelgi intelligentsem, mis pole kooskõlas lõbususe, õnne ja õitsva tulevikuga. Teisest küljest ütles ta ka, et inimkond ei peaks ehitama sõbralikku superintellekti, mis optimeerib lõbusat tulevikku esimesel katsel võidurelvastumise ajal. Lühiajalises perspektiivis peaks tehisintellekt olema pühendunud sellele, et aidata inimkonnal osta aega ja ruumi, et aru saada, mida nad tegelikult tahavad.
ChatGPT ei tarbi kogu biosfääri
Kuna tehisintellekti ehitatakse praegu konkreetsete eesmärkide saavutamiseks, sealhulgas ennustamiseks, küsis Buterin, mis siis, kui AI ei oleks eesmärgipõhine? Soares ütles, et ohutute ja mittetoimivate tehisintellektide loomine on lihtne ning meil võib varsti olla AI-sid, mis on võimelised, kuid taotlevad teistsuguseid asju. Ta ei mõtle ChatGPT tarbib kogu biosfääri, kuna see ei ole sellel võimekuse tasemel.
Soares märkis, et enamik huvitavaid tehisintellekti rakendusi, nagu teaduse ja tehnoloogia arendamise ja uurimistöö automatiseerimine, näivad nõuavad teatud eesmärkide saavutamist.
"See pole viga, mida saate teha GPT korraliku haiku kirjutamiseks, aga romaani kirjutamiseks seda ei saa. Praeguste süsteemide piirangud on seotud asjaoluga, et nad ei taotle neid sügavamaid eesmärke, vähemalt minu jaoks.
Loe rohkem:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Cindy on ajakirjanik Metaverse Post, mis käsitleb seotud teemasid web3, NFT, metaverse ja AI, keskendudes intervjuudele kasutajaga Web3 tööstuse mängijad. Ta on vestelnud enam kui 30 C-taseme juhiga, tuues lugejateni nende väärtuslikke teadmisi. Algselt Singapurist pärit Cindy asub nüüd Gruusias Thbilisis. Tal on Lõuna-Austraalia ülikoolis bakalaureusekraad kommunikatsiooni- ja meediauuringute alal ning tal on kümneaastane kogemus ajakirjanduses ja kirjutamises. Võtke temaga ühendust kaudu [meiliga kaitstud] pressikõnede, teadaannete ja intervjuuvõimalustega.
Veel artikleid
Cindy on ajakirjanik Metaverse Post, mis käsitleb seotud teemasid web3, NFT, metaverse ja AI, keskendudes intervjuudele kasutajaga Web3 tööstuse mängijad. Ta on vestelnud enam kui 30 C-taseme juhiga, tuues lugejateni nende väärtuslikke teadmisi. Algselt Singapurist pärit Cindy asub nüüd Gruusias Thbilisis. Tal on Lõuna-Austraalia ülikoolis bakalaureusekraad kommunikatsiooni- ja meediauuringute alal ning tal on kümneaastane kogemus ajakirjanduses ja kirjutamises. Võtke temaga ühendust kaudu [meiliga kaitstud] pressikõnede, teadaannete ja intervjuuvõimalustega.
