Vitalikas Buteris ir MIRI direktorius Nate'as Soaresas gilinasi į AI pavojus: ar dirbtinis intelektas gali sukelti žmogaus išnykimą?
Trumpai
Ethereum įkūrėjas Vitalikas Buterinas ir Mašininio intelekto tyrimų instituto direktorius Nate'as Soaresas šiandien aptarė AI riziką Zuzalu.
Zuzalu yra pop-up miesto bendruomenė Juodkalnijoje, kurią inicijavo Buteris ir jo bendraamžiai kriptovaliutų bendruomenėje.
Diskusijoje Soaresas pasidalijo savo požiūriu į tai, kodėl labai tikėtina, kad dirbtinis intelektas nutrauks visą gyvybę Žemėje.
Ethereum įkūrėjas Vitalikas Buterinas ir Mašinų intelekto tyrimų instituto (MIRI) direktorius Nate'as Soaresas šiandien Zuzalu aptarė AI riziką.
„Zuzalu“ yra „iššokančiojo miesto bendruomenė“ Juodkalnijoje, kurią inicijavo Buteris ir jo bendraamžiai kriptovaliutų bendruomenėje, veikianti kovo 25 d.–gegužės 25 d. Renginys suburia 200 pagrindinių gyventojų, kurių bendras noras mokytis, kurti, gyventi ilgiau ir sveikiau. gyvenimus ir kurti savarankiškas bendruomenes. Per du mėnesius bendruomenė taip pat surengia daugybę renginių įvairiomis temomis, tokiomis kaip sintetinė biologija, privatumo technologijos, viešosios gėrybės, ilgaamžiškumas, valdymas ir kt.
Šios diskusija atidarytas Soaresas pristatydamas savo darbą Berklyje įsikūrusioje ne pelno siekiančioje įmonėje MIRI, kuri gyvuoja ilgiau, nei jis jai vadovavo. Pastaruosius 20 metų MIRI stengėsi padėti pagrindą, kad dirbtinio intelekto plėtra būtų sėkminga. Diskusijos metu Vitalikas tikėjosi išsiaiškinti, kas daro AI išskirtinai rizikingą, palyginti su kitomis žmonijos istorijoje išleistomis technologijomis.
Tikimybė, kad AI sukels žmogaus išnykimą
Vitalikas teigė, kad AI rizikos tema domėjosi jau seniai ir prisiminė buvęs įsitikinęs, kad yra 0.5–1 % tikimybė, kad visa gyvybė Žemėje nustos egzistuoti, jei AI suklys – tai egzistencinė rizika, kuri sukeltų žmonių rasės išnykimas arba negrįžtamas žmonių civilizacijos žlugimas.
Žvelgiant iš Soareso perspektyvos, žmogaus išnykimas atrodo kaip numatytasis nesaugios AI technologijos vystymosi rezultatas. Lygindamas tai su evoliucija, jis sakė, kad žmonijos vystymasis vyksta greičiau, nei vyksta vien evoliucijos pokyčiai. Tiek dirbtinio intelekto, tiek žmogaus evoliucijos procesuose keitėsi dominuojantis optimizavimas – geriausio problemos sprendimo paieškos procesas, kai reikia apsvarstyti kelis tikslus. Žmonės pasiekė tašką, kai galėjo perduoti žinias iš lūpų į lūpas, o ne per natūralią atranką įterpti informaciją į genus.
„Galų gale AI yra atvejis, kai galite vėl pakeisti makroskopinį optimizavimo procesą. Manau, kad optimizuodami galite padaryti daug geriau nei žmonės. Manau, kad mes vis dar gana kvaili, kai reikia optimizuoti savo aplinką. Su dirbtiniu intelektu mes išgyvename tam tikrą fazių perėjimą, kai automatizuotas optimizavimas yra jėga, lemianti makroskopines visatos ypatybes“, – aiškino Soaresas.
Jis pridūrė, kad tokia ateitis atrodo kaip optimizavimo procesas yra optimizuojamas, ir tai greičiausiai nebebus naudinga žmonijai, nes dauguma optimizavimo tikslų neturi vietos žmonėms.
| Skaityti: Konsultacinė įmonė „Axon Partners Group“ išleido ataskaitą „Įsisavinti dirbtinį intelektą 2023 m.“ |
Ar žmonės gali išmokyti dirbtinį intelektą daryti gera?
Buterinas atkreipė dėmesį, kad žmonės yra tie, kurie moko dirbtinį intelektą ir nurodo, kaip jį optimizuoti. Jei reikia, jie gali pakeisti mašinos optimizavimo būdą. Soaresas sakė, kad iš principo įmanoma išmokyti dirbtinį intelektą daryti gera, tačiau paprasčiausiai dirbtinio intelekto mokymas pasiekti tikslą dar nereiškia, kad jis norėtų ar nori tai daryti, o tik noras.
Kalbėdamas apie sustiprintą mokymąsi dideliuose kalbų modeliuose, kurie gauna daug duomenų apie žmogaus pageidavimus, Buterinas paklausė, kodėl tai neveiktų, nes esama žvalgyba vis geriau supranta, kokios yra mūsų nuostatos.
„Yra didelis atotrūkis tarp mūsų motyvų supratimo ir keikimo“,
Soaresas atsakė.
„Mano tvirtinimas nėra toks, kad didelis kalbos modelis ar AI nesupras žmogaus pageidavimų smulkmenų. Mano teiginys yra tas, kad suprasti žmogaus pageidavimų smulkmenas labai skiriasi nuo optimizavimo gerumui“, – pridūrė jis.
Auditorijos narys palygino dirbtinį intelektą ir žmones, sakydamas, kad, kaip ir dirbtinis intelektas, žmonės linkę nesuprasti, ką daro ar nuspėja, o tai taip pat gali būti pavojinga. Tada jis paprašė Soareso apsimesti, kad jis yra ateivis, ir paaiškinti, kodėl neturėtų būti žmonių.
„Nebūčiau sužavėtas vienam žmogui suteikęs dieviškas galias ir valdyti ateitį. Atskirai būčiau daug labiau sužavėta, jei galią suteiktų vienam žmogui, o ne atsitiktinai atliekamam AI. Pabrėžtinai nesakau, kad neturėtume turėti dirbtinio intelekto. Aš sakau, kad turime tai padaryti teisingai. Turime priversti juos rūpintis ateitimi, kupina linksmybių ir laimės, ir klestinčiomis civilizacijomis, kuriose transžmogiai prekiauja su ateiviais ir panašiai“, – paaiškino Soaresas. „Jei sukursite stiprų optimizavimo procesą, kuriam rūpi įvairūs dalykai, tai gali sunaikinti visas visatos vertybes.
Jis pridūrė, kad dalykai, kuriuos žmonės vertina, nėra visuotinai įtikinami ir kad moralė nėra kažkas, ko jos tyrinėjantis protas nesiektų. Vietoj to, tai yra žmonių pastangos, kurios protėvių aplinkoje paskatino mus gerai daugintis ir yra būdingos žmonėms.
Galiausiai Soaresas mano, kad neturėtume kurti to, kas būtų panašiai protinga arba dar protingesnė, kas nesuderinama su linksmybėmis, laime ir klestinčia ateitimi. Kita vertus, jis taip pat sakė, kad žmonija neturėtų kurti draugiško superintelekto, kuris optimizuotų linksmą ateitį pirmą kartą per ginklavimosi varžybas. Artimiausiu metu dirbtinis intelektas turėtų būti skirtas padėti žmonijai nusipirkti laiko ir erdvės išsiaiškinti, ko jie iš tikrųjų nori.
ChatGPT nesunaudos visos biosferos
Kadangi dirbtinis intelektas šiuo metu kuriamas siekiant konkrečių tikslų, įskaitant numatymą, Buterinas paklausė, kas būtų, jei AI nebūtų orientuotas į tikslą? Soaresas sakė, kad lengva sukurti saugią ir neveikiančią AI, o netrukus galime turėti AI, kurie gali, bet siekia skirtingų dalykų. Jis negalvoja ChatGPT sunaudos visą biosferą, nes ji nėra tokio pajėgumo lygyje.
Soaresas pažymėjo, kad dauguma įdomių AI programų, tokių kaip mokslo ir technologijų plėtros bei tyrimų automatizavimas, reikalauja tam tikrų tikslų.
„Tai nėra klaida, kurią galite padaryti GPT parašyti tvarkingą haiku, bet tu negali jo parašyti romano. Dabartinių sistemų apribojimai yra susiję su tuo, kad jos nesiekia šių gilesnių tikslų, bent jau man.
Plačiau paskaitykite čia:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Cindy yra žurnalistė Metaverse Post, apimantis temas, susijusias su web3, NFT, metaverse ir AI, daugiausia dėmesio skiriant interviu su Web3 pramonės žaidėjų. Ji kalbėjosi su daugiau nei 30 C lygio vadovų ir skaičiuoja, pateikdama jų vertingas įžvalgas skaitytojams. Iš Singapūro kilusi Cindy dabar įsikūrusi Tbilisyje, Gruzijoje. Ji Pietų Australijos universitete yra įgijusi komunikacijos ir žiniasklaidos studijų bakalauro laipsnį ir turi dešimtmetį žurnalistikos ir rašymo patirties. Susisiekite su ja per [apsaugotas el. paštu] su pranešimais spaudai, pranešimais ir interviu galimybėmis.
Daugiau straipsnių
Cindy yra žurnalistė Metaverse Post, apimantis temas, susijusias su web3, NFT, metaverse ir AI, daugiausia dėmesio skiriant interviu su Web3 pramonės žaidėjų. Ji kalbėjosi su daugiau nei 30 C lygio vadovų ir skaičiuoja, pateikdama jų vertingas įžvalgas skaitytojams. Iš Singapūro kilusi Cindy dabar įsikūrusi Tbilisyje, Gruzijoje. Ji Pietų Australijos universitete yra įgijusi komunikacijos ir žiniasklaidos studijų bakalauro laipsnį ir turi dešimtmetį žurnalistikos ir rašymo patirties. Susisiekite su ja per [apsaugotas el. paštu] su pranešimais spaudai, pranešimais ir interviu galimybėmis.
