Vitalik Buterin ja MIRI-johtaja Nate Soares tutkivat tekoälyn vaaroja: Voiko tekoäly aiheuttaa ihmisen sukupuuttoon?
Lyhyesti
Ethereumin perustaja Vitalik Buterin ja Machine Intelligence Research Instituten johtaja Nate Soares keskustelivat tekoälyn riskeistä Zuzalussa tänään.
Zuzalu on pop-up kaupunkiyhteisö Montenegrossa, jonka Buterin ja hänen ikätoverinsa kryptoyhteisössä ovat käynnistäneet.
Keskustelussa Soares jakoi näkemyksensä siitä, miksi tekoäly todennäköisesti lopettaa kaiken elämän maapallolla.
Ethereumin perustaja Vitalik Buterin ja Machine Intelligence Research Instituten (MIRI) johtaja Nate Soares keskustelivat tekoälyn riskeistä Zuzalussa tänään.
Zuzalu on "pop-up kaupunkiyhteisö" Montenegrossa, jonka perustaja on Buterin ja hänen ikätoverinsa kryptoyhteisössä 25. maaliskuuta - 25. toukokuuta. Tapahtuma kokoaa yhteen 200 ydinasukkaa, joilla on yhteinen halu oppia, luoda, elää pidempään ja terveellisemmin. elämiä ja rakentaa itseään ylläpitäviä yhteisöjä. Kahden kuukauden aikana yhteisö järjestää myös useita tapahtumia erilaisista aiheista, kuten synteettinen biologia, yksityisyyden teknologia, julkiset hyödykkeet, pitkäikäisyys, hallinto ja paljon muuta.
- keskustelu avasi Soaresin esittelemällä työnsä MIRI:ssä, Berkeleyssä sijaitsevassa voittoa tavoittelemattomassa järjestössä, joka on ollut olemassa pidempään kuin hän on ollut sitä johtanut. Viimeiset 20 vuotta MIRI on yrittänyt luoda pohjaa varmistaakseen, että tekoälykehitys sujuu hyvin. Keskustelun yhteydessä Vitalik toivoi käsittelevänsä sitä, mikä tekee tekoälystä ainutlaatuisen riskialtista verrattuna muihin ihmiskunnan historiassa julkaistuihin teknologioihin.
Todennäköisyys, että tekoäly aiheuttaa ihmisen sukupuuttoon
Vitalik sanoi, että hän on ollut kiinnostunut tekoälyriskeistä jo pitkään ja muistaa olevansa vakuuttunut siitä, että on 0.5–1 %:n todennäköisyys, että kaikki elämä maapallolla lakkaa olemasta, jos tekoäly menee pieleen – eksistentiaalinen riski, joka aiheuttaisi ihmiskunnan sukupuuttoon tai ihmiskunnan peruuttamattomaan romahtamiseen.
Soaresin näkökulmasta ihmisten sukupuuttoon kuoleminen näyttää tekoälyteknologian vaarallisen kehityksen oletustulokselta. Vertaamalla sitä evoluutioon hän sanoi, että ihmiskunnan kehitys näytti tapahtuvan nopeammin kuin pelkät evoluutiomuutokset tapahtuivat. Sekä tekoälyn että ihmisen evoluution prosesseissa vallitseva optimointi – prosessi, jossa löydetään paras ratkaisu ongelmaan, kun on otettava huomioon useita tavoitteita – oli muuttumassa. Ihmiset olivat saavuttaneet pisteen, jossa he pystyivät välittämään tietoa suusta suuhun sen sijaan, että tieto olisi kytketty geeneihin luonnonvalinnan kautta.
”Tekoäly on viime kädessä tapaus, jossa voit vaihtaa makroskooppista optimointiprosessia uudelleen. Uskon, että voit tehdä optimoinnin suhteen paljon paremmin kuin ihmiset. Mielestäni olemme edelleen melko tyhmiä ympäristömme optimoinnissa. Tekoälyn kanssa käymme läpi eräänlaista vaihemuutosta, jossa automaattinen optimointi on voima, joka määrittää maailmankaikkeuden makroskooppiset piirteet", Soares selitti.
Hän lisäsi, että tulevaisuus näyttää siltä, mihin optimointiprosessi optimoi, ja se ei todennäköisesti enää hyödytä ihmiskuntaa, koska useimmissa optimointikohteissa ei ole tilaa ihmisille.
Voivatko ihmiset kouluttaa tekoälyä tekemään hyvää?
Buterin huomautti, että ihmiset ovat niitä, jotka kouluttavat tekoälyä ja kertovat sille kuinka optimoida. Tarvittaessa he voivat muuttaa tapaa, jolla kone on optimoitu. Tähän Soares sanoi, että tekoälyn kouluttaminen tekemään hyvää on periaatteessa mahdollista, mutta pelkkä tekoälyn kouluttaminen tavoitteen saavuttamiseksi ei tarkoita, että se tekisi tai haluaisi tehdä niin, vaan se on vain halu.
Ottaen kantaa vahvistavaan oppimiseen suurissa kielimalleissa, jotka saavat suuria määriä tietoa ihmisten mieltymyksistä, Buterin kysyi, miksi se ei toimisi, koska olemassa oleva älykkyys ymmärtää paremmin mieltymyksemme.
"Motiiviemme ymmärtämisen ja paskan antamisen välillä on suuri ero."
Soares vastasi.
”Väitteeni ei ole se, että suuri kielimalli tai tekoäly ei ymmärtäisi ihmisen mieltymysten yksityiskohtia. Väitän, että ihmisten mieltymysten yksityiskohtien ymmärtäminen on hyvin erilaista kuin hyvyyden optimointi", hän lisäsi.
Eräs yleisön jäsen vertasi tekoälyä ihmisiin sanoen, että tekoälyn tavoin ihmiset eivät yleensä ymmärrä, mitä he tekevät tai ennustavat, mikä voi myös olla vaarallista. Sitten hän pyysi Soaresia teeskentelemään olevansa muukalainen ja selittämään, miksi ei pitäisi olla ihmisiä.
”En innostuisi antamasta jumalan kaltaisia voimia ja tulevaisuuden hallintaa yhdelle yksittäiselle ihmiselle. Erikseen olisin paljon innoissani, jos antaisin vallan yhdelle yksittäiselle ihmiselle kuin satunnaisessa roolissa olevalle tekoälylle. En painokkaasti sano, ettei meillä pitäisi olla tekoälyä. Sanon, että meidän on saatava se kuntoon. Meidän on saatava heidät välittämään tulevaisuudesta, joka on täynnä hauskaa ja onnea, ja kukoistavista sivilisaatioista, joissa transihmiset käyvät positiivisia summakauppoja muukalaisten kanssa ja niin edelleen”, Soares selvensi. "Jos rakennat vahvan optimointiprosessin, joka välittää erilaisista asioista, se voi mahdollisesti tuhota kaikki maailmankaikkeuden arvot."
Hän lisäsi, että asiat, joita ihmiset arvostavat, eivät ole yleisesti vakuuttavia ja että moraali ei ole jotain, jota kukaan sitä tutkiva mieli tavoittelee. Sen sijaan se on seurausta ihmisiin sisäänrakennetuista haluista, jotka esi-isien ympäristössä saivat meidät olemaan hyviä lisääntymään ja ovat ihmisille ominaisia.
Viime kädessä Soares uskoo, että meidän ei pitäisi rakentaa jotain, joka on yhtä älykäs tai jopa älykkäämpi, mikä on ristiriidassa hauskan, onnen ja kukoistavan tulevaisuuden kanssa. Toisaalta hän sanoi myös, että ihmiskunnan ei pitäisi rakentaa ystävällistä superälyä, joka optimoi hauskan tulevaisuuden ensimmäisellä yrittämällä asevarustelun aikana. Lyhyellä aikavälillä tekoälyn pitäisi olla omistautunut auttamaan ihmiskuntaa ostamaan aikaa ja tilaa selvittääkseen, mitä he todella haluavat.
ChatGPT ei kuluta koko biosfääriä
Koska tekoälyä rakennetaan parhaillaan tiettyjen tavoitteiden saavuttamiseksi, mukaan lukien ennustaminen, Buterin kysyi, mitä jos tekoäly ei olisi tavoitteellinen? Soares sanoi, että on helppoa rakentaa tekoälyjä, jotka ovat turvallisia ja ei-kelpoisia, ja meillä saattaa pian olla tekoälyjä, jotka ovat kykeneviä, mutta tavoittelevat eri asioita. Hän ei ajattele ChatGPT kuluttaa koko biosfäärin, koska se ei ole sillä kykytasolla.
Soares huomautti, että mielenkiintoisimmat tekoälysovellukset, kuten tieteellisen ja teknologisen kehityksen ja tutkimuksen automatisointi, näyttävät vaativan tiettyä tavoitteiden saavuttamista.
"Se ei ole virhe, jonka voit saada GPT kirjoittaa siistin haikun, mutta et saa sitä kirjoittamaan romaania. Nykyisten järjestelmien rajoitukset liittyvät siihen, että ne eivät tavoittele näitä syvempiä tavoitteita, ainakaan minulle.”
Lue lisää:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Cindy on toimittaja osoitteessa Metaverse Post, joka kattaa aiheeseen liittyviä aiheita web3, NFT, metaverse ja AI, keskittyen haastatteluihin Web3 alan toimijoita. Hän on puhunut yli 30 C-tason johtajalle ja tuonut heidän arvokkaita oivalluksiaan lukijoille. Alunperin Singaporesta kotoisin oleva Cindy on nykyään Tbilisissä, Georgiassa. Hänellä on kandidaatin tutkinto viestinnästä ja mediatutkimuksesta Etelä-Australian yliopistosta, ja hänellä on vuosikymmenen kokemus journalismista ja kirjoittamisesta. Ota häneen yhteyttä kautta [sähköposti suojattu] lehdistöpuheilla, ilmoituksilla ja haastattelumahdollisuuksilla.
lisää artikkeleita
Cindy on toimittaja osoitteessa Metaverse Post, joka kattaa aiheeseen liittyviä aiheita web3, NFT, metaverse ja AI, keskittyen haastatteluihin Web3 alan toimijoita. Hän on puhunut yli 30 C-tason johtajalle ja tuonut heidän arvokkaita oivalluksiaan lukijoille. Alunperin Singaporesta kotoisin oleva Cindy on nykyään Tbilisissä, Georgiassa. Hänellä on kandidaatin tutkinto viestinnästä ja mediatutkimuksesta Etelä-Australian yliopistosta, ja hänellä on vuosikymmenen kokemus journalismista ja kirjoittamisesta. Ota häneen yhteyttä kautta [sähköposti suojattu] lehdistöpuheilla, ilmoituksilla ja haastattelumahdollisuuksilla.
