Sina Vitalik Buterin at Direktor ng MIRI na si Nate Soares ay Nagsaliksik sa Mga Panganib ng AI: Maaaring Magdulot ng Pagkalipol ng Tao ang Artipisyal na Katalinuhan?
Sa madaling sabi
Tinalakay ngayon ng tagapagtatag ng Ethereum na si Vitalik Buterin at direktor ng Machine Intelligence Research Institute na si Nate Soares ang mga panganib ng AI sa Zuzalu.
Ang Zuzalu ay isang pop-up na komunidad ng lungsod sa Montenegro na pinasimulan ni Buterin at ng kanyang mga kapantay sa komunidad ng crypto.
Sa talakayan, ibinahagi ni Soares ang kanyang pananaw kung bakit malaki ang posibilidad na wakasan ng AI ang lahat ng buhay sa Earth.
Ang tagapagtatag ng Ethereum na si Vitalik Buterin at direktor ng Machine Intelligence Research Institute (MIRI) Nate Soares tinalakay ang mga panganib ng AI sa Zuzalu ngayon.
Ang Zuzalu ay isang “pop-up city community” sa Montenegro na pinasimulan ni Buterin at ng kanyang mga kapantay sa crypto community na tumatakbo mula Mar 25 hanggang Mayo 25. Pinagsasama-sama ng event ang 200 pangunahing residente na may magkaparehong pagnanais na matuto, lumikha, mabuhay nang mas matagal at mas malusog buhay, at bumuo ng mga pamayanang nagpapatibay sa sarili. Sa loob ng dalawang buwan, nagho-host din ang komunidad ng ilang mga kaganapan sa iba't ibang paksa tulad ng synthetic na biology, teknolohiya para sa privacy, mga pampublikong gamit, mahabang buhay, pamamahala, at higit pa.
Ang pagtalakay Nagbukas nang ipakilala ni Soares ang kanyang trabaho sa MIRI, isang non-profit na nakabase sa Berkeley na umiral nang mas matagal kaysa sa pinapatakbo niya ito. Sa nakalipas na 20 taon, sinisikap ng MIRI na maglatag ng batayan upang matiyak na magiging maayos ang pagbuo ng AI. Sa talakayan, umaasa si Vitalik na matugunan kung bakit kakaiba ang AI kumpara sa iba pang mga teknolohiyang inilabas sa kasaysayan ng tao.
Ang posibilidad ng AI na nagiging sanhi ng pagkalipol ng tao
Sinabi ni Vitalik na matagal na siyang interesado sa paksa ng mga panganib sa AI at naalala niyang kumbinsido siya na mayroong 0.5%-1% na posibilidad na ang lahat ng buhay sa Earth ay titigil na umiral kung magkakamali ang AI—isang umiiral na panganib na magdudulot ng ang pagkalipol ng sangkatauhan o ang hindi maibabalik na pagbagsak ng sibilisasyon ng tao.
Mula sa pananaw ni Soares, ang pagkalipol ng tao ay mukhang isang default na kinalabasan ng hindi ligtas na pag-unlad ng teknolohiya ng AI. Kung ihahambing ito sa ebolusyon, sinabi niya na ang pag-unlad ng sangkatauhan ay tila nangyayari nang mas mabilis kaysa sa mga pagbabago lamang ng ebolusyon. Sa parehong mga proseso ng AI at ebolusyon ng tao, ang nangingibabaw na pag-optimize - isang proseso ng paghahanap ng pinakamahusay na solusyon sa isang problema kapag mayroong maraming layunin na dapat isaalang-alang - ay nagbabago. Ang mga tao ay umabot sa isang punto kung saan sila ay nakapagpasa ng kaalaman sa pamamagitan ng salita ng bibig sa halip na magkaroon ng impormasyon na naka-hardwired sa mga gene sa pamamagitan ng natural na pagpili.
"Ang AI ay sa huli ay isang kaso kung saan maaari mong ilipat muli ang proseso ng macroscopic optimization. Sa tingin ko, mas mahusay kang magagawa kaysa sa pag-optimize ng tao. Sa tingin ko, tanga pa rin tayo pagdating sa pag-optimize ng ating kapaligiran. Sa AI, dumaraan tayo sa isang phase transition of sorts kung saan ang automated optimization ang puwersa na tumutukoy sa macroscopic features ng universe,” paliwanag ni Soares.
Idinagdag niya na kung ano ang hitsura ng hinaharap na iyon ay kung para saan ang proseso ng pag-optimize, at malamang na titigil iyon sa pagiging kapaki-pakinabang para sa sangkatauhan dahil ang karamihan sa mga target sa pag-optimize ay walang puwang para sa mga tao.
Maaari bang sanayin ng mga tao ang AI upang gumawa ng mabuti?
Itinuro ni Buterin na ang mga tao ang nagsasanay sa AI at nagsasabi dito kung paano mag-optimize. Kung kinakailangan, maaari nilang baguhin ang paraan ng pag-optimize ng makina. Para diyan, sinabi ni Soares na posible sa prinsipyo na sanayin ang AI para gumawa ng mabuti, ngunit ang simpleng pagsasanay ng AI para makamit ang isang layunin ay hindi nangangahulugang gusto o gusto nitong gawin iyon, kumukulo sa pagnanais.
Pagbibigay ng punto tungkol sa reinforcement learning sa malalaking modelo ng wika na nakakakuha ng malaking halaga ng data tungkol sa kung ano ang mga kagustuhan ng tao, tinanong ni Buterin kung bakit hindi ito gagana, dahil ang kasalukuyang intelligence ay nagiging mas mahusay sa pag-unawa kung ano ang aming mga kagustuhan.
"May malaking agwat sa pagitan ng pag-unawa sa aming mga motibasyon at pagbibigay ng tae,"
Sagot ni Soares.
“Ang sinasabi ko ay hindi na ang isang malaking modelo ng wika o AI ay hindi mauunawaan ang minutiae ng mga kagustuhan ng tao. Ang sinasabi ko ay ang pag-unawa sa minutiae ng mga kagustuhan ng tao ay ibang-iba kaysa sa pag-optimize para sa kabutihan," dagdag niya.
Isang miyembro ng madla ang gumawa ng paghahambing sa pagitan ng AI at mga tao, na nagsasabi na, tulad ng artificial intelligence, ang mga tao ay may posibilidad na hindi maunawaan kung ano ang kanilang ginagawa o hinuhulaan, na maaaring mapanganib din. Pagkatapos ay hiniling niya kay Soares na magpanggap na siya ay isang dayuhan at ipaliwanag kung bakit walang tao.
“Hindi ako matutuwa tungkol sa pagbibigay ng makadiyos na kapangyarihan at kontrol sa hinaharap sa isang indibidwal na tao. Hiwalay, mas matutuwa ako sa pagbibigay ng kapangyarihan sa isang indibidwal na tao kaysa sa isang random na ginagampanan na AI. Mariin kong hindi sinasabi na hindi tayo dapat magkaroon ng AI. Sinasabi ko na kailangan nating ayusin ito. Kailangan natin silang mapangalagaan ang isang hinaharap na puno ng saya at kaligayahan at umuunlad na mga sibilisasyon kung saan ang mga transhuman ay nakikipag-ugnayan sa positibong sum trades sa mga dayuhan at iba pa,” paglilinaw ni Soares. "Kung bubuo ka ng isang malakas na proseso ng pag-optimize na nagmamalasakit sa iba't ibang bagay, na posibleng sirain ang lahat ng mga halaga ng uniberso."
Idinagdag niya na ang mga bagay na pinahahalagahan ng mga tao ay hindi nakakahimok sa pangkalahatan at ang moralidad ay hindi isang bagay na pag-aaralan ng sinumang isip na mag-aaral nito. Sa halip, ito ay resulta ng mga drive na binuo sa mga tao na, sa kapaligiran ng mga ninuno, ay naging dahilan upang maging mahusay tayo sa pagpaparami at partikular sa mga tao.
Sa huli, naniniwala si Soares na hindi tayo dapat bumuo ng isang bagay na katulad ng matalino o mas matalino pa na hindi naaayon sa saya, kaligayahan, at maunlad na hinaharap. Sa kabilang banda, sinabi rin niya na ang sangkatauhan ay hindi dapat bumuo ng isang friendly na superintelligence na nag-o-optimize ng isang masaya na hinaharap sa unang pagsubok nito sa panahon ng isang karera ng armas. Sa maikling panahon, ang AI ay dapat na nakatuon sa pagtulong sa sangkatauhan na bumili ng oras at espasyo upang malaman kung ano talaga ang gusto nila.
ChatGPT hindi uubusin ang buong biosphere
Habang ang AI ay kasalukuyang binuo upang makamit ang mga partikular na layunin, kabilang ang hula, tinanong ni Buterin, paano kung ang AI ay hindi hinihimok ng layunin? Sinabi ni Soares na madaling bumuo ng mga AI na ligtas at hindi kaya, at maaaring magkaroon tayo ng mga AI na may kakayahan ngunit nagpapatuloy sa iba't ibang bagay. Hindi niya iniisip ChatGPT uubusin ang buong biosphere dahil wala ito sa antas ng kakayahan.
Nabanggit ni Soares na ang karamihan sa mga kawili-wiling mga application ng AI, tulad ng pag-automate ng siyentipiko at teknolohikal na pag-unlad at pananaliksik, ay tila nangangailangan ng isang tiyak na pagtugis ng mga layunin.
“Hindi naman nagkakamali na makukuha mo GPT upang magsulat ng isang maayos na haiku, ngunit hindi mo ito makukuha upang magsulat ng isang nobela. Ang mga limitasyon ng kasalukuyang mga sistema ay nauugnay sa katotohanan na hindi nila hinahabol ang mas malalim na mga layuning ito, kahit sa akin man lang.”
Magbasa nang higit pa:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Cindy ay isang mamamahayag sa Metaverse Post, sumasaklaw sa mga paksang nauugnay sa web3, NFT, metaverse at AI, na may pagtuon sa mga panayam kay Web3 mga manlalaro sa industriya. Nakipag-usap siya sa higit sa 30 C-level na mga executive at nadaragdagan pa, na nagdadala ng kanilang mahahalagang insight sa mga mambabasa. Originally from Singapore, Cindy is now based in Tbilisi, Georgia. Siya ay may hawak na Bachelor's degree sa Communications & Media Studies mula sa University of South Australia at may isang dekada ng karanasan sa pamamahayag at pagsusulat. Makipag-ugnayan sa kanya sa pamamagitan ng [protektado ng email] na may mga press pitch, mga anunsyo at mga pagkakataon sa pakikipanayam.
Mas marami pang artikulo
Si Cindy ay isang mamamahayag sa Metaverse Post, sumasaklaw sa mga paksang nauugnay sa web3, NFT, metaverse at AI, na may pagtuon sa mga panayam kay Web3 mga manlalaro sa industriya. Nakipag-usap siya sa higit sa 30 C-level na mga executive at nadaragdagan pa, na nagdadala ng kanilang mahahalagang insight sa mga mambabasa. Originally from Singapore, Cindy is now based in Tbilisi, Georgia. Siya ay may hawak na Bachelor's degree sa Communications & Media Studies mula sa University of South Australia at may isang dekada ng karanasan sa pamamahayag at pagsusulat. Makipag-ugnayan sa kanya sa pamamagitan ng [protektado ng email] na may mga press pitch, mga anunsyo at mga pagkakataon sa pakikipanayam.
