Vitaliks Buterins un MIRI direktors Neits Soaress iedziļinās AI draudos: vai mākslīgais intelekts var izraisīt cilvēku izmiršanu?
Īsumā
Ethereum dibinātājs Vitaliks Buterins un Mašīntelpas pētniecības institūta direktors Neits Soaress šodien Zuzalu apsprieda AI riskus.
Zuzalu ir uznirstoša pilsētas kopiena Melnkalnē, kuras iniciators ir Buterīns un viņa vienaudži kriptovalūtu kopienā.
Diskusijā Soares dalījās savā skatījumā par to, kāpēc AI, visticamāk, izbeigs visu dzīvību uz Zemes.
Ethereum dibinātājs Vitaliks Buterins un Mašīnu izlūkošanas pētniecības institūta (MIRI) direktors Neits Soars šodien Zuzalu apsprieda AI riskus.
Zuzalu ir "uznirstošā pilsētas kopiena" Melnkalnē, ko aizsāka Buterīns un viņa vienaudži kriptovalūtu kopienā, kas norisinās no 25. marta līdz 25. maijam. Pasākums pulcē 200 galvenos iedzīvotājus ar kopīgu vēlmi mācīties, radīt, dzīvot ilgāk un veselīgāk. dzīvi un veidot pašpietiekamas kopienas. Divu mēnešu laikā kopiena rīko arī vairākus pasākumus par dažādām tēmām, piemēram, sintētiskā bioloģija, tehnoloģija privātumam, sabiedriskie labumi, ilgmūžība, pārvaldība un citas.
Jūsu darbs IR Klientu apkalpošana diskusija tika atklāts, kad Soares iepazīstināja ar savu darbu MIRI, Bērklijā bāzētā bezpeļņas organizācijā, kas pastāv ilgāk nekā viņš to vadīja. Pēdējos 20 gadus MIRI ir mēģinājis likt pamatus, lai nodrošinātu, ka AI attīstība norit labi. Ar diskusiju Vitaliks cerēja pievērsties tam, kas padara AI unikāli riskantu salīdzinājumā ar citām cilvēces vēsturē izlaistajām tehnoloģijām.
Varbūtība, ka mākslīgais intelekts izraisīs cilvēka izmiršanu
Vitaliks sacīja, ka viņu jau ilgu laiku interesējis AI risku tēma, un atcerējās, ka ir bijis pārliecināts, ka pastāv 0.5–1% iespējamība, ka visa dzīvība uz Zemes beigs pastāvēt, ja AI noiet greizi — eksistenciāls risks, kas izraisītu cilvēku rases izzušana vai neatgriezenisks cilvēces civilizācijas sabrukums.
No Soares perspektīvas cilvēka izzušana izskatās kā noklusējuma rezultāts nedrošai AI tehnoloģiju attīstībai. Salīdzinot to ar evolūciju, viņš teica, ka cilvēces attīstība, šķiet, notiek ātrāk nekā tikai evolūcijas izmaiņas. Gan mākslīgā intelekta, gan cilvēka evolūcijas procesos mainījās dominējošā optimizācija — vislabākā problēmas risinājuma atrašanas process, kad ir jāņem vērā vairāki mērķi. Cilvēki bija sasnieguši punktu, kurā viņi varēja nodot zināšanas, izmantojot mutiski, nevis ar dabiskās atlases palīdzību gēnos.
"AI galu galā ir gadījums, kad varat atkal pārslēgt makroskopisko optimizācijas procesu. Es domāju, ka optimizācijas ziņā jūs varat paveikt daudz labāk nekā cilvēki. Es domāju, ka mēs joprojām esam diezgan stulbi, kad runa ir par vides optimizēšanu. Izmantojot mākslīgo intelektu, mēs piedzīvojam sava veida fāzu pāreju, kurā automatizētā optimizācija ir spēks, kas nosaka Visuma makroskopiskās iezīmes, ”skaidroja Soares.
Viņš piebilda, ka nākotnē optimizācijas process ir optimizēts, un tas, visticamāk, vairs nebūs labvēlīgs cilvēcei, jo lielākajai daļai optimizācijas mērķu nav vietas cilvēkiem.
Vai cilvēki var apmācīt AI darīt labu?
Buterīns norādīja, ka cilvēki ir tie, kas apmāca AI un stāsta, kā optimizēt. Ja nepieciešams, viņi var mainīt iekārtas optimizācijas veidu. Uz to Soares teica, ka principā ir iespējams apmācīt AI darīt labu, bet vienkārši apmācīt AI, lai sasniegtu mērķi, tas nenozīmē, ka tas to darītu vai vēlas to darīt, un tas ir saistīts ar vēlmi.
Pievēršot uzmanību mācīšanās pastiprināšanai lielos valodu modeļos, kuros tiek iegūts liels datu apjoms par cilvēku vēlmēm, Buterins jautāja, kāpēc tas nedarbosies, jo esošais intelekts arvien labāk izprot mūsu preferences.
"Ir liela plaisa starp mūsu motivācijas izpratni un sūdu,"
Soares atbildēja.
“Mans apgalvojums nav tāds, ka liels valodas modelis vai mākslīgais intelekts nesapratīs cilvēka vēlmju nianses. Mans apgalvojums ir tāds, ka izpratne par cilvēka vēlmēm ir ļoti atšķirīga no optimizācijas labestībai, ”viņš piebilda.
Kāds auditorijas loceklis salīdzināja AI un cilvēkus, sakot, ka, tāpat kā mākslīgais intelekts, cilvēki mēdz nesaprot, ko viņi dara vai prognozē, kas arī varētu būt bīstami. Pēc tam viņš lūdza Soaresam izlikties, ka viņš ir citplanētietis, un paskaidrot, kāpēc nevajadzētu būt cilvēkiem.
“Es nebūtu sajūsmā par dievišķu spēku un nākotnes kontroles piešķiršanu vienam atsevišķam cilvēkam. Atsevišķi es būtu daudz sajūsmā, ja varu piešķirtu vienam atsevišķam cilvēkam, nevis nejauši izvēlētam AI. Es noteikti nesaku, ka mums nevajadzētu būt AI. Es saku, ka mums tas ir jāsakārto. Mums ir jāpanāk, lai viņi rūpētos par nākotni, kas ir pilna jautrības un laimes, un plaukstošām civilizācijām, kurās transcilvēki veic pozitīvus darījumus ar citplanētiešiem un tā tālāk," skaidroja Soares. "Ja izveidojat spēcīgu optimizācijas procesu, kas rūpējas par dažādām lietām, tas, iespējams, var iznīcināt visas Visuma vērtības."
Viņš piebilda, ka lietas, ko cilvēki vērtē, nav vispārēji pārliecinošas un ka morāle nav kaut kas tāds, pēc kā jebkurš prāts, kas to pēta. Tā vietā tas ir cilvēkos iebūvēto dziņu rezultāts, kas senču vidē lika mums labi vairoties un ir raksturīgi tikai cilvēkiem.
Galu galā Soares uzskata, ka mums nevajadzētu būvēt kaut ko līdzīgu gudru vai pat inteliģentāku, kas neatbilst jautrībai, laimei un plaukstošai nākotnei. No otras puses, viņš arī teica, ka cilvēcei nevajadzētu veidot draudzīgu superinteliģenci, kas optimizē jautru nākotni pirmajā mēģinājumā bruņošanās sacensību laikā. Īstermiņā AI būtu jāvelta tam, lai palīdzētu cilvēcei nopirkt laiku un vietu, lai noskaidrotu, ko viņi patiesībā vēlas.
ChatGPT nepatērēs visu biosfēru
Tā kā mākslīgais intelekts pašlaik tiek veidots, lai sasniegtu konkrētus mērķus, tostarp prognozēšanu, Buterins jautāja: kā būtu, ja AI nebūtu virzīts uz mērķi? Soares teica, ka ir viegli izveidot AI, kas ir droši un nespējīgi, un drīzumā mums var būt AI, kas ir spējīgi, bet tiecas pēc dažādām lietām. Viņš nedomā ChatGPT patērēs visu biosfēru, jo tā nav tādā spēju līmenī.
Soares atzīmēja, ka lielākajai daļai interesantāko AI lietojumprogrammu, piemēram, zinātnes un tehnoloģiju attīstības un pētniecības automatizēšanai, šķiet, ir nepieciešama noteikta mērķu sasniegšana.
"Tā nav kļūda, ko varat dabūt GPT uzrakstīt kārtīgu haiku, bet romānu uzrakstīt nevar. Pašreizējo sistēmu ierobežojumi ir saistīti ar faktu, ka tās netiecas uz šiem dziļākiem mērķiem, vismaz man.
Lasīt vairāk:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Sindija ir žurnāliste Metaverse Post, aptverot tēmas, kas saistītas ar web3, NFT, metaverse un AI, koncentrējoties uz intervijām ar Web3 nozares spēlētājiem. Viņa ir runājusi ar vairāk nekā 30 C līmeņa vadītājiem, sniedzot lasītājiem viņu vērtīgās atziņas. Sākotnēji no Singapūras, Sindija tagad atrodas Tbilisi, Džordžijas štatā. Viņai ir bakalaura grāds komunikāciju un mediju studijās Dienvidaustrālijas Universitātē, un viņai ir desmit gadu pieredze žurnālistikā un rakstniecībā. Sazinieties ar viņu, izmantojot [e-pasts aizsargāts] ar preses prezentācijām, paziņojumiem un interviju iespējām.
Vairāk rakstus
Sindija ir žurnāliste Metaverse Post, aptverot tēmas, kas saistītas ar web3, NFT, metaverse un AI, koncentrējoties uz intervijām ar Web3 nozares spēlētājiem. Viņa ir runājusi ar vairāk nekā 30 C līmeņa vadītājiem, sniedzot lasītājiem viņu vērtīgās atziņas. Sākotnēji no Singapūras, Sindija tagad atrodas Tbilisi, Džordžijas štatā. Viņai ir bakalaura grāds komunikāciju un mediju studijās Dienvidaustrālijas Universitātē, un viņai ir desmit gadu pieredze žurnālistikā un rakstniecībā. Sazinieties ar viņu, izmantojot [e-pasts aizsargāts] ar preses prezentācijām, paziņojumiem un interviju iespējām.
