Vitalik Buterin va MIRI direktori Neyt Soares sun'iy intellektning xavf-xatarlarini o'rganishadi: sun'iy intellekt odamlarning yo'q bo'lib ketishiga olib kelishi mumkinmi?
Qisqacha
Ethereum asoschisi Vitalik Buterin va Mashina razvedkasi tadqiqot instituti direktori Neyt Soares bugun Zuzalu'da AI xavfini muhokama qilishdi.
Zuzalu - Buterin va uning kripto hamjamiyatidagi tengdoshlari tashabbusi bilan Chernogoriyadagi qalqib chiquvchi shahar hamjamiyati.
Munozarada Soaresh nima uchun sun'iy intellekt Yerdagi barcha hayotni yo'q qilish ehtimoli yuqori ekanligi haqidagi o'z nuqtai nazari bilan o'rtoqlashdi.
Ethereum asoschisi Vitalik Buterin va Machine Intelligence Research Institute (MIRI) direktori Neyt Soares bugun Zuzaluda AI xavfini muhokama qildi.
Zuzalu - Buterin va uning kripto hamjamiyatidagi tengdoshlari tashabbusi bilan Chernogoriyadagi "qalqib chiquvchi shahar hamjamiyati" 25-martdan 25-maygacha davom etadi. Tadbir oʻrganish, yaratish, uzoqroq va sogʻlomroq yashash istagiga ega 200 nafar asosiy aholini birlashtiradi. yashaydi va o'z-o'zini ta'minlaydigan jamoalar quradi. Ikki oy davomida hamjamiyat sintetik biologiya, maxfiylik texnologiyasi, jamoat tovarlari, uzoq umr ko'rish, boshqaruv va boshqalar kabi turli mavzularda bir qator tadbirlarni o'tkazmoqda.
The muhokama Suares Berklida joylashgan notijorat tashkiloti MIRIda o'z ishini taqdim etgani bilan ochildi. So'nggi 20 yil davomida MIRI sun'iy intellekt rivojlanishining yaxshi yo'lini ta'minlash uchun asos yaratishga harakat qilmoqda. Muhokama orqali Vitalik AIni insoniyat tarixida chiqarilgan boshqa texnologiyalar bilan solishtirganda o'ziga xos xavfli ekanligini ko'rib chiqishga umid qildi.
AIning insonning yo'q bo'lib ketishiga olib kelishi ehtimoli
Vitalikning so‘zlariga ko‘ra, u uzoq vaqtdan beri sun’iy intellektning xavf-xatarlari mavzusiga qiziqib qolgan va agar sun’iy intellekt noto‘g‘ri bo‘lib qolsa, Yerdagi barcha hayot yo‘q bo‘lib ketishi ehtimoli 0.5-1% ga, ya’ni ekzistensial xavf sabab bo‘lishi mumkinligiga ishonch hosil qilganini esladi. insoniyatning yo'q bo'lib ketishi yoki insoniyat tsivilizatsiyasining qaytarib bo'lmaydigan qulashi.
Soares nuqtai nazaridan, insonning yo'q bo'lib ketishi AI texnologiyasining xavfli rivojlanishining odatiy natijasiga o'xshaydi. Uni evolyutsiya bilan qiyoslab, u insoniyatning rivojlanishi oddiy evolyutsiya o'zgarishlaridan ko'ra tezroq sodir bo'layotganini aytdi. AI va inson evolyutsiyasi jarayonlarida dominant optimallashtirish - ko'rib chiqilishi kerak bo'lgan bir nechta maqsadlar mavjud bo'lganda muammoning eng yaxshi echimini topish jarayoni o'zgardi. Odamlar ma'lumotni tabiiy tanlanish orqali genlarga bog'lash o'rniga og'izdan og'izga o'tish imkoniyatiga ega bo'lgan darajaga yetdilar.
“AI - bu oxir-oqibat makroskopik optimallashtirish jarayonini yana o'zgartirishingiz mumkin bo'lgan holat. Menimcha, siz optimallashtirish nuqtai nazaridan odamlardan ko'ra yaxshiroq ish qila olasiz. O'ylaymanki, biz atrofimizni optimallashtirishga kelganda hali ham juda soqovmiz. Sun'iy intellekt yordamida biz avtomatlashtirilgan optimallashtirish koinotning makroskopik xususiyatlarini aniqlaydigan kuch bo'lgan fazaviy o'tishni boshdan kechirmoqdamiz ", deb tushuntirdi Soares.
Uning qoʻshimcha qilishicha, kelajak nimaga oʻxshaydi, optimallashtirish jarayoni nima uchun optimallashtiriladi va bu insoniyat uchun foydali boʻlishni toʻxtatadi, chunki koʻpchilik optimallashtirish maqsadlarida odamlar uchun joy yoʻq.
Odamlar AIni yaxshilikka o'rgata oladimi?
Buterinning ta'kidlashicha, odamlar sun'iy intellektni o'rgatadilar va unga qanday qilib optimallashtirishni aytadilar. Agar kerak bo'lsa, ular mashinani optimallashtirish usulini o'zgartirishi mumkin. Soareshning aytishicha, printsipial jihatdan AIni yaxshilik qilishga o'rgatish mumkin, lekin shunchaki AIni maqsadga erishish uchun o'rgatish u buni xohlaydi yoki xohlaydi, degani emas.
Insonning xohish-istaklari haqida katta hajmdagi ma'lumotlarni oladigan katta til modellarida mustahkamlashni o'rganish haqida gapirar ekan, Buterin nima uchun bu ishlamasligini so'radi, chunki mavjud razvedka bizning afzalliklarimiz nima ekanligini tushunishda yaxshilanmoqda.
"Bizning motivatsiyalarimizni tushunish va xafa qilish o'rtasida katta bo'shliq bor"
Soares javob berdi.
“Mening da’vom katta til modeli yoki sun’iy intellekt inson xohishlarining mayda-chuydalarini tushunmaydi, degani emas. Mening da'volarim shundaki, insonning afzalliklarini tushunish yaxshilik uchun optimallashtirishdan juda farq qiladi ", deya qo'shimcha qildi u.
Tomoshabinlar a’zosi sun’iy intellekt kabi odamlar o‘zlari nima qilayotganini yoki bashorat qilayotganini tushunmaydi, bu ham xavfli bo‘lishi mumkinligini aytdi. Keyin u Soaresdan o'zini o'zga sayyoralikdek ko'rsatishini va nima uchun odamlar bo'lmasligi kerakligini tushuntirishni so'radi.
“Men bir kishiga xudoga o'xshash kuchlar va kelajak ustidan nazoratni berishdan hayajonlanmayman. Alohida-alohida, men tasodifiy AIga qaraganda, bitta odamga kuch berishdan juda xursand bo'lardim. Bizda sun'iy intellekt bo'lmasligi kerak, deb qat'iy aytmayman. Men buni to'g'ri qilishimiz kerakligini aytyapman. Biz ularni o'yin-kulgi va baxtga to'la kelajak va gullab-yashnayotgan tsivilizatsiyalar haqida qayg'urishimiz kerak, bu erda transhumanlar o'zga sayyoraliklar bilan ijobiy savdolar olib boradi va hokazo", - deya aniqlik kiritdi Soaresh. "Agar siz turli xil narsalar haqida qayg'uradigan kuchli optimallashtirish jarayonini yaratsangiz, bu koinotning barcha qadriyatlarini yo'q qilishi mumkin."
Uning qo'shimcha qilishicha, insonlar qadrlaydigan narsalar hamma uchun majburiy emas va axloq uni o'rganadigan har qanday aql intilishi mumkin bo'lgan narsa emas. Buning o'rniga, ajdodlar muhitida bizni ko'payishda yaxshi bo'lgan va odamlarga xos bo'lgan odamlarga o'rnatilgan harakatlarning natijasidir.
Oxir oqibat, Soaresh biz shunga o'xshash aqlli yoki undan ham aqlliroq narsani qurmasligimiz kerak, deb hisoblaydi, bu qiziqarli, baxt va gullab-yashnayotgan kelajakka mos kelmaydi. Boshqa tomondan, u, shuningdek, insoniyat qurollanish poygasi paytida birinchi urinishda qiziqarli kelajakni optimallashtiradigan do'stona super razvedka qurmasligi kerakligini aytdi. Qisqa muddatda sun'iy intellekt insoniyatga aslida nimani xohlashlarini aniqlash uchun vaqt va joy sotib olishga yordam berishga bag'ishlanishi kerak.
ChatGPT butun biosferani iste'mol qilmaydi
Hozirgi vaqtda sun'iy intellekt ma'lum maqsadlarga, jumladan, bashorat qilishga erishish uchun qurilayotganligi sababli, Buterin so'radi, agar AI maqsadga yo'naltirilmagan bo'lsa-chi? Soaresning ta'kidlashicha, xavfsiz va qodir bo'lmagan sun'iy intellektlarni yaratish oson va bizda tez orada qodir, ammo boshqa narsalarga intilayotgan AIlar paydo bo'lishi mumkin. U o'ylamaydi ChatGPT butun biosferani iste'mol qiladi, chunki u bunday qobiliyat darajasida emas.
Soaresning ta'kidlashicha, eng qiziqarli sun'iy intellekt ilovalari, masalan, ilmiy va texnologik ishlanmalar va tadqiqotlarni avtomatlashtirish, muayyan maqsadlarga intilishni talab qiladi.
“Siz qo'lga kiritishingiz xato emas GPT toza xayku yozish, lekin roman yozish uchun uni ololmaysiz. Hozirgi tizimlarning cheklovlari, hech bo'lmaganda men uchun, ular bu chuqurroq maqsadlarga intilmayotganligi bilan bog'liq.
Ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Sindi jurnalist Metaverse Post, bilan bog'liq mavzularni qamrab oladi web3, NFT, metaverse va AI, bilan suhbatlarga e'tibor qaratiladi Web3 sanoat o'yinchilari. U 30 dan ortiq C darajasidagi rahbarlar bilan suhbatlashdi va ularning qimmatli tushunchalarini o'quvchilarga yetkazdi. Asli Singapurdan bo'lgan Sindi hozirda Gruziyaning Tbilisi shahrida joylashgan. U Janubiy Avstraliya universitetida aloqa va media tadqiqotlari bo‘yicha bakalavr darajasini olgan va jurnalistika va yozuvchilik sohasida o‘n yillik tajribaga ega. orqali u bilan bog'laning [elektron pochta bilan himoyalangan] matbuot maydonchalari, e'lonlar va intervyu imkoniyatlari bilan.
Boshqa maqolalar
Sindi jurnalist Metaverse Post, bilan bog'liq mavzularni qamrab oladi web3, NFT, metaverse va AI, bilan suhbatlarga e'tibor qaratiladi Web3 sanoat o'yinchilari. U 30 dan ortiq C darajasidagi rahbarlar bilan suhbatlashdi va ularning qimmatli tushunchalarini o'quvchilarga yetkazdi. Asli Singapurdan bo'lgan Sindi hozirda Gruziyaning Tbilisi shahrida joylashgan. U Janubiy Avstraliya universitetida aloqa va media tadqiqotlari bo‘yicha bakalavr darajasini olgan va jurnalistika va yozuvchilik sohasida o‘n yillik tajribaga ega. orqali u bilan bog'laning [elektron pochta bilan himoyalangan] matbuot maydonchalari, e'lonlar va intervyu imkoniyatlari bilan.
