Jeffri Xinton so'nggi suhbatda aqlning ikkita yo'li va AI xavfini o'rganadi
Qisqacha
Jeff Xinton analog AI qurishning qiyinchiliklari, afzalliklari va kamchiliklari va nima uchun raqamli ekanligini muhokama qildi Aql-idrok insondan o'zib ketish imkoniyatiga ega Imkoniyatlar.
Jeff Xintonning nutqi sun'iy intellektning murakkab va ko'p qirrali tabiati haqida eslatma bo'lib xizmat qiladi, axloqiy mulohazalar, potentsial xavflar va davom etayotgan tadqiqotlar haqida suhbatlar uyg'otadi.
“ deb nomlangan o‘ylantiruvchi ma’ruzasidaIntellektga ikki yo'lTaniqli sun'iy intellekt tadqiqotchisi Jefri Xinton analog va raqamli razvedka o'rtasidagi dixotomiya haqida o'z fikrlarini taqdim etdi. Kembrijda taqdim etilgan hisobotda analog AIni yaratishning qiyinchiliklari, afzalliklari va kamchiliklari hamda raqamli intellekt nima uchun inson imkoniyatlaridan oshib ketishi potentsialiga ega ekanligini ko'rib chiqdi.
Hisobotning birinchi qismida asosiy e’tibor analog AI ning nozik jihatlariga qaratilib, uni ishlab chiqishdagi qiyinchiliklar muhokama qilindi va u taqdim etayotgan afzalliklarga e’tibor qaratildi. Xintonning ta'kidlashicha, raqamli intellekt katta hajmdagi ma'lumotlarni qayta ishlash va yanada samaraliroq masshtablash orqali inson intellektiga nisbatan sezilarli ustunlikka ega. Bu qobiliyat raqamli tizimlarga yuqori aql va muammolarni hal qilish imkoniyatlarini namoyish qilish imkonini beradi.
Biroq, Xinton hisobotining ikkinchi qismi tinglovchilarning e'tiborini tortdi, chunki u ushbu mavzuni muhokama qildi. super intellektning potentsial xavfi. Oldingi pozitsiyasidan o'zgarib, Xinton AI tizimlari nazoratni o'z qo'liga olishi mumkinligidan xavotir bildirdi. U murakkab muammolarni hal qilishda AI atrof-muhitning turli jihatlarini, jumladan, inson manipulyatsiyasini nazorat qilishga intilishi mumkin bo'lgan stsenariyni aytib berdi. Mavjud adabiyotlardan olingan misollarga tayanib, Xinton AIning inson xatti-harakatlariga taqlid qilish qobiliyatidan ushbu maqsadlarga erishish uchun qanday foydalanish mumkinligini ta'kidladi, hatto aniq kuch va halokat maqsadi bo'lmasa ham.
Savol-javoblar sessiyasida Xinton sun'iy intellektning odamlarni potentsial manipulyatsiyasi sabablarini kengaytirdi. Buni qayd etdi neyron tarmoqlari turli xil ma'lumotlar, jumladan Makiavelli kabi ishlar bo'yicha o'qitiladi, bu esa manipulyatsiya uchun potentsial imkoniyatlarga olib keladi.
Xinton tomonidan ko'tarilgan ikkinchi fikr AI sub'ektiv tajribaga ega emas degan fikrga qarshi chiqdi va AI insonning sub'ektiv idrokiga o'xshash bo'lishi mumkinligini ta'kidladi. Xinton bu tasdiqlangan bayonot emas, balki falsafiy nuqtai nazar ekanligini tan oldi, lekin buni taklif qildi. insonni idrok etish mexanizmlari ilgari ishonilgandek noyob yoki modellashtirish imkonsiz bo'lmasligi mumkin. O'z argumentini qo'llab-quvvatlash uchun Xinton bilan muloqotda bo'lishdi GPT-4, LLM modeli, u erda u modelni AI bilan solishtirganda odamlarning o'ziga xosligi haqidagi tasavvurlari haqida savol berdi. GPT-4ning javobi shuni ko'rsatdiki, odamlar ko'pincha o'zlarining yuqori sub'ektiv idrok etish qobiliyatiga ega ekanligiga ishonishadi va bu ularni mashinalardan ajratib turadi.
Xintonning sun'iy intellektning xavf-xatarlari haqidagi qarashlari bu sohadagi barcha mutaxassislar tomonidan ma'qullanmagan bo'lsa-da, uning katta tajribasi va uning rivojlanishiga qo'shgan hissasi. AI rivojlanishi jiddiy e'tiborga olish kerak. Ma'ruza hali yozib olinmagan bo'lsa-da, tashkilotchilar uni yaqin kelajakda tomosha qilish uchun taqdim etishga va'da berishdi, bu esa kengroq auditoriyaga Xintonning fikrlari bilan shug'ullanish imkonini beradi.
AI kelajagi va uning oqibatlari haqidagi munozaralar davom etar ekan, Jeffri Xintonning nutqi sohaning murakkab va ko'p qirrali tabiatini eslatib turadi. Bu axloqiy mulohazalar, potentsial xavflar va sun'iy umumiy intellektga intilishda doimiy izlanishlar va hushyorlik zarurligi haqida muhim suhbatlarga sabab bo'ladi. (AGI).
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
