AI treningida 6 oylik pauza - yaxshi fikr, ammo bu etarli bo'lmasligi mumkin
Qisqacha
Murojaat haqidagi voqea va Yudkovskiy maqolasining nashr etilishi jamiyatni qutbga soldi.
Mahbusning dilemmasi va o'yin nazariyasi shuni ko'rsatadiki, bunday muammolarni hal qilish uchun turli joylarda aqli raso odamlarning tanqidiy massasi kerak.
Biroq, bu g'oyaning bir nechta kamchiliklari bor, masalan, raqamli evolyutsiyada ong, iroda va agentlikning etishmasligi.
Hikoyasi nisbatan ilg'or AI tizimlarini ishlab chiqishni to'xtatish uchun petitsiya GPT-4 jamiyatni sezilarli darajada qutblashtirdi. Yudkovskiyning chiqishi Maqola ning keyingi rivojlanishini to'xtatishni so'raydi GPT modellar olovga yoqilg'i qo'shdi, ayniqsa uning ma'lumotlar markazlarini bombardimon qilish haqidagi parchalari.
Internetda kuzatilishi mumkin bo'lgan narsaga ko'ra, petitsiya tarafdorlari uchta asosiy dalilga ega bo'lgan muxoliflarga qaraganda ancha kamroq:
| 1 | - Taraqqiyotni to'xtatib bo'lmaydi. - Murojaatni ixtiro qilgan OpenAI raqobatchilar. - Xitoy kutmaydi. |
| 2 | - Siz sun'iy intellektdan emas, balki odamlardan qo'rqishingiz kerak. - GPT ongiga, irodasiga, intilishlariga yoki vakolatiga ega emas, shuning uchun qo'rqadigan hech narsa yo'q. - GPT-4 u dunyoni qul qilishdan aqldan ozgan, chunki u hech narsani tushunmaydi, ahmoqona xatolarga yo'l qo'yadi va umuman ahmoqdir. - GPT-4 dunyoni boshqara olmaydi, chunki uning qo'llari/oyoqlari yo'q. |
| 3 | - Uchinchi guruh qanday qilib tushunishmaydi GPT-4 birinchi navbatda faoliyat yuritadi. |
Biz uchinchi guruhga e'tibor qaratmaymiz, chunki ularning pozitsiyasi jaholatdan kelib chiqadi. Bu AIning barcha raqiblari AI haqida hamma narsani bilishini anglatmaydi; Siz texnologiya va u nimani anglatishini tushunmaydigan ko'plab AIga qarshi odamlarni topishingiz mumkin, garchi Yudkovskiyning o'zi AI mavzusiga chuqurroq kirib boradi, shuning uchun uni jaholatda ayblab bo'lmaydi.
Keling, birinchi guruh odamlarni ko'rib chiqaylik - taraqqiyotni to'xtatib bo'lmaydi deb hisoblaydiganlar. Ular har xil, ammo shunga o'xshash dalillarni taklif qilishadi va umuman olganda, bu odamlar sun'iy intellektning imkoniyatlari va uni qabul qilish istiqbollarini inkor etmaydilar va AI rivojlanishi nima bo'lishidan qat'i nazar, davom etishiga ishonishadi.
To'xtatib bo'lmaydigan taraqqiyot haqidagi birinchi tezis haqiqat bo'lishi shart bo'lmagan shiordir. Odamlar ba'zi ilmiy tajribalarni to'xtatganga o'xshaydi va bir vaqtlar qabul qilingan ko'plab tadqiqot loyihalari endi axloqiy deb hisoblanmaydi va shunga o'xshash loyihalarga bugun hech qachon ruxsat berilmaydi. Biroq, o'tmishda inkvizitsiya va boshqa diniy ta'qiblar, kitoblarni taqiqlash va Xitoyda (va boshqa mamlakatlarda) olimlarning o'ldirilishi qanchalik ko'p to'xtatildi? Bu omon qolish tarafdorligi tufayli biz hech qachon to'liq tushuna olmaydigan narsa.
Boshqa tezislar "agar biz bo'lmasak, ular bo'ladi" deb umumlashtirilishi mumkin bo'lgan yondashuvni o'z ichiga oladi. Ushbu fikrlash yo'nalishi tushunarli bo'lishi mumkin bo'lsa-da, bu ham to'g'ri echim emasga o'xshaydi. Bu o'yin nazariyasidagi mahbusning dilemmasi bilan juda o'xshash.
Ikkinchi guruh argumentlari eng qiziqarlisi. Shaxsan men bunga ma'lum darajada qo'shilsam-da, lekin hal qilinishi kerak bo'lgan bir nechta kamchiliklar mavjud. Ha, AIda ong, iroda, vakolat va boshqalar yo'q. COVID-19 ham yo'q, lekin u butun dunyo bo'ylab vayronagarchilikka olib keldi. Biror narsa xavfli bo'lishi uchun vakolat va ongga ega bo'lishi shart emas; er yuzidagi hayot virus tufayli yo'q bo'lib ketishi haqidagi stsenariyni tasavvur qilib bo'lmaydi. Ishini bajarib bo'lgach, u stullarni stollarga qo'yishi, chiroqlarni o'chirishi va abadiy ketishi mumkin.
Biologik o'xshashlikni davom ettiradigan bo'lsak, "Raqamli evolyutsiyaning hayratlanarli ijodi: evolyutsion hisoblash va sun'iy hayotni o'rganish jamiyatlaridan olingan latifalar to'plami" ajoyib maqola mavjud bo'lib, unda jarayonlarning kutilmagan yo'nalishda ketishiga ko'plab misollar keltirilgan. Evolyutsion jarayonsiz ham, hamma narsa noto'g'ri umumlashtirishga aylanishi mumkin "Maqsadni noto'g'ri umumlashtirish: Nima uchun to'g'ri spetsifikatsiyalar to'g'ri maqsadlar uchun etarli emas". Optimallashtirish jarayoniga erkinlik berish noto'g'ri bo'lishi mumkin "da muhokama qilinadi.Mashinani o'rganishning ilg'or tizimlarida o'rganilgan optimallashtirish xavfi. "
Shu bilan birga, biz odatda xavflarni hisobga olmaymiz AIdan zararli foydalanish va har qanday noto'g'ri foydalanish, bu faqat AIning o'zidan emas, balki odamlardan qo'rqishimiz kerakligi haqidagi argumentni oziqlantiradi. Biroq, masalaning haqiqati shundaki, AI yomon niyatli odamlarsiz ham yomon bo'lishi mumkin.
Men ham modelning ahmoqona xatolarga yo'l qo'yishiga qo'shilaman, lekin odamlar ham shunday qilishadi, lekin biz ular zarar etkazishi mumkinligini bilamiz. Modellar ko'p xatolarga yo'l qo'yishi bilan birga, oddiy odam hal qila olmaydigan ko'plab ajoyib, ajoyib va murakkab muammolarni ham hal qila oladi. "Sun'iy umumiy intellektning uchqunlari: erta tajribalar" nomli asaridan GPT-4,” Meni sun'iy intellekt har doim ham to'g'ri bo'lmasa-da, Fermi muammolarini, juda murakkab matematik muammolarni hal qila olgani meni hayratda qoldirdi. Uning aql nazariyasi va boshqalarning harakatlarini "tushunish qobiliyati kabi" ham juda ta'sirli. Bularning barchasi sun'iy intellektga ishora qiladi; mavjud, lekin biznikiga o'xshamaydi.
AI modellarining hech bo'lmaganda ba'zi xatolarini bartaraf etish odatda mumkin, shuning uchun ularning aql-idroki faqat o'sishi mumkin. Sizga kerak bo'lgan narsa - aniq hisob-kitoblar, faktlar bazasi va boshqa model bilan tekshirish uchun modul qo'shish.
Bu butun hikoyadagi eng muhim narsa - bu sun'iy intellektning rivojlanish tezligi. GPT Modellari bosh aylanadigan sur'atlarda juda katta o'sdi. Hozir bor ChatGPT plugins mavjud, siz foydalanishingiz mumkin GPT kod yozish modellari, API-lar keng omma uchun mavjud va siz tashqi vositalardan hech qanday tayyorgarliksiz foydalanishingiz mumkin.
GPT-4, albatta, dunyoni zabt etmaydi, lekin u iqtisodiyotni juda ko'p silkitishi mumkin. GPT-5, va modelning kelajakdagi iteratsiyasi unchalik oldinda bo'lmasligi mumkin va u ancha kuchli qobiliyatlarga ega bo'lishi mumkin. Rostini aytsam, biz hali mavjud bo'lmagan modellarni tushunishga umid qila olmaymiz; biz allaqachon mavjud bo'lgan modellarni tushunishga ham yaqinlashmadik. Shu ma'noda, olti oylik tanaffus yaxshi fikr bo'lishi mumkin, ammo bu etarli bo'lmasligi mumkin.
Va shuni hisobga olgan holda AI poygasi boshlandi, o'rganishga vaqt yo'q.
Umuman, bularning barchasini inobatga olib, men ham arizaga imzo chekdim. Garchi bu hech qanday tarzda yordam berishiga ishonmayman.
Ko'proq tegishli mavzularni o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
