Texnik mutaxassislar sun'iy intellekt tizimlarini o'qitishni vaqtinchalik to'xtatishga chaqiruvchi ochiq xatni imzoladilar. GPT-4
Qisqacha
1100 dan ortiq imzolovchilar ulkan sun'iy intellekt tajribalarini to'xtatib turishga chaqiruvchi ochiq xatni imzoladilar.
Imzolovchilar orasida Elon Mask, Stiv Voznyak va Emad Mostaque va boshqalar bor.
Ochiq xatda AI tomonidan ma'lumotlarning noto'g'riligi haqidagi xavotirlar ko'tarildi, ishni avtomatlashtirish va insoniyat tsivilizatsiyasiga AI xavfi.
1,100 dan ortiq imzolovchilar, jumladan yetakchi texnologiya mutaxassislari ham shartnoma imzoladilar ochiq xat dan ko'ra ilg'or AI tizimlarini o'qitishda olti oylik tanaffusga chaqirish GPT-4.
Maktub insoniyat duch keladigan global halokatli va ekzistensial xavflarni, xususan, ilg'or sun'iy intellektning ekzistensial xavfini kamaytirishga qaratilgan notijorat tashkiloti Future of Life Institute tomonidan yozilgan.
Keng ma’qullangan Asilomar AI tamoyillaridan iqtibos keltirgan holda, unda aytilishicha, “Ilg‘or AI Yerdagi hayot tarixidagi chuqur o‘zgarishlarni ko‘rsatishi mumkin va uni tegishli parvarish va resurslar bilan rejalashtirish va boshqarish kerak”. boshqaruv amalga oshmayapti.
Maktubda aytilishicha, sun'iy intellekt laboratoriyalari hech kim tushuna olmaydigan, bashorat qila olmaydigan yoki ishonchli tarzda boshqara olmaydigan tobora kuchli sun'iy intellektni rivojlantirish uchun "nazoratdan tashqarida" poygada. Zamonaviy AI tizimlari kabi GPT-4 mumkin odamlar bilan raqobatlashing umumiy vazifalar bo'yicha, maktubda AI tomonidan ma'lumotlarning noto'g'riligi, ishni avtomatlashtirish va insoniyat tsivilizatsiyasi ustidan nazoratni yo'qotish xavfi haqida xavotirlar bildirilgan.
"Biz barcha sun'iy intellekt laboratoriyalarini zudlik bilan kamida 6 oyga kuchliroq AI tizimlarini o'qitishni to'xtatishga chaqiramiz. GPT-4. Bu pauza hammaga ochiq va tekshirilishi kerak va barcha asosiy ishtirokchilarni o'z ichiga olishi kerak. Agar bunday pauzani tezda amalga oshirish mumkin bo'lmasa, hukumatlar harakatga kirishib, moratoriy joriy etishlari kerak "
maktubda aytilgan.
Maktubda AI laboratoriyalari va texnologiya mutaxassislaridan mustaqil tashqi ekspertlar tomonidan qat'iy tekshiriladigan va nazorat qilinadigan ilg'or AI dizayni va rivojlanishi uchun xavfsizlik protokollarini ishlab chiqish va amalga oshirish uchun pauza davridan foydalanishni so'raydi.
Biroq, amerikalik jurnalist Jeff Jarvis maktubni tanqid qildi, Deya ta'kidladi bu "axloqiy vahimaning asosiy namunasi".
DeepMind tadqiqotchilari va dunyoning bir qancha universitet professorlari bilan bir qatorda maktubni imzolagan texnologiya va mashinani o'rganish bo'yicha etakchi aql-idroklardan ba'zilari:
- Yoshua Bengio, Monreal universiteti, chuqur o'rganishni rivojlantirish uchun Tyuring mukofoti laureati, Monreal o'rganish algoritmlari instituti rahbari
- Styuart Rassell, Berkli, kompyuter fanlari professori, Intellektual tizimlar markazi direktori va "Sun'iy intellekt: zamonaviy yondashuv" standart darslik hammuallifi.
- Elon Mask, SpaceX, Tesla va Twitter bosh direktori
- Emad Mostaque, bosh direktor, Stability AI
- Yaan Tallinn, Skype asoschisi, Ekzistensial xavfni o'rganish markazi, Hayotning kelajagi instituti
- Gari Markus, Nyu-York universiteti, AI tadqiqotchisi, faxriy professor
- Mark Rotenberg, AI va raqamli siyosat markazi (CAIDP), prezident
bir so'nggi xat, Rotenbergning yozishicha, CAIDP Federal Savdo Komissiyasiga shikoyat bilan murojaat qilib, Open AI va tekshirishni talab qiladi. ChatGPT, shuningdek, himoya choralari o'rnatilgunga qadar mahsulotning keyingi tijorat relizlarini taqiqlash.
OpenAI Bosh direktor Sem Altman bor tan oldi "Bizga institutlarimizga nima qilish kerakligini aniqlash uchun etarli vaqt kerak" va jamiyat "potentsial qo'rqinchli" generativ AI vositalaridan uzoqda emas.
"Biz FTCdan "pauza tugmasini bosishni" so'raymiz, shunda bizning institutlarimiz, qonunlarimiz va jamiyatimiz ushlash imkoniyati mavjud. Nazoratni yo‘qotmasdan oldin biz yaratgan texnologiyalar ustidan agentlikni tasdiqlashimiz kerak”, deyiladi CAIDP maktubida.
Boshqa joyda, Evropa Ittifoqi qonun chiqaruvchilari yil oxirigacha YI davlatlari bilan sun'iy intellekt qoidalarini joriy etish bo'yicha shartnoma imzolashni maqsad qilgan, ammo bu AIni qanday boshqarish kerakligi haqidagi munozaralar kuchayib borayotganligi sababli muammo tug'dirishi mumkin.
Ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Sindi jurnalist Metaverse Post, bilan bog'liq mavzularni qamrab oladi web3, NFT, metaverse va AI, bilan suhbatlarga e'tibor qaratiladi Web3 sanoat o'yinchilari. U 30 dan ortiq C darajasidagi rahbarlar bilan suhbatlashdi va ularning qimmatli tushunchalarini o'quvchilarga yetkazdi. Asli Singapurdan bo'lgan Sindi hozirda Gruziyaning Tbilisi shahrida joylashgan. U Janubiy Avstraliya universitetida aloqa va media tadqiqotlari bo‘yicha bakalavr darajasini olgan va jurnalistika va yozuvchilik sohasida o‘n yillik tajribaga ega. orqali u bilan bog'laning [elektron pochta bilan himoyalangan] matbuot maydonchalari, e'lonlar va intervyu imkoniyatlari bilan.
Boshqa maqolalar
Sindi jurnalist Metaverse Post, bilan bog'liq mavzularni qamrab oladi web3, NFT, metaverse va AI, bilan suhbatlarga e'tibor qaratiladi Web3 sanoat o'yinchilari. U 30 dan ortiq C darajasidagi rahbarlar bilan suhbatlashdi va ularning qimmatli tushunchalarini o'quvchilarga yetkazdi. Asli Singapurdan bo'lgan Sindi hozirda Gruziyaning Tbilisi shahrida joylashgan. U Janubiy Avstraliya universitetida aloqa va media tadqiqotlari bo‘yicha bakalavr darajasini olgan va jurnalistika va yozuvchilik sohasida o‘n yillik tajribaga ega. orqali u bilan bog'laning [elektron pochta bilan himoyalangan] matbuot maydonchalari, e'lonlar va intervyu imkoniyatlari bilan.
