Sun'iy intellekt bo'yicha mutaxassislar va jamoat arboblari sun'iy intellektning yo'q bo'lib ketish xavfi haqida ogohlantirmoqda
Qisqacha
Taniqli AI mutaxassislari va nufuzli arboblar o'z fikrlarini bildiradilar AI bilan bog'liq xavflar bilan bog'liq xavotirlar.
AI sohasidagi sezilarli yutuqlarga qaramay, AI xavfi bilan bog'liq ko'plab muammolar hal etilmagan.
Taniqli AI mutaxassislari va jamoat arboblari sun'iy intellekt insoniyatning omon qolishi uchun pandemiya va yadro urushi xavfi bilan taqqoslanadigan yoki undan ham kattaroq xavf tug'dirishi mumkinligi haqida ogohlantirdi. Imzolovchi 350 ta ishtirokchi sunʼiy intellekt avtonom qurollarni ishga tushirish, ijtimoiy va iqtisodiy tizimlarni buzish yoki odamlarni aqldan ozdiradigan va ularni engib oʻtadigan oʻta aqlli agentlarni yaratish kabi kutilmagan va halokatli oqibatlarga olib kelishi mumkinligini taʼkidlamoqda.
Ular siyosatchilarni ushbu xavflarni jiddiy qabul qilishga va AIning xavfsiz va foydali rivojlanishini ta'minlash uchun choralar ko'rishga chaqiradilar. The bayonot kabi AI tadqiqotlari va ishlanmalarining ba'zi etakchi shaxslari tomonidan imzolangan OpenAI Bosh direktor Sem Altman, Skype asoschilaridan biri Yaan Tallin, DeepMind bosh direktori Demis Xassabis va AI kompyuter olimi Jefri Xinton, shuningdek, musiqachi Grimes va podkaster Sem Xarris kabi nufuzli jamoat arboblari.
Imzolovchilar orasida chuqur o‘rganishga qo‘shgan hissasi uchun 2018 yilgi Tyuring mukofoti g‘oliblari ham bor edi: Jefri Xinton va Yoshua Bengio. Ularga Xitoyning Garvard va Tsinghua universiteti kabi nufuzli universitetlar professorlari hamda MIT Maks Tegmark qo‘shildi.
"AIning yo'q bo'lib ketish xavfini yumshatish pandemiya va yadro urushi kabi boshqa ijtimoiy miqyosdagi xavflar bilan bir qatorda global ustuvorlik bo'lishi kerak"
CAIS tomonidan chop etilgan maktubda aytiladi.
AI xavfsizligi markazi (CAIS), San-Frantsiskoda joylashgan notijorat tashkilot, sun'iy intellekt bilan bog'liq xavfsizlik muammolarini hal qilishga qaratilgan. CAIS sun'iy intellektning potentsial afzalliklarini tan olgan holda, uni xavfsiz ishlab chiqish va ishlatish zarurligini ta'kidlaydi. Kompaniyaning fikricha, sun'iy intellekt sohasidagi sezilarli yutuqlarga qaramay, sun'iy intellekt xavfsizligi bo'yicha ko'plab fundamental muammolar hal etilmagan. O'z veb-saytiga ko'ra, CAISning vazifasi xavfsizlik tadqiqotlarini o'tkazish, AI xavfsizligi bo'yicha tadqiqotchilar hamjamiyatini rivojlantirish va xavfsizlik standartlarini himoya qilish orqali xavflarni kamaytirishdir.
“Inteliy intellektdan kelib chiqadigan ko'plab muhim va shoshilinch xavflar mavjud, nafaqat yo'q bo'lib ketish xavfi; masalan, tizimli tarafkashlik, noto'g'ri ma'lumot, zararli foydalanish, kiberhujumlar va qurollanish. Bularning barchasi hal qilinishi kerak bo'lgan muhim xavflardir. Jamiyatlar bir vaqtning o'zida bir nechta xavflarni boshqarishi mumkin; Bu “yoki/yoki” emas, balki “ha/va”. Xatarlarni boshqarish nuqtai nazaridan, hozirgi zararlarni faqat birinchi o'ringa qo'yish beparvolik bo'lgani kabi, ularni e'tiborsiz qoldirish ham beparvolik bo'ladi ".
Den Xendriks, CAIS direktori yozgan Twitter.
Mart oyida 1,100 dan ortiq texnologiya mutaxassislari imzoladi AI tizimlarini o'qitishni olti oyga to'xtatishni talab qiluvchi ochiq xat GPT-4. Yevropa qonunchilari ham yaqinda tasdiqlangan kabi AI vositalarini tartibga soluvchi AI qonuni deb nomlanuvchi qat'iy qonun loyihasi ChatGPT. Qonun xavfsizlikni tekshirish, ma'lumotlarni boshqarish va asosiy AI modellari uchun xavflarni kamaytirish talablarini o'z ichiga oladi va manipulyatsiya usullari va biometrikadan ba'zi foydalanish kabi amaliyotlarni taqiqlaydi.
Ko'proq o'qing:
- OpenAI AI xavfsizligini ta'minlash bo'yicha o'zining eng so'nggi yondashuvini ochib beradi
- Google geymerlar uchun matndan avatarga generatorni e'lon qilmoqchimi?
- Amazonning CodeWhisperer dasturi dasturchilarga sun'iy intellekt arenasida kerakli ustunlikni beradi
- Vitalik Buterin va MIRI direktori Neyt Soares sun'iy intellektning xavf-xatarlarini o'rganishadi
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Agne - bu metaverse, AI va eng so'nggi tendentsiyalari va ishlanmalarini yorituvchi jurnalist Web3 uchun sanoatlar Metaverse Post. Uning hikoya qilishga bo'lgan ishtiyoqi uni har doim hayajonli va qiziqarli voqealarni ochishga intilib, ushbu sohadagi mutaxassislar bilan ko'plab intervyular o'tkazishga undadi. Agne adabiyot bo'yicha bakalavr darajasiga ega va sayohat, san'at va madaniyat kabi keng ko'lamli mavzular haqida yozishda keng ma'lumotga ega. U, shuningdek, hayvonlar huquqlarini himoya qilish tashkilotining muharriri sifatida ko'ngilli bo'lib, u erda hayvonlar farovonligi muammolari haqida xabardorlikni oshirishga yordam berdi. U bilan bog'laning [elektron pochta bilan himoyalangan].
Boshqa maqolalar
Agne - bu metaverse, AI va eng so'nggi tendentsiyalari va ishlanmalarini yorituvchi jurnalist Web3 uchun sanoatlar Metaverse Post. Uning hikoya qilishga bo'lgan ishtiyoqi uni har doim hayajonli va qiziqarli voqealarni ochishga intilib, ushbu sohadagi mutaxassislar bilan ko'plab intervyular o'tkazishga undadi. Agne adabiyot bo'yicha bakalavr darajasiga ega va sayohat, san'at va madaniyat kabi keng ko'lamli mavzular haqida yozishda keng ma'lumotga ega. U, shuningdek, hayvonlar huquqlarini himoya qilish tashkilotining muharriri sifatida ko'ngilli bo'lib, u erda hayvonlar farovonligi muammolari haqida xabardorlikni oshirishga yordam berdi. U bilan bog'laning [elektron pochta bilan himoyalangan].
