Sun'iy intellekt rahbarlari tez o'sishda xavflar va axloqiy tashvishlar ortib borayotganidan ogohlantirmoqda
Yaqinda e'lon qilingan siyosat bayonotida, sun'iy intellekt sohasidagi taniqli shaxslar, jumladan Bengio, Xinton, Rassel, Harari va Kahneman sun'iy intellekt bilan bog'liq jadal taraqqiyot va o'sib borayotgan ijtimoiy xavflar haqida signal berishdi.
AI tez rivojlanmoqda. GPT-2 to'rt yil oldin 0 dan 100 gacha hisoblay olmasdi, ammo zamonaviy modellar kod yozishi, ajoyib tasvirlarni yaratishi va intellektual yo'l-yo'riqni taklif qilishi mumkin. Va biz poygada bo'lganimiz sababli, taraqqiyot yanada tezlashishi mumkin. Bundan tashqari, sun'iy intellekt, masalan, yangi tizimlarni dasturlash va ularni o'qitish uchun ma'lumotlarni yig'ishda yordam berish orqali tezroq rivojlanadi.
Taraqqiyot inson darajasiga yetgandan so'ng, u sekinlashadi yoki to'xtaydi deb o'ylash uchun hech qanday sabab yo'q. Ba'zi hududlarda sun'iy tizimlar allaqachon bu borada odamlardan ustun bo'lgan tezroq qayta ishlash kabi imkoniyatlar tezliklar, kattaroq ma'lumotlarni qayta ishlash imkoniyatlari va keng ko'lamli miqyoslilik. Korxonalar o'quv dasturlarini amalga oshirish uchun joriy limitdan ancha yuqori moliyaviy imkoniyatlarga ega.
Mualliflarning fikriga ko'ra, yaqin o'n yil ichida yaxshi AI generalisti paydo bo'lishi uchun yaxshi imkoniyat bor, inson imkoniyatlaridan oshib ketadi ko'plab muhim sohalarda.
Keyinchalik nima bo'ladi? Agar ular to'g'ri boshqarilsa va taqsimlansa, barcha hayotni yaxshilash mumkin. Noto'g'ri tanlangan variant jiddiy xavflarni keltirib chiqaradi, biz bunga tayyor emasmiz. Xavfsizlik va zararning oldini olishga ajratilgandan ko'ra, yanada kuchliroq bo'lgan sun'iy intellekt tizimlarini yaratish uchun katta resurslardan foydalanilmoqda. Buni o'zgartirish kerak; ko'nikmalarni mustaqil ravishda egallash etarli emas. Va bu jarayon kutilganidan uzoq davom etmoqda. Joriy tahdidlarning kuchayishini va yangilarining paydo bo'lishini oldindan ko'rib, yuqori xavflarni ular paydo bo'lishidan oldin rejalashtirishimiz kerak. Bizda sun'iy intellekt uchun bir xil vaqt yo'q, chunki uni qabul qilish uchun o'nlab yillar kerak bo'ladi. Iqlim o'zgarishi.
Ijtimoiy miqyosda ko'plab xavf-xatarlar mavjud bo'lib, ular orasida adolatsizlikning kuchayishi, barqarorlikning buzilishi va voqelikni umumiy idrok etishning yomonlashuvi mavjud. Bu yerda terrorchilar va jinoyatchilar keng qamrovli faoliyat olib bormoqda. AI bir nechta o'yinchilarning qo'lida to'planishi mumkin, bu esa global tengsizlikning kuchayishiga, avtomatlashtirilgan urushni osonlashtirishga, har bir shaxsga moslashtirilgan ommaviy manipulyatsiyaga va hamma joyda kuzatuvga olib keladi.
Avtonom sifatida AI yanada murakkablashadi va rejalashtirishga qodir, dunyoda harakat qiling va o'z maqsadlariga erishing, bu xavflar faqat ko'tariladi. Bu maqsadlar bizning manfaatlarimizga to'g'ri kelmasligi va yomon aktyorlar bo'lsa, hatto zararli bo'lishi mumkin. AI xulq-atvorini bizning murakkab maqsadlarimizga moslashtirishni o'z ichiga olgan AI Alignment muammosini qanday hal qilish hozircha noma'lum. Bundan tashqari, g'alaba qozonish niyatida poyga o'tkazayotganda xavfsizlik choralariga e'tibor bermaslik juda oddiy.
Ijtimoiy muhandislik, xakerlik, yolg'onchilik va strategik rejalashtirishda tobora ko'proq mohir bo'lib borayotgan murakkab AI tizimlari u yoqda tursin, odamlar uchun oddiy dasturiy ta'minotni boshqarish qiyin. Bu avtonom AI tizimlari odamlardan olishi yoki mustaqil ravishda yaratishi mumkin bo'lgan narsadir.
Bu tizimlar alohida shaxslar va boshqa tizimlar bilan koalitsiya tuzish, ishonchni qozonish, moliyalashtirishni ta’minlash va qaror qabul qiluvchilarni o‘z ixtiyoriga o‘tkazish qobiliyatiga ega. Chuvalchang kabi, ular tarmoq bo'ylab o'z-o'zini ko'paytirishga qodir. Ko'p miqdorda kod allaqachon AI yordamchilari yordamida yozilgan; kelajakda tizimlar ekspluatatsiyalarni ko'plab muhim tizimlarga kiritishi mumkin. AI tizimlari ochiq janglarda biologik yoki avtonom qurollardan foydalanish yoki tahdid qilish qobiliyatiga ega. Bu shunchaki davomi biologik tadqiqotlar, sun'iy intellekt va urushni avtomatlashtirishga qaratilgan hozirgi harakatlar. Odamlarga kirish va qarshilik ko'rsatish juda qiyin bo'lishi mumkin.
Ko'p hollarda biz ularni so'ramasdan ham jilovni berishga tayyormiz. Ko'pgina jismoniy shaxslar va korxonalar raqobatchilardan orqada qolishidan xavotirlanib, bunday tizimlarni raqobat sharoitida o'rnatishga tayyor.
To'liq hujjat bilan tanishish mumkin Bu yerga.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
