Den Xendriks: AI va odamlar o'rtasida tanlov qilish, evolyutsiya bizni tanlamaydi
Qisqacha
Den Xendriksning “Tabiiy tanlanish odamlardan ko‘ra sun’iy intellektni afzal ko‘radi” tadqiqoti qo‘rqinchli xulosadir.
U AI tizimlari xavfsizligini baholash bo'yicha o'nlab ilmiy maqolalar chop etgan tajribali va taniqli tadqiqotchi.
Den Hendriksning tadqiqotlari Homo Sapiens uchun o'lim jazosiga o'xshaydi. Tadqiqotning xulosasi "Tabiiy tanlanish odamlardan ko'ra AIni afzal ko'radi” haqiqatan ham qo'rqinchli. Bu Den Braun kabi mashhur vizyoner tomonidan emas, balki AI xavfsizligi bo'yicha tadqiqot va dala ishlariga ixtisoslashgan notijorat tashkilot bo'lgan Kaliforniya AI xavfsizligi markazi (CAIS) direktori Den Xendriks tomonidan yozilgan.
Den Xendriks sun'iy intellekt yutuqlaridan vahimaga tushadigan aqldan ozgan odam emas. U AI tizimlari xavfsizligini baholash - ularning kodlash, fikr yuritish, qonunlarni tushunish va hokazolarda qanchalik yaxshi ekanligini sinab ko'rish bo'yicha o'nlab ilmiy maqolalarni nashr etgan tajribali va keng hurmatga sazovor tadqiqotchi. Boshqa narsalar qatorida u ham Gauss chiziqli xato birliklari (GELU).
Jek Klark, hammuassisi ChatGPT raqobatchi Antropik, Stenford universitetining AI indeksi hamraisi, OECDning AI va hisoblash bo'limi hamraisi va AQSh hukumatining sun'iy intellekt bo'yicha Milliy maslahat qo'mitasi a'zosi Xendriks tadqiqotining yakunini muhokama qilmoqda. "Odamlar o'rmon kulbasida yashovchi yirtqich ko'zli jinnining gapini refleksli ravishda chetga surib qo'yishni xohlashadi. Men buni oldindan rad etmoqchiman. Nafaqat AI tadqiqotida, balki tajribaga ega bo'lgan mutaxassis qachon AI tizimlarining xavfsizligini baholash bo'lajak sun'iy intellekt tizimlari odamlar manfaatlariga muvofiq emas, balki xudbinlik bilan harakat qilishi mumkinligi haqida maqola yozadi, biz bu haqda g'amxo'rlik qilishimiz kerak!
Xendriksning maqolasining qisqacha mazmuni:
- Agar AI agentlari ko'proq bo'lsa odamlardan ko'ra aqlli, bu insoniyatning kelajagi ustidan nazoratni yo'qotishiga olib kelishi mumkin.
- Bu odamlar yoki mashinalarning qandaydir maxsus zararli niyatlari natijasida emas, balki faqat Darvin mantig'iga ko'ra AI rivojlanishining evolyutsion tamoyillarini qo'llash natijasida sodir bo'lishining yaxshi imkoniyatiga ega.
- Buning xavfini minimallashtirish uchun AI agentlarining ichki motivlarini puxta ishlab chiqish, ularning harakatlariga cheklovlar qo'yish va AI bo'yicha hamkorlikni rag'batlantirish uchun institutlarni yaratish kerak.
Ya'ni, Xendriks o'zining 43 sahifalik ilmiy maqolasida eng muhim fikrlarni aytadi:
1. Biz Terminatorning kelishidan qo'rqardik, lekin bu qo'rquvlarning asoslari noto'g'ri edi. Ikkita xatolik bor edi:
a. Sun'iy intellektni antropomorfizatsiya qilish, unga bizning motivlarimizni kiritish va boshqalar ChatGPT ko'rsatdiki, sun'iy intellekt mutlaqo boshqacha aql bo'lib, undan kelib chiqadigan barcha oqibatlarga olib keladi.
b. AI o'ziga xos bir mavjudot ekanligi haqidagi g'oya: aqlli yoki unchalik aqlli emas, mehribon yoki unchalik mehribon emas, lekin aslida bu juda xilma-xil AI ob'ektlari imkon qadar tez orada dunyoda bo'ladi.
2. Sun'iy intellekt bilan kelajak haqidagi g'oyalarimizda yana bir asosiy kamchilik bor - biz rivojlanishning eng muhim mexanizmi - evolyutsiyani unutib qo'ydik, bu nafaqat bioagentlar, balki g'oyalar va ma'nolar, moddiy vositalar va nomoddiy institutlarning rivojlanishiga turtki beradi.
3. Yerda ko'plab AIlar rivojlanib, rivojlanadigan muhit allaqachon shakllana boshlagan. Ushbu evolyutsiya Darvin mantig'iga ko'ra, "ota-ona" institutlarining: korporatsiyalar, harbiylar va boshqalarning manfaatlarini hisobga olgan holda, o'zaro AI raqobati orqali amalga oshiriladi.
4. Raqobatli evolyutsiya mantig'i odamlardagi kabi shunga olib keladi: borgan sari intellektga ega bo'lgan sun'iy intellekt agentlari ko'proq xudbin bo'lib, aldash va kuch bilan maqsadlarga erishishga tayyor bo'ladi, asosiy maqsad - kuch.
5. AI agentlarining tabiiy tanlanishi ko'proq xudbin turlarni ko'proq altruistik turlarga afzal ko'radi. AI agentlari o'zlarini xudbinlik bilan tutadilar va odamlarga unchalik e'tibor bermasdan o'z manfaatlarini ko'zlaydilar, bu esa insoniyat uchun halokatli xavflarga olib kelishi mumkin.
- Ariza nisbatan rivojlangan AI tizimlarini ishlab chiqishni to'xtatish GPT-4 jamiyatni qutblashtirdi. Birinchi guruh taraqqiyotni to'xtatib bo'lmaydi, ikkinchisi esa taraqqiyotni to'xtatib bo'lmaydi, deb hisoblaydi va ba'zan to'xtatilishi kerak. Uchinchi guruh qanday qilib tushunishmaydi GPT-4 birinchi navbatda faoliyat yuritadi. Ushbu matndagi eng muhim tafsilotlar shundaki, sun'iy intellektning ongi, irodasi yoki vakolati yo'q va u yomon niyatli odamlarsiz ham yomon bo'lishi mumkin.
- Jefri Xinton ko'pincha "AIning xudojo'y otasi" deb ataladi va chuqur o'rganish hamjamiyatining etakchi shaxsi hisoblanadi. Uning 40 daqiqalik intervyusi ChatGPT Uni tushunish oson va boshqalar uchun tushunarli chuqur tushunchaga egaligi bilan ajralib turadi. U davom etayotgan “intellektual inqilob”ning muhimligini va odamlarning g'ayriinsoniy aql-zakovatini ta'kidlaydi. ChatGPT, bu ilg'or raqamli aloqa imkoniyatlariga ega sun'iy aqlli agentga asoslangan.
Batafsil tegishli maqolalarni o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
