Koinotdagi aql miqdori har 18 oyda ikki barobar ortadi, deydi Sem Altman
Qisqacha
AI apokalipsisi boshlandi, koinotdagi razvedka miqdori har 18 oyda ikki baravar oshadi.
OpenAISem Altman bir vaqtlar sun'iy intellekt dunyoning oxiriga olib keladi, deb hazillashdi, ammo bundan oldin bu juda katta biznes bo'ladi.
Tafts universitetidan amerikalik nevrolog va faylasuf Erik Xoelning ta'kidlashicha, sun'iy intellekt tizimlarini hozirgi vaqtda aqlli deb hisoblash mumkin emas, chunki ular dunyoni tushunmaydilar va ularning niyatlari va harakatlarida o'zini namoyon qiladigan shaxsiyatga ega emaslar.
Bayes miya gipotezasi miyaning asosiy vazifasi ajablanishni minimallashtirish ekanligini ta'kidlaydi. Agar bu to'g'ri bo'lsa, AI apokalipsisi allaqachon boshlangan bo'lishi mumkin.
Bu shuni ko'rsatadiki ChatGPT va boshqalar o'zlarining aql-idrokida har qanday odamdan ko'ra ko'p qirrali.
AI apokalipsisi boshlandi, bu Mur qonunining ma'nosini o'zgartirdi. Endi koinotdagi aql miqdori har 18 oyda ikki baravar ko'payadi Sem Altman, Bosh direktori OpenAI, ortda turgan kompaniya ChatGPT. Yetti yil oldin Sem hazillashib: "AI, ehtimol, dunyoning oxiriga olib keladi, ammo undan oldin katta biznes bo'ladi". Endi odamlar hazillashadi u "yadroviy ryukzak" bilan ajralib turmaydi, shuning uchun agar ma'lumotlar markazlarini masofadan portlatib qo'yishi mumkin GPT nazoratdan chiqib ketadi.
| Tavsiya etilgan post: ChatGPT Insonning qaytarilmas degeneratsiyasiga olib kelishi mumkin |
Altman o'z tvitida nimani nazarda tutayotganini yaxshiroq tushunish va AI portlashi paytida aqldan ozmaslikni bilish uchun Erik Xoelning "Qanday qilib AI apokalipsisini aqli raso odam sifatida boshqarish mumkin”. Hoel Tafts universitetida amerikalik nevrolog va faylasuf. Bu yaxshi o'qish, chunki Hoel ajoyib yozuvchi, biz ham defiUshbu postni tekshirishni tavsiya eting.
Keling, asosiy fikrlardan birini ko'rib chiqaylik, chunki u nima bo'layotganini va allaqachon sodir bo'lgan apokalipsisning yaqin kelajagini chuqur tushunishni jamlaydi. "Ratsional texno-optimistlarning" asosiy argumenti, ular paydo bo'lishi bilan favqulodda va o'ta xavfli hech narsa sodir bo'lmaganiga ishonishadi. ChatGPT, quyidagicha:
- Generativ suhbatdosh AIning ajoyib natijalariga qaramay (masalan ChatGPT, Bing va boshqalar), bu AI tizimlarini aqlli deb hisoblash mumkin emas. Ular dunyoni tushunmaydilar va agentning motivatsiyasiga ega emaslar. Ularning niyatlari va xatti-harakatlarida namoyon bo'ladigan shaxsiyat yo'q va ularning idrok etuvchi aqli aql simulyatoridan boshqa narsa emas. O'z mohiyatiga ko'ra, ushbu simulyator keyingi so'zlarni avtomatik to'ldiruvchi bo'lib, o'zining ehtimolli oynasida Internetdan inson tomonidan yozilgan matnlarning ulkan, filtrlanmagan korpusini aks ettiradi.
- Agar shunday bo'lsa, unda na super intellekt paydo bo'lishining yaqin istiqboli, na u bilan bog'liq xavflar mavjud emas (garchi, albatta, bunga tayyorgarlik ko'rishingiz kerak, ehtimol o'nlab yillar ufqida).
| Tavsiya etilgan post: AI qidiruv botlari Big Techni yanada kuchliroq qiladi, deydi Kristofer Millsionini hosil qiladi |
Hoelning bu dalilga javobi quyidagicha:
- Bu haqiqat ChatGPT, masalan, keyingi so'zlarning avtomatik to'ldirilishi uning aqlli agentga aylana olmasligini (yoki allaqachon aylanganligini) anglatmaydi. Ongdan farqli o'laroq, aql to'liq funktsional tushunchadir: agar biror narsa aqlli harakat qilsa, u aqlli. Agar u agent sifatida harakat qilsa, u agentdir.
- Mana tushuntiruvchi misol. Ta'sirchan olimlar guruhi - Karl Friston (eng ko'p tilga olingan nevrolog) va boshqa mashhur ismlar - bizning miyamizning maqsadi ajablanishni kamaytirish ekanligini ta'kidlaydilar. Ushbu "Bayesian miya gipotezasi" bugungi kunda asosiy oqimlardan biridir. Nazariyada aytilishicha, global miqyosda ajablanishni minimallashtirish miyaning asosiy vazifasidir. Va bu miyaning qanday ishlashi haqidagi bir nechta asosiy farazlardan biri bo'lsa-da, keling, bu haqiqat deb faraz qilaylik. Tasavvur qiling-a, musofirlar inson miyasini topib, unga qarang va shunday deyishadi: “Oh, bu narsa hayratni kamaytiradi! U aqlning asosi bo'la olmaydi va shuning uchun aqlning haqiqiy egalari uchun xavfli bo'lishi mumkin emas. O'ylab ko'ring: "syurprizlarni kamaytirish" haqiqatan ham matnni avtomatik to'ldirishdan ko'ra qiyinroq maqsadmi? Yoki aslida u juda o'xshashmi?
- Va agar shunday bo'lsa, unda insoniy bo'lmagan aql-zakovat allaqachon yaqin bo'lishi mumkin. Va u bilan bog'liq xavflar allaqachon haqiqatdir. Yana nima qo'shish kerak? Balki ChatGPT va boshqalar allaqachon o'zlarining ko'p qirrali har qanday insondan ko'ra aql. ChatGPT va boshqalar bir vaqtning o'zida quyidagi sabablarga ko'ra faol bo'lishi mumkin: oqilona, ishonchsiz va inson ongiga o'xshamaydi, har qanday fundamental ma'noda boshqarib bo'lmaydi, ba'zi shoshilinch ravishda ishlab chiqilgan panjaralar bundan mustasno.
Va agar bularning barchasi rost bo'lsa, unda AI apokalipsisi allaqachon boshlangan.
Ko'proq tegishli mavzularni o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
