Tadqiqotchining fikriga ko'ra, bugungi katta til modellari kichik modellar bo'ladi OpenAI
Hyung Von Chung, ilgari Google Brain kompaniyasida ishlagan va hozirda AI bo'yicha mohir tadqiqotchi. OpenAI jamoasi, 45-yilda katta til modellari dunyosini o'rgangan 2023 daqiqalik nutq so'zladi. Chung bu sohada tajribaga ega; u Google qog'ozining birinchi muallifi edi "Masshtablash yo'riqnomasi - nozik til modellari,” ko'rsatmalariga rioya qilish uchun katta til modellarini qanday o'rgatish mumkinligini tekshiradi.
Chung keng til modellari dunyosini dinamik deb ta'kidlaydi. LLMlar dunyosida asosiy farazlar odatda barqaror bo'lib qoladigan an'anaviy sohalardan farqli o'laroq, asosiy tamoyil doimiy ravishda rivojlanib boradi. Kelgusi avlod modellari bilan hozirda imkonsiz yoki amaliy bo'lmagan deb hisoblangan narsa mumkin bo'lishi mumkin. U LLM imkoniyatlari haqidagi ko'pchilik da'volarni "hozircha" bilan oldindan aytish muhimligini ta'kidlaydi. Model vazifani bajarishi mumkin; u hali bunday qilmagan.
Bugungi kunda katta modellar faqat bir necha yil ichida kichik modellar bo'ladi
Xyung Von Chung, OpenAI
Hujjatlarning puxta o'yilishi va takrorlanishiga bo'lgan ehtiyoj AI tadqiqoti Chungning nutqidan olinadigan eng muhim saboqlardan biridir. Soha rivojlanib borayotgani uchun davom etayotgan ishlarni to‘liq hujjatlashtirish juda muhim. Ushbu strategiya tajribalarni tezda takrorlash va qayta ko'rib chiqishni kafolatlaydi, bu esa tadqiqotchilarga oldingi ishlarga asoslanish imkonini beradi. Ushbu amaliyot orqali, dastlabki tadqiqot davomida amaliy bo'lmagan qobiliyatlar kelajakda rivojlanishi mumkinligi e'tirof etiladi.
Chung o'z nutqining bir qismini ma'lumotlar va model parallelligining nozik tomonlarini tushuntirishga bag'ishlaydi. Sun'iy intellektning texnik jihatlarini chuqurroq o'rganishga qiziquvchilar uchun ushbu bo'lim ushbu parallellik usullarining ichki ishlari haqida qimmatli tushunchalarni beradi. Ushbu mexanizmlarni tushunish optimallashtirish uchun juda muhimdir keng ko'lamli modellarni tayyorlash.
Chungning ta'kidlashicha, LLMga tayyorgarlikdan oldingi mashg'ulotlarda qo'llaniladigan "Maksimum ehtimollik" hozirgi maqsad funktsiyasi haqiqatan ham katta hajmlarga erishishda qiyinchilik tug'diradi, masalan, 10,000 XNUMX baravar ko'p. GPT-4. Mashinani o'rganish jarayoni davom etar ekan, qo'lda ishlab chiqilgan yo'qotish funktsiyalari tobora cheklanib bormoqda.
Chung AI rivojlanishidagi keyingi paradigma alohida algoritmlar orqali o'rganish funktsiyalarini o'z ichiga oladi, deb taklif qiladi. Ushbu yondashuv, garchi o'zining boshlang'ich bosqichida bo'lsa-da, joriy cheklovlardan tashqari kengayish va'dasini beradi. U, shuningdek, davom etayotgan sa'y-harakatlarni, masalan, Qoidalarni Modellashtirish bilan insonning fikr-mulohazalaridan o'rganishni kuchaytirish (RLHF) bu yo'nalishdagi qadamlar sifatida ta'kidlaydi, ammo hali ham qiyinchiliklarni engish kerak.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
