LLaMa 7 milliard parametr bilan Apple M2 Max chipida yashin tezligida xulosa chiqarishga erishadi
Qisqacha
LLaMa model M40 Max chipida sekundiga 2 tokenda ishlaydi, bu 0% protsessordan foydalanishni namoyish etadi, AI ishqibozlari va foydalanuvchilarining tasavvurini yoqadi.
AI modellari individual ehtiyojlarga moslashtirilishi va shaxsiy qurilmalarda mahalliy sifatida ishlashi mumkin, bu esa shaxsiy yordam va oddiy vazifalarni soddalashtirish imkonini beradi.
AI sohasida innovatsion yutuq e'lon qilindi LLaMa hayratlanarli 7 milliard parametrga ega model Endi u eng so'nggi M40 Max chipi bilan jihozlangan MacBook-da soniyasiga 2 tokenli ta'sirchan tezlikda ishlaydi. Ushbu ajoyib muvaffaqiyat GIT repozitoriyasining yaqinda yangilanishi orqali amalga oshirildi Greganovbo'yicha namunaviy xulosa chiqarishni muvaffaqiyatli amalga oshirgan Metall GPU, Apple kompaniyasining so'nggi chiplarida topilgan maxsus tezlatgich.
Metall GPU-da namunaviy xulosani amalga oshirish ajoyib natijalar berdi. Ushbu maxsus uskunadan foydalangan holda, LLaMa model barcha 0 ta metall yadrolarning qayta ishlash quvvatidan samarali foydalangan holda hayratlanarli 38% protsessordan foydalanishni namoyish etadi. Ushbu yutuq nafaqat modelning imkoniyatlarini namoyish etadi, balki Greganovning ajoyib muhandis sifatidagi ajoyib mahorati va tajribasini ham ta'kidlaydi.
Ushbu ishlanmaning oqibatlari keng qamrovli bo'lib, sun'iy intellekt ishqibozlari va foydalanuvchilarining tasavvurlarini uyg'otadi. Shaxsiylashtirilgan bilan LLaMa mahalliy miqyosda ishlaydigan modellar, odatiy vazifalarni odamlar osonlikcha boshqarishi mumkin, bu esa yangi davrni boshlaydi. modullashtirish. Kontseptsiya a atrofida aylanadi massiv model o'qitilgan markazlashtirilgan, so‘ngra har bir foydalanuvchi o‘z shaxsiy ma’lumotlari bo‘yicha nozik sozlanadi va moslashtiriladi, natijada yuqori darajada moslashtirilgan va samarali AI yordamchisi paydo bo‘ladi.
Shaxsiylashtirilgan ko'rinishga ega bo'lish LLaMa odamlarga kundalik masalalarda yordam beradigan model ulkan salohiyatga ega. Modelni shaxsiy qurilmalarda lokalizatsiya qilish orqali foydalanuvchilar kuchli AI afzalliklaridan foydalanishlari mumkin ularning ma'lumotlari ustidan nazoratni saqlab turish. Ushbu lokalizatsiya, shuningdek, AI yordamchisi bilan tez va uzluksiz o'zaro aloqalarni ta'minlab, tezkor javob vaqtlarini ta'minlaydi.
Katta model o'lchamlari va ixtisoslashtirilgan apparatdagi samarali xulosalar uyg'unligi AI odamlar hayotining ajralmas qismiga aylanib, shaxsiy yordam ko'rsatadigan va muntazam vazifalarni soddalashtiradigan kelajakka yo'l ochadi.
Bu kabi yutuqlar bizni sun'iy intellekt modellari individual ehtiyojlarga moslashtirilishi va shaxsiy qurilmalarda mahalliy sifatida ishlashi mumkin bo'lgan dunyoni amalga oshirishga yaqinlashtiradi. Har bir foydalanuvchi o'z xususiyatlarini yaxshilash va optimallashtirish qobiliyatiga ega LLaMa o'zlarining noyob ma'lumotlariga asoslangan model, AI tomonidan boshqariladigan samaradorlik va mahsuldorlik salohiyati cheksizdir.
Yig'ilishda erishilgan yutuqlar guvohi bo'ldi LLaMa modelning Apple M2 Max chipidagi ishlashi bunga guvohlik beradi tez taraqqiyot AI tadqiqotlari va ishlanmalarida amalga oshirilmoqda. Greganov kabi ixtisoslashgan muhandislar mumkin bo'lgan narsaning chegaralarini oshirib, kelajak shaxsiylashtirilgan, samarali va mahalliy boshqaruvni va'da qiladi. Yo'lni o'zgartiradigan AI modellari biz texnologiya bilan o'zaro aloqadamiz.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalarDamir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.