LLaMa با 7 میلیارد پارامتر به استنتاج سریع رعد و برق بر روی تراشه Apple M2 Max می رسد
به طور خلاصه
LLaMa این مدل با سرعت 40 توکن در ثانیه بر روی تراشه M2 Max اجرا می شود که نشان دهنده استفاده 0% از CPU است و تخیل علاقه مندان و کاربران هوش مصنوعی را برانگیخته است.
مدل‌های هوش مصنوعی را می‌توان برای نیازهای فردی طراحی کرد و به‌صورت محلی روی دستگاه‌های شخصی اجرا کرد، کمک‌های شخصی‌سازی‌شده و کارهای روتین را ساده‌تر کرد.
یک دستاورد پیشگامانه در زمینه هوش مصنوعی به عنوان رونمایی شد LLaMa مدلی با 7 میلیارد پارامتر شگفت انگیز اکنون با سرعت چشمگیر 40 توکن در ثانیه روی مک بوک مجهز به تراشه پیشرفته M2 Max اجرا می شود. این شاهکار قابل توجه از طریق به روز رسانی اخیر مخزن GIT توسط گرگانف، که استنتاج مدل را با موفقیت اجرا کرد پردازنده گرافیکی فلزیشتاب دهنده تخصصی موجود در جدیدترین تراشه های اپل.
پیاده سازی استنتاج مدل بر روی GPU فلزی نتایج فوق العاده ای به همراه داشته است. با استفاده از این سخت افزار ویژه، LLaMa این مدل استفاده شگفت‌انگیز 0% از CPU را نشان می‌دهد که به طور موثری از قدرت پردازشی تمام 38 هسته فلزی استفاده می‌کند. این دستاورد نه تنها قابلیت‌های مدل را به نمایش می‌گذارد، بلکه مهارت و تخصص استثنایی گریگانف را به عنوان یک مهندس قابل توجه نشان می‌دهد.
پیامدهای این توسعه گسترده است و تخیل علاقه مندان و کاربران هوش مصنوعی را برانگیخته است. با شخصی سازی شده LLaMa مدل‌هایی که به صورت محلی اجرا می‌شوند، وظایف معمول می‌توانند بدون زحمت توسط افراد مدیریت شوند و عصر جدیدی را آغاز کنند. مدولارسازی. مفهوم حول محور الف می چرخد مدل عظیم آموزش دیده به صورت مرکزی، که سپس توسط هر کاربر بر روی داده‌های شخصی خود تنظیم و سفارشی‌سازی می‌شود، که منجر به دستیار هوش مصنوعی بسیار شخصی و کارآمد می‌شود.
چشم انداز داشتن شخصی LLaMa الگوی کمک به افراد در امور روزمره دارای پتانسیل بسیار زیادی است. با بومی سازی مدل در دستگاه های شخصی، کاربران می توانند مزایای هوش مصنوعی قدرتمند را در عین حال تجربه کنند حفظ کنترل بر روی داده های خود. این محلی‌سازی همچنین زمان‌های پاسخ سریع را تضمین می‌کند و تعاملات سریع و بدون درز با دستیار هوش مصنوعی را امکان‌پذیر می‌کند.
ترکیبی از اندازه‌های عظیم مدل و استنتاج کارآمد بر روی سخت‌افزار تخصصی، راه را برای آینده‌ای هموار می‌کند که در آن هوش مصنوعی به بخشی جدایی‌ناپذیر از زندگی مردم تبدیل می‌شود و کمک‌های شخصی‌شده و ساده‌سازی وظایف روتین را ارائه می‌کند.
پیشرفت هایی مانند این ما را به تحقق دنیایی نزدیک تر می کند که در آن مدل های هوش مصنوعی می توانند بر اساس نیازهای فردی طراحی شوند و به صورت محلی روی دستگاه های شخصی اجرا شوند. هر کاربر توانایی اصلاح و بهینه سازی خود را دارد LLaMa مدل بر اساس داده های منحصر به فرد آنها، پتانسیل برای بهره وری و بهره وری مبتنی بر هوش مصنوعی نامحدود است.
دستاوردهای شاهد در LLaMa عملکرد مدل بر روی تراشه Apple M2 Max به عنوان شاهدی بر این امر است پیشرفت سریع در تحقیق و توسعه هوش مصنوعی ساخته شده است. با وجود مهندسان متعهد مانند Greganov که مرزهای ممکن را در پیش می گیرند، آینده نوید بخش شخصی، کارآمد و محلی است. مدل های هوش مصنوعی که راه را متحول خواهند کرد ما با تکنولوژی تعامل داریم
درباره هوش مصنوعی بیشتر بخوانید:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
