LLaMa مع 7 مليار معلمة تحقق استنتاجًا سريعًا للغاية على شريحة Apple M2 Max
في سطور
LLaMa يعمل النموذج بمعدل 40 رمزًا في الثانية على شريحة M2 Max، مما يوضح استخدام وحدة المعالجة المركزية بنسبة 0%، مما يثير خيال عشاق ومستخدمي الذكاء الاصطناعي.
يمكن تصميم نماذج الذكاء الاصطناعي وفقًا للاحتياجات الفردية وتشغيلها محليًا على الأجهزة الشخصية ، مما يوفر مساعدة مخصصة وتبسيط المهام الروتينية.
تم الكشف عن إنجاز رائد في مجال الذكاء الاصطناعي باسم LLaMa نموذج يحتوي على 7 مليار معلمة مذهلة يعمل الآن بسرعة مذهلة تبلغ 40 رمزًا في الثانية على جهاز MacBook مزود بشريحة M2 Max المتطورة. تم تحقيق هذا الإنجاز الرائع من خلال التحديث الأخير لمستودع GIT بواسطة جريغانوف، الذي نفذ بنجاح الاستدلال النموذجي على GPU المعدنية، مسرع متخصص موجود في أحدث شرائح Apple.
| منتجات ينصح بها: تظهر Guanaco كمصدر مفتوح محتمل ChatGPT منافس |
لقد أدى تنفيذ الاستدلال النموذجي على وحدة معالجة الرسوميات المعدنية إلى نتائج غير عادية. باستخدام هذا الجهاز الخاص، LLaMa يوضح النموذج استخدامًا مذهلاً لوحدة المعالجة المركزية بنسبة 0%، مما يؤدي إلى استغلال قوة المعالجة لجميع النوى المعدنية البالغ عددها 38 نواة بشكل فعال. لا يعرض هذا الإنجاز قدرات النموذج فحسب، بل يسلط الضوء أيضًا على المهارة والخبرة الاستثنائية التي يتمتع بها جريجانوف كمهندس رائع.
إن الآثار المترتبة على هذا التطور بعيدة المدى، مما يثير خيال عشاق الذكاء الاصطناعي والمستخدمين على حد سواء. مع شخصية LLaMa النماذج التي تعمل محليًا، يمكن للأفراد إدارة المهام الروتينية بسهولة، مما يبشر بعصر جديد من نمذجة. المفهوم يدور حول أ نموذج ضخم تم تدريبه مركزيًا ، والذي يتم بعد ذلك ضبطه وتخصيصه بواسطة كل مستخدم على بياناته الشخصية ، مما ينتج عنه مساعد AI عالي الكفاءة والفاعلية.
رؤية وجود شخصية LLaMa نموذج مساعدة الأفراد في الأمور اليومية يحمل إمكانات هائلة. ومن خلال توطين النموذج على الأجهزة الشخصية، يمكن للمستخدمين تجربة فوائد الذكاء الاصطناعي القوي أثناء ذلك الحفاظ على السيطرة على بياناتهم. يضمن هذا التوطين أيضًا أوقات استجابة سريعة ، مما يتيح تفاعلات سريعة وسلسة مع مساعد الذكاء الاصطناعي.
إن الجمع بين أحجام النماذج الهائلة والاستدلال الفعال على الأجهزة المتخصصة يمهد الطريق لمستقبل يصبح فيه الذكاء الاصطناعي جزءًا لا يتجزأ من حياة الناس ، ويوفر المساعدة الشخصية وتبسيط المهام الروتينية.
إن مثل هذه التطورات تقربنا من تحقيق عالم حيث يمكن تصميم نماذج الذكاء الاصطناعي لتناسب الاحتياجات الفردية وتشغيلها محليًا على الأجهزة الشخصية. مع كل مستخدم لديه القدرة على تحسين وتحسين LLaMa بناءً على بياناتهم الفريدة، فإن إمكانات الكفاءة والإنتاجية المعتمدة على الذكاء الاصطناعي لا حدود لها.
الإنجازات التي شهدتها LLaMa يعد أداء الطراز على شريحة Apple M2 Max بمثابة شهادة على تقدم سريع يتم إجراؤها في البحث والتطوير في مجال الذكاء الاصطناعي. مع المهندسين المتفانين مثل Greganov الذين يدفعون حدود ما هو ممكن ، فإن المستقبل يحمل وعدًا بشخصية وفعالية وتدار محليًا نماذج الذكاء الاصطناعي التي ستغير الطريق نتفاعل مع التكنولوجيا.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
