GPT-5 سيكلف التدريب 2.5 مليار دولار وسيبدأ العام المقبل
نشر مستخدم تويتر مارتن شكريلي من نيويورك ذلك اليوم GPT-5 سيتطلب ما يقدر بنحو 2.0 إلى 2.5 مليار دولار للتدريب. سيتضمن هذا التدريب 500,000 وحدة معالجة رسومية من نوع H100s Tensor Core على مدار 90 يومًا أو تكوينًا بديلاً. ومن المقرر أن يبدأ التدريب في العام المقبل.
OpenAI تعمل بنشاط على تعزيز GPT-4 مع مختلف القدرات، مثل التجسيد، والوكالة، والتفكير السقراطي، والرسوم البيانية المعرفية، والنماذج العالمية، وتعدد الوسائط، والتخطيط، وقابلية التفسير الدلالي، وعقول الخلية، والتحكم والحدود، بالإضافة إلى المهام الصغيرة ذات القيمة العالية.
يثير حجم إنتاج H100/A100 تساؤلات. هل سيكون هناك ما يكفي من وحدات معالجة الرسومات هذه متاحة لمثل هذا المشروع الكبير؟ ومن المتوقع أن يتم إنتاج ما يقرب من مليون سيارة H1 بحلول نهاية العام، وقد يتم شحن ما يقدر بـ 100 ملايين سيارة في العام التالي.
فيما يتعلق بالتكلفة، هناك نقطة صحيحة حول وحدات معالجة الرسومات. قد يكون تضمين تكلفة وحدات معالجة الرسومات هذه في نفقات التدريب أمرًا مضللاً لأنها لا تصبح قديمة بعد عملية التدريب. يمكن أن تصل قيمة وحدات معالجة الرسومات هذه وحدها إلى 20 مليار دولار.
تجدر الإشارة إلى أن الحد الأقصى للطاقة الإنتاجية لشركة تصنيع الرقائق المستدامة Metal Cloud (SMC) لـ H100s يبلغ حاليًا 15,000 وحدة شهريًا، لكنهم زادوا الإنتاج إلى ما يقرب من 50,000 وحدة شهريًا.
ومن حيث تكاليف الكهرباء، فهي تمثل جزءًا صغيرًا نسبيًا من تكلفة الحوسبة الإجمالية. ولوضع الأمر في نصابه الصحيح، فإن 6,000,000 كيلووات في الساعة قد تصل إلى ما يقرب من مليون دولار.
مقالات ذات صلة: قدرة صناعة الذكاء الاصطناعي على منافسة الاستهلاك الوطني للكهرباء |
يبدو أن الحصول على 500,000 سيارة H100 بحلول العام المقبل يمثل مهمة صعبة، حتى مع دعم Microsoft. بالإضافة إلى ذلك، تطرح أسئلة حول تكلفة الاستدلال إذا كانت عملية التدريب تتطلب بالفعل حوسبة مكثفة كما هو مقترح.
في سياق سوق نفيديا الأداء في عام 2023، من الجدير بالذكر أن نجاحهم قد تضاعف ثلاث مرات، متجاوزًا تريليون دولار. ويمكن أن يُعزى هذا النمو إلى حد كبير إلى زيادة اعتماد شرائح Nvidia في تطبيقات الذكاء الاصطناعي. ومع ذلك، من المهم أن تأخذ ذلك في الاعتبار قيود التصدير الأمريكية لقد حدت من بيع رقائق الذكاء الاصطناعي المتطورة في السوق الصينية، مما قد يؤثر على تكاليف التصنيع والتدريب.
تحقق Nvidia نسبة أرباح تقارب ألف ضعف لكل مسرع H100 GPU الذي تبيعه، وفقًا لكاتب بارون الكبير تاي كيم. وهذا يعني أن سعر Nvidia في الشارع يتراوح بين 25,000 دولار إلى 30,000 دولار لكل مسرع HPC يغطي التكلفة المقدرة بـ 3,320 دولارًا لكل شريحة ومكونات طرفية. تحليل التكلفة غير واضح، ولكن يعتقد أنه يتعلق بتكلفة التصنيع البحتة. يجب أيضًا أخذ تكاليف البحث والتطوير الخاصة بشركة Nvidia في الاعتبار، حيث يتطلب تطوير شرائح مثل H100 آلاف الساعات من العمال المتخصصين. ومع ذلك، فإن منتجات تسريع الذكاء الاصطناعي من Nvidia يتم بيعها بالفعل حتى عام 2024، ومن المتوقع أن تبلغ قيمة سوق مسرعات الذكاء الاصطناعي حوالي 150 مليار دولار بحلول عام 2027.
تستفيد الشركة من البنية التحتية ومجموعة المنتجات، ولكن الميزانيات وتكلفة الفرصة البديلة قد تحد من الاستثمارات في مجالات أخرى أو تحد من المخاطر في أماكن البحث والتطوير.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالاتدامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.