نماذج اللغات الكبيرة اليوم ستكون نماذج صغيرة، وفقًا لأحد الباحثين في OpenAI
هيونغ وون تشونغ، باحث بارع في الذكاء الاصطناعي كان يعمل سابقًا في Google Brain وهو حاليًا عضو في Google Brain OpenAI ألقى الفريق خطابًا مثيرًا للتفكير مدته 45 دقيقة استكشف فيه عالم نماذج اللغات الكبيرة في عام 2023. يتمتع تشونغ بخبرة في هذا المجال؛ وكان المؤلف الأول لورقة جوجل “توسيع نطاق نماذج اللغة المضبوطة للتعليمات،"الذي يدرس مدى إمكانية تدريب نماذج اللغة الكبيرة على اتباع التعليمات.
يؤكد تشونغ على عالم النماذج اللغوية الشاملة باعتباره ديناميكيًا. في عالم LLMs، يتطور المبدأ التوجيهي باستمرار، على عكس المجالات التقليدية حيث تظل الافتراضات الأساسية مستقرة عادةً. ومع الجيل القادم من النماذج، فإن ما يُعتقد حاليًا أنه مستحيل أو غير عملي قد يصبح ممكنًا. ويؤكد على أهمية تقديم معظم المطالبات المتعلقة بقدرات LLM بكلمة "في الوقت الحالي". يمكن للنموذج أن يؤدي مهمة ما؛ انها لم تفعل ذلك بعد.
النماذج الكبيرة اليوم ستكون نماذج صغيرة في غضون سنوات قليلة فقط
هيونغ وون تشونغ, OpenAI
الحاجة إلى التوثيق الدقيق والاستنساخ في أبحاث الذكاء الاصطناعي يعد أحد أهم الدروس التي يمكن تعلمها من خطاب تشونغ. من الضروري توثيق العمل المستمر بدقة مع تطور المجال. وتضمن هذه الاستراتيجية إمكانية تكرار التجارب وإعادة النظر فيها بسرعة، مما يمكّن الباحثين من البناء على الأعمال السابقة. من خلال هذه الممارسة، يتم الاعتراف بأن القدرات قد تتطور في المستقبل والتي لم تكن عملية أثناء البحث الأولي.
يخصص تشونغ جزءًا من حديثه لتوضيح تعقيدات البيانات وتوازي النماذج. بالنسبة لأولئك المهتمين بالتعمق في الجوانب التقنية للذكاء الاصطناعي، يقدم هذا القسم رؤى قيمة حول الأعمال الداخلية لتقنيات التوازي هذه. فهم هذه الآليات أمر بالغ الأهمية لتحسينها التدريب على النماذج واسعة النطاق.
يفترض تشونغ أن وظيفة الهدف الحالية، الحد الأقصى للاحتمال، المستخدمة في التدريب المسبق لماجستير القانون تمثل عنق الزجاجة عندما يتعلق الأمر بتحقيق مقاييس ضخمة حقًا، مثل 10,000 ضعف قدرة GPT-4. مع تقدم التعلم الآلي، أصبحت وظائف الخسارة المصممة يدويًا محدودة بشكل متزايد.
يقترح تشونغ أن النموذج التالي في تطوير الذكاء الاصطناعي يتضمن وظائف التعلم من خلال خوارزميات منفصلة. وهذا النهج، على الرغم من أنه في مراحله الأولى، يحمل وعدًا بقابلية التوسع بما يتجاوز القيود الحالية. كما يسلط الضوء أيضًا على الجهود المستمرة، مثل تعزيز التعلم من ردود الفعل البشرية (RLHF) من خلال نمذجة القواعد، كخطوات في هذا الاتجاه، على الرغم من أنه لا يزال يتعين التغلب على التحديات.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
