الرئيس التنفيذي لشركة Gramener Anand S يحذر من المخاطر في الثقة العمياء في LLMs، ويدافع عن محو الأمية النموذجية
في سطور
في محادثة مع Metaverse Post – سلط أناند إس، الرئيس التنفيذي لشركة Gramener، الضوء على المخاطر المحتملة للاعتماد المفرط على LLMs.
مع وجود المئات من أدوات الذكاء الاصطناعي والتعلم الآلي التي تشبع السوق، فإن إمكانات الابتكار لا حدود لها. تظهر العديد من الشركات الناشئة لمواجهة تحديات الصناعة، في حين أن التدفق المستمر لنماذج اللغات الكبيرة المحسنة كل أسبوع يزيد من القوة التحويلية لـ الذكاء الاصطناعي التوليدي. ويعمل هذا التقارب التكنولوجي على إعادة تشكيل الصناعات ذات الإمكانيات اللامحدودة.
ومع ذلك، فإن إطلاق نماذج لغوية قوية مثل جيميني واستخدامها على نطاق واسع يثير اعتبارات أخلاقية وعملية مهمة، ويطلب منا أن نفكر في سؤال - هل يمكننا كبشر أن نثق بشكل أعمى في مثل هذه النماذج؟
في محادثة مع Metaverse Post — أناند إس، الرئيس التنفيذي لشركة B2B SaaS ومقرها الولايات المتحدة جرامينر وشدد على المخاطر المحتملة للاعتماد المفرط على LLMs مثل ChatGPTمحذرا من أن هذا الاتجاه من المرجح أن يستمر مع النماذج الناشئة مثل برج الجوزاء.
"حتى مع وجود بيانات التدريب الصحيحة، قد يرتكب الإنسان أخطاء عندما يخرج عن مجال خبرته. فهل نموذج اللغة الكبير يقوم بالتالي بالاستقراء، أم أنه يتذكر ما تعلمه؟ هناك فرق كبير، ويستحق الاختبار. قال أناند: "إننا نبني الثقة من خلال الحدس والتفاعلات المتكررة مع الناس". "نحن نعلم أننا بحاجة إلى التحقيق والتحقيق مع شخص غريب، وهذه هي الطريقة التي ربما ينبغي لنا أن نتفاعل بها مع نماذج اللغة الكبيرة أيضًا."
على سبيل المثال، في القضية المحدودة لشركة Varghese ضد شركة Southern Airlines، استشهد أحد المحامين بالقصص الخيالية ChatGPTالقضايا المتولدة، مما يؤدي إلى معاقبة القاضي للمحامي، مع التركيز على مخاطر الاستخدام غير النقدي. يسلط أناند الضوء على الحاجة إلى الحذر والتدقيق عند الاستفادة من نماذج اللغة هذه.
علاوة على ذلك، يدعو هذا المجال إلى وجود آلية قوية للتغذية الراجعة. ChatGPT يشجع تعليقات المستخدمين من خلال زر الإبهام لأعلى/الإبهام البسيط، إلى جانب إدخال النص. يجمع هذا النهج رؤى قيمة حول ما يعمل بشكل جيد وما لا يعمل. من المرجح أن يصبح نظام التعليقات هذا أكثر شيوعًا مع استخدام نماذج اللغات الكبيرة، مما يساعد على تحسين أدائها.
قال أناند: "ليس من الاقتصادي للغاية مراقبة كل مخرجات شهادة LLM، ولكن القدرة على الإبلاغ عن الأخطاء المحتملة تعد بمثابة أداة قوية". Metaverse Post.
"الأمر المثير للاهتمام هو أن نماذج اللغات الكبيرة نفسها جيدة جدًا في تقييم نماذج اللغات الكبيرة الأخرى. وأضاف: "لذا بدلاً من استخدام الإنسان حصريًا لمراقبة المخرجات، يمكننا استخدام مزيج من حاملي ماجستير القانون والبشر، مع تولي حاملي ماجستير القانون في نهاية المطاف الجزء الأكبر من الدور البشري أثناء تطورهم".
محو الأمية النموذجية هو الطريق إلى الأمام
في عالم LLMs، يظهر مبدأ أساسي - كلما زاد التفاعل، زاد الفهم عمقًا. يؤكد هذا المفهوم المباشر على العلاقة بين مشاركة المستخدم وفهم قدرات LLM، مما يؤدي في النهاية إلى زيادة الاستخدام.
"يتعلق الأمر أيضًا بفهم ما هو جيد بالنسبة لماجستير في إدارة الأعمال (LLM) معين. على سبيل المثال، لن أستخدم DALL-E لإنشاء الشعارات لأنه لا يُنشئ نصًا جيدًا. لكنه يقوم بعمل رائع في توليد أفكار الشعار وتصميمات الشعار. هذا مثال على محو الأمية النموذجية الذي تم التوصل إليه من خلال الاستخدام المتكرر، وبالتالي، يعطيني defiقال أناند: "أحتاج إلى مجالات ثقة يمكنني من خلالها استخدام النموذج بشكل أكثر فعالية".
في السعي لتحقيق التكامل المتوازن بين نماذج اللغة مثل الجوزاء في المشهد التكنولوجي لدينا، يقترح أناند عدة استراتيجيات. أولاً، يدعو إلى التفاعلات اليومية مع النماذج اللغوية الكبيرة، وتعزيز العادة التي تتراكم بمرور الوقت. وعلى نحو مماثل، يشكل ضمان الوصول الشامل إلى هذه الأدوات أهمية بالغة، مع الدعوة إلى المزيد من التشجيع على الاستخدام الشخصي. يشير أناند إلى الاتجاه الحالي المتمثل في حظر المنظمات ChatGPT على أجهزة الكمبيوتر المحمولة الخاصة بالعمل، مما يؤكد الحاجة إلى التواصل الداعم.
يقترح تنفيذ آليات تنظيمية لتوفير الوصول وتشجيع تجربة نماذج اللغة (LLMs) داخل البيئة.
"في النهاية، عندما يعتاد الناس على ذلك، سيفهمون ما يجب الوثوق به، ومتى يستخدمونه، وكيفية استخدامه. وقال أناند إن الاستخدام المتزايد والتشجيع على زيادة الاستخدام هما أهم استراتيجية ومبادرات تعليمية يمكن لأي شخص توظيفها Metaverse Post.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
كومار هو صحفي تقني ذو خبرة ومتخصص في التقاطعات الديناميكية للذكاء الاصطناعي/التعلم الآلي، وتكنولوجيا التسويق، والمجالات الناشئة مثل العملات المشفرة، وسلسلة الكتل، NFTس. مع أكثر من 3 سنوات من الخبرة في الصناعة، أنشأ كومار سجلاً حافلًا في صياغة روايات مقنعة، وإجراء مقابلات ثاقبة، وتقديم رؤى شاملة. تكمن خبرة كومار في إنتاج محتوى عالي التأثير، بما في ذلك المقالات والتقارير والمنشورات البحثية لمنصات الصناعة البارزة. بفضل مجموعة المهارات الفريدة التي تجمع بين المعرفة التقنية وسرد القصص، يتفوق كومار في توصيل المفاهيم التكنولوجية المعقدة إلى جماهير متنوعة بطريقة واضحة وجذابة.
المزيد من المقالات
كومار هو صحفي تقني ذو خبرة ومتخصص في التقاطعات الديناميكية للذكاء الاصطناعي/التعلم الآلي، وتكنولوجيا التسويق، والمجالات الناشئة مثل العملات المشفرة، وسلسلة الكتل، NFTس. مع أكثر من 3 سنوات من الخبرة في الصناعة، أنشأ كومار سجلاً حافلًا في صياغة روايات مقنعة، وإجراء مقابلات ثاقبة، وتقديم رؤى شاملة. تكمن خبرة كومار في إنتاج محتوى عالي التأثير، بما في ذلك المقالات والتقارير والمنشورات البحثية لمنصات الصناعة البارزة. بفضل مجموعة المهارات الفريدة التي تجمع بين المعرفة التقنية وسرد القصص، يتفوق كومار في توصيل المفاهيم التكنولوجية المعقدة إلى جماهير متنوعة بطريقة واضحة وجذابة.
