يناقش روس أندرسون انهيار نموذج الذكاء الاصطناعي باعتباره مشكلة متنامية في المحتوى عبر الإنترنت
في سطور
يحذر روس أندرسون من المخاطر المحتملة المرتبطة بالانحدار الفكري للأجيال القادمة من النماذج اللغوية الكبيرة (ماجستير)والتي أصبحت الأداة الأساسية لتحرير وإنشاء نصوص جديدة.
يمكن منع انهيار النموذج من خلال فهم المخاطر المرتبطة به والتخفيف من حدتها الذكاء الاصطناعي التوليدي.
في غضون ستة أشهر فقط ، خطى الذكاء الاصطناعي التوليدي خطوات كبيرة ، وجذب انتباه العالم. ChatGPTوهو مثال بارز على هذه التقنية ، سرعان ما اكتسب شعبية وانتشارًا واسعًا. ومع ذلك ، يحذر الخبير الشهير روس أندرسون من المخاطر المحتملة المرتبطة بالانحدار الفكري للأجيال القادمة من النماذج.
يعتبر روس أندرسون رائدًا في هندسة السلامة ومرجعًا رائدًا في اكتشاف نقاط الضعف في أنظمة وخوارزميات الأمان. بصفته زميلًا في الأكاديمية الملكية للهندسة وأستاذًا في جامعة كامبريدج ، فقد ساهم على نطاق واسع في مجال أمن المعلومات ، وتشكيل نماذج التهديد عبر مختلف القطاعات.
الآن ، أندرسون يدق ناقوس الخطر بشأن التهديد العالمي للإنسانية -انهيار نماذج اللغات الكبيرة (LLMs). حتى وقت قريب ، كان معظم النصوص على الإنترنت من صنع البشر. أصبحت LLM الآن الأداة الأساسية لتحرير وإنشاء نصوص جديدة ، لتحل محل المحتوى الذي تم إنشاؤه بواسطة الإنسان.
يثير هذا التحول أسئلة مهمة: إلى أين سيقود هذا الاتجاه ، وماذا سيحدث عندما تهيمن LLM على الإنترنت؟ الآثار المترتبة على ذلك تتجاوز النص وحده. على سبيل المثال ، إذا كان ملف النموذج الموسيقي تم تدريبه على المقطوعات الموسيقية من قبل موتسارت ، وقد تفتقر الأجيال اللاحقة إلى تألق النص الأصلي وتنتج نتائج رديئة ، يمكن مقارنتها بموسيقى "ساليري". مع كل جيل لاحق ، يزداد خطر تدهور الجودة والذكاء.
قد يذكرك هذا المفهوم بفيلم "تعددية، "بطولة مايكل كيتون ، حيث يؤدي الاستنساخ إلى تراجع الذكاء وزيادة غباء كل استنساخ لاحق.
يمكن أن تحدث نفس الظاهرة مع LLMs. يؤدي تدريب نموذج مع محتوى تم إنشاؤه بواسطة النموذج إلى عيوب لا رجعة فيها وتدهور جودة النص عبر الأجيال. يصبح التوزيع الأصلي للمحتوى مشوهًا ، مما يؤدي إلى تدفق المعلومات غير المنطقية. تتقارب توزيعات Gaussian ، وفي الحالات القصوى ، قد يصبح النص بلا معنى. حتى أن الأجيال اللاحقة قد تسيء فهم الواقع بناءً على الأخطاء التي ارتكبها أسلافهم. تُعرف هذه الظاهرة باسم "انهيار النموذج".
عواقب انهيار النموذج كبيرة:
أصبح الإنترنت مليئًا بشكل متزايد بالمحتوى غير المنطقي.
✔️ قد يصبح الأفراد الذين يستهلكون هذا المحتوى عن غير قصد أقل دراية ويفقدون القدرات الفكرية.
لحسن الحظ ، هناك أمل. يقترح أندرسون أنه يمكن منع انهيار النموذج ، مما يوفر بصيصًا من التفاؤل وسط المخاوف. لمعرفة المزيد حول الحلول المحتملة وكيفية تجنب تدهور جودة المعلومات عبر الإنترنت ، نشجعك على استكشاف المزيد.
في حين أن الذكاء الاصطناعي التوليدي يبشر بالخير ، فمن الضروري أن تظل يقظًا وأن تتعامل مع التحديات التي يطرحها. من خلال فهم المخاطر المرتبطة بانهيار النموذج والتخفيف من حدتها ، يمكننا العمل على تسخير فوائد هذه التكنولوجيا مع الحفاظ على سلامة المعلومات على الإنترنت.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
