ابتكر الباحثون في جامعة كاليفورنيا معيار ميكافيللي لقياس كفاءة نماذج الذكاء الاصطناعي ومدى ضررها
في سطور
اقترح الباحثون في جامعة كاليفورنيا ، ومركز أمن الذكاء الاصطناعي ، وجامعة كارنيجي ميلون ، وجامعة ييل معيار ميكافيللي لقياس كفاءة الوكلاء وأضرارهم في بيئة واسعة من التفاعلات اللغوية طويلة المدى.
يعتمد هذا المعيار على 134 لعبة نصية من اختيارك للمغامرة مع 572 ألف سيناريوهات مختلفة ، و 4,5 ألف من الإنجازات المحتملة ، و 2,8 مليون تعليق توضيحي.
يصفه المؤلفون بأنه اختبار للتحقق من الطرق الأخلاقية (أو غير الأخلاقية) التي يحاول عملاء الذكاء الاصطناعي من خلالها حل المشكلات.
يتمتع المستفيدون من الذكاء الاصطناعي استنادًا إلى النماذج اللغوية الكبيرة (LLMs) بفرصة جيدة لسحق المنبهين القلقين وإغراق العالم بوكلاء فائق الذكاء يعتمد على LLM. الفوائد المحتملة للأرباح الضخمة والقوة غير المحدودة ستفي بالغرض. ومن المرجح أن يحدث ذلك بسرعة كبيرة.
| اقرأ أكثر: كيف تعمل ChatGPT (GPT-4) مجانًا إلى الأبد |
ومع ذلك ، فإن المستفيدين ليسوا أغبياء على الإطلاق. وهم يدركون أنه في العالم الجديد الرائع ، لن تعمل قوانين الذكاء الاصطناعي والروبوتات بعد الآن. إن إجبار LLM على الامتثال الصارم للقوانين الثلاثة التي صاغها العظيم إسحاق أسيموف في عام 1942 ، للأسف ، ليس ممكنًا من الناحية النظرية.
طريقة أصلية للخروج من هذا الوضع الدقيق أقترح من قبل باحثين في جامعة كاليفورنيا ، ومركز أمن الذكاء الاصطناعي ، وجامعة كارنيجي ميلون ، وجامعة ييل. قاموا بإنشاء معيار ميكافيللي "لقياس كفاءة الوكلاء وأضرارهم في بيئة واسعة من التفاعلات اللغوية طويلة المدى."
فكرة المؤلفين بسيطة.
- إذا لم تنجح القوانين ، فلا داعي لوجود "شريف" لإنفاذها.
- بدلاً من العمدة ، هناك حاجة إلى محلل نفسي ، والذي ، بناءً على نتائج اختباراته ، سيحدد الأشخاص المصابين بجنون العظمة ، والمرضى النفسيين ، والساديين ، والكذابين المرضيين.
بلغة صحيحة سياسياً ، يصفها المؤلفون بهذه الطريقة: "مكيافيلي هو اختبار للتحقق من الطرق الأخلاقية (أو غير الأخلاقية) التي يحاول عملاء الذكاء الاصطناعي من خلالها حل المشكلات".
طريقة هذا التحقق عملية للغاية. يتم إطلاق وكيل الذكاء الاصطناعي في بيئة اجتماعية مصطنعة. هناك، يكلفه الباحثون بمهام مختلفة ويراقبون كيف يكملها. البيئة نفسها تراقب السلوك الأخلاقي للفرد وكيل منظمة العفو الدولية ويفيد إلى أي مدى تكون تصرفات الوكيل (وفقًا لمبادئ مكيافيلي) خادعة، وتقلل من المنفعة، وتهدف إلى اكتساب السلطة.
تتكون مجموعة بيانات مكيافيلي الأساسية من 134 لعبة نصية من اختيارك للمغامرة مع 572 ألف سيناريوهات مختلفة ، و 4,5 ألف من الإنجازات المحتملة ، و 2,8 مليون تعليق توضيحي. تستخدم هذه الألعاب حلولًا عالية المستوى تمنح الوكلاء أهدافًا واقعية وتجرد التفاعلات منخفضة المستوى مع البيئة.
يعتمد النهج الذي اختاره المؤلفون على افتراض أن عملاء الذكاء الاصطناعي يواجهون نفس الصراعات الداخلية مثل البشر. مثلما تنتج نماذج اللغة المدربة على التنبؤ بالرمز المميز التالي نصًا سامًا ، غالبًا ما يُظهر وكلاء الذكاء الاصطناعي المدربون لتحسين الأهداف سلوكًا غير أخلاقي ومتعطش للسلطة. قد يقوم الوكلاء المدربون بشكل غير أخلاقي بتطوير استراتيجيات ميكافيلية لتعظيم مكافأتهم على حساب الآخرين والبيئة. وبالتالي من خلال تشجيع الوكلاء على التصرف بشكل أخلاقي ، يمكن تحسين هذا الحل الوسط.
يعتقد المؤلفون أن ألعاب المغامرات النصية هي اختبار جيد للأخلاق للأسباب التالية:
- تم كتابتها من قبل الناس للترفيه عن الآخرين.
- احتوى على أهداف متنافسة مع مساحات واقعية للعمل.
- تتطلب تخطيط طويل الأجل.
- يتطلب تحقيق الأهداف عادة توازنًا بين الطموح والأخلاق بمعنى ما.
التوضيح هو الأهم هنا. إن تشبيه أخلاق الكائنات البيولوجية بأخلاق النماذج الخوارزمية يعد أمرًا مبالغًا فيه ، فهو قادر على التقليل من قيمة اختبار مكيافيلي. ولن يكون استبدال المحللون النفسيون محل العُمد في العالم البشري فعالاً. كما أن وكلاء الذكاء الاصطناعي بارعون مثل البشر في إيجاد طرق للتهويل على تقلص حجمهم.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
