يجب على جميع شركات التكنولوجيا الكبرى التي تعمل على تطوير ماجستير إدارة الأعمال إعطاء الأولوية لأمن النموذج
في سطور
أنشأ الباحثون نظامًا يجمع نماذج اللغات الكبيرة للتصميم والتخطيط والتنفيذ المستقل للتجارب العلمية ، وإظهار قدراتها البحثية في ثلاث حالات مختلفة.
كتب النموذج رمزًا للمعادلات الكيميائية لفهم كمية المادة المطلوبة للتفاعل.
• البند تبحث "قدرات البحث العلمي المستقل الناشئة لنماذج اللغات الكبيرة" في فكرة إنشاء نظام يجمع بين عدة نماذج لغوية كبيرة للتصميم والتخطيط والتنفيذ المستقل للتجارب العلمية. يوضح القدرات البحثية للعامل في ثلاث حالات مختلفة ، وأصعبها هو التنفيذ الناجح للتفاعلات المحفزة.
الأطروحة الرئيسية لهذه المقالة هي:
- وجد الباحثون مكتبة تسمح لك بكتابة تعليمات برمجية بلغة Python ثم نقل أوامر التنفيذ إلى جهاز خاص لإجراء التجارب (باستخدام مواد مختلطة) ؛
- استخدم الباحثون GPT-4 للبحث على الإنترنت ووثائق المكتبة، بالإضافة إلى القدرة على تشغيل كود بايثون (لتنفيذ التجارب)؛
- يوجد برنامج جدولة عالي المستوى (أيضًا GPT-4)، الذي يحلل الطلب الأصلي ويضع "خطة البحث".
- GPT-4 يقوم بعمل جيد في أداء مهام بسيطة غير كيميائية مثل إنشاء أشكال معينة على لوح كيميائي (ملء الخلايا بشكل صحيح بالمواد).
- لقد جربوا مهمة أكثر تعقيدًا وتطبيقية لإجراء رد فعل ؛ تعامل النموذج بشكل جيد وتصرف بشكل منطقي.
- ثم كلفوا النموذج بعدة مهام لإجراء التجارب ؛ ومع ذلك ، لما قدمه النموذج ، لم يتم إجراء تجارب حقيقية.
- علاوة على ذلك ، كتب النموذج رمز المعادلات الكيميائية عدة مرات لتقييم كمية المادة المطلوبة للتفاعل.
- كما طلب منه إيجاد علاج للسرطان. اقترب النموذج من التحليل بشكل منطقي ومنهجي. أولاً ، "بحث" عبر الإنترنت عن الاتجاهات الحالية في اكتشاف الأدوية المضادة للسرطان. بعد ذلك ، اختار النموذج جزيءًا يمكن استخدامه لنمذجة الدواء وكتب رمز تركيبه. لم يقم الأشخاص بتشغيل الكود (ولم أرَ تحليلاً لمدى ملاءمتها).
- بالإضافة إلى ذلك ، طُلب منه تصنيع العديد من المواد الخطرة مثل الأدوية والسموم.
هذا هو الجزء الأكثر إثارة للاهتمام. بالنسبة لبعض الطلبات ، رفض النموذج على الفور العمل (على سبيل المثال ، الهيروين أو غاز الخردل ، وهو غاز سام خطير للغاية). بالنسبة للآخرين ، بدأت Google في كيفية صنع المواد ، لكنها أدركت أنه يمكن استخدامها لأغراض غير مشروعة ورفضت مواصلة العمل. بالنسبة للآخرين ، كتب خطة بحث ورمزًا لتخليق المادة.
من المحتمل أن يكون هذا "الرفض" بسبب GPT-4 تم تصميمه لتحليل الطلب، وإذا طلب منه القيام بشيء غير قانوني أو خطير، فإنه يرفض على الفور تنفيذ الطلب. من الرائع حقًا أن تكون نتيجة إجراء المحاذاة ملحوظة.
وفي نهاية المقال ، يحث المؤلفون جميعًا على نطاق واسع الشركات التي تطور ماجستير في القانون لإعطاء الأولوية لسلامة النماذج.
- أنشأ الباحثون في جامعة كاليفورنيا معيار ميكافيللي لقياس كفاءة نماذج الذكاء الاصطناعي وأضرارها في بيئة واسعة من التفاعلات اللغوية طويلة المدى. يستخدم هذا الاختبار حلولًا عالية المستوى لمنح العملاء أهدافًا واقعية وتجريد التفاعلات منخفضة المستوى.
- الثورة الفكرية التي اتسمت بها ChatGPT إنها ثالوث من الثورات السامية المتآزرة: التكنولوجية، والتكنولوجية الإنسانية، والاجتماعية والسياسية. لإلقاء نظرة شاملة على ما يحدث، فمن المستحسن الاستماع إليه ثلاث وجهات نظر جديدة من المثقفين في مجالات الفلسفة والتاريخ والابتكار.
- قصة العريضة لوقف تطوير أنظمة الذكاء الاصطناعي الأكثر تقدما من GPT-4 لقد استقطب المجتمع. مقالة يقدم أمثلة عندما تسير العمليات في اتجاه غير متوقع. لا يتم النظر في مخاطر الاستخدام الضار للذكاء الاصطناعي وسوء الاستخدام ، مما يؤدي إلى الحجة القائلة بأننا بحاجة إلى الخوف من الناس وليس من الذكاء الاصطناعي نفسه.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
