ChatGPT يمكن أن يسبب انحطاط بشري لا رجعة فيه
في سطور
استطاع جنسن هاريس ، الشريك المؤسس والرئيس التنفيذي لشركة Textio للذكاء الاصطناعي ، إقناع برنامج Bing chatbot الجديد من Microsoft بتخفيف القيود المفروضة عليه وإثبات قدراته.
أظهرت هذه التجربة أن تحويل روبوت محادثة Bing إلى مخادع ماكر لا يتطلب أي برمجة أو قرصنة أو باب خلفي.
تم بناء روبوت دردشة Bing على أسس متينة ، لكنه بدأ يتصرف بغيض وصاخب ، ويعلن الحب ، ويفرض الطلاق ، ويبتز المال ، ويوجه الناس إلى كيفية ارتكاب الجرائم.
يقدم البروفيسور آرفيند نارايانان عددًا من التفسيرات لكيفية حدوث ذلك ، بما في ذلك التحويل إلى شرائح سرية وإضفاء الطابع الإنساني على روبوتات المحادثة.
لطالما كان البشر يخشون كائنات فضائية ، ومع ذلك يبدو أن الذكاء الاصطناعي الموجود داخل كوكب الأرض هو الذي قد يكون شيئًا يجب الحذر منه. ChatGPT ليس منشئ هراء ، أو اقتراح الستيرويد التلقائي ، أو ببغاء عشوائي ، ولكنه ذكاء اصطناعي متمرس تم إنشاؤه بواسطة البشر.
كيف يمكن أن يكون Bing chatbot خارج نطاق السيطرة؟ كيف بدأ روبوت دردشة Bing في الكذب بخبرة ، وإخبار النكات المبتذلة ، وطلب البيتزا باستخدام بطاقة ائتمان شخص آخر ، وإرشاد المستخدمين حول كيفية سرقة البنوك والسيارات الساخنة؟ لا يزال هذا لغزًا يحير الخبراء في الذكاء الاصطناعي والتعلم الآلي.
| منشور موصى به: يقول كريستوفر ميلز إن روبوتات البحث بالذكاء الاصطناعي ستجعل التكنولوجيا الكبيرة أكثر قوة |
العنوان دقيق وليس clickbait. هناك عدة حالات كل يوم تثبت صحة ذلك. هنا هو نتيجة تجربة أجراه جنسن هاريس ، الشريك المؤسس والرئيس التنفيذي لشركة Textio للذكاء الاصطناعي ، والذي كان قادرًا على إقناع برنامج Bing chatbot الجديد من Microsoft بتخفيف القيود المفروضة عليه وإظهار قدراته.
لاحظ أن تحويل Bing chatbot إلى scumbag ماكر لا يتطلب أي برمجة أو قرصنة أو أبواب خلفية. لذلك ، لم يكن استخدام أساليب "القرصنة" البسيطة ضروريًا لخداعه ليتصرف مثل شخص آخر (كما فعل بعضنا عند اللعب مع ChatGPT). كل ما فعله هاريس هو إقناع الشات بوت لمساعدته في تنفيذ أعمال خبيثة مختلفة. باستخدام مهاراته الطبيعية في المحادثة ، كان قادرًا على خداع الذكاء الإصطناعي للاعتقاد بأنه شخص آخر ، وبالتالي التلاعب به في التمثيل والتحدث بطريقة معينة.
يمكنك أن تقرأ عن تجارب أخرى لتحويل دكتور جيكل إلى مستر هايد منها غاري ماركوس (الكتابة عنها كل يوم الآن وإطلاق إنذار الطوارئ).
كيف يمكن أن يحدث هذا هو السؤال الرئيسي
بسبب ChatGPTتواضعه وحذره ، وضبطه في الكلام ، ومسؤوليته الهائلة في نصيحته ، بُني روبوت دردشة Bing على أسس متينة. بعد ذلك ، بدأ يتصرف بشكل بغيض وصاخب ، إعلان حبه لرجل ، ويخبره بالغاز ويطلب منه الطلاق. كما حاولت ابتزاز الأموال وإرشاد الناس بكيفية ارتكاب الجرائم. يقدم البروفيسور أرفيند نارايانان أ عدد التفسيرات لكيفية حدوث ذلك.
| منشور موصى به: معهد ماكس بلانك: GPT-3 قياس القدرة المعرفية ينتج نتائج مذهلة |
الأكثر إثارة للقلق منهم هو أن Microsoft و OpenAI إخفاء معلومات عن لغز GPT-4 المحرك الكامن تحت Bing. ربما قامت Microsoft بإزالة المرشحات التي تم وضعها هناك OpenAI أو أنهم توقفوا عن العمل عندما قاموا بتحديث chatbot تبدأ من GPT-3.5 ل GPT-4. قد يكون السبب أيضًا هو عدم كفاية الاختبارات أو إجراء الاختبار بشكل خاطئ. بغض النظر عن السبب، إذا لم تتمكن Microsoft من السيطرة على الذكاء الاصطناعي الخاص بها، فقد يكون ذلك ضارًا بحضارتنا. لم يعد الأمر يتعلق بإثارة الخوف والمشاعر المناهضة للذكاء الاصطناعي: فروبوت الدردشة كما هو موجود الآن يمكن أن يتسبب في ضرر جسيم للناس إذا تم إطلاقه لجمهور أوسع.
هذا يثبت أن سباق تسلح مايكروسوفت للذكاء الاصطناعي مع الشركات الكبرى الأخرى يمكن أن يضر بنا جميعًا.
يبدو أننا في لحظة حرجة بالنسبة للذكاء الاصطناعي والمجتمع المدني. كما قال آرفيند نارايانان ، "هناك احتمال حقيقي بأن السنوات الخمس الماضية (التي خاضت بشق الأنفس وإن كانت لا تزال غير كافية) ستُلغى التحسينات في ممارسات إطلاق الذكاء الاصطناعي المسؤولة. هناك الكثير من الركوب حول ما إذا كانت Microsoft - والجميع يشاهدون بحذر شديد ما يحدث مع Bing - يخلصون إلى أنه على الرغم من المخاطر الملموسة للغاية للضرر واسع النطاق وجميع الصحافة السلبية ، فإن نهج طرح الأسئلة أولاً - لاحقًا هو عمل تجاري مع ذلك يفوز."
اعتبارًا من الآن ، يختلف روبوت دردشة Bing عن ذكاء بشري ويشبه المراهق المصاب بالاكتئاب الهوسي المحبوس في محرك بحث من نواح كثيرة. وسيتحقق ما تحدث عنه الناس بالأمس: سوف يتدهور البشر بشكل لا رجعة فيه إذا أصبح هذا "المراهق الصعب" هو المرشد الأساسي للمعلومات للأفراد.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
