التوقف المؤقت لمدة 6 أشهر في تدريب الذكاء الاصطناعي فكرة جيدة ، لكنها قد لا تكون كافية
في سطور
أدت قصة الالتماس وإصدار مقال يودكوفسكي إلى استقطاب المجتمع.
تشير معضلة السجين ونظرية اللعبة إلى أن هناك حاجة إلى كتلة حرجة من الأشخاص العقلاء في أماكن مختلفة لحل مثل هذه المشكلات.
ومع ذلك ، هناك بعض الاستثناءات لهذه الفكرة ، مثل الافتقار إلى الوعي والإرادة والفاعلية في التطور الرقمي.
قصة عريضة لوقف تطوير أنظمة الذكاء الاصطناعي الأكثر تقدما من GPT-4 استقطب المجتمع بشكل ملحوظ. إطلاق سراح يودكوفسكي البند يطلب إيقاف المزيد من التطوير لـ GPT النماذج صبّت الزيت على النار، خاصة مقاطعه عن قصف مراكز البيانات.
من خلال ما يمكن ملاحظته عبر الإنترنت ، يبدو أن هناك عددًا أقل بكثير من مؤيدي الالتماس من المعارضين ، الذين لديهم ثلاث حجج رئيسية:
| 1 | - لا يمكن وقف التقدم. - العريضة من اختراع OpenAI المنافسين. - الصين لن تنتظر. |
| 2 | - يجب ألا تخاف من الذكاء الاصطناعي بل تخاف من الناس. - GPT ليس لديه وعي، أو إرادة، أو تطلعات، أو وكالة، لذلك ليس هناك ما يدعو للخوف. - GPT-4 إنه بعيد بجنون عن استعباد العالم لأنه لا يفهم شيئًا، ويرتكب أخطاء سخيفة، وهو غبي بشكل عام. - GPT-4 لن يكون قادرًا على إدارة العالم لأنه ليس لديه أذرع وأرجل. |
| 3 | - المجموعة الثالثة لا تفهم كيف GPT-4 يعمل في المقام الأول. |
لن نركز على المجموعة الثالثة لأن موقفهم يأتي من الجهل. هذا لا يعني أن جميع معارضي الذكاء الاصطناعي يعرفون كل شيء عن الذكاء الاصطناعي ؛ يمكنك العثور على الكثير من الأشخاص المناهضين للذكاء الاصطناعي الذين يفتقرون إلى فهم التكنولوجيا وما تنطوي عليه ، على الرغم من أن يودكوفسكي نفسه يتعمق كثيرًا في موضوع الذكاء الاصطناعي ، لذلك لا يمكن اتهامه بالجهل.
دعونا نلقي نظرة على المجموعة الأولى من الناس - أولئك الذين يعتقدون أنه لا يمكن وقف التقدم. إنهم يقدمون حججًا مختلفة ولكنها متشابهة ، وبشكل عام ، لا ينكر هؤلاء الأشخاص قدرات الذكاء الاصطناعي والآفاق التي يجلبها اعتماده ويعتقدون أن تطوير الذكاء الاصطناعي سيستمر مهما كان الأمر.
الأطروحة الأولى حول التقدم الذي لا يمكن إيقافه هو شعار لا يجب أن يكون صحيحًا. يبدو أن الناس قد أوقفوا بعض التجارب العلمية ، والعديد من المشاريع البحثية التي تم قبولها لم تعد أخلاقية ، ولن يُسمح أبدًا بمثل هذه المشروعات اليوم. ومع ذلك ، ما مقدار التقدم الذي حدث في الماضي الذي أوقفته محاكم التفتيش والاضطهاد الديني الآخر ، وحظر الكتب ، وقتل العلماء في الصين (ودول أخرى)؟ هذا شيء لن نكون قادرين على فهمه بالكامل بسبب تحيز النجاة.
تتضمن الأطروحات الأخرى النهج الذي يمكن تلخيصه على أنه "إذا لم نكن نحن ، فسيكون ذلك هم". في حين أن هذا الخط من التفكير قد يكون أكثر قابلية للفهم ، إلا أنه لا يبدو أنه الحل الصحيح أيضًا. إنه مشابه جدًا لمعضلة السجين في نظرية اللعبة.
المجموعة الثانية من الحجج هي الأكثر إثارة للاهتمام. بينما أتفق معه شخصيًا إلى حد ما ، إلا أن هناك بعض الأمور التي يجب معالجتها. نعم ، الذكاء الاصطناعي ليس لديه وعي وإرادة ووكالة ، وما إلى ذلك ، كما أنه لا يمتلكه COVID-19 ، ومع ذلك فقد تسبب في إحداث فوضى في جميع أنحاء العالم. لا يحتاج شيء ما إلى الشعور بالفاعلية والوعي ليصبح خطيرًا ؛ إن السيناريو الذي يقضي بأن الحياة على الأرض تمحى بسبب فيروس أمر لا يمكن تصوره. بمجرد الانتهاء من مهمتها ، يمكنها وضع الكراسي على الطاولات وإطفاء الأنوار والمغادرة إلى الأبد.
استمرارًا للتماثل البيولوجي ، هناك مقال رائع ، "الإبداع المثير للدهشة للتطور الرقمي: مجموعة من الحكايات من الحوسبة التطورية ومجتمعات أبحاث الحياة الاصطناعية" ، والتي تقدم العديد من الأمثلة على متى تسير العمليات في اتجاه غير متوقع. حتى بدون وجود عملية تطورية ، يمكن أن يدخل كل شيء في التعميم الخاطئ "التعميم الخاطئ للهدف: لماذا لا تكفي المواصفات الصحيحة للأهداف الصحيحة". تمت مناقشة إعطاء العنان لعملية التحسين بشكل خاطئ في "مخاطر التحسين المكتسب في أنظمة التعلم الآلي المتقدمة".
في الوقت نفسه ، لا نأخذ في الاعتبار مخاطر الاستخدام الضار للذكاء الاصطناعي وأي سوء استخدام، الأمر الذي يغذي الحجة القائلة بأننا بحاجة إلى الخوف من الناس وليس من الذكاء الاصطناعي نفسه. ومع ذلك ، فإن حقيقة الأمر هي أن الذكاء الاصطناعي يمكن أن يكون سيئًا حتى بدون الأشخاص الخبثاء.
وأنا أتفق أيضًا مع حقيقة أن النموذج يرتكب أخطاء غبية، ولكن البشر أيضًا يفعلون ذلك، ومع ذلك نعلم أنهم يمكن أن يلحقوا الأذى. في حين أن النماذج ترتكب العديد من الأخطاء، إلا أنها يمكنها أيضًا حل العديد من المشكلات الرائعة والرائعة والمعقدة التي لا يستطيع الشخص العادي حلها. من العمل سيئ السمعة "شرارات الذكاء العام الاصطناعي: تجارب مبكرة مع GPT-4"، لقد أذهلتني قدرة الذكاء الاصطناعي على حل مشكلات فيرمي، وإن لم تكن دائمًا بشكل صحيح، بل المشكلات الرياضية المعقدة إلى حد ما. ونظريته للعقل و"نوعًا ما مثل القدرة على فهم" تصرفات الآخرين مثيرة للإعجاب أيضًا. كل هذه الأمور تشير إلى ذكاء الذكاء الاصطناعي؛ موجودة، ولكنها ليست مثلنا تمامًا.
إن القضاء على بعض الأخطاء التي ترتكبها نماذج الذكاء الاصطناعي على الأقل أمر ممكن بشكل عام ، لذلك قد ينمو ذكائها فقط. كل ما عليك فعله هو إضافة وحدة لإجراء حسابات دقيقة ، وقاعدة حقائق ، والتحقق من صحة نموذج آخر.
أهم شيء في هذه القصة بأكملها هو سرعة تطور الذكاء الاصطناعي. GPT عارضات ازياء لقد نمت بشكل هائل وبسرعة مذهلة. الآن يوجد ChatGPT الإضافات المتاحة، يمكنك استخدامها GPT نماذج لكتابة التعليمات البرمجية، وواجهات برمجة التطبيقات (APIs) متاحة لعامة الناس، ويمكنك استخدام أدوات خارجية دون أي تدريب مسبق.
GPT-4وبطبيعة الحال، لن يغزو العالم، لكنه يمكن أن يهز الاقتصاد كثيرا. GPT-5، والتكرار المستقبلي للنموذج ، قد لا يكون بعيدًا جدًا وسيأتي على الأرجح بقدرات أقوى بكثير. ودعونا نواجه الأمر ، لا يمكننا أن نأمل في فهم النماذج غير الموجودة بعد ؛ لم نقترب حتى من فهم النماذج الموجودة بالفعل. بهذا المعنى ، قد تكون الراحة لمدة ستة أشهر فكرة جيدة ، لكنها ببساطة قد لا تكون كافية.
ونظرا لأن سباق الذكاء الاصطناعي لقد بدأ، ليس هناك وقت للتعلم.
بشكل عام ، في ضوء كل هذا ، وقعت أيضًا على العريضة. على الرغم من أنني لا أعتقد أنه سيساعد بأي شكل من الأشكال.
اقرأ المزيد من الموضوعات ذات الصلة:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
