خبراء التكنولوجيا يوقعون رسالة مفتوحة تدعو إلى الإيقاف المؤقت لتدريب أنظمة الذكاء الاصطناعي الأكثر تقدمًا GPT-4
في سطور
وقع أكثر من 1100 موقع على الرسالة المفتوحة التي تدعو إلى وقف تجارب الذكاء الاصطناعي العملاقة.
ومن الموقعين إيلون ماسك ، وستيف وزنياك ، وعماد مستقي ، وغيرهم.
أثارت الرسالة المفتوحة مخاوف بشأن تحيزات المعلومات من قبل الذكاء الاصطناعي، أتمتة العمل وخطر الذكاء الاصطناعي على الحضارة الإنسانية.
وقع أكثر من 1,100 من الموقعين بما في ذلك خبراء التكنولوجيا البارزون على رسالة مفتوحة داعياً إلى التوقف لمدة ستة أشهر عن تدريب أنظمة الذكاء الاصطناعي الأكثر تقدماً GPT-4.
كتب الرسالة معهد Future of Life ، وهي منظمة غير ربحية تعمل على تقليل المخاطر الكارثية والوجودية العالمية التي تواجه البشرية ، ولا سيما المخاطر الوجودية من الذكاء الاصطناعي المتقدم.
نقلاً عن مبادئ Asilomar AI المعتمدة على نطاق واسع ، والتي تنص على أن "الذكاء الاصطناعي المتقدم يمكن أن يمثل تغييرًا عميقًا في تاريخ الحياة على الأرض ، ويجب التخطيط له وإدارته بما يتناسب من الرعاية والموارد" ، تنص الرسالة على أن مستوى التخطيط و الإدارة لا تحدث.
وتستمر الرسالة لتقول إن مختبرات الذكاء الاصطناعي في سباق "خارج عن السيطرة" لتطوير ذكاء اصطناعي قوي بشكل متزايد لا يمكن لأحد فهمه أو التنبؤ به أو التحكم فيه بشكل موثوق. كما تحب أنظمة الذكاء الاصطناعي المعاصرة GPT-4 يمكن تنافس البشر فيما يتعلق بالمهام العامة ، تثير الرسالة مخاوف بشأن التحيزات المعلوماتية بواسطة الذكاء الاصطناعي ، وأتمتة الوظائف ، وخطر فقدان السيطرة على الحضارة الإنسانية.
"ندعو جميع مختبرات الذكاء الاصطناعي إلى التوقف فورًا لمدة 6 أشهر على الأقل عن تدريب أنظمة الذكاء الاصطناعي الأقوى من GPT-4. ويجب أن يكون هذا التوقف علنيًا وقابلاً للتحقق، وأن يشمل جميع الجهات الفاعلة الرئيسية. إذا لم يكن من الممكن تفعيل مثل هذا التوقف بسرعة، فيجب على الحكومات أن تتدخل وتفرض وقفاً اختيارياً”.
تنص الرسالة.
تطالب الرسالة مختبرات الذكاء الاصطناعي وخبراء التكنولوجيا باستغلال فترة التوقف لتطوير وتنفيذ بروتوكولات السلامة لتصميم وتطوير ذكاء اصطناعي متقدم يتم تدقيقه بدقة والإشراف عليه من قبل خبراء خارجيين مستقلين.
ومع ذلك ، انتقد الصحفي الأمريكي جيف جارفيس الرسالة ، قول أنها "عينة أولية من الذعر الأخلاقي".
من بين العقول الرائدة في مجال التكنولوجيا والتعلم الآلي الذين وقعوا الرسالة جنبًا إلى جنب مع علماء أبحاث DeepMind والعديد من أساتذة الجامعات من جميع أنحاء العالم:
- يوشوا بنجيو ، جامعة مونتريال ، الحائز على جائزة تورينغ لتطوير التعلم العميق ، رئيس معهد مونتريال لخوارزميات التعلم
- ستيوارت راسل ، بيركلي ، أستاذ علوم الكمبيوتر ، ومدير مركز الأنظمة الذكية ، والمؤلف المشارك للكتاب القياسي "الذكاء الاصطناعي: نهج حديث"
- Elon Musk ، الرئيس التنفيذي لشركة SpaceX و Tesla و Twitter
- عماد مستقي ، الرئيس التنفيذي ، Stability AI
- جان تالين ، المؤسس المشارك لـ Skype ، مركز دراسة المخاطر الوجودية ، Future of Life Institute
- غاري ماركوس ، جامعة نيويورك ، باحث في الذكاء الاصطناعي ، أستاذ فخري
- مارك روتنبرغ ، رئيس مركز الذكاء الاصطناعي والسياسة الرقمية (CAIDP)
في باقة الرسالة الحديثة، كتب Rotenberg أن CAIDP سيقدم شكوى إلى لجنة التجارة الفيدرالية ، داعيًا إلى التحقيق في Open AI و ChatGPT، بالإضافة إلى حظر على المزيد من الإصدارات التجارية للمنتج حتى يتم وضع الضمانات.
OpenAI الرئيس التنفيذي سام التمان لديه اعترف أننا "نحتاج أيضًا إلى وقت كافٍ لمؤسساتنا لمعرفة ما يجب القيام به" وأن المجتمع ليس بعيدًا عن أدوات الذكاء الاصطناعي التوليدية "المخيفة".
"نحن نطلب من لجنة التجارة الفيدرالية" الضغط على زر الإيقاف المؤقت "حتى تكون هناك فرصة لمؤسساتنا وقوانيننا ومجتمعنا للحاق بالركب. نحن بحاجة إلى تأكيد الوكالة على التقنيات التي نبتكرها قبل أن نفقد السيطرة "، كما جاء في خطاب CAIDP.
في مكان آخر، المشرعين في الاتحاد الأوروبي تهدف إلى توقيع اتفاق مع دول الاتحاد الأوروبي بحلول نهاية العام لتطبيق قواعد الذكاء الاصطناعي ، على الرغم من أنه قد يواجه عنق الزجاجة مع تكثيف المناقشات حول كيفية حكم الذكاء الاصطناعي.
اقرأ أكثر:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
سيندي صحفية في Metaverse Post، تغطي الموضوعات المتعلقة بـ web3, NFT، metaverse و AI ، مع التركيز على المقابلات مع Web3 لاعبين الصناعة. لقد تحدثت إلى أكثر من 30 مديرًا تنفيذيًا على مستوى C وما زال العدد في ازدياد، حيث قدمت أفكارهم القيمة للقراء. أصلها من سنغافورة، وتقيم سيندي الآن في تبليسي، جورجيا. حصلت على درجة البكالوريوس في الاتصالات والدراسات الإعلامية من جامعة جنوب أستراليا ولديها عشر سنوات من الخبرة في الصحافة والكتابة. تواصل معها عبر [البريد الإلكتروني محمي] مع المداخلات الصحفية والإعلانات وفرص المقابلات.
المزيد من المقالات
سيندي صحفية في Metaverse Post، تغطي الموضوعات المتعلقة بـ web3, NFT، metaverse و AI ، مع التركيز على المقابلات مع Web3 لاعبين الصناعة. لقد تحدثت إلى أكثر من 30 مديرًا تنفيذيًا على مستوى C وما زال العدد في ازدياد، حيث قدمت أفكارهم القيمة للقراء. أصلها من سنغافورة، وتقيم سيندي الآن في تبليسي، جورجيا. حصلت على درجة البكالوريوس في الاتصالات والدراسات الإعلامية من جامعة جنوب أستراليا ولديها عشر سنوات من الخبرة في الصحافة والكتابة. تواصل معها عبر [البريد الإلكتروني محمي] مع المداخلات الصحفية والإعلانات وفرص المقابلات.
