خبراء الذكاء الاصطناعي والشخصيات العامة يرفعون الإنذارات بشأن مخاطر انقراض الذكاء الاصطناعي
في سطور
خبراء بارزون في الذكاء الاصطناعي وشخصيات مؤثرة يعبرون عن مشاركتهم المخاوف المتعلقة بالمخاطر المرتبطة بالذكاء الاصطناعي.
على الرغم من التقدم الكبير في الذكاء الاصطناعي ، إلا أن العديد من التحديات المتعلقة بمخاطر الذكاء الاصطناعي لا تزال دون حل.
أصدر خبراء في مجال الذكاء الاصطناعي وشخصيات عامة بارزة بيانًا يحذرون فيه من أن الذكاء الاصطناعي يمكن أن يشكل تهديدًا لبقاء البشرية ، يمكن مقارنته أو حتى أكبر من مخاطر الأوبئة والحرب النووية. يجادل الموقّعون البالغ عددهم 350 بأن الذكاء الاصطناعي يمكن أن يكون له عواقب وخيمة غير متوقعة ، مثل إطلاق العنان للأسلحة المستقلة ، وتعطيل الأنظمة الاجتماعية والاقتصادية ، أو إنشاء عوامل فائقة الذكاء يمكن أن تتفوق على البشر وتتغلب عليهم.
وهم يدعون صانعي السياسات إلى أخذ هذه المخاطر على محمل الجد واعتماد تدابير لضمان تطوير الذكاء الاصطناعي الآمن والمفيد. ال بيان تم توقيعه من قبل بعض الشخصيات البارزة في مجال البحث والتطوير في مجال الذكاء الاصطناعي ، مثل OpenAI الرئيس التنفيذي سام التمان ، والمؤسس المشارك لـ Skype Jaan Tallinn ، والرئيس التنفيذي لشركة DeepMind Demis Hassabis ، وعالم الكمبيوتر بالذكاء الاصطناعي Geoffrey Hinton ، بالإضافة إلى الشخصيات العامة المؤثرة ، مثل الموسيقي Grimes و podcaster Sam Harris.
من بين الموقعين الفائزين بجائزة تورينج لعام 2018 لمساهماتهم في التعلم العميق: جيفري هينتون ويوشوا بنجيو. وانضم إليهم أساتذة من جامعات مرموقة مثل هارفارد وجامعة تسينغهوا في الصين ، بالإضافة إلى ماكس تيجمارك من معهد ماساتشوستس للتكنولوجيا.
"يجب أن يكون التخفيف من خطر الانقراض من الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى مثل الأوبئة والحرب النووية ،"
الرسالة التي نشرتها CAIS تنص.
مركز أمان الذكاء الاصطناعي (CAIS)، وهي منظمة غير ربحية مقرها في سان فرانسيسكو ، تهدف إلى معالجة مخاوف السلامة المتعلقة بالذكاء الاصطناعي. مع إدراك الفوائد المحتملة للذكاء الاصطناعي ، يؤكد CAIS على الحاجة إلى تطويره واستخدامه بأمان. تعتقد الشركة أنه على الرغم من التقدم الكبير في مجال الذكاء الاصطناعي ، لا تزال العديد من التحديات الأساسية في مجال سلامة الذكاء الاصطناعي دون حل. وفقًا لموقعها على الويب ، تتمثل مهمة CAIS في التخفيف من المخاطر من خلال إجراء أبحاث السلامة ، وتعزيز مجتمع من باحثي السلامة في الذكاء الاصطناعي ، والدعوة لمعايير السلامة.
"هناك العديد من" المخاطر المهمة والعاجلة من الذكاء الاصطناعي "، وليس فقط خطر الانقراض ؛ على سبيل المثال ، التحيز المنهجي والمعلومات المضللة والاستخدام الضار والهجمات الإلكترونية والتسليح. هذه كلها مخاطر مهمة تحتاج إلى معالجة. يمكن للمجتمعات إدارة مخاطر متعددة في وقت واحد ؛ إنها ليست "إما / أو" ولكنها "نعم / و." من منظور إدارة المخاطر ، مثلما سيكون من التهور تحديد أولويات الأضرار الحالية حصريًا ، سيكون من التهور أيضًا تجاهلها أيضًا "
دان هندريكس ، مدير CAIS كتب على التغريد.
في مارس ، أكثر من 1,100 خبير تقني وقعت رسالة مفتوحة تطالب بوقف تدريب أنظمة الذكاء الاصطناعي المتفوقة لمدة ستة أشهر GPT-4. المشرعون الأوروبيون أيضا في الآونة الأخيرة من وزارة الصحة مشروع تشريع أكثر صرامة ، يُعرف باسم قانون الذكاء الاصطناعي ، ينظم أدوات الذكاء الاصطناعي مثل ChatGPT. يتضمن القانون متطلبات فحوصات السلامة وحوكمة البيانات وتخفيف المخاطر لنماذج الذكاء الاصطناعي الأساسية ويحظر ممارسات مثل تقنيات التلاعب واستخدامات معينة للقياسات الحيوية.
اقرأ أكثر:
- OpenAI تكشف النقاب عن أحدث نهج لضمان سلامة الذكاء الاصطناعي
- هل ستعلن Google عن منشئ تحويل النص إلى صورة رمزية للاعبين؟
- يوفر CodeWhisperer من Amazon للمطورين الميزة التي يحتاجونها في ساحة AI
- فيتاليك بوتيرين ومدير MIRI نيت سواريس يتعمقان في مخاطر الذكاء الاصطناعي
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
Agne هي صحفية تغطي أحدث الاتجاهات والتطورات في metaverse و AI و Web3 صناعات ل Metaverse Post. دفعها شغفها بسرد القصص إلى إجراء العديد من المقابلات مع خبراء في هذه المجالات، وتسعى دائمًا للكشف عن قصص مثيرة وجذابة. حصلت أغني على درجة البكالوريوس في الأدب ولديها خلفية واسعة في الكتابة حول مجموعة واسعة من المواضيع بما في ذلك السفر والفن والثقافة. كما تطوعت كمحررة في منظمة حقوق الحيوان، حيث ساعدت في رفع مستوى الوعي حول قضايا رعاية الحيوان. اتصل بها على [البريد الإلكتروني محمي].
المزيد من المقالات
Agne هي صحفية تغطي أحدث الاتجاهات والتطورات في metaverse و AI و Web3 صناعات ل Metaverse Post. دفعها شغفها بسرد القصص إلى إجراء العديد من المقابلات مع خبراء في هذه المجالات، وتسعى دائمًا للكشف عن قصص مثيرة وجذابة. حصلت أغني على درجة البكالوريوس في الأدب ولديها خلفية واسعة في الكتابة حول مجموعة واسعة من المواضيع بما في ذلك السفر والفن والثقافة. كما تطوعت كمحررة في منظمة حقوق الحيوان، حيث ساعدت في رفع مستوى الوعي حول قضايا رعاية الحيوان. اتصل بها على [البريد الإلكتروني محمي].
