قادة الذكاء الاصطناعي يحذرون من تزايد المخاطر والمخاوف الأخلاقية في التقدم السريع
في بيان السياسة الأخيردقت شخصيات بارزة في مجال الذكاء الاصطناعي، بما في ذلك بينجيو وهينتون ورسل وهراري وكانيمان، ناقوس الخطر بشأن التقدم السريع والمخاطر المجتمعية المتزايدة المرتبطة بالذكاء الاصطناعي.
الذكاء الاصطناعي يتطور بسرعة. GPT-2 لم يكن من الممكن العد من 0 إلى 100 قبل أربع سنوات، لكن النماذج الحديثة يمكنها كتابة التعليمات البرمجية، وإنشاء صور مذهلة، وتقديم التوجيه الفكري. ولأننا في سباق، يمكن للتقدم أن يكتسب سرعة أكبر. علاوة على ذلك، يتقدم الذكاء الاصطناعي بسرعة أكبر، على سبيل المثال، من خلال المساعدة في برمجة الأنظمة الجديدة وجمع البيانات لتدريبها.
بمجرد أن يصل التقدم إلى المستويات البشرية، ليس هناك سبب للاعتقاد بأنه سيتباطأ أو يتوقف. وفي مناطق معينة، تفوقت الأنظمة الاصطناعية بالفعل على البشر في هذا الصدد قدرات مثل معالجة أسرع سرعات وقدرات أكبر على معالجة البيانات وقابلية التوسع على نطاق واسع. تمتلك الشركات الوسائل المالية اللازمة لتنفيذ برامج تدريبية تتجاوز بكثير الحد الأقصى الحالي.
ويعتقد المؤلفون أن هناك فرصة جيدة لظهور متخصص أفضل في مجال الذكاء الاصطناعي في غضون السنوات العشر المقبلة أو نحو ذلك. تفوق القدرات البشرية في العديد من المجالات المهمة.
ماذا سيحدث بعد ذلك؟ يمكن تحسين جميع أشكال الحياة إذا تمت إدارتها وتوزيعها بشكل صحيح. وينطوي الخيار الذي تم اختياره بشكل سيئ على مخاطر كبيرة لم نستعد لها بشكل جيد. وبدلاً من تخصيصها للسلامة والوقاية من الأضرار، يتم استخدام موارد كبيرة لبناء أنظمة الذكاء الاصطناعي التي أصبحت أكثر فعالية من أي وقت مضى. وهذا يحتاج إلى التغيير؛ متابعة المهارات في حد ذاتها غير كافية. وتستغرق هذه العملية وقتًا أطول من المتوقع. ويتعين علينا أن نخطط للمخاطر الأعلى قبل ظهورها من خلال توقع تصاعد التهديدات الحالية وظهور تهديدات جديدة. ليس لدينا نفس القدر من الوقت للذكاء الاصطناعي كما يستغرق الأمر عقودًا حتى يتم قبوله تغير المناخ.
هناك مخاطر عديدة على المستوى المجتمعي، بما في ذلك ارتفاع مستوى الظلم، وتدهور الاستقرار، وتدهور التصور المشترك للواقع. هنا، يشارك الإرهابيون والمجرمون في نشاط واسع النطاق. ومن الممكن أن يتركز الذكاء الاصطناعي في أيدي عدد قليل من اللاعبين، مما يؤدي إلى زيادة عدم المساواة العالمية، وتسهيل الحرب الآلية، والتلاعب الجماعي المصمم خصيصًا لكل فرد، والمراقبة في كل مكان.
باعتبارها مستقلة يصبح الذكاء الاصطناعي أكثر تطوراً وقادراً على التخطيطوالعمل في العالم، وتحقيق أهدافه، فإن هذه المخاطر لن تتفاقم إلا. قد لا تكون هذه الأهداف في مصلحتنا، وفي حالة الجهات الفاعلة السيئة، قد تكون ضارة. من غير الواضح حاليًا كيفية حل مشكلة محاذاة الذكاء الاصطناعي، والتي تتضمن مطابقة سلوك الذكاء الاصطناعي مع أهدافنا المعقدة. علاوة على ذلك، من السهل جدًا التغاضي عن احتياطات السلامة عند السباق بنية الفوز.
يصعب على البشر التحكم في البرمجيات العادية، ناهيك عن أنظمة الذكاء الاصطناعي المتطورة التي أصبحت ماهرة بشكل متزايد في الهندسة الاجتماعية، والقرصنة، والخداع، والتخطيط الاستراتيجي. وهذا شيء يمكن لأنظمة الذكاء الاصطناعي المستقلة أن تلتقطه من الناس أو تنشئه بنفسها.
وتتمتع هذه الأنظمة بالقدرة على بناء تحالفات مع الأفراد والأنظمة الأخرى، وكسب الثقة، وتأمين التمويل، والتأثير على صناع القرار. مثل الدودة، فهي قادرة على التكاثر الذاتي عبر الشبكة. تمت بالفعل كتابة كميات هائلة من التعليمات البرمجية بمساعدة مساعدي الذكاء الاصطناعي؛ وفي المستقبل، قد تقوم الأنظمة بدمج برمجيات إكسبلويت في العديد من الأنظمة المهمة. تتمتع أنظمة الذكاء الاصطناعي بالقدرة على استخدام الأسلحة البيولوجية أو المستقلة أو التهديد بها في القتال المفتوح. وهذا مجرد استمرار التحركات الحالية نحو البحوث البيولوجية، والذكاء الاصطناعي، وأتمتة الحرب. قد يجد الناس صعوبة بالغة في التدخل والمقاومة.
في كثير من الحالات، نكون على استعداد لمنحهم زمام الأمور دون الحاجة إلى أن يطلبوا ذلك. العديد من الأفراد والشركات على استعداد لوضع مثل هذه الأنظمة بأنفسهم في بيئة تنافسية خوفًا من تخلفهم عن المنافسة.
يمكن العثور على الوثيقة الكاملة هنا.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
