فيتاليك بوتيرين ومدير MIRI نيت سواريس يتعمقان في مخاطر الذكاء الاصطناعي: هل يمكن للذكاء الاصطناعي أن يتسبب في انقراض الإنسان؟
في سطور
ناقش مؤسس Ethereum فيتاليك بوتيرين ومدير معهد أبحاث ذكاء الآلة نيت سواريس مخاطر الذكاء الاصطناعي في Zuzalu اليوم.
Zuzalu هو مجتمع مدينة منبثقة في الجبل الأسود بدأه بوتيرين وأقرانه في مجتمع التشفير.
في المناقشة ، شارك سواريس وجهة نظره حول سبب احتمال أن ينهي الذكاء الاصطناعي جميع أشكال الحياة على الأرض.
مؤسس Ethereum فيتاليك بوتيرين ومدير معهد أبحاث الذكاء الآلي (MIRI) نيت سواريس ناقش مخاطر الذكاء الاصطناعي في Zuzalu اليوم.
Zuzalu هو "مجتمع مدينة منبثقة" في الجبل الأسود بدأه بوتيرين وأقرانه في مجتمع التشفير الذي يمتد من 25 مارس إلى 25 مايو. ويجمع الحدث بين 200 مقيم أساسي لديهم رغبة مشتركة في التعلم والإبداع والعيش لفترة أطول وأكثر صحة حياة وبناء مجتمعات مكتفية ذاتيا. على مدار شهرين ، يستضيف المجتمع أيضًا عددًا من الأحداث حول مواضيع مختلفة مثل البيولوجيا التركيبية ، وتكنولوجيا الخصوصية ، والسلع العامة ، وطول العمر ، والحوكمة ، والمزيد.
• مناقشة افتتح مع Soares لتقديم عمله في MIRI ، وهي منظمة غير ربحية مقرها بيركلي والتي كانت موجودة لفترة أطول مما كان يديرها. على مدار العشرين عامًا الماضية ، كانت MIRI تحاول إرساء الأساس لضمان أن تطوير الذكاء الاصطناعي يسير على ما يرام. من خلال المناقشة ، كان فيتاليك يأمل في معالجة ما يجعل الذكاء الاصطناعي محفوفًا بالمخاطر بشكل فريد مقارنة بالتقنيات الأخرى التي تم إصدارها في تاريخ البشرية.
احتمالية تسبب الذكاء الاصطناعي في الانقراض البشري
قال فيتاليك إنه كان مهتمًا بموضوع مخاطر الذكاء الاصطناعي لفترة طويلة وتذكر أنه مقتنع بأن هناك احتمال 0.5٪ -1٪ أن كل الحياة على الأرض ستتوقف عن الوجود إذا حدث خطأ في الذكاء الاصطناعي - وهو خطر وجودي قد يسبب انقراض الجنس البشري أو انهيار الحضارة الإنسانية بشكل لا رجعة فيه.
من منظور سواريس ، يبدو الانقراض البشري نتيجة افتراضية للتطور غير الآمن لتكنولوجيا الذكاء الاصطناعي. بمقارنته بالتطور ، قال إن تطور البشرية يبدو أنه يحدث بشكل أسرع من مجرد تغيرات التطور. في كل من الذكاء الاصطناعي وعمليات التطور البشري ، كان التحسين المهيمن - عملية إيجاد أفضل حل لمشكلة ما عندما تكون هناك أهداف متعددة في الاعتبار - يتغير. وصل البشر إلى نقطة تمكنوا فيها من نقل المعرفة عبر الكلام الشفهي بدلاً من الحصول على المعلومات التي تم ربطها بجينات عبر الانتقاء الطبيعي.
"الذكاء الاصطناعي هو في النهاية حالة يمكنك من خلالها تبديل عملية التحسين العيانية مرة أخرى. أعتقد أنه يمكنك القيام بعمل أفضل بكثير من تحسين البشر. أعتقد أننا ما زلنا أغبياء عندما يتعلق الأمر بتحسين محيطنا. مع الذكاء الاصطناعي ، نحن نمر بمرحلة انتقالية من الأنواع حيث يكون التحسين الآلي هو القوة التي تحدد الميزات العيانية للكون "، أوضح سواريس.
وأضاف أن ما يبدو عليه هذا المستقبل هو ما تعمل عليه عملية التحسين على النحو الأمثل ، ومن المرجح أن يتوقف ذلك عن كونه مفيدًا للبشرية لأن معظم أهداف التحسين ليس لها مجال للبشر.
هل يستطيع البشر تدريب الذكاء الاصطناعي لفعل الخير؟
أشار بوتيرين إلى أن البشر هم من يدربون الذكاء الاصطناعي ويخبرونه بكيفية التحسين. إذا لزم الأمر ، يمكنهم تغيير طريقة تحسين الجهاز. إلى ذلك ، قال سواريس إنه من الممكن من حيث المبدأ تدريب الذكاء الاصطناعي على فعل الخير ، لكن مجرد تدريب الذكاء الاصطناعي لتحقيق هدف لا يعني أنه قد يفعل ذلك أو يريده ، ويتلخص في الرغبة.
عند توضيح نقطة حول التعلم المعزز في نماذج اللغة الكبيرة التي تحصل على كميات كبيرة من البيانات حول ماهية التفضيلات البشرية ، تساءل بوتيرين عن سبب عدم نجاحها ، حيث يتحسن الذكاء الحالي في فهم ماهية تفضيلاتنا.
"هناك فجوة كبيرة بين فهم دوافعنا وإعطاء الهراء ،"
ورد سواريس.
"ادعائي ليس أن نموذج اللغة الكبير أو الذكاء الاصطناعي لن يفهم التفاصيل الدقيقة للتفضيلات البشرية. ادعائي هو أن فهم التفاصيل الدقيقة للتفضيلات البشرية يختلف تمامًا عن التحسين من أجل الخير ".
أجرى أحد الجمهور مقارنة بين الذكاء الاصطناعي والبشر ، قائلاً إنه ، مثل الذكاء الاصطناعي ، يميل البشر إلى عدم فهم ما يفعلونه أو يتوقعونه ، وهو ما قد يكون خطيرًا أيضًا. ثم طلب من سواريس التظاهر بأنه أجنبي وشرح سبب عدم وجود بشر.
"لن أكون متحمسًا لمنح قوى إلهية والسيطرة على المستقبل لفرد واحد. بشكل منفصل ، سيكون من دواعي سروري أن أعطي القوة لفرد واحد من الذكاء الاصطناعي الذي يتم توزيعه بشكل عشوائي. أنا بالتأكيد لا أقول أنه لا ينبغي أن يكون لدينا ذكاء اصطناعي. أنا أقول إننا بحاجة إلى القيام بذلك بشكل صحيح. نحن بحاجة إلى جعلهم يهتمون بمستقبل مليء بالمرح والسعادة والحضارات المزدهرة حيث ينخرط ما بعد البشر في صفقات مبادلة إيجابية مع الأجانب وما إلى ذلك ، "أوضح سواريس. "إذا قمت ببناء عملية تحسين قوية تهتم بأشياء مختلفة ، فمن المحتمل أن يؤدي ذلك إلى تدمير جميع قيم الكون."
وأضاف أن الأشياء التي يقدّرها البشر ليست مقنعة عالميًا وأن الأخلاق ليست شيئًا يتابعه أي عقل يدرسه. بدلاً من ذلك ، إنها نتيجة الدوافع المضمنة في البشر والتي ، في بيئة الأجداد ، تجعلنا جيدين في التكاثر ونكون خاصين بالبشر.
في النهاية ، يعتقد سواريس أنه لا ينبغي لنا أن نبني شيئًا ذكيًا بالمثل أو حتى أكثر ذكاءً لا يتوافق مع المتعة والسعادة والمستقبل المزدهر. من ناحية أخرى ، قال أيضًا إنه لا ينبغي للبشرية أن تبني ذكاءً خارقًا ودودًا يحسن مستقبلًا ممتعًا في محاولته الأولى خلال سباق التسلح. على المدى القصير ، يجب أن يكون الذكاء الاصطناعي مكرسًا لمساعدة البشرية على شراء الوقت والمساحة لمعرفة ما يريدونه بالفعل.
ChatGPT لن تستهلك المحيط الحيوي بأكمله
نظرًا لأن الذكاء الاصطناعي يتم بناؤه حاليًا لتحقيق أهداف معينة ، بما في ذلك التنبؤ ، تساءل بوتيرين ، ماذا لو لم يكن الذكاء الاصطناعي مدفوعًا بالهدف؟ قال سواريس إنه من السهل بناء أنظمة ذكاء اصطناعي آمنة وغير قادرة ، وقد نمتلك قريبًا أنظمة ذكاء اصطناعي قادرة ولكنها تتابع أشياء مختلفة. لا يفكر ChatGPT سوف تستهلك المحيط الحيوي بأكمله لأنه ليس على هذا المستوى من القدرة.
أشار سواريس إلى أن معظم تطبيقات الذكاء الاصطناعي المثيرة للاهتمام ، مثل أتمتة التطوير والبحث العلمي والتكنولوجي ، يبدو أنها تتطلب سعيًا معينًا لتحقيق الأهداف.
"ليس من الخطأ أن تحصل عليه GPT لكتابة قصيدة هايكو أنيقة، لكن لا يمكنك الحصول عليها لكتابة رواية. ترتبط القيود المفروضة على الأنظمة الحالية بحقيقة أنها لا تسعى إلى تحقيق هذه الأهداف الأعمق، على الأقل بالنسبة لي.
اقرأ أكثر:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
سيندي صحفية في Metaverse Post، تغطي الموضوعات المتعلقة بـ web3, NFT، metaverse و AI ، مع التركيز على المقابلات مع Web3 لاعبين الصناعة. لقد تحدثت إلى أكثر من 30 مديرًا تنفيذيًا على مستوى C وما زال العدد في ازدياد، حيث قدمت أفكارهم القيمة للقراء. أصلها من سنغافورة، وتقيم سيندي الآن في تبليسي، جورجيا. حصلت على درجة البكالوريوس في الاتصالات والدراسات الإعلامية من جامعة جنوب أستراليا ولديها عشر سنوات من الخبرة في الصحافة والكتابة. تواصل معها عبر [البريد الإلكتروني محمي] مع المداخلات الصحفية والإعلانات وفرص المقابلات.
المزيد من المقالات
سيندي صحفية في Metaverse Post، تغطي الموضوعات المتعلقة بـ web3, NFT، metaverse و AI ، مع التركيز على المقابلات مع Web3 لاعبين الصناعة. لقد تحدثت إلى أكثر من 30 مديرًا تنفيذيًا على مستوى C وما زال العدد في ازدياد، حيث قدمت أفكارهم القيمة للقراء. أصلها من سنغافورة، وتقيم سيندي الآن في تبليسي، جورجيا. حصلت على درجة البكالوريوس في الاتصالات والدراسات الإعلامية من جامعة جنوب أستراليا ولديها عشر سنوات من الخبرة في الصحافة والكتابة. تواصل معها عبر [البريد الإلكتروني محمي] مع المداخلات الصحفية والإعلانات وفرص المقابلات.
