آوریل 07، 2023

دن هندریکس: انتخاب بین هوش مصنوعی و انسان، تکامل ما را انتخاب نخواهد کرد

تاریخ انتشار: 07 آوریل 2023 ساعت 5:00 بروزرسانی: 13 آوریل 2023 ساعت 2:34

به طور خلاصه

تحقیق دن هندریکس "انتخاب طبیعی هوش مصنوعی را به مردم ترجیح می دهد" نتیجه گیری ترسناکی است.

او محققی با تجربه و شناخته شده است که ده ها مقاله علمی در زمینه ارزیابی امنیت سیستم های هوش مصنوعی منتشر کرده است.

تحقیقات دن هندریکس مانند حکم اعدام برای انسان خردمند به نظر می رسد. نتیجه گیری از مطالعه "انتخاب طبیعی هوش مصنوعی را بر انسان ترجیح می دهد” واقعاً ترسناک است. این نه توسط یک رویاپرداز محبوب مانند دن براون، بلکه توسط دن هندریکس، مدیر مرکز امنیت هوش مصنوعی کالیفرنیا (CAIS)، یک سازمان غیرانتفاعی متخصص در تحقیق و کار میدانی در امنیت هوش مصنوعی نوشته شده است.

دن هندریکس یک دیوانه حاشیه ای نیست که از پیشرفت های هوش مصنوعی وحشت زده باشد. او یک محقق باتجربه و بسیار مورد احترام است که ده ها مقاله علمی در مورد ارزیابی امنیت سیستم های هوش مصنوعی منتشر کرده است – آزمایش میزان مهارت آنها در کدنویسی، استدلال، درک قوانین و غیره. از جمله، او مخترع مشترکی نیز هست. واحدهای خطای خطی گاوسی (GELU).

دن هندریکس: انتخاب بین هوش مصنوعی و انسان، تکامل ما را انتخاب نخواهد کرد — دن هندریکس (berkeley.edu)

جک کلارک، یکی از بنیانگذاران ChatGPT رقیب Anthropic، رئیس مشترک شاخص هوش مصنوعی دانشگاه استنفورد، رئیس مشترک بخش هوش مصنوعی و محاسبات OECD و عضو کمیته مشاوره ملی دولت ایالات متحده در زمینه هوش مصنوعی در مورد نتیجه‌گیری مطالعه هندریکس بحث می‌کند. «مردم به طور انعکاسی می‌خواهند چنین جمله‌ای را کنار بگذارند که از یک دیوانه چشم وحشی که در کلبه‌ای جنگلی زندگی می‌کند. من می خواهم پیشاپیش این موضوع را رد کنم. زمانی که یک متخصص که نه تنها در تحقیقات هوش مصنوعی بلکه در ارزیابی ایمنی سیستم های هوش مصنوعی مقاله ای می نویسد و استدلال می کند که سیستم های هوش مصنوعی آینده ممکن است خودخواهانه عمل کنند و مطابق با منافع مردم نباشند، ما باید مراقب آن باشیم!

خلاصه ای از مقاله هندریکس:

اگر عوامل هوش مصنوعی بیشتر شوند باهوش از انسان، این می تواند منجر به از دست دادن کنترل بشریت بر آینده خود شود.
این شانس خوبی دارد که نه در نتیجه نیت مخرب خاص افراد یا ماشین‌ها، بلکه صرفاً در نتیجه کاربرد اصول تکاملی توسعه در هوش مصنوعی مطابق با منطق داروینی اتفاق بیفتد.
برای به حداقل رساندن این خطر، انگیزه‌های درونی عوامل هوش مصنوعی باید با دقت طراحی شوند، محدودیت‌هایی برای اعمال آن‌ها اعمال شود و مؤسساتی برای تشویق همکاری هوش مصنوعی ایجاد شوند.

مهم ترین نکاتی که هندریکس در مقاله علمی 43 صفحه ای خود بیان می کند:

1. ما از رسیدن ترمیناتور می ترسیدیم، اما پایه های این ترس ها اشتباه بود. دو تا خطا وجود داشت:

آ. انسان‌سازی هوش مصنوعی با نسبت دادن انگیزه‌های ما به آن، و غیره ChatGPT نشان داد، هوش مصنوعی یک ذهن اساسا متفاوت است، با تمام عواقب ناشی از آن.

ب این ایده که هوش مصنوعی نوعی موجودیت واحد است: باهوش یا نه خیلی باهوش، مهربان یا نه خیلی مهربان، اما در واقع، این موجودات هوش مصنوعی بسیار متفاوت به زودی تا حد امکان در جهان خواهند بود.

2. یک نقص اساسی دیگر در ایده های ما در مورد آینده با هوش مصنوعی وجود دارد - ما مهم ترین مکانیسم توسعه را فراموش کردیم - تکامل، که باعث توسعه نه تنها عوامل زیستی، بلکه همچنین ایده ها و معانی، ابزارهای مادی و نهادهای غیر مادی می شود.

3. محیطی در زمین شروع به شکل گیری کرده است که در آن بسیاری از هوش مصنوعی توسعه و تکامل خواهند یافت. این تکامل بر اساس منطق داروین، از طریق رقابت هوش مصنوعی بین خود، با در نظر گرفتن منافع موسسات "والدین" آنها: شرکت ها، ارتش و غیره پیش خواهد رفت.

4. منطق تکامل رقابتی به همان چیزی منجر می شود که در انسان ها وجود دارد: عوامل هوش مصنوعی به طور فزاینده ای خودخواه تر و آماده دستیابی به اهداف با فریب و زور هستند که هدف اصلی آن قدرت است.

5. انتخاب طبیعی عوامل هوش مصنوعی، گونه های خودخواه تر را به گونه های نوع دوست تر ترجیح می دهد. عوامل هوش مصنوعی رفتار خودخواهانه ای خواهند داشت و منافع خود را بدون توجه کمی به انسان ها دنبال می کنند، که می تواند خطرات فاجعه باری برای بشریت ایجاد کند.

تقاضا برای توقف توسعه سیستم های هوش مصنوعی پیشرفته تر از GPT-4 جامعه را دو قطبی کرده است. گروه اول معتقدند که نمی توان جلوی پیشرفت را گرفت، در حالی که گروهی دیگر معتقدند پیشرفت و گاهی باید متوقف شود. دسته سوم نمی فهمند چگونه GPT-4 در وهله اول عمل می کند. مهمترین جزئیات در این متن این است که هوش مصنوعی هیچ آگاهی، اراده یا اختیاری ندارد و حتی بدون افراد بدخواه نیز می تواند بد باشد.
جفری هینتون اغلب "پدرخوانده هوش مصنوعی" نامیده می شود و به عنوان یک چهره برجسته در جامعه یادگیری عمیق شناخته می شود. مصاحبه 40 دقیقه ای او با ChatGPT از این جهت منحصر به فرد است که درک آن آسان است و عمق درک آن برای افراد کمی قابل دسترسی است. او اهمیت «انقلاب روشنفکری» جاری و هوش غیرانسانی آن را برجسته می‌کند ChatGPTکه مبتنی بر یک عامل هوشمند مصنوعی با قابلیت های پیشرفته ارتباط دیجیتال است.

مقالات مرتبط بیشتر را بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف