هشدار رهبران هوش مصنوعی در مورد خطرات فزاینده و نگرانی های اخلاقی در پیشرفت های سریع
در بیانیه سیاست اخیر، چهره های برجسته در زمینه هوش مصنوعی، از جمله Bengio، Hinton، Russell، Harari و Kahneman، زنگ خطر را در مورد پیشرفت سریع و خطرات اجتماعی رو به رشد مرتبط با هوش مصنوعی به صدا درآورده اند.
هوش مصنوعی به سرعت در حال توسعه است. GPT-2 چهار سال پیش نمیتوانستیم از 0 تا 100 بشمارم، اما مدلهای مدرن میتوانند کد بنویسند، تصاویر شگفتانگیزی بسازند و راهنماییهای فکری ارائه دهند. و از آنجا که ما در یک مسابقه هستیم، پیشرفت می تواند سرعت بیشتری داشته باشد. علاوه بر این، هوش مصنوعی با کمک به برنامهنویسی سیستمهای جدید و جمعآوری دادهها برای آموزش آنها سریعتر پیشرفت میکند.
هنگامی که پیشرفت به سطوح انسانی رسید، هیچ دلیلی وجود ندارد که فکر کنیم کند می شود یا متوقف می شود. در مناطق خاصی، سیستمهای مصنوعی در این زمینه از انسان بهتر عمل کردهاند قابلیت هایی مانند پردازش سریعتر سرعت، ظرفیت پردازش داده بیشتر و مقیاس پذیری در مقیاس بزرگ. کسب و کارها دارای امکانات مالی برای اجرای برنامه های آموزشی هستند که بسیار فراتر از سقف فعلی است.
نویسندگان فکر می کنند که شانس خوبی وجود دارد که یک متخصص عمومی هوش مصنوعی بهتر در ده سال آینده یا بیشتر ظاهر شود. فراتر از توانایی های انسانی در بسیاری از حوزه های مهم
در ادامه چه اتفاقی قرار است بیفتد؟ همه زندگی ها می توانند بهبود یابند اگر به درستی مدیریت و توزیع شوند. گزینه بد انتخاب شده مستلزم خطرات قابل توجهی است که ما برای آنها آمادگی کافی نداریم. به جای تخصیص به ایمنی و پیشگیری از آسیب، منابع قابل توجهی برای ساختن سیستمهای هوش مصنوعی قویتر استفاده میشود. این باید تغییر کند؛ دنبال کردن مهارت ها به خودی خود کافی نیست. و این روند بیش از حد انتظار طول می کشد. ما باید با پیشبینی تشدید تهدیدات فعلی و ظهور تهدیدهای جدید، برای ریسکهای بالاتر برنامهریزی کنیم. ما به اندازه ای که چندین دهه طول می کشد تا در رابطه با هوش مصنوعی پذیرفته شود، زمان کافی برای هوش مصنوعی نداریم. تغییر آب و هوا.
خطرات متعددی در سطح اجتماعی وجود دارد، از جمله افزایش بی عدالتی، وخامت ثبات، و زوال درک رایج از واقعیت. در اینجا تروریست ها و جنایتکاران فعالیت گسترده ای دارند. هوش مصنوعی میتواند در دستان تعداد کمی از بازیکنان متمرکز شود، که منجر به افزایش نابرابری جهانی، تسهیل جنگ خودکار، دستکاری انبوه متناسب با هر فرد، و نظارت فراگیر شود.
به عنوان خودمختار هوش مصنوعی پیچیده تر می شود و قادر به برنامه ریزی استدر جهان عمل کند و به اهداف خود دست یابد، این خطرات فقط افزایش خواهند یافت. این اهداف ممکن است به نفع ما نباشد و در مورد بازیگران بد، حتی ممکن است مضر باشد. در حال حاضر مشخص نیست که چگونه می توان مشکل AI Alignment را که شامل تطبیق رفتار هوش مصنوعی با اهداف پیچیده ما است، حل کرد. علاوه بر این، نادیده گرفتن اقدامات احتیاطی ایمنی هنگام مسابقه با قصد برنده شدن بسیار ساده است.
کنترل نرم افزارهای معمولی برای انسان دشوار است، چه رسد به سیستم های پیشرفته هوش مصنوعی که به طور فزاینده ای در مهندسی اجتماعی، هک، فریب و برنامه ریزی استراتژیک ماهر می شوند. این چیزی است که سیستمهای هوش مصنوعی مستقل میتوانند از مردم دریافت کنند یا به تنهایی ایجاد کنند.
این سیستم ها توانایی ایجاد ائتلاف با افراد و سایر سیستم ها، جلب اعتماد، تامین منابع مالی و تحت تاثیر قرار دادن تصمیم گیرندگان را دارند. مانند یک کرم، آنها قادر به تکرار خود در سراسر شبکه هستند. حجم عظیمی از کد در حال حاضر با کمک دستیاران هوش مصنوعی نوشته شده است. در آینده، سیستم ها ممکن است اکسپلویت ها را در بسیاری از سیستم های حیاتی بگنجانند. سیستمهای هوش مصنوعی توانایی استفاده یا تهدید سلاحهای بیولوژیکی یا خودمختار را در نبردهای آزاد دارند. این صرفاً ادامه آن است جنبش های فعلی به سمت تحقیقات بیولوژیکی، هوش مصنوعی و اتوماسیون جنگ. برای مردم ممکن است قدم گذاشتن و مقاومت بسیار چالش برانگیز باشد.
در بسیاری از موارد، ما حاضریم بدون اینکه آنها بخواهند، افسار را به آنها بدهیم. بسیاری از افراد و کسبوکارها به دلیل نگرانی از عقب ماندن از رقابت، مایلند چنین سیستمهایی را خودشان در یک محیط رقابتی راهاندازی کنند.
سند کامل را می توان یافت اینجا کلیک نمایید.
رفع مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
