کارشناسان هوش مصنوعی و چهره های عمومی هشدارهایی را در مورد خطر انقراض هوش مصنوعی به صدا در می آورند
به طور خلاصه
کارشناسان برجسته هوش مصنوعی و چهره های تاثیرگذار اشتراک خود را بیان می کنند نگرانی در مورد خطرات مرتبط با هوش مصنوعی.
با وجود پیشرفت قابل توجه در هوش مصنوعی، بسیاری از چالش های مرتبط با ریسک هوش مصنوعی حل نشده باقی مانده اند.
کارشناسان برجسته هوش مصنوعی و شخصیت‌های عمومی بیانیه‌ای صادر کرده‌اند و هشدار داده‌اند که هوش مصنوعی می‌تواند خطری برای بقای بشریت باشد، قابل مقایسه یا حتی بیشتر از خطرات همه‌گیری و جنگ هسته‌ای. 350 امضاکننده استدلال می‌کنند که هوش مصنوعی می‌تواند عواقب غیرقابل پیش‌بینی و فاجعه‌باری داشته باشد، مانند شلیک سلاح‌های خودمختار، اختلال در سیستم‌های اجتماعی و اقتصادی، یا ایجاد عوامل فوق‌هوشمند که می‌توانند بر انسان‌ها غلبه کنند.
آنها از سیاستگذاران می خواهند که این خطرات را جدی بگیرند و اقداماتی را برای اطمینان از توسعه ایمن و سودمند هوش مصنوعی اتخاذ کنند. این بیانیه توسط برخی از چهره های پیشرو در تحقیق و توسعه هوش مصنوعی، مانند OpenAI مدیر عامل شرکت سام آلتمن، یکی از بنیانگذاران اسکایپ جان تالین، مدیر عامل DeepMind، دمیس حسابیس، و دانشمند کامپیوتر هوش مصنوعی جفری هینتون، و همچنین شخصیت های عمومی تأثیرگذار، مانند گریمز، موسیقیدان و سام هریس، پادکست.
جفری هینتون و یوشوا بنجیو در میان امضا کنندگان برندگان جایزه تورینگ 2018 به دلیل مشارکت در یادگیری عمیق بودند. اساتیدی از دانشگاه های معتبری مانند هاروارد و دانشگاه تسینگهوا در چین و همچنین مکس تگمارک از MIT به آنها پیوستند.
کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند بیماری های همه گیر و جنگ هسته ای یک اولویت جهانی باشد.
در نامه منتشر شده توسط CAIS آمده است.
مرکز ایمنی هوش مصنوعی (CAIS)یک سازمان غیرانتفاعی مستقر در سانفرانسیسکو، با هدف رسیدگی به نگرانی های ایمنی مرتبط با هوش مصنوعی است. در حالی که CAIS مزایای بالقوه هوش مصنوعی را می شناسد، بر نیاز به توسعه و استفاده ایمن از آن تاکید می کند. این شرکت معتقد است با وجود پیشرفت های قابل توجه در هوش مصنوعی، چالش های اساسی متعددی در ایمنی هوش مصنوعی حل نشده باقی مانده است. طبق وب سایت خود، ماموریت CAIS کاهش خطرات با انجام تحقیقات ایمنی، پرورش جامعه ای از محققان ایمنی هوش مصنوعی و حمایت از استانداردهای ایمنی است.
"خطرات مهم و فوری ناشی از هوش مصنوعی" نه فقط خطر انقراض وجود دارد. به عنوان مثال، سوگیری سیستمی، اطلاعات غلط، استفاده مخرب، حملات سایبری، و تسلیحات. اینها همه خطرات مهمی هستند که باید مورد توجه قرار گیرند. جوامع می توانند چندین ریسک را به طور همزمان مدیریت کنند. این "یا/یا" نیست بلکه "بله/و" است. از منظر مدیریت ریسک، همانطور که اولویت بندی انحصاری آسیب های فعلی بی پروا است، نادیده گرفتن آنها نیز بی پروا خواهد بود.
دن هندریکس، مدیر CAIS نوشت در توییتر.
در ماه مارس، بیش از 1,100 متخصص فناوری امضاء شده نامه سرگشاده ای که خواستار توقف شش ماهه آموزش سیستم های هوش مصنوعی بود GPT-4. قانونگذاران اروپایی نیز اخیرا تایید کرد پیش نویس قوانین سختگیرانه تر، معروف به قانون هوش مصنوعی، ابزارهای هوش مصنوعی مانند ChatGPT. این قانون شامل الزاماتی برای بررسی های ایمنی، حاکمیت داده ها و کاهش ریسک برای مدل های پایه هوش مصنوعی است و اقداماتی مانند تکنیک های دستکاری و استفاده های خاص از بیومتریک را ممنوع می کند.
ادامه مطلب:
- OpenAI از جدیدترین رویکرد خود برای تضمین ایمنی هوش مصنوعی رونمایی می کند
- آیا گوگل قصد دارد یک تولید کننده متن به آواتار برای گیمرها معرفی کند؟
- CodeWhisperer آمازون به توسعه دهندگان مزیتی را که در عرصه هوش مصنوعی نیاز دارند می دهد
- ویتالیک بوترین و مدیر MIRI نیت سوآرس به بررسی خطرات هوش مصنوعی می پردازند
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
مقالات بیشتر
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
