کارشناسان فنی نامه سرگشاده ای را امضا کردند و خواستار توقف موقت آموزش سیستم های هوش مصنوعی پیشرفته تر از آن شدند GPT-4
به طور خلاصه
بیش از 1100 امضاکننده نامه سرگشاده را امضا کرده اند که خواستار توقف آزمایش های غول پیکر هوش مصنوعی شده است.
امضاکنندگان شامل ایلان ماسک، استیو وزنیاک و عماد مستاک و دیگران هستند.
این نامه سرگشاده نگرانی هایی را در مورد سوگیری های اطلاعاتی توسط هوش مصنوعی ایجاد کرد. اتوماسیون شغلی و خطر هوش مصنوعی بر تمدن بشری.
بیش از 1,100 امضاکننده، از جمله کارشناسان برجسته فناوری، یک قرارداد را امضا کرده اند نامه سر گشاده خواستار توقف شش ماهه در آموزش سیستم های هوش مصنوعی پیشرفته تر از GPT-4.
این نامه توسط مؤسسه آینده زندگی نوشته شده است، یک سازمان غیرانتفاعی که برای کاهش خطرات فاجعه بار و وجودی جهانی پیش روی بشریت، به ویژه خطر وجودی ناشی از هوش مصنوعی پیشرفته کار می کند.
در این نامه با استناد به اصول هوش مصنوعی Asilomar که به طور گسترده تایید شده است، که بیان می کند که "هوش مصنوعی پیشرفته می تواند نشان دهنده یک تغییر عمیق در تاریخ حیات روی زمین باشد، و باید با دقت و منابع متناسب برنامه ریزی و مدیریت شود"، آمده است که سطح برنامه ریزی و مدیریت اتفاق نمی افتد
در ادامه نامه آمده است که آزمایشگاه‌های هوش مصنوعی در رقابتی «خارج از کنترل» برای توسعه هوش مصنوعی قدرتمندی هستند که هیچ‌کس نمی‌تواند آن را درک، پیش‌بینی یا کنترل قابل اعتمادی انجام دهد. همانطور که سیستم های هوش مصنوعی معاصر دوست دارند GPT-4 می توان رقابت با انسان ها در مورد وظایف عمومی، این نامه نگرانی هایی را در مورد سوگیری های اطلاعاتی توسط هوش مصنوعی، اتوماسیون شغلی، و خطر از دست دادن کنترل تمدن بشری ایجاد می کند.
ما از تمامی آزمایشگاه‌های هوش مصنوعی می‌خواهیم که بلافاصله آموزش سیستم‌های هوش مصنوعی را به مدت حداقل ۶ ماه متوقف کنند. GPT-4. این مکث باید عمومی و قابل تأیید باشد و همه بازیگران کلیدی را شامل شود. اگر چنین مکثی نمی‌تواند به سرعت اجرا شود، دولت‌ها باید وارد عمل شوند و تعلیق وضع کنند.»
نامه می گوید
این نامه از آزمایشگاه‌های هوش مصنوعی و کارشناسان فناوری درخواست می‌کند که از دوره توقف برای توسعه و پیاده‌سازی پروتکل‌های ایمنی برای طراحی و توسعه هوش مصنوعی پیشرفته استفاده کنند که به‌شدت توسط کارشناسان مستقل خارجی بررسی و نظارت می‌شوند.
با این حال، جف جارویس، روزنامه‌نگار آمریکایی از این نامه انتقاد کرد. گفته که این «نمونه اصلی هراس اخلاقی» است.
برخی از ذهن‌های برجسته در فناوری و یادگیری ماشینی که این نامه را در کنار دانشمندان پژوهشی DeepMind و چندین استاد دانشگاه از سراسر جهان امضا کرده‌اند عبارتند از:
- Yoshua Bengio، دانشگاه مونترال، برنده جایزه تورینگ برای توسعه یادگیری عمیق، رئیس موسسه مونترال برای الگوریتم های یادگیری
- استوارت راسل، برکلی، پروفسور علوم کامپیوتر، مدیر مرکز سیستم‌های هوشمند، و یکی از نویسندگان کتاب استاندارد «هوش مصنوعی: رویکردی مدرن»
- ایلان ماسک، مدیرعامل اسپیس ایکس، تسلا و توییتر
- عماد مستقيم مديرعامل Stability AI
- جان تالین، یکی از بنیانگذاران اسکایپ، مرکز مطالعات ریسک وجودی، موسسه آینده زندگی
- گری مارکوس، دانشگاه نیویورک، محقق هوش مصنوعی، پروفسور بازنشسته
- مارک روتنبرگ، رئیس مرکز هوش مصنوعی و سیاست دیجیتال (CAIDP).
در یک نامه اخیرروتنبرگ نوشت که CAIDP شکایتی به کمیسیون تجارت فدرال خواهد کرد و خواستار تحقیق در مورد هوش مصنوعی باز و ChatGPTو همچنین ممنوعیت انتشار تجاری بیشتر محصول تا زمانی که اقدامات حفاظتی ایجاد شود.
OpenAI مدیر عامل سام آلتمن دارد پذیرفته که "ما همچنین به زمان کافی نیاز داریم تا موسسات خود بفهمند چه کاری باید انجام دهند" و جامعه از ابزارهای مولد هوش مصنوعی "بالقوه ترسناک" دور نیست.
ما از FTC می خواهیم که «دکمه مکث» را بزند تا فرصتی برای نهادها، قوانین و جامعه ما وجود داشته باشد که به عقب برسند. ما باید پیش از از دست دادن کنترل خود، بر فناوری‌هایی که ایجاد می‌کنیم، نمایندگی داشته باشیم.» در نامه CAIDP آمده است.
در جای دیگر قانونگذاران اتحادیه اروپا قصد دارند تا پایان سال قراردادی با کشورهای اتحادیه اروپا برای اجرای قوانین هوش مصنوعی امضا کنند، اگرچه ممکن است با تشدید بحث ها در مورد نحوه اداره هوش مصنوعی به گلوگاهی برخورد کند.
ادامه مطلب:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
سیندی یک روزنامه نگار در Metaverse Post، پوشش موضوعات مرتبط با web3, NFT، متاورس و هوش مصنوعی، با تمرکز بر مصاحبه با Web3 بازیگران صنعت او با بیش از 30 مدیر اجرایی در سطح C صحبت کرده است و بینش ارزشمند آنها را برای خوانندگان به ارمغان آورده است. سیندی که اصالتاً اهل سنگاپور است، اکنون در تفلیس، گرجستان مستقر است. او دارای مدرک لیسانس در مطالعات ارتباطات و رسانه از دانشگاه استرالیای جنوبی است و یک دهه تجربه در روزنامه نگاری و نویسندگی دارد. از طریق با او در تماس باشید [ایمیل محافظت شده] با میزهای مطبوعاتی، اطلاعیه ها و فرصت های مصاحبه.
مقالات بیشتر
سیندی یک روزنامه نگار در Metaverse Post، پوشش موضوعات مرتبط با web3, NFT، متاورس و هوش مصنوعی، با تمرکز بر مصاحبه با Web3 بازیگران صنعت او با بیش از 30 مدیر اجرایی در سطح C صحبت کرده است و بینش ارزشمند آنها را برای خوانندگان به ارمغان آورده است. سیندی که اصالتاً اهل سنگاپور است، اکنون در تفلیس، گرجستان مستقر است. او دارای مدرک لیسانس در مطالعات ارتباطات و رسانه از دانشگاه استرالیای جنوبی است و یک دهه تجربه در روزنامه نگاری و نویسندگی دارد. از طریق با او در تماس باشید [ایمیل محافظت شده] با میزهای مطبوعاتی، اطلاعیه ها و فرصت های مصاحبه.
