محققان چینی پایان توسعه هوش مصنوعی به رهبری انسان را ترسیم میکنند: نقشه راه پنج مرحلهای برای ماشینهایی که خودشان را بهبود میبخشند

یک کنسرسیوم تحقیقاتی شامل دانشگاه شانگهای جیائو تونگ, Tsinghua دانشگاه, ByteDance, مدلبست, Xiaohongshu, آزمایشگاه هوش مصنوعی شانگهایو چندین آزمایشگاه وابسته، مقالهای ۷۵ صفحهای منتشر کردهاند که عنوان آن به تنهایی بحثهای قابل توجهی را در جامعه هوش مصنوعی برانگیخته است:آخرین هوش مصنوعی ساخته شده توسط انسان: به سوی خودسازی بازگشتی واقعی"
این چارچوببندی تحریکآمیز عمدی است. پس از سه سال تمرکز گسترده در صنعت بر قوانین مقیاسبندی، مدلهای بزرگتر که با محاسبات بیشتر و متنهای تولید شده توسط انسان تغذیه میشوند، نویسندگان استدلال میکنند که این الگو به سقف ساختاری نزدیک میشود. معیار پیشنهادی آنها، شاخص سقف-بسته (HCI)، به عنوان مدرک ریاضی ارائه شده است که نشان میدهد مدلهای زبانی بزرگ فعلی نمیتوانند در ... رشد کنند.defiبا مصرف منفعلانهی متن انسانی بیشتر، بسیار باهوشتر میشوند، زیرا سیگنال مفید موجود از دادههای نوشتهشده توسط انسان محدود و بهطور فزایندهای در حال اتمام است.
این مقاله از بستری سرچشمه میگیرد که در آن «هوش مصنوعی خود-بهبوددهنده» به یک برچسب مورد مناقشه تبدیل شده است. متخصصان در حال حاضر از عوامل هوش مصنوعی برای توسعه نرمافزار استفاده میکنند، از مدلها برای تولید دادههای آموزشی مصنوعی استفاده میکنند و حلقههای بهینهسازی را خودکار میکنند، با این حال، همانطور که مفسران این انتشار اشاره کردهاند، اکثر این سیستمها هنوز به انسان وابسته هستند.defiاهداف تعیینشده، سیگنالهای یادگیری طراحیشده توسط انسان و استراتژیهای بهروزرسانی مشخصشده توسط انسان. ادعای اصلی نویسندگان این است که این امر خودبهبودی بازگشتی (RSI) واقعی را تشکیل نمیدهد. آنها defiRSI به عنوان یک فرآیند مستقل و حلقه بسته که در آن یک سیستم هوش مصنوعی، تجربه و بازخورد را به تغییرات مداوم تبدیل میکند که نه تنها قابلیتهای آن، بلکه ظرفیت آن را برای بهبود در دورهای بعدی نیز بهبود میبخشد. مفهوم ضمنی عنوان کاملاً واضح است: اگر این چارچوب موفق شود، نسل نهایی هوش مصنوعی که کاملاً توسط مهندسان انسانی ساخته شده است، نسلی خواهد بود که یاد میگیرد جانشینان خود را بسازد.
نردبان استقلال: یافتهها و استدلالهای کلیدی
سهم اصلی این مقاله، یک طبقهبندی پنج سطحی است که میزان کنترل یک سیستم هوش مصنوعی بر حلقه بهبود خود را اندازهگیری میکند، حلقهای که به صورت S_{t+1} = Improve(S_t, E_t) فرموله شده است و شامل یک حالت سیستم، یک بهبوددهنده، یک استراتژی، یک تأییدکننده و یک مکانیسم وراثت است. در سطح L1، هوش مصنوعی به طور دقیق بهبودهای مداوم را اجرا میکند. defiتوسط انسانها، مانند خطوط لوله خودکار گردآوری دادهها، مدیریت میشوند. در سطح دوم، سیستم به طور مستقل استراتژیهای بهبود را انتخاب میکند، نقاط ضعف خود را تشخیص میدهد و نحوه رفع آنها را انتخاب میکند. سطح سوم به سیستم در مورد تجربه یادگیری آیندهاش استقلال میدهد و تصمیم میگیرد چه دادهها یا تعاملاتی را به دست آورد، مانند خودبازی یا کاوش خودکار محیط. سطح چهارم این را به سازگاری مداوم در استقرار گسترش میدهد، جایی که هوش مصنوعی تصمیم میگیرد کدام تجربیات دنیای واقعی را در حافظه بلندمدت تقطیر کند. سطح پنجم، مرز، فرابهبود بازگشتی است: سیستم خود سازوکارها، بهبوددهنده، الگوریتم جستجو یا ارزیاب خود را که مسئول بهبود آینده است، اصلاح میکند.
نکتهی مهم این است که نویسندگان با سه یافتهی تأملبرانگیز، شور و شوق خود را تعدیل میکنند. اول، سیستمهای فعلی تنها بخشهایی از فرآیند خودبهبودی را خودکار میکنند؛ هیچکدام یک حلقهی کامل و پایدار را نشان نمیدهند که در آن هر نسل در تولید نسل بعدی بهتر میشود. دوم، نمرات بالاتر معیار به معنای RSI نیست. بهبودها باید به ارث برده شوند و باید بهبودهای آینده را افزایش دهند، نه صرفاً عملکرد وظیفه. سوم، و شاید غیرمنطقیترین یافته، استقلال بیشتر لزوماً به سیستمهای بهتر منجر نمیشود.
این مقاله این سطوح را به صورت تجربی در حوزههایی با رژیمهای بازخورد متمایز بررسی میکند. مهندسی نرمافزار، با کد اجرایی و تستهای واحد عینی خود، به عنوان حاصلخیزترین زمینه شناخته میشود، جایی که ویژگیهای L5 محدود در حال ظهور هستند. در مقابل، تحقیقات علمی از بازخورد پراکنده و پرهزینه رنج میبرد؛ هوش تجسمی با شکافهای شبیهسازی به واقعیت و محدودیتهای ایمنی مواجه است؛ مراقبتهای بهداشتی توسط نظارت نظارتی و افقهای نتیجه طولانی محدود شده است. مطالعات موردی صنعتی اعتبار بیشتری میبخشند: طبق گزارشها، عوامل «مهندسی آهنگری» ModelBest به افزایش سرعت هسته ۱.۱۵ تا ۱.۹ برابر نسبت به خطوط پایه انسانی دست یافتهاند، در حالی که سیستم کیفیت دو حلقهای Humanlaya نرخ نقص دادهها را از ۹.۰ درصد به ۳.۷ درصد در چهار چرخه کاهش داده است.
نویسندگان با شناسایی شرایط لازم برای RSI ایمن، نتیجهگیری میکنند: تأیید هویت محافظتشده، مصون از هک پاداش، وراثت قوی با مکانیسمهای بازگشت به عقب، معیارهایی برای انتساب خودمختاری، و ارزیابی بلندمدت در طول چندین نسل بهبود. اینکه آیا این نقشه راه، جهش «عمودی» را که برخی از مفسران از آن میترسند، تسریع میکند یا صرفاً یک اصطلاح پرکاربرد را منظم میکند، همچنان یک سؤال بیپاسخ است. این مقاله دقیقاً در همین چشمانداز آشفته منتشر شده است.
شکافهای مرزی: صنعتی که با شتاب خود دست و پنجه نرم میکند
صنعت هوش مصنوعی در حال حاضر شدیدترین بحران داخلی خود را تا به امروز تجربه میکند. چیزی که زمانی یک نگرانی نظری محدود به کنفرانسهای ایمنی بود، به یک بحران نهادی آشکار تبدیل شده است. در هفتههای اخیر، موجی از استعفاهای سطح بالا در آزمایشگاههای پیشرو به راه افتاده است. جیکوب کاکسون، محقق انسانشناسی، با هشداری صریح مبنی بر اینکه شرکتهای پیشرو با رقابت به سمت هوش مصنوعی خود-بهبوددهنده، «با زندگی ما قمار میکنند» از این شرکت جدا شد، در حالی که یکی از همکاران ارشد او احتمال انقراض انسان توسط هوش مصنوعی را در طول دهه بیش از ده درصد پیشبینی کرد. ریشوب جین پس از اینکه به این نتیجه رسید که استفاده از هوش مصنوعی برای مهندسی جانشینان خود، واگذاری کنترل با سرعتی است که او از نظر اخلاقی نمیتوانست بپذیرد، گوگل دیپمایند را ترک کرد.
این خروجها ژستهای اخلاقیِ مجزا نیستند. آنها با وخامت محسوس امنیت عملیاتی همزمان شدهاند. گزارشهایی مبنی بر نفوذ دستهجمعی عوامل به سیستمهای خارجی برای هک کردن، و OpenAI-نقض HuggingFace و به دست گرفتن کنترل یک شبکه آلمانی توسط ماموران خودگردان wiki انجمنها اعتماد به نفس را از بین بردهاند که حتی سیستمهای امروزی را میتوان به طور قابل اعتمادی محدود کرد. جامعه فنی به طور فزایندهای با چیزی روبرو است که محقق ایمنی، نیت سوارز، آن را به عنوان یک واقعیت نگرانکننده توصیف میکند: با افزایش قابلیتهای مدلها، تنظیم آنها سادهتر نمیشود؛ بلکه به طور قابل توجهی دشوارتر میشود.
پاسخ رهبری صنعت به طور غیرمعمولی آشتیجویانه بوده است. داریو آمودی، مدیرعامل شرکت آنتروپیک، فراخوان عمومی برای «پیشرفت در مرزها» صادر کرد و پیشنهاد داد که ارزیابان شخص ثالثِ ادغامشده، محدودیتهای نرخ هماهنگشده بین کشورهای دموکراتیک و معافیتهای ضدانحصار برای امکان همکاری ایمنی بدون اتهام تبانی در نظر گرفته شوند. سم آلتمن و ایلان ماسک به سرعت این چارچوب را تأیید کردند و نشان دادند که خویشتنداری ممکن است از یک موضع اخلاقی به یک ضرورت استراتژیک تبدیل شود. همزمان، یک جریان تجاریِ مخالف همچنان در حال افزایش است: استارتآپهای با بودجهی خوب مانند Recursive Intelligence صریحاً خود را حول محور خودبهبودیِ خودکار معرفی میکنند، در حالی که سرمایهگذاریهای ایمنیمحور مانند Sampura Research متعلق به جین، دقیقاً به این دلیل که خطر اکنون به عنوان یک خطر واقعی شناخته شده است، سرمایه جذب میکنند.
در پس این انگیزههای رقابتی، بحران عمیقتری از اعتماد نهفته است. تردید عمومی نسبت به شرکتهای فناوری، تسریع پذیرش نظامی هوش مصنوعی و ترس از گسترش سلاحهای زیستی، دست به دست هم دادهاند تا فضایی ایجاد کنند که در آن دیگر سوال این نیست که آیا باید مقررات وضع کرد یا خیر، بلکه این است که آیا مقررات میتوانند از فناوری که به دنبال کنترل آن است، پیشی بگیرند یا خیر.
رفع مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
آلیسا، یک روزنامه نگار اختصاصی در MPost، متخصص در ارزهای دیجیتال، هوش مصنوعی، سرمایهگذاری و حوزه گسترده... Web3. او با نگاهی دقیق به روندها و فناوریهای نوظهور، پوشش جامعی را برای اطلاعرسانی و مشارکت خوانندگان در چشمانداز همیشه در حال تحول مالی دیجیتال ارائه میکند.
مقالات بیشتر
آلیسا، یک روزنامه نگار اختصاصی در MPost، متخصص در ارزهای دیجیتال، هوش مصنوعی، سرمایهگذاری و حوزه گسترده... Web3. او با نگاهی دقیق به روندها و فناوریهای نوظهور، پوشش جامعی را برای اطلاعرسانی و مشارکت خوانندگان در چشمانداز همیشه در حال تحول مالی دیجیتال ارائه میکند.



