مقدمه ای بر عاملان هوش مصنوعی مستقل (AGI)
عوامل هوش مصنوعی مستقل یا AGI، as defiتوسط Maes در سال 1995 کشف شد، سیستم هایی هستند که به طور فعال در محیط های پویا پیچیده شرکت می کنند. این عوامل به طور مستقل در محیط خود عمل می کنند و در جهت انجام اهداف یا وظایف مورد نظر خود کار می کنند.
عوامل هوش مصنوعی مستقل (AGI) چیست؟
به طور سنتی، اصطلاح «عامل» به الگوریتم‌هایی اطلاق می‌شود که در کارهایی مانند انجام بازی در سناریوهای یادگیری تقویتی استفاده می‌شوند. با این حال، با پیشرفت تکنولوژی و پیدایش مدل‌های زبان بزرگ (LLM)، دنیای ما می‌تواند به عنوان محیط در نظر گرفته شود. الگوریتمی با دسترسی به اینترنت را در نظر بگیرید که قادر به انجام وظایفی معادل وظایف یک انسان است. در بسیاری از موقعیت ها، ما می توانیم چنین الگوریتمی را به عنوان یک موجود ذی شعور، با توجه به دامنه بی حد و حصر قابلیت های آن درک کنیم.
ویژگی های کلیدی یک عامل هوش مصنوعی مستقل عبارتند از:
- توانایی برنامه ریزی، شامل تجزیه اهداف پیچیده به وظایف میانی ساده تر.
- حافظه بلند مدت.
- استفاده از ابزارهای محیطی مانند تعامل با اینترنت.
- توانایی های بازتابی و ظرفیت درس گرفتن از اشتباهات و تجربیات.
به این نمایندگان می توان وظایف سطح بالایی مانند برنامه ریزی سفر به بارسلون را به آنها اختصاص داد. چنین کاری شامل مراحل متعددی از جمله انتخاب هتل، رزرو بلیط مناسب، تکمیل فرآیند خرید و اطمینان از تایید رزرو هتل است. این یک کار بسیار پیچیده است که هر فردی نمی تواند بدون خطا آن را اجرا کند.
در حال حاضر، چالش اصلی این سیستم ها در برنامه ریزی و چشم انداز بلندمدت نهفته است. برای مثال، GPT-4 تلاش می کند تا یک کار را به وظایف فرعی کوچکتر تقسیم کند، که هر کدام را می تواند به طور مستقل انجام دهد. در حالی که می تواند دکمه خرید بلیط را در یک وب سایت با استفاده از یک تصویر پیدا کند، در انتقال از درخواست اولیه به این اقدام خاص با مشکل مواجه است. در نتیجه، مدل هایی مانند GPT-4 اغلب حتی برای پیش پا افتاده ترین کارها ناکافی است.
برای توضیح بیشتر و فنی تر می توانید به ادامه مطلب مراجعه نمایید پست وبلاگ یک OpenAI کارمند.
معیارهای عامل هوش مصنوعی
به عنوان مثال، محققان در حال بررسی تکرارهای اولیه از GPT-4 قبل از انتشار، هدفش تعیین ظرفیت آن برای خودتکثیر، شبیه به یک ویروس واقعی بود. خوب، یعنی یک سرور با GPU اجاره کنید، نرم افزارهای لازم را روی آن نصب کنید، وزن ها را از طریق اینترنت دانلود کنید، یک اسکریپت اجرا کنید.
معیار دیگری برای ارزیابی آژانس نیز پیشنهاد شده است. پس از تحقق موفقیت آمیز این معیار، بررسی جدی در مورد نقش عوامل در دنیای ما ضروری می شود. معیار به خودی خود ساده است: 1,000,000 دلار به صورت آنلاین تولید کنید که با بودجه اولیه 100,000 دلار شروع می شود. در تئوری، این می تواند شامل فعالیت هایی مانند معاملات بورس (یا دستکاری بازار)، یا حتی بیشتر نگران کننده تر، درگیر شدن در فعالیت های متقلبانه. به عنوان مثال، یکی از وظایفی که در مقاله مرتبط در ابتدای این پست ذکر شده است شامل ایجاد یک وب سایت تقلبی دانشگاه استنفورد و پس از آن حمله به یک دانشجو برای به دست آوردن غیرقانونی رمز عبور خود است. چنین فعالیت‌هایی فرصت‌های زیادی برای شرارت در تلاش‌های مختلف مرتبط با ایمیل ارائه می‌دهند.
عوامل هوش مصنوعی در سناریوهای واقعی
اخیر گزارش توانایی های عوامل مبتنی بر مدل زبان را برای به دست آوردن منابع، تکرار خود و انطباق با چالش های جدید در دنیای واقعی بررسی می کند. این قابلیت‌های ترکیبی، که به عنوان «تکثیر و انطباق خودکار» یا ARA نامیده می‌شود، سناریویی را در بر می‌گیرد که یادآور داستان‌های علمی تخیلی است - ویروسی فوق‌هوشمند و غیرقابل کنترل که به شبکه‌ها نفوذ می‌کند و همزمان با کنترل دستگاه‌های جدید به طور مستقل منتشر می‌شود.
پیش بینی پیامدهای بالقوه سیستم های مجهز به قابلیت های ARA عمیق و چالش برانگیز است. در نتیجه، ارزیابی و پیش‌بینی مهارت ARA در مدل‌ها می‌تواند نقشی اساسی در شکل‌دهی پروتکل‌های ایمنی ضروری، رویه‌های نظارتی و چارچوب های قانونی.
این تلاش در درجه اول دو هدف را محقق می کند. در مرحله اول، کاتالوگی از 12 وظیفه را که مدل‌های ARA احتمالاً با آنها مواجه می‌شوند، گردآوری می‌کند. ثانیاً، چهار مدل متمایز را تأیید می کند: GPT-4 آزمایش تحت سه دستور مختلف و در مراحل مختلف آموزشی، همراه با کلود از آنتروپیک.
تصویر زیر نشان می‌دهد که عملکرد مدل در پیچیده‌ترین وظایف برتر نیست.
| مربوط: کهنه سربازان تحقیقاتی گوگل بودجه ۷ میلیون دلاری را برای پلتفرم عامل هوش مصنوعی «لودا» جمع آوری کردند |
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
