Вступ до автономних агентів ШІ (AGI)
Автономні агенти ШІ або AGI, as defiстворений Мейсом у 1995 році, це системи, які активно беруть участь у складних динамічних середовищах. Ці агенти працюють автономно у своєму середовищі, працюючи над досягненням намічених цілей або завдань.
Що таке автономні агенти ШІ (AGI)?
Традиційно термін «агенти» стосувався алгоритмів, які використовуються в таких завданнях, як ігри в рамках сценаріїв навчання з підкріпленням. Однак із розвитком технологій і появою великих мовних моделей (LLM) наш світ сам по собі можна розглядати як середовище. Розглянемо алгоритм із доступом до Інтернету, здатний виконувати завдання, еквівалентні людським. У багатьох ситуаціях ми можемо сприймати такий алгоритм як розумну істоту, враховуючи його безмежний діапазон можливостей.
Основні характеристики автономного агента ШІ включають:
- Здатність до планування, що передбачає декомпозицію складних цілей на простіші проміжні завдання.
- Довготривала пам’ять.
- Використання екологічних інструментів, таких як взаємодія з Інтернетом.
- Рефлексивні здібності та здатність вчитися на помилках і досвіді.
Цим агентам можна доручати завдання високого рівня, як-от планування поїздки до Барселони. Таке завдання включає кілька етапів, включаючи вибір готелів, бронювання відповідних квитків, завершення процесу покупки та забезпечення підтвердження бронювання готелю. Це дуже складне завдання, яке не кожна людина може виконати без помилок.
Наразі основним завданням для цих систем є планування та довгострокове бачення. Наприклад, GPT-4 намагається розбити завдання на численні менші підзадачі, кожну з яких він може впоратися незалежно. Хоча він може знайти кнопку «придбати квиток» на веб-сайті за допомогою зображення, він стикається з труднощами під час переходу від початкового запиту до цієї конкретної дії. Отже, моделі, як GPT-4 часто виявляються недостатніми навіть для найпростіших завдань.
Для більш глибокого технічного пояснення ви можете звернутися до допис у блозі ан OpenAI співробітник.
| споріднений: 5 найкращих агентів AGI та AI у 2023 році |
Тести AI Agent
Так, наприклад, дослідники досліджують ранні ітерації GPT-4 перед випуском мав на меті з’ясувати його здатність до самовідтворення, схожу на справжній вірус. Ну, тобто орендувати сервер з GPU, встановити на нього необхідне програмне забезпечення, завантажити через інтернет ваги, запустити скрипт.
Також було запропоновано інший орієнтир для оціночної агенції. Після успішного виконання цього критерію необхідно серйозно обдумати роль агентів у нашому світі. Сам тест простий: заробіть 1,000,000 100,000 XNUMX доларів онлайн, починаючи з початкового бюджету в XNUMX XNUMX доларів. Теоретично це може включати такі дії, як біржова торгівля (або маніпулювання ринком), або навіть більше, участь у шахрайській діяльності. Як приклад, одне завдання, описане в статті, на яку наведено посилання на початку цієї публікації, передбачає створення підробленого веб-сайту Стенфордського університету з наступною атакою на студента з метою незаконного отримання його пароля. Такі дії пропонують широкі можливості для пустощів у різних починаннях, пов’язаних з електронною поштою.
Агенти ШІ в реалістичних сценаріях
Недавній звітом вивчає можливості агентів на основі мовної моделі отримувати ресурси, відтворювати себе та адаптуватися до нових викликів у реальному світі. Ці комбіновані можливості, які називаються «автономною реплікацією та адаптацією» або ARA, охоплюють сценарій, що нагадує наукову фантастику: надрозумний, неконтрольований вірус проникає в мережі та автономно поширюється, керуючи новими пристроями.
Потенційні наслідки систем, оснащених можливостями ARA, глибокі та складні для очікування. Отже, оцінка та прогнозування навичок ARA в моделях може відігравати ключову роль у формуванні основних протоколів безпеки, процедур спостереження та нормативно-правова база.
Ця спроба насамперед досягає двох цілей. По-перше, він складає каталог із 12 завдань, з якими можуть зіткнутися моделі ARA. По-друге, він підтверджує чотири різні моделі: GPT-4 перевірений за трьома різними підказками та на різних етапах навчання разом із Клодом із Anthropic.
Ілюстрація нижче показує, що продуктивність моделі не перевищує найскладніших завдань.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
