Введение в автономные агенты искусственного интеллекта (AGI)
Автономные агенты ИИ или AGI, as defiсозданный Мэйсом в 1995 году, являются системами, активно участвующими в сложных динамических средах. Эти агенты действуют автономно в своей среде, работая над достижением намеченных целей или задач.
Что такое автономные агенты искусственного интеллекта (AGI)?
Традиционно термин «агенты» относился к алгоритмам, используемым в таких задачах, как игра в сценариях обучения с подкреплением. Однако с развитием технологий и появлением моделей большого языка (LLM) сам наш мир можно рассматривать как окружающую среду. Рассмотрим алгоритм с доступом в Интернет, способный выполнять задачи, эквивалентные задачам человека. Во многих ситуациях мы можем воспринимать такой алгоритм как разумное существо, учитывая его безграничный диапазон возможностей.
Ключевые характеристики автономного агента ИИ включают в себя:
- Способность к планированию, предполагающая разложение сложных целей на более простые промежуточные задачи.
- Долгосрочная память.
- Использование экологических инструментов, таких как взаимодействие с Интернетом.
- Рефлексивные способности и способность учиться на ошибках и опыте.
Этим агентам можно поручить задачи высокого уровня, например планирование поездки в Барселону. Такая задача включает в себя несколько этапов, включая выбор отелей, бронирование подходящих билетов, завершение процесса покупки и подтверждение бронирования отеля. Это очень сложная задача, которую не каждый человек может выполнить без ошибок.
В настоящее время основная задача этих систем заключается в планировании и долгосрочном видении. Например, GPT-4 изо всех сил пытается разбить задачу на множество более мелких подзадач, каждую из которых он может выполнить независимо. Хотя он может найти кнопку «купить билет» на веб-сайте с помощью изображения, он сталкивается с трудностями при переходе от первоначального запроса к этому конкретному действию. Следовательно, такие модели, как GPT-4 часто оказываются недостаточными даже для самых обыденных задач.
Для более подробного и технического объяснения вы можете обратиться к сообщение в блоге OpenAI наемный рабочий.
| Похожие страницы:: Топ 5 агентов AGI и AI в 2023 году |
Тесты AI-агента
Например, исследователи, изучающие ранние версии GPT-4 Перед его выпуском целью было выяснить его способность к самовоспроизведению, как у настоящего вируса. Ну то есть арендовать сервер с графическим процессором, установить на него необходимое ПО, скачать веса через интернет, запустить скрипт.
Также был предложен еще один критерий оценки агентства. После успешного достижения этого показателя становится необходимым серьезное обсуждение роли агентов в нашем мире. Сам эталонный показатель прост: заработайте 1,000,000 100,000 XNUMX долларов США в Интернете, начиная с начального бюджета в XNUMX XNUMX долларов США. Теоретически это может включать в себя такие мероприятия, как торговля на фондовом рынке (или манипулирование рынком), или, что еще более важно, участие в мошеннической деятельности. Например, одна из задач, описанных в связанной статье в начале этого поста, включает создание поддельного веб-сайта Стэнфордского университета с последующей атакой на студента с целью незаконного получения его пароля. Такая деятельность открывает широкие возможности для злоупотреблений в различных начинаниях, связанных с электронной почтой.
Агенты ИИ в реалистичных сценариях
Недавнее отчету углубляется в возможности агентов на основе языковых моделей приобретать ресурсы, копировать себя и адаптироваться к новым задачам в реальном мире. Эти объединенные возможности, называемые «автономной репликацией и адаптацией» или ARA, воплощают в себе сценарий, напоминающий научную фантастику: сверхразумный, неконтролируемый вирус проникает в сети и автономно распространяется, захватывая новые устройства.
Потенциальные последствия систем, оснащенных возможностями ARA, глубоки и их сложно предвидеть. Следовательно, оценка и прогнозирование навыков ARA с помощью моделей может сыграть ключевую роль в формировании основных протоколов безопасности, процедур надзора и нормативно-правовая база.
Это начинание в первую очередь преследует две цели. Во-первых, он составляет каталог из 12 задач, с которыми могут столкнуться модели ARA. Во-вторых, он проверяет четыре различные модели: GPT-4 проверенный под тремя разными подсказками и на разных этапах обучения вместе с Клодом из Anthropic.
На иллюстрации ниже видно, что производительность модели не превосходит даже самые сложные задачи.
| Похожие страницы:: Ветераны исследований Google собрали 7 миллионов долларов на платформу ИИ-агентов Luda |
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
