Въведение в автономните AI агенти (AGI)
Автономни AI агенти или AGI, as defiсъздаден от Мейс през 1995 г, са системи, които активно участват в сложни динамични среди. Тези агенти работят автономно в своята среда, работейки за постигане на предвидените цели или задачи.
Какво представляват автономните AI агенти (AGI)?
Традиционно терминът „агенти“ се отнася до алгоритми, използвани в задачи като игра на игри в рамките на сценарии за обучение с подсилване. Въпреки това, с напредването на технологиите и появата на големите езикови модели (LLM), нашият свят може да се разглежда като среда. Помислете за алгоритъм с достъп до Интернет, способен да изпълнява задачи, еквивалентни на тези на човек. В много ситуации можем да възприемем такъв алгоритъм като разумно същество, като се има предвид неограниченият му набор от възможности.
Ключовите характеристики на автономен AI агент включват:
- Способност за планиране, включваща разлагане на сложни цели на по-прости междинни задачи.
- Дългосрочна памет.
- Използване на екологични инструменти, като взаимодействие с интернет.
- Рефлективни способности и способността да се учим от грешки и опит.
На тези агенти могат да се възлагат задачи на високо ниво, като например планиране на пътуване до Барселона. Такава задача включва множество етапи, включително избор на хотели, резервиране на подходящи билети, завършване на процеса на закупуване и гарантиране, че хотелската резервация е потвърдена. Това е много сложна задача, която не всеки може да изпълни без грешки.
В момента основното предизвикателство за тези системи се крие в планирането и дългосрочната визия. Например, GPT-4 се бори да разбие задача на множество по-малки подзадачи, всяка от които може да се справи независимо. Въпреки че може да намери бутон „закупуване на билет“ на уебсайт с помощта на изображение, той се сблъсква с трудности при прехода от първоначалната заявка към това конкретно действие. Следователно, модели като GPT-4 често се оказват неадекватни дори за най-обикновените задачи.
За по-задълбочено и техническо обяснение можете да се обърнете към публикацията в блога на an OpenAI служител.
Бенчмаркове на AI Agent
Така например, изследователи, изследващи ранни итерации на GPT-4 преди пускането му имаше за цел да установи способността му за самовъзпроизвеждане, подобно на истински вирус. Е, това е, наемете сървър с GPU, инсталирайте необходимия софтуер върху него, изтеглете тежести през интернет, стартирайте скрипт.
Предложен е и друг показател за оценяващата агенция. След успешното постигане на този показател става необходимо сериозно обсъждане на ролята на агентите в нашия свят. Самият показател е ясен: генерирайте $1,000,000 100,000 XNUMX онлайн, като започнете с първоначален бюджет от $XNUMX XNUMX. На теория това може да включва дейности като борсова търговия (или манипулиране на пазара), или още по-притеснително, участие в измамни дейности. Като пример, една задача, описана в свързаната статия в началото на тази публикация, включва създаването на фалшив уебсайт на Станфордския университет, последвано от атака срещу студент с цел незаконно получаване на паролата му. Такива дейности предлагат много възможности за зло в различни начинания, свързани с имейл.
AI агенти в реалистични сценарии
Едно скорошно докладва се задълбочава в способностите на базираните на езикови модели агенти да придобиват ресурси, да се възпроизвеждат и да се адаптират към нови предизвикателства в реалния свят. Тези комбинирани способности, наричани „автономна репликация и адаптация“ или ARA, капсулират сценарий, напомнящ на научната фантастика – суперинтелигентен, неконтролируем вирус, проникващ в мрежи и автономно разпространяващ се, докато управлява нови устройства.
Потенциалните последици от системите, оборудвани с ARA способности, са дълбоки и трудни за предвиждане. Следователно, оценяването и прогнозирането на уменията на ARA в моделите може да играе ключова роля при оформянето на основни протоколи за безопасност, процедури за наблюдение и регулаторни рамки.
Това начинание постига преди всичко две цели. Първо, той съставя каталог от 12 задачи, с които ARA моделите вероятно ще се сблъскат. Второ, той валидира четири различни модела: GPT-4 изпитан под три различни указания и на различни етапи на обучение, заедно с Клод от Anthropic.
Илюстрацията по-долу разкрива, че представянето на модела не превъзхожда най-сложните задачи.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
