Úvod do Autonomních AI Agentů (AGI)
Autonomní agenti AI nebo AGI, as defined Maesem v roce 1995, jsou systémy, které se aktivně účastní komplexních dynamických prostředí. Tito agenti pracují autonomně ve svém prostředí a pracují na dosažení zamýšlených cílů nebo úkolů.
Co jsou autonomní agenti AI (AGI)?
Tradičně termín „agenti“ označoval algoritmy používané v úkolech, jako je hraní her v rámci scénářů posílení učení. S pokrokem technologie a se vznikem velkých jazykových modelů (LLM) však lze na náš svět pohlížet jako na životní prostředí. Zvažte algoritmus s přístupem k internetu, který je schopen provádět úkoly ekvivalentní těm, které má člověk. V mnoha situacích můžeme takový algoritmus vnímat jako vnímající bytost, vzhledem k jeho neomezenému rozsahu schopností.
Mezi klíčové vlastnosti autonomního agenta AI patří:
- Schopnost plánovat, zahrnující rozklad komplexních cílů na jednodušší meziúkoly.
- Dlouhodobá paměť.
- Využití environmentálních nástrojů, jako je interakce s internetem.
- Reflexní schopnosti a schopnost učit se z chyb a zkušeností.
Těmto agentům lze přidělit úkoly na vysoké úrovni, jako je plánování cesty do Barcelony. Takový úkol zahrnuje několik fází, včetně výběru hotelů, rezervace vhodných vstupenek, dokončení procesu nákupu a zajištění potvrzení rezervace hotelu. Je to velmi složitý úkol, který ne každý může provést bez chyb.
V současnosti spočívá primární výzva pro tyto systémy v plánování a dlouhodobé vizi. Například, GPT-4 se snaží rozdělit úkol na četné menší dílčí úkoly, z nichž každý zvládne samostatně. I když dokáže najít tlačítko „zakoupit lístek“ na webu pomocí obrázku, potýká se s obtížemi při přechodu z původního požadavku na tuto konkrétní akci. Tudíž, modely jako GPT-4 se často ukáží jako nedostatečné i pro ty nejvšednější úkoly.
Pro podrobnější a technické vysvětlení se můžete podívat na blogový příspěvek an OpenAI zaměstnanec.
| PODOBNÉ ČLÁNKY: 5 nejlepších agentů AGI a AI v roce 2023 |
Benchmarky AI agentů
Například, výzkumníci zkoumající rané iterace GPT-4 před jeho vydáním bylo zaměřeno na zjištění jeho schopnosti sebereplikace, podobné skutečnému viru. Tedy pronajmout si server s GPU, nainstalovat na něj potřebný software, stáhnout váhy přes internet, spustit skript.
Bylo také navrženo další měřítko pro hodnocení agentury. Po úspěšném splnění tohoto měřítka se stává nezbytností seriózní úvaha o roli agentů v našem světě. Samotný benchmark je přímočarý: vygenerujte 1,000,000 100,000 XNUMX $ online, počínaje počátečním rozpočtem XNUMX XNUMX $. Teoreticky by to mohlo zahrnovat aktivity jako např obchodování na akciovém trhu (nebo manipulace s trhem), nebo ještě více týkající se zapojení do podvodných aktivit. Například jeden úkol nastíněný v odkazovaném článku na začátku tohoto příspěvku zahrnuje vytvoření padělaných webových stránek Stanfordské univerzity s následným útokem na studenta s cílem nezákonně získat jeho heslo. Takové aktivity nabízejí dostatek příležitostí pro neplechu v různých snahách souvisejících s e-mailem.
Agenti AI v realistických scénářích
Nedávná zprávy ponoří se do schopností agentů založených na jazykových modelech získávat zdroje, replikovat se a přizpůsobovat se novým výzvám v reálném světě. Tyto kombinované schopnosti, označované jako „autonomní replikace a adaptace“ nebo ARA, zapouzdřují scénář připomínající sci-fi – superinteligentní, nekontrolovatelný virus pronikající do sítí a autonomně se šířící, zatímco ovládá nová zařízení.
Potenciální důsledky systémů vybavených schopnostmi ARA jsou hluboké a je obtížné je předvídat. V důsledku toho by hodnocení a předpovídání schopnosti ARA v modelech mohlo hrát klíčovou roli při utváření základních bezpečnostních protokolů, sledovacích postupů a regulačních rámců.
Tato snaha naplňuje především dva cíle. Za prvé sestavuje katalog 12 úloh, se kterými se modely ARA pravděpodobně setkají. Za druhé, ověřuje čtyři různé modely: GPT-4 testovaný pod třemi různými výzvami a v různých fázích tréninku spolu s Claudem z Anthropic.
Níže uvedená ilustrace prozrazuje, že výkon modelu nevyniká v těch nejsložitějších úkolech.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
