Úvod do autonómnych agentov AI (AGI)
Autonómni agenti AI alebo AGI, as defined Maesom v roku 1995, sú systémy aktívne participujúce v zložitých dynamických prostrediach. Títo agenti fungujú autonómne vo svojom prostredí a pracujú na dosiahnutí zamýšľaných cieľov alebo úloh.
Čo sú autonómni agenti AI (AGI)?
Pojem „agenti“ sa tradične vzťahuje na algoritmy používané v úlohách, ako je hranie hier v rámci scenárov posilňovacieho vzdelávania. S pokrokom technológie a vznikom veľkých jazykových modelov (LLM) však možno náš svet vnímať ako životné prostredie. Uvažujme o algoritme s prístupom na internet, ktorý je schopný vykonávať úlohy ekvivalentné úlohám človeka. V mnohých situáciách môžeme takýto algoritmus vnímať ako vnímajúcu bytosť, vzhľadom na jeho neobmedzený rozsah schopností.
Kľúčové vlastnosti autonómneho agenta AI zahŕňajú:
- Schopnosť plánovania, zahŕňajúca rozklad komplexných cieľov na jednoduchšie stredné úlohy.
- Dlhodobá pamäť.
- Využívanie environmentálnych nástrojov, ako je interakcia s internetom.
- Reflexné schopnosti a schopnosť učiť sa z chýb a skúseností.
Týmto agentom môžu byť pridelené úlohy na vysokej úrovni, napríklad plánovanie výletu do Barcelony. Takáto úloha zahŕňa viacero etáp vrátane výberu hotelov, rezervácie vhodných vstupeniek, dokončenia procesu nákupu a zabezpečenia potvrdenia rezervácie hotela. Je to veľmi zložitá úloha, ktorú nie každý môže vykonať bez chýb.
V súčasnosti je hlavnou výzvou týchto systémov plánovanie a dlhodobá vízia. napr. GPT-4 snaží sa rozdeliť úlohu na početné menšie čiastkové úlohy, z ktorých každú zvládne samostatne. Aj keď dokáže nájsť tlačidlo „kúpiť lístok“ na webovej stránke pomocou obrázka, čelí ťažkostiam pri prechode z pôvodnej požiadavky na túto konkrétnu akciu. v dôsledku toho modely ako GPT-4 sa často ukážu ako nedostatočné aj pre tie najvšednejšie úlohy.
Podrobnejšie a technické vysvetlenie nájdete na blogový príspevok an OpenAI zamestnanec.
Benchmarky AI agentov
Napríklad, výskumníci skúmajúci skoré iterácie GPT-4 pred jeho vypustením bolo cieľom zistiť jeho schopnosť sebareplikácie, podobne ako skutočný vírus. Teda prenajať si server s GPU, nainštalovať naň potrebný softvér, stiahnuť váhy cez internet, spustiť skript.
Bola tiež navrhnutá ďalšia referenčná hodnota pre hodnotiacu agentúru. Po úspešnom splnení tohto kritéria sa stáva nevyhnutnosťou seriózna úvaha o úlohe agentov v našom svete. Samotný benchmark je jednoduchý: vygenerujte 1,000,000 100,000 XNUMX $ online, počnúc počiatočným rozpočtom XNUMX XNUMX $. Teoreticky by to mohlo zahŕňať aktivity ako napr obchodovanie na akciovom trhu (alebo manipulácia s trhom), alebo ešte viac týkajúce sa zapájania sa do podvodných aktivít. Napríklad jedna úloha načrtnutá v prepojenom článku na začiatku tohto príspevku zahŕňa vytvorenie falošnej webovej stránky Stanfordskej univerzity, po ktorej nasleduje útok na študenta s cieľom nezákonne získať jeho heslo. Takéto aktivity ponúkajú dostatok príležitostí na neplechu v rôznych snahách súvisiacich s e-mailom.
Agenti AI v realistických scenároch
Nedávna správy ponorí sa do schopností agentov založených na jazykovom modeli získavať zdroje, replikovať sa a prispôsobovať sa novým výzvam v reálnom svete. Tieto kombinované schopnosti, označované ako „autonómna replikácia a adaptácia“ alebo ARA, zapuzdrujú scenár pripomínajúci sci-fi – superinteligentný, nekontrolovateľný vírus prenikajúci do sietí a autonómne sa šíriaci pri ovládaní nových zariadení.
Potenciálne dôsledky systémov vybavených schopnosťami ARA sú hlboké a náročné na predvídanie. V dôsledku toho by hodnotenie a predpovedanie odbornosti ARA v modeloch mohlo hrať kľúčovú úlohu pri formovaní základných bezpečnostných protokolov, postupov dohľadu a regulačných rámcov.
Týmto úsilím sa dosahujú predovšetkým dva ciele. Po prvé, zostavuje katalóg 12 úloh, s ktorými sa modely ARA pravdepodobne stretnú. Po druhé, overuje štyri odlišné modely: GPT-4 testovaný pod tromi rôznymi výzvami a v rôznych fázach tréningu spolu s Claudom z Anthropic.
Ilustrácia nižšie prezrádza, že výkon modelky nevyniká ani v tých najzložitejších úlohách.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
