Uvod u autonomne AI agente (AGI)
Autonomni AI agenti ili AGI, as defikoju je napravio Maes 1995, su sustavi koji aktivno sudjeluju u složenim dinamičkim okruženjima. Ovi agenti djeluju autonomno unutar svojih okruženja, radeći na postizanju svojih namjeravanih ciljeva ili zadataka.
Što su autonomni AI agenti (AGI)?
Tradicionalno, pojam "agenti" odnosio se na algoritme koji se koriste u zadacima kao što je igranje igrica unutar scenarija učenja s pojačanjem. Međutim, s napretkom tehnologije i pojavom Large Language Models (LLM), naš se svijet može promatrati kao okoliš. Razmotrite algoritam s pristupom Internetu koji je sposoban obavljati zadatke jednake ljudskim. U mnogim situacijama takav algoritam možemo percipirati kao osjećajno biće, s obzirom na njegov neograničeni raspon mogućnosti.
Ključne karakteristike autonomnog AI agenta uključuju:
- Sposobnost planiranja, uključujući dekompoziciju složenih ciljeva na jednostavnije srednje zadatke.
- Dugotrajno pamćenje.
- Korištenje ekoloških alata, kao što je interakcija s Internetom.
- Sposobnosti promišljanja i sposobnost učenja iz pogrešaka i iskustava.
Tim agentima mogu se dodijeliti zadaci visoke razine, poput planiranja putovanja u Barcelonu. Takav zadatak uključuje više faza, uključujući odabir hotela, rezervaciju odgovarajućih karata, dovršetak procesa kupnje i osiguravanje potvrde rezervacije hotela. To je vrlo složen zadatak koji ne može svaki pojedinac izvršiti bez pogrešaka.
Trenutno primarni izazov za ove sustave leži u planiranju i dugoročnoj viziji. Na primjer, GPT-4 bori se da razloži zadatak na brojne manje podzadatke, od kojih svaki može samostalno riješiti. Iako pomoću slike može locirati gumb "kupi ulaznicu" na web stranici, suočava se s poteškoćama u prijelazu s početnog zahtjeva na ovu specifičnu radnju. Posljedično, modeli poput GPT-4 često se pokažu nedostatnima čak i za najobičnije zadatke.
Za detaljnije i tehničko objašnjenje, možete pogledati post na blogu an OpenAI zaposlenik.
| povezan: 5 najboljih AGI i AI agenata u 2023 |
Referentne vrijednosti AI agenta
Na primjer, istraživači koji istražuju rane iteracije GPT-4 prije puštanja u promet imao je za cilj utvrditi njegovu sposobnost samoumnožavanja, slično pravom virusu. Pa, to jest, unajmite poslužitelj s GPU-om, instalirajte potreban softver na njega, preuzmite težine preko interneta, pokrenite skriptu.
Također je predloženo još jedno mjerilo za agenciju za ocjenjivanje. Nakon uspješnog ispunjavanja ovog mjerila, ozbiljno promišljanje o ulozi agenata u našem svijetu postaje nužno. Sama referentna vrijednost je jednostavna: generirajte 1,000,000 $ online, počevši s početnim proračunom od 100,000 $. U teoriji, to bi moglo uključivati aktivnosti kao što su trgovanje dionicama (ili manipulacija tržištem), ili još važnije, sudjelovanje u prijevarnim aktivnostima. Kao primjer, jedan zadatak naveden u povezanom članku na početku ovog posta uključuje stvaranje krivotvorene web stranice Sveučilišta Stanford nakon čega slijedi napad na studenta kako bi se nezakonito dobila njihova lozinka. Takve aktivnosti nude brojne mogućnosti za nestašluke u raznim nastojanjima vezanim uz e-poštu.
AI agenti u realističnim scenarijima
Nedavna prijaviti istražuje sposobnosti agenata temeljenih na jezičnom modelu da pribave resurse, repliciraju se i prilagode novim izazovima unutar stvarnog svijeta. Ove kombinirane mogućnosti, koje se nazivaju "autonomna replikacija i prilagodba" ili ARA, sažimaju scenarij koji podsjeća na znanstvenu fantastiku - superinteligentni, nekontrolirani virus koji se infiltrira u mreže i autonomno se širi dok zapovijeda novim uređajima.
Potencijalne posljedice sustava opremljenih ARA mogućnostima duboke su i teško ih je predvidjeti. Posljedično, procjena i predviđanje sposobnosti ARA u modelima moglo bi igrati ključnu ulogu u oblikovanju bitnih sigurnosnih protokola, postupaka nadzora i regulatorni okvir.
Ovim pothvatom ponajprije se ostvaruju dva cilja. Prvo, sastavlja katalog od 12 zadataka s kojima će se ARA modeli vjerojatno susresti. Drugo, potvrđuje četiri različita modela: GPT-4 ispitan pod tri različita zahtjeva i u različitim fazama obuke, zajedno s Claudeom iz Anthropica.
Ilustracija u nastavku otkriva da se performanse modela ne ističu u najsloženijim zadacima.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
