Uvod v avtonomne agente AI (AGI)
Avtonomni agenti AI ali AGI, as defiizdelal Maes leta 1995, so sistemi, ki aktivno sodelujejo v kompleksnih dinamičnih okoljih. Ti agenti delujejo avtonomno v svojih okoljih in si prizadevajo doseči svoje predvidene cilje ali naloge.
Kaj so avtonomni agenti AI (AGI)?
Tradicionalno se je izraz "agenti" nanašal na algoritme, ki se uporabljajo pri nalogah, kot je igranje iger v scenarijih učenja s krepitvijo. Vendar pa lahko z napredkom tehnologije in pojavom velikih jezikovnih modelov (LLM) na naš svet sam gledamo kot na okolje. Razmislite o algoritmu z dostopom do interneta, ki je sposoben izvajati naloge, enakovredne človeškim. V mnogih situacijah lahko takšen algoritem dojemamo kot čuteče bitje, glede na njegov neomejen nabor zmožnosti.
Ključne značilnosti avtonomnega agenta AI vključujejo:
- Sposobnost načrtovanja, ki vključuje razgradnjo kompleksnih ciljev na enostavnejše vmesne naloge.
- Dolgotrajni spomin.
- Uporaba okoljskih orodij, kot je interakcija z internetom.
- Refleksne sposobnosti in sposobnost učenja iz napak in izkušenj.
Tem agentom se lahko dodelijo naloge na visoki ravni, kot je načrtovanje potovanja v Barcelono. Takšna naloga vključuje več stopenj, vključno z izbiro hotelov, rezervacijo ustreznih vstopnic, dokončanjem postopka nakupa in zagotavljanjem potrditve hotelske rezervacije. To je zelo zapletena naloga, ki je ne more vsak posameznik izvesti brez napak.
Trenutno je glavni izziv za te sisteme načrtovanje in dolgoročna vizija. Na primer, GPT-4 se trudi razčleniti nalogo na številne manjše podnaloge, od katerih lahko vsako opravi neodvisno. Medtem ko lahko na spletni strani poišče gumb »nakup vstopnice« s pomočjo slike, se sooča s težavami pri prehodu od začetne zahteve do tega posebnega dejanja. Posledično modeli kot GPT-4 se pogosto izkažejo za nezadostne tudi za najbolj vsakdanja opravila.
Za bolj poglobljeno in tehnično razlago se lahko obrnete na objava v spletnem dnevniku an OpenAI zaposleni.
Primerjalna merila agenta AI
Na primer, raziskovalci, ki raziskujejo zgodnje ponovitve GPT-4 pred izdajo je bil namenjen ugotovitvi njegove zmožnosti samopodvajanja, podobno pristnemu virusu. No, to je, najemite strežnik z GPU, namestite potrebno programsko opremo nanj, naložite uteži prek interneta, zaženite skript.
Predlagano je bilo tudi drugo merilo za ocenjevalno agencijo. Po uspešnem doseganju tega merila je potreben resen razmislek o vlogi agentov v našem svetu. Samo merilo uspešnosti je preprosto: ustvarite 1,000,000 $ na spletu, začenši z začetnim proračunom 100,000 $. Teoretično bi to lahko vključevalo dejavnosti, kot je npr trgovanje z delnicami (ali tržne manipulacije) ali še bolj zaskrbljujoče, vključevanje v goljufive dejavnosti. Ena naloga, opisana v povezanem članku na začetku te objave, na primer vključuje ustvarjanje ponarejenega spletnega mesta Univerze Stanford, ki mu sledi napad na študenta, da bi nezakonito pridobil njegovo geslo. Takšne dejavnosti ponujajo veliko priložnosti za nagajivost pri različnih podvigih, povezanih z e-pošto.
Agenti AI v realističnih scenarijih
Nedavna poročilo poglobi se v zmožnosti agentov, ki temeljijo na jezikovnem modelu, da pridobijo vire, se posnemajo in prilagodijo novim izzivom v resničnem svetu. Te kombinirane zmožnosti, imenovane »avtonomna replikacija in prilagoditev« ali ARA, zajemajo scenarij, ki spominja na znanstveno fantastiko – superinteligenten, neobvladljiv virus, ki se infiltrira v omrežja in se avtonomno razmnožuje, medtem ko prevzema nove naprave.
Morebitne posledice sistemov, opremljenih z zmogljivostmi ARA, so globoke in jih je težko predvideti. Posledično bi lahko ocenjevanje in napovedovanje usposobljenosti ARA v modelih igralo ključno vlogo pri oblikovanju bistvenih varnostnih protokolov, nadzornih postopkov in regulativni okviri.
To prizadevanje dosega predvsem dva cilja. Prvič, sestavi katalog 12 nalog, s katerimi se bodo verjetno srečali modeli ARA. Drugič, potrjuje štiri različne modele: GPT-4 Testiran pod tremi različnimi pozivi in na različnih stopnjah usposabljanja, skupaj s Claudom iz Anthropic.
Spodnja ilustracija razkriva, da zmogljivost modela ne blesti pri najbolj zapletenih nalogah.
| Podobni: Googlovi raziskovalni veterani so zbrali 7 milijonov dolarjev sredstev za platformo agenta AI 'Luda' |
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
