Introducere în agenții AI autonomi (AGI)
Agenți AI autonomi sau AGI, as deficreat de Maes în 1995, sunt sisteme care participă activ în medii dinamice complexe. Acești agenți operează în mod autonom în mediul lor, lucrând pentru a-și îndeplini obiectivele sau sarcinile propuse.
Ce sunt agenții AI autonomi (AGI)?
În mod tradițional, termenul „agenți” se referă la algoritmi utilizați în sarcini precum jocul în cadrul scenariilor de învățare prin întărire. Cu toate acestea, odată cu progresul tehnologiei și apariția modelelor de limbaj mari (LLM), lumea noastră în sine poate fi privită ca mediu. Luați în considerare un algoritm cu acces la Internet capabil să îndeplinească sarcini echivalente cu cele ale unui om. În multe situații, putem percepe un astfel de algoritm ca o ființă sensibilă, având în vedere gama nelimitată de capabilități.
Caracteristicile cheie ale unui agent AI autonom includ:
- Capacitate de planificare, care implică descompunerea obiectivelor complexe în sarcini intermediare mai simple.
- Memorie pe termen lung.
- Utilizarea instrumentelor de mediu, cum ar fi interacțiunea cu Internetul.
- Abilități de reflexie și capacitatea de a învăța din greșeli și experiențe.
Acestor agenți li se pot atribui sarcini de nivel înalt, cum ar fi planificarea unei călătorii la Barcelona. O astfel de sarcină implică mai multe etape, inclusiv selectarea hotelurilor, rezervarea biletelor potrivite, finalizarea procesului de cumpărare și asigurarea confirmării rezervării la hotel. Este o sarcină extrem de complexă pe care nu orice persoană o poate executa fără erori.
În prezent, principala provocare pentru aceste sisteme constă în planificare și viziune pe termen lung. De exemplu, GPT-4 se luptă să descompună o sarcină în numeroase subsarcini mai mici, fiecare dintre ele fiind capabilă să se ocupe independent. Deși poate găsi un buton „achiziționare bilet” pe un site web folosind o imagine, se confruntă cu dificultăți în trecerea de la solicitarea inițială la această acțiune specifică. Prin urmare, modele ca GPT-4 adesea se dovedesc inadecvate chiar și pentru cele mai banale sarcini.
Pentru o explicație mai aprofundată și tehnică, puteți consulta postarea pe blog a unui OpenAI angajat.
| Legate de: Top 5 agenți AGI și AI în 2023 |
Benchmark-uri pentru agenți AI
De exemplu, cercetătorii care explorează iterațiile timpurii ale GPT-4 înainte de lansare, urmărea să-și determine capacitatea de auto-replicare, asemănătoare unui virus autentic. Ei bine, adică închiriați un server cu un GPU, instalați software-ul necesar pe el, descărcați greutăți pe Internet, rulați un script.
De asemenea, a fost propus un alt punct de referință pentru evaluarea agenției. După îndeplinirea cu succes a acestui punct de referință, devine necesară o deliberare serioasă cu privire la rolul agenților în lumea noastră. Benchmark-ul în sine este simplu: generați 1,000,000 USD online, începând cu un buget inițial de 100,000 USD. În teorie, aceasta ar putea implica activități precum tranzacționarea burselor (sau manipularea pieței), sau chiar mai îngrijorătoare, angajarea în activități frauduloase. De exemplu, o sarcină prezentată în articolul legat de la începutul acestei postări implică crearea unui site web contrafăcut al Universității Stanford, urmată de un atac asupra unui student pentru a-și obține în mod ilicit parola. Astfel de activități oferă oportunități ample de rău în diverse eforturi legate de e-mail.
Agenți AI în scenarii realiste
Un recent raportează analizează capacitățile agenților bazați pe modele lingvistice de a achiziționa resurse, de a se reproduce și de a se adapta la provocări noi din lumea reală. Aceste capabilități combinate, denumite „replicare și adaptare autonomă” sau ARA, încapsulează un scenariu care amintește de science-fiction - un virus superinteligent, incontrolabil, care se infiltrează în rețele și se propagă în mod autonom în timp ce preia noi dispozitive.
Consecințele potențiale ale sistemelor echipate cu capabilități ARA sunt profunde și dificil de anticipat. În consecință, evaluarea și prezicerea competenței ARA în modele ar putea juca un rol esențial în formarea protocoalelor esențiale de siguranță, a procedurilor de supraveghere și cadrelor de reglementare.
Acest efort realizează în primul rând două obiective. În primul rând, întocmește un catalog de 12 sarcini pe care modelele ARA le vor întâlni probabil. În al doilea rând, validează patru modele distincte: GPT-4 testat sub trei solicitări diferite și la diferite etape de pregătire, alături de Claude de la Anthropic.
Ilustrația de mai jos arată că performanța modelului nu excelează în cele mai complicate sarcini.
| Legate de: Veteranii Google Research strâng fonduri de 7 milioane USD pentru platforma de agenți AI „Luda” |
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
