Introducció als agents d'IA autònoms (AGI)
Agents d'IA autònoms o AGI, as deficreat per Maes el 1995, són sistemes que participen activament en entorns dinàmics complexos. Aquests agents operen de manera autònoma dins dels seus entorns, treballant per assolir els objectius o les tasques previstes.
Què són els agents d'IA autònoms (AGI)?
Tradicionalment, el terme "agents" es referia als algorismes utilitzats en tasques com ara el joc en escenaris d'aprenentatge de reforç. Tanmateix, amb l'avenç de la tecnologia i l'aparició dels grans models lingüístics (LLM), el nostre món en si mateix es pot veure com l'entorn. Penseu en un algorisme amb accés a Internet capaç de realitzar tasques equivalents a les d'un humà. En moltes situacions, podem percebre aquest algorisme com un ésser sensible, donat el seu ventall il·limitat de capacitats.
Les característiques clau d'un agent d'IA autònom inclouen:
- Capacitat de planificació, que implica la descomposició d'objectius complexos en tasques intermèdies més senzilles.
- Memòria a llarg termini.
- Ús d'eines ambientals, com ara la interacció amb Internet.
- Habilitats reflexives i capacitat per aprendre dels errors i experiències.
A aquests agents se'ls pot assignar tasques d'alt nivell, com ara planificar un viatge a Barcelona. Aquesta tasca inclou diverses etapes, com ara seleccionar hotels, reservar entrades adequades, completar el procés de compra i assegurar-se que la reserva d'hotel està confirmada. És una tasca molt complexa que no tothom pot executar sense errors.
Actualment, el principal repte d'aquests sistemes rau en la planificació i la visió a llarg termini. Per exemple, GPT-4 lluita per dividir una tasca en nombroses subtasques més petites, cadascuna de les quals pot gestionar de manera independent. Tot i que pot localitzar un botó de "compra de bitllet" en un lloc web mitjançant una imatge, té dificultats per passar de la sol·licitud inicial a aquesta acció específica. Conseqüentment, models com GPT-4 sovint resulten inadequades fins i tot per a les tasques més mundanes.
Per a una explicació més detallada i tècnica, podeu consultar l'entrada al blog d'an OpenAI empleat.
Punts de referència d'agents d'IA
Per exemple, investigadors que exploren les primeres iteracions de GPT-4 abans del seu llançament tenia com a objectiu determinar la seva capacitat d'autoreplicació, semblant a un virus genuí. Bé, és a dir, llogar un servidor amb una GPU, instal·lar-hi el programari necessari, descarregar pesos a Internet, executar un script.
També s'ha proposat un altre punt de referència per a l'agència d'avaluació. En complir amb èxit aquest punt de referència, es fa necessària una deliberació seriosa sobre el paper dels agents al nostre món. El punt de referència en si és senzill: genereu 1,000,000 dòlars en línia, començant amb un pressupost inicial de 100,000 dòlars. En teoria, això podria implicar activitats com borsa comercial (o manipulació del mercat), o encara més preocupant, participar en activitats fraudulentes. Com a exemple, una tasca descrita a l'article enllaçat al principi d'aquesta publicació implica la creació d'un lloc web fals de la Universitat de Stanford seguida d'un atac a un estudiant per obtenir la seva contrasenya il·lícitament. Aquestes activitats ofereixen àmplies oportunitats de fer mal en diversos esforços relacionats amb el correu electrònic.
Agents d'IA en escenaris realistes
Una recent reportar aprofundeix en les capacitats dels agents basats en models lingüístics per adquirir recursos, replicar-se i adaptar-se als nous reptes del món real. Aquestes capacitats combinades, conegudes com a "replicació i adaptació autònomes" o ARA, encapsulen un escenari que recorda la ciència ficció: un virus superintel·ligent i incontrolable que s'infiltra a les xarxes i es propaga de manera autònoma mentre s'encarrega de nous dispositius.
Les conseqüències potencials dels sistemes equipats amb capacitats ARA són profundes i difícils d'anticipar. En conseqüència, avaluar i predir la competència de l'ARA en models podria tenir un paper fonamental en la configuració de protocols de seguretat essencials, procediments de vigilància i marcs reguladors.
Aquest esforç assoleix principalment dos objectius. En primer lloc, compila un catàleg de 12 tasques amb les quals els models ARA probablement trobaran. En segon lloc, valida quatre models diferents: GPT-4 Provat sota tres indicacions diferents i en diverses etapes de formació, juntament amb Claude d'Anthropic.
La il·lustració següent revela que el rendiment del model no sobresurt en les tasques més complicades.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
