Introducción a los agentes autónomos de IA (AGI)
Agentes autónomos de IA o AGI, as defiDiseñado por Maes en 1995., son sistemas que participan activamente en entornos dinámicos complejos. Estos agentes operan de forma autónoma dentro de sus entornos, trabajando para lograr los objetivos o tareas previstos.
¿Qué son los agentes autónomos de IA (AGI)?
Tradicionalmente, el término "agentes" se refería a algoritmos utilizados en tareas como juegos dentro de escenarios de aprendizaje por refuerzo. Sin embargo, con el avance de la tecnología y la aparición de los grandes modelos de lenguaje (LLM), nuestro mundo mismo puede verse como el medio ambiente. Consideremos un algoritmo con acceso a Internet capaz de realizar tareas equivalentes a las de un humano. En muchas situaciones, podemos percibir un algoritmo de este tipo como un ser sensible, dada su gama ilimitada de capacidades.
Las características clave de un agente de IA autónomo incluyen:
- Capacidad de planificación, que implica la descomposición de objetivos complejos en tareas intermedias más simples.
- Memoria a largo plazo.
- Utilización de herramientas ambientales, como la interacción con Internet.
- Habilidades reflexivas y capacidad de aprender de errores y experiencias.
A estos agentes se les pueden asignar tareas de alto nivel, como planificar un viaje a Barcelona. Esta tarea implica varias etapas, incluida la selección de hoteles, la reserva de billetes adecuados, la finalización del proceso de compra y la confirmación de la reserva del hotel. Es una tarea muy compleja que no todas las personas pueden ejecutar sin errores.
Actualmente, el principal desafío para estos sistemas radica en la planificación y la visión de largo plazo. Por ejemplo, GPT-4 Tiene dificultades para dividir una tarea en numerosas subtareas más pequeñas, cada una de las cuales puede manejar de forma independiente. Si bien puede ubicar un botón de “compra de boleto” en un sitio web usando una imagen, enfrenta dificultades para pasar de la solicitud inicial a esta acción específica. Como consecuencia, modelos como GPT-4 A menudo resultan inadecuados incluso para las tareas más mundanas.
Para obtener una explicación más detallada y técnica, puede consultar la publicación del blog de un OpenAI empleado.
| Relacionado:: Los 5 mejores agentes AGI y AI en 2023 |
Puntos de referencia del agente de IA
Por ejemplo, investigadores que exploran las primeras iteraciones de GPT-4 antes de su lanzamiento pretendía comprobar su capacidad de autorreplicación, similar a la de un virus auténtico. Bueno, es decir, alquilar un servidor con GPU, instalar en él el software necesario, descargar pesos a través de Internet y ejecutar un script.
También se ha propuesto otro punto de referencia para evaluar la agencia. Una vez alcanzado con éxito este punto de referencia, se hace necesaria una deliberación seria sobre el papel de los agentes en nuestro mundo. El punto de referencia en sí es sencillo: generar $1,000,000 en línea, comenzando con un presupuesto inicial de $100,000. En teoría, esto podría implicar actividades como comercio bursátil (o manipulación del mercado), o incluso más preocupante, participar en actividades fraudulentas. Como ejemplo, una tarea descrita en el artículo vinculado al comienzo de esta publicación implica la creación de un sitio web falso de la Universidad de Stanford seguido de un ataque a un estudiante para obtener ilícitamente su contraseña. Estas actividades ofrecen amplias oportunidades para cometer travesuras en diversas actividades relacionadas con el correo electrónico.
Agentes de IA en escenarios realistas
Un reporte profundiza en las capacidades de los agentes basados en modelos lingüísticos para adquirir recursos, replicarse y adaptarse a nuevos desafíos dentro del mundo real. Estas capacidades combinadas, denominadas “replicación y adaptación autónomas” o ARA, resumen un escenario que recuerda a la ciencia ficción: un virus superinteligente e incontrolable que se infiltra en las redes y se propaga de forma autónoma mientras se apodera de nuevos dispositivos.
Las posibles consecuencias de los sistemas equipados con capacidades ARA son profundas y difíciles de anticipar. En consecuencia, evaluar y predecir el dominio de ARA en modelos podría desempeñar un papel fundamental en la configuración de protocolos de seguridad esenciales, procedimientos de vigilancia y marcos regulatorios.
Este esfuerzo logra principalmente dos objetivos. En primer lugar, compila un catálogo de 12 tareas que probablemente encontrarán los modelos ARA. En segundo lugar, valida cuatro modelos distintos: GPT-4 probado bajo tres indicaciones diferentes y en varias etapas de entrenamiento, junto con Claude de Anthropic.
La siguiente ilustración revela que el rendimiento del modelo no sobresale en las tareas más complejas.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
