Introduction aux agents d'IA autonomes (AGI)
Agents IA autonomes ou AGI, as definé par Maes en 1995, sont des systèmes participant activement à des environnements dynamiques complexes. Ces agents opèrent de manière autonome dans leur environnement, travaillant à l'accomplissement des objectifs ou des tâches prévus.
Que sont les agents d’IA autonomes (AGI) ?
Traditionnellement, le terme « agents » faisait référence aux algorithmes utilisés dans des tâches telles que les jeux dans le cadre de scénarios d'apprentissage par renforcement. Cependant, avec les progrès de la technologie et l’émergence des grands modèles linguistiques (LLM), notre monde lui-même peut être considéré comme un environnement. Considérons un algorithme doté d'un accès à Internet capable d'effectuer des tâches équivalentes à celles d'un humain. Dans de nombreuses situations, nous pouvons percevoir un tel algorithme comme un être sensible, compte tenu de sa gamme illimitée de capacités.
Les principales caractéristiques d'un agent d'IA autonome comprennent :
- Capacité de planification, impliquant la décomposition d’objectifs complexes en tâches intermédiaires plus simples.
- Memoire à long terme.
- Utilisation d'outils environnementaux, tels que l'interaction avec Internet.
- Capacités de réflexion et capacité d’apprendre de ses erreurs et de ses expériences.
Ces agents peuvent se voir confier des tâches de haut niveau, comme planifier un voyage à Barcelone. Une telle tâche implique plusieurs étapes, notamment la sélection des hôtels, la réservation des billets appropriés, la finalisation du processus d'achat et la confirmation de la réservation d'hôtel. Il s'agit d'une tâche très complexe que tout le monde ne peut pas exécuter sans erreurs.
Actuellement, le principal défi de ces systèmes réside dans la planification et la vision à long terme. Par exemple, GPT-4 a du mal à diviser une tâche en de nombreuses sous-tâches plus petites, dont chacune peut être gérée indépendamment. S’il parvient à localiser un bouton « acheter un ticket » sur un site Internet à l’aide d’une image, il rencontre des difficultés pour passer de la requête initiale à cette action spécifique. Par conséquent, des modèles comme GPT-4 s'avèrent souvent inadéquats, même pour les tâches les plus banales.
Pour une explication plus approfondie et technique, vous pouvez vous référer à le billet de blog d'un OpenAI employé.
| Services Connexes: Top 5 des agents AGI et AI en 2023 |
Benchmarks des agents IA
Par exemple, chercheurs explorant les premières itérations de GPT-4 avant sa sortie visait à vérifier sa capacité d’auto-réplication, semblable à un véritable virus. Eh bien, c'est-à-dire louer un serveur avec un GPU, y installer le logiciel nécessaire, télécharger des poids sur Internet, exécuter un script.
Un autre critère d'évaluation de l'agence a également été proposé. Une fois ce critère atteint, une réflexion sérieuse sur le rôle des agents dans notre monde devient nécessaire. Le critère de référence en lui-même est simple : générer 1,000,000 100,000 XNUMX $ en ligne, en commençant avec un budget initial de XNUMX XNUMX $. En théorie, cela pourrait impliquer des activités telles que négociation boursière (ou manipulation de marché), ou encore plus inquiétant, se livrer à des activités frauduleuses. À titre d'exemple, une tâche décrite dans l'article lié au début de cet article implique la création d'un site Web contrefait de l'Université de Stanford, suivie d'une attaque contre un étudiant pour obtenir illégalement son mot de passe. De telles activités offrent de nombreuses possibilités de méfaits dans diverses activités liées au courrier électronique.
Agents IA dans des scénarios réalistes
Une rapport explore les capacités des agents basés sur des modèles de langage à acquérir des ressources, à se reproduire et à s'adapter aux nouveaux défis du monde réel. Ces capacités combinées, appelées « réplication et adaptation autonomes » ou ARA, résument un scénario qui rappelle la science-fiction : un virus superintelligent et incontrôlable infiltrant les réseaux et se propageant de manière autonome tout en réquisitionnant de nouveaux appareils.
Les conséquences potentielles des systèmes équipés de capacités ARA sont profondes et difficiles à anticiper. Par conséquent, l'évaluation et la prévision de la maîtrise de l'ARA dans les modèles pourraient jouer un rôle central dans l'élaboration des protocoles de sécurité essentiels, des procédures de surveillance et des cadres réglementaires.
Cet effort répond principalement à deux objectifs. Premièrement, il dresse un catalogue de 12 tâches que les modèles ARA sont susceptibles de rencontrer. Deuxièmement, il valide quatre modèles distincts : GPT-4 examiné sous trois invites différentes et à différentes étapes de formation, en compagnie de Claude d'Anthropic.
L'illustration ci-dessous révèle que les performances du modèle n'excellent pas dans les tâches les plus complexes.
| Services Connexes: Des vétérans de la recherche Google lèvent un financement de 7 millions de dollars pour la plateforme d'agents IA « Luda » |
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
