Einführung in autonome KI-Agenten (AGI)
Autonome KI-Agenten oder AGI, as defi1995 von Maes gegründetsind Systeme, die aktiv an komplexen dynamischen Umgebungen teilnehmen. Diese Agenten agieren autonom in ihrer Umgebung und arbeiten daran, ihre beabsichtigten Ziele oder Aufgaben zu erreichen.
Was sind autonome KI-Agenten (AGI)?
Traditionell bezog sich der Begriff „Agenten“ auf Algorithmen, die bei Aufgaben wie dem Spielen in Reinforcement-Learning-Szenarien verwendet werden. Mit der Weiterentwicklung der Technologie und dem Aufkommen großer Sprachmodelle (LLM) kann jedoch unsere Welt selbst als Umwelt betrachtet werden. Stellen Sie sich einen Algorithmus mit Internetzugang vor, der Aufgaben ausführen kann, die denen eines Menschen entsprechen. In vielen Situationen können wir einen solchen Algorithmus aufgrund seiner grenzenlosen Bandbreite an Fähigkeiten als fühlendes Wesen wahrnehmen.
Zu den Hauptmerkmalen eines autonomen KI-Agenten gehören:
- Planungsfähigkeit, die die Zerlegung komplexer Ziele in einfachere Zwischenaufgaben beinhaltet.
- Langzeitgedächtnis.
- Nutzung von Umwelttools, wie z. B. der Interaktion mit dem Internet.
- Reflexionsfähigkeit und die Fähigkeit, aus Fehlern und Erfahrungen zu lernen.
Diesen Agenten können hochrangige Aufgaben zugewiesen werden, beispielsweise die Planung einer Reise nach Barcelona. Eine solche Aufgabe umfasst mehrere Schritte, darunter die Auswahl von Hotels, die Buchung geeigneter Tickets, den Abschluss des Kaufvorgangs und die Sicherstellung der Bestätigung der Hotelreservierung. Es handelt sich um eine hochkomplexe Aufgabe, die nicht jeder Einzelne fehlerfrei bewältigen kann.
Derzeit liegt die größte Herausforderung für diese Systeme in der Planung und der langfristigen Vision. Zum Beispiel, GPT-4 Es fällt ihm schwer, eine Aufgabe in zahlreiche kleinere Teilaufgaben zu zerlegen, die es jeweils unabhängig voneinander bewältigen kann. Obwohl es anhand eines Bildes die Schaltfläche „Ticket kaufen“ auf einer Website finden kann, ist es schwierig, von der ersten Anfrage zu dieser spezifischen Aktion überzugehen. Folglich, Modelle wie GPT-4 Oft erweisen sie sich selbst für die banalsten Aufgaben als unzureichend.
Eine ausführlichere und technische Erklärung finden Sie unter der Blogbeitrag eines OpenAI Mitarbeiter.
| Verbunden: Top 5 AGI- und KI-Agenten im Jahr 2023 |
KI-Agent-Benchmarks
Zum Beispiel Forscher erforschen frühe Iterationen von GPT-4 vor seiner Veröffentlichung zielte darauf ab, seine Fähigkeit zur Selbstreplikation festzustellen, ähnlich einem echten Virus. Das heißt, mieten Sie einen Server mit GPU, installieren Sie die erforderliche Software darauf, laden Sie Gewichte über das Internet herunter und führen Sie ein Skript aus.
Es wurde auch ein weiterer Maßstab für die Bewertung von Agenturen vorgeschlagen. Wenn dieser Maßstab erfolgreich erreicht wird, ist eine ernsthafte Überlegung über die Rolle von Agenten in unserer Welt erforderlich. Der Maßstab selbst ist einfach: Generieren Sie online 1,000,000 US-Dollar, beginnend mit einem anfänglichen Budget von 100,000 US-Dollar. Theoretisch könnte dies Aktivitäten umfassen wie Börsenhandel (oder Marktmanipulation) oder, was noch besorgniserregender ist, die Beteiligung an betrügerischen Aktivitäten. Eine im verlinkten Artikel am Anfang dieses Beitrags beschriebene Aufgabe umfasst beispielsweise die Erstellung einer gefälschten Website der Stanford University und anschließend einen Angriff auf einen Studenten, um illegal an sein Passwort zu gelangen. Solche Aktivitäten bieten zahlreiche Möglichkeiten für Unfug bei verschiedenen E-Mail-bezogenen Unternehmungen.
KI-Agenten in realistischen Szenarien
Eine kürzlich berichten befasst sich mit den Fähigkeiten sprachmodellbasierter Agenten, Ressourcen zu erwerben, sich selbst zu replizieren und sich an neue Herausforderungen in der realen Welt anzupassen. Diese kombinierten Fähigkeiten, die als „autonome Replikation und Anpassung“ oder ARA bezeichnet werden, verkörpern ein Szenario, das an Science-Fiction erinnert – ein superintelligenter, unkontrollierbarer Virus, der Netzwerke infiltriert und sich autonom verbreitet, während er gleichzeitig neue Geräte beschlagnahmt.
Die potenziellen Folgen von Systemen, die mit ARA-Funktionen ausgestattet sind, sind tiefgreifend und schwer vorhersehbar. Folglich könnte die Bewertung und Vorhersage der ARA-Kompetenz in Modellen eine entscheidende Rolle bei der Gestaltung wesentlicher Sicherheitsprotokolle, Überwachungsverfahren usw. spielen Regulierungsrahmen.
Mit diesem Unterfangen werden vor allem zwei Ziele erreicht. Zunächst wird ein Katalog von 12 Aufgaben zusammengestellt, denen ARA-Modelle wahrscheinlich begegnen werden. Zweitens validiert es vier verschiedene Modelle: GPT-4 getestet unter drei verschiedenen Aufforderungen und in verschiedenen Trainingsstadien, zusammen mit Claude von Anthropic.
Die Abbildung unten zeigt, dass die Leistung des Modells bei den kompliziertesten Aufgaben nicht überragend ist.
| Verbunden: Google-Forschungsveteranen sammeln 7 Millionen US-Dollar für die KI-Agentenplattform „Luda“ |
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
