Wprowadzenie do autonomicznych agentów AI (AGI)
Autonomiczni agenci AI lub AGI, as defiprzez Maesa w 1995 r, to systemy aktywnie uczestniczące w złożonych środowiskach dynamicznych. Agenci ci działają autonomicznie w swoich środowiskach, pracując nad osiągnięciem zamierzonych celów lub zadań.
Kim są autonomiczni agenci AI (AGI)?
Tradycyjnie termin „agenci” odnosił się do algorytmów używanych w zadaniach takich jak granie w gry w ramach scenariuszy uczenia się przez wzmacnianie. Jednakże wraz z postępem technologii i pojawieniem się modeli wielkojęzykowych (LLM) sam nasz świat można postrzegać jako środowisko. Rozważmy algorytm z dostępem do Internetu, który jest w stanie wykonywać zadania porównywalne z zadaniami człowieka. W wielu sytuacjach możemy postrzegać taki algorytm jako czującą istotę, biorąc pod uwagę jego nieograniczony zakres możliwości.
Kluczowe cechy autonomicznego agenta AI obejmują:
- Umiejętność planowania, polegająca na rozłożeniu złożonych celów na prostsze zadania pośrednie.
- Pamięć długoterminowa.
- Wykorzystanie narzędzi środowiskowych, takich jak interakcja z Internetem.
- Zdolności refleksyjne i zdolność uczenia się na błędach i doświadczeniach.
Tym agentom można przydzielać zadania wysokiego szczebla, np. planowanie podróży do Barcelony. Takie zadanie obejmuje wiele etapów, obejmujących wybór hotelu, rezerwację odpowiednich biletów, zakończenie procesu zakupu i potwierdzenie rezerwacji hotelu. Jest to bardzo złożone zadanie, którego nie każdy może wykonać bez błędów.
Obecnie głównym wyzwaniem dla tych systemów jest planowanie i długoterminowa wizja. Na przykład, GPT-4 stara się podzielić zadanie na wiele mniejszych podzadań, z których każdym może się zająć niezależnie. Chociaż może zlokalizować przycisk „kup bilet” na stronie internetowej za pomocą obrazu, napotyka trudności w przejściu od początkowego żądania do tej konkretnej akcji. W konsekwencji, modele lubią GPT-4 często okazują się niewystarczające do nawet najbardziej przyziemnych zadań.
Aby uzyskać bardziej szczegółowe i techniczne wyjaśnienia, możesz zapoznać się z wpis na blogu o OpenAI Pracownik.
| Związane z: Top 5 agentów AGI i AI w 2023 roku |
Testy porównawcze agentów AI
Na przykład, badacze badający wczesne iteracje GPT-4 przed wypuszczeniem na rynek miał na celu sprawdzenie jego zdolności do samoreplikacji, na wzór prawdziwego wirusa. Otóż wynajmij serwer z GPU, zainstaluj na nim potrzebne oprogramowanie, pobierz wagi przez Internet, uruchom skrypt.
Zaproponowano także inny punkt odniesienia dla oceny agencji. Po pomyślnym spełnieniu tego kryterium konieczne staje się poważne rozważenie roli agentów w naszym świecie. Sam test porównawczy jest prosty: wygeneruj 1,000,000 100,000 XNUMX USD w Internecie, zaczynając od początkowego budżetu wynoszącego XNUMX XNUMX USD. Teoretycznie może to obejmować działania takie jak handel giełdowy (lub manipulację na rynku) lub, co jeszcze bardziej niepokojące, angażowanie się w oszukańcze działania. Przykładowo jedno z zadań opisanych w artykule, do którego link znajduje się na początku tego posta, obejmuje utworzenie fałszywej strony internetowej Uniwersytetu Stanforda, a następnie atak na studenta w celu nielegalnego uzyskania jego hasła. Takie działania stwarzają szerokie możliwości wyrządzenia krzywdy w różnych przedsięwzięciach związanych z pocztą elektroniczną.
Agenci AI w realistycznych scenariuszach
Ostatnia raport zagłębia się w możliwości agentów opartych na modelach językowych w zakresie pozyskiwania zasobów, replikowania się i dostosowywania do nowych wyzwań w prawdziwym świecie. Te połączone możliwości, określane jako „autonomiczna replikacja i adaptacja”, czyli ARA, obejmują scenariusz przypominający science fiction – superinteligentny, niekontrolowany wirus infiltrujący sieci i autonomicznie rozprzestrzeniający się, przejmując nowe urządzenia.
Potencjalne konsekwencje systemów wyposażonych w funkcje ARA są głębokie i trudne do przewidzenia. W związku z tym ocena i przewidywanie biegłości ARA w modelach może odegrać kluczową rolę w kształtowaniu podstawowych protokołów bezpieczeństwa, procedur nadzoru i ramy regulacyjne.
Przedsięwzięcie to realizuje przede wszystkim dwa cele. Po pierwsze, zestawia katalog 12 zadań, z którymi prawdopodobnie spotkają się modele ARA. Po drugie, waliduje cztery różne modele: GPT-4 przetestowany pod trzema różnymi podpowiedziami i na różnych etapach szkolenia, razem z Claudem z Anthropic.
Poniższa ilustracja pokazuje, że wydajność modelu nie jest doskonała w przypadku najbardziej skomplikowanych zadań.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
