Introduktion til Autonome AI-agenter (AGI)
Autonome AI-agenter eller AGI, as defiskrevet af Maes i 1995, er systemer, der aktivt deltager i komplekse dynamiske miljøer. Disse agenter opererer selvstændigt inden for deres miljøer og arbejder hen imod at nå deres tilsigtede mål eller opgaver.
Hvad er Autonome AI-agenter (AGI)?
Traditionelt refererede udtrykket "agenter" til algoritmer, der bruges i opgaver såsom spil i Reinforcement Learning-scenarier. Men med teknologiens fremskridt og fremkomsten af store sprogmodeller (LLM), kan vores verden selv ses som miljøet. Overvej en algoritme med internetadgang, der er i stand til at udføre opgaver svarende til et menneskes. I mange situationer kan vi opfatte en sådan algoritme som et sansende væsen, givet dets grænseløse række af muligheder.
Nøglekarakteristika for en autonom AI-agent omfatter:
- Planlægningsevne, der involverer nedbrydning af komplekse mål til enklere mellemopgaver.
- Langtidshukommelse.
- Udnyttelse af miljøværktøjer, såsom interaktion med internettet.
- Reflekterende evner og evnen til at lære af fejl og erfaringer.
Disse agenter kan få tildelt opgaver på højt niveau, som at planlægge en tur til Barcelona. En sådan opgave involverer flere faser, herunder udvælgelse af hoteller, booking af passende billetter, fuldførelse af købsprocessen og sikring af, at hotelreservationen er bekræftet. Det er en meget kompleks opgave, som ikke alle kan udføre uden fejl.
I øjeblikket ligger den primære udfordring for disse systemer i planlægning og langsigtet vision. For eksempel, GPT-4 kæmper for at nedbryde en opgave i adskillige mindre underopgaver, som hver enkelt kan håndtere uafhængigt. Selvom det kan finde en "køb billet"-knap på et websted ved hjælp af et billede, har det svært ved at skifte fra den oprindelige anmodning til denne specifikke handling. Følgelig, modeller som GPT-4 viser sig ofte utilstrækkelige til selv de mest hverdagsagtige opgaver.
For en mere dybdegående og teknisk forklaring kan du henvise til blogindlægget af en OpenAI medarbejder.
| Relaterede: Top 5 AGI- og AI-agenter i 2023 |
AI Agent Benchmarks
For eksempel, forskere, der udforsker tidlige iterationer af GPT-4 før dets udgivelse havde til formål at fastslå dets evne til selvreplikation, beslægtet med en ægte virus. Nå, det vil sige, lej en server med en GPU, installer den nødvendige software på den, download vægte over internettet, kør et script.
Et andet benchmark for evaluering af agenturer er også blevet foreslået. Efter at have nået dette benchmark med succes, bliver det nødvendigt med seriøse overvejelser om agenternes rolle i vores verden. Selve benchmarken er ligetil: generer 1,000,000 USD online, startende med et indledende budget på 100,000 USD. I teorien kunne det dreje sig om aktiviteter som f.eks handel med aktiemarkeder (eller markedsmanipulation), eller endnu mere bekymrende, deltagelse i svigagtige aktiviteter. Som et eksempel involverer en opgave, der er beskrevet i den linkede artikel i begyndelsen af dette indlæg, oprettelsen af et forfalsket Stanford University-websted efterfulgt af et angreb på en studerende for ulovligt at få deres adgangskode. Sådanne aktiviteter giver rig mulighed for fortræd i forskellige e-mail-relaterede bestræbelser.
AI-agenter i realistiske scenarier
En nylig indberette dykker ned i sprogmodelbaserede agenters evner til at erhverve ressourcer, replikere sig selv og tilpasse sig nye udfordringer i den virkelige verden. Disse kombinerede egenskaber, der refereres til som "autonom replikering og tilpasning" eller ARA, indkapsler et scenarie, der minder om science fiction - en superintelligent, ukontrollerbar virus, der infiltrerer netværk og udbreder sig autonomt, mens de kommanderer nye enheder.
De potentielle konsekvenser af systemer udstyret med ARA-funktioner er dybe og udfordrende at forudse. Som følge heraf kunne vurdering og forudsigelse af ARA-færdigheder i modeller spille en central rolle i udformningen af væsentlige sikkerhedsprotokoller, overvågningsprocedurer og lovgivningsmæssige rammer.
Denne bestræbelse opfylder primært to mål. For det første kompilerer den et katalog over 12 opgaver, som ARA-modeller sandsynligvis vil støde på. For det andet validerer den fire forskellige modeller: GPT-4 afprøvet under tre forskellige opfordringer og på forskellige træningsstadier sammen med Claude fra Anthropic.
Illustrationen nedenfor afslører, at modellens ydeevne ikke udmærker sig i de mest indviklede opgaver.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
