2023 年 10 月 17 日

自主人工智慧代理 (AGI) 簡介

by 達米爾亞拉洛夫

發佈時間：17 年 2023 月 4 日上午 42:17 更新日期：2023 年 4 月 42 日上午 XNUMX:XNUMX

by 維克多·戴伊

編輯與事實查核：17 年 2023 月 4 日凌晨 42:XNUMX

自主人工智慧代理或AGI， as defi梅斯於 1995 年制定，是積極參與複雜動態環境的系統。這些代理程式在其環境中自主運行，努力實現其預期目標或任務。

什麼是自主人工智慧代理 (AGI)？

傳統上，術語「代理」指的是強化學習場景中玩遊戲等任務中使用的演算法。然而，隨著技術的進步和大型語言模型（LLM）的出現，我們的世界本身可以被視為環境。考慮一種能夠存取互聯網、能夠執行與人類同等任務的演算法。在許多情況下，我們可以將這種演算法視為有感知的存在，因為它具有無限的功能。

自主人工智慧代理的主要特徵包括：

規劃能力，涉及將複雜目標分解為更簡單的中間任務。
長期記憶。
利用環境工具，例如與網路互動。
反思能力以及從錯誤和經驗中學習的能力。

這些代理商可以被指派高級任務，例如計劃前往巴塞隆納的旅行。該任務涉及多個階段，包括選擇酒店、預訂合適的門票、完成購買流程以及確保酒店預訂得到確認。這是一項非常複雜的任務，並非每個人都能毫無錯誤地執行。

目前，這些系統的主要挑戰在於規劃和長期願景。例如， GPT-4 努力將一項任務分解為許多較小的子任務，每個子任務都可以獨立處理。雖然它可以使用圖像在網站上找到“購買門票”按鈕，但它在從初始請求轉換到此特定操作時面臨困難。最後，模型喜歡 GPT-4 即使是最平凡的任務也常常被證明是不夠的。

更深入和技術性的解釋，可以參考的部落格文章 OpenAI 僱員.

有關: 5 年排名前 2023 位的 AGI 和 AI 代理

AI 代理基準

例如，研究人員探索早期迭代 GPT-4 在其發布之前，旨在確定其自我複製的能力，類似於真正的病毒。好吧，那就是租一台有 GPU 的伺服器，在上面安裝必要的軟體，透過網路下載權重，運行腳本。

也提出了評估機構的另一個基準。在成功達到這一基準後，有必要認真思考代理在我們的世界中的作用。基準本身很簡單：從 1,000,000 美元的初始預算開始，在線產生 100,000 美元。理論上，這可能涉及以下活動：股市交易（或市場操縱），或更令人擔憂的是，參與詐欺活動。例如，本文開頭的連結文章中概述的一項任務涉及創建一個假冒的史丹佛大學網站，然後攻擊學生以非法取得其密碼。此類活動為各種與電子郵件相關的活動提供了充足的惡作劇機會。

現實場景中的人工智慧代理

最近 report 深入研究基於語言模型的智能體獲取資源、複製自身以及適應現實世界中新挑戰的能力。這些組合能力被稱為「自主複製和適應」或 ARA，概括了一個讓人想起科幻小說的場景——一種超級智慧、無法控制的病毒滲透網絡並在徵用新設備的同時進行自主傳播。

配備 ARA 功能的系統的潛在後果是深遠且難以預測的。因此，評估和預測模型中的 ARA 熟練程度可以在製定基本安全協議、監測程序和監管框架.

這項努力主要實現兩個目標。首先，它編制了 ARA 模型可能遇到的 12 個任務的目錄。其次，它驗證了四種不同的模型： GPT-4 測試在三種不同的提示和不同的訓練階段，與來自 Anthropic 的 Claude 一起。

下圖顯示該模型的表現在最複雜的任務中並不出色。

有關: 谷歌研究退伍軍人為人工智慧代理平台「Luda」籌集了 7 萬美元資金

標籤：

免責聲明

在與線信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。

關於作者

Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。他的文章每月吸引超過一百萬用戶的大量讀者。他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。