新聞報導 專業技術
2023 年 7 月 24 日

StabilityAI 和 CarperAI Lab 推出具有增強推理能力的開源法學碩士 FreeWilly

StabilityAI CarperAI 團隊推出了兩個新的開源大型語言模型(LLM),名為 自由威利1和自由威利2。 這些模型因其增強的推理能力而在法學碩士領域脫穎而出。

Stability AI 和 CarperAI 實驗室推出具有增強推理能力的 FreeWilly
圖片來源:美通社

FreeWilly1 建構於 LLaMA 65B 模型,並使用綜合生成的資料集進行了微調。 FreeWilly2 建構於 LLaMA 2 70B 型號並表現出與 GPT-3.5 對於某些任務。 這些模型的訓練方法受到以下因素的影響 微軟的研究,正如他們題為“Orca:從複雜解釋痕跡中進行漸進學習”的論文中詳細介紹的那樣 GPT-4“ Stability AI的方法涉及使用高質量指令提示語言模型來創建包含 600,000 個數據點的數據集。 該數據集大小約為原始 Orca 研究中使用的數據集的 10%。 儘管數據集大小減小了,但 FreeWilly 模型在各種基準測試中都表現出了卓越的性能。

數據生成過程涉及使用不太複雜的模型創建 500,000 個案例 法學碩士模式 以及另外 100,000 個具有更複雜的 LLM 模型的案例。 為了確保有效的比較,數據集經過仔細篩選,以刪除源自評估基準的案例。 這個綜合生成的數據集的有效性在 FreeWilly 模型的性能中顯而易見,儘管它們是在只有原始 Orca 論文大小十分之一的數據集上進行訓練的。

為了評估這些模型,研究人員採用了 艾柳特人工智能,輔以 AGIEval。 研究結果表明,兩種 FreeWilly 模型都擅長解決法律和數學等專業領域的挑戰性問題。 他們還表現出複雜的推理和對語言細微差別的敏銳理解。 CarperAI團隊對這些模型增強我們對口語理解的潛力持樂觀態度,並渴望見證它們在人工智能領域的創新應用。

為了全面了解 FreeWilly1 和 FreeWilly2, 參考文章和項目頁面 提供詳細的見解。

LLaMa-2:公共領域語言模型的新時代

LLaMa-2 代表總理 語言模型 今天在公共領域,為跨各種產品的大型語言模型(LLM)的持續發展和部署鋪平了道路。 它的前身, LLaMa-1,透過激發眾多有影響力的項目奠定了基礎。 隨著介紹 LLaMa-2,在各種應用中的利用前景更大,特別是考慮到它提供免費商業用途。

在最近與 BBC 的對話中,Nick Clegg,Meta 的著名人物,討論了將 LLM 作為開源發布的決定。 克萊格表示,此舉增強了這些模型的安全性,主要是因為它有利於外部實體的深入研究和分析。

克萊格的一些重要觀察包括:

  • LLaMa-2 在開源模型中樹立了新的安全標準。 這一斷言在連結文章中提到的基準中得到了支持。
  • 解決問題 關於人工智能帶來的潛在生存威脅,克萊格認為,這種討論可能稍微超前於實際的技術能力。 他強調,大多數擔憂都與假設的超先進人工智能模型有關——這些模型擁有無與倫比的智能、自主性和自我複制能力。 與此形成鮮明對比的是,Clegg 描述了來自 Meta,包括 LLaMa-2,明顯初級。
  • 雖然克萊格堅信人工智能的監管,但他強調,並不是每個人工智能模型都必須開源。

Meta 對透明度的承諾以及對更廣泛社區的貢獻在其長達十年的業績記錄中顯而易見。 在過去十年中,該公司已提供 1000 多個模型、庫和數據集供公眾使用。 突出的版本包括 React、PyTorch 和更新的“細分任何東西' 模型。

  • 最近, 元已經發布 LLaMa-2-聊天模型,開源人工智慧領域的重大突破。 這些模型具有 70 億個參數,可與 GPT-3.5 並超越基準。 它們使用 RLHF(人類回饋強化學習)進行微調,並提供個人化的服務 ChatGPT 等價物、人類評估指標和數學解決問題的能力。 該模型是第一個使用 RLHF 進行微調的模型,使其更加引人注目。 Meta 已使該車型完全免費用於商業用途。 一項顯著優勢 LLaMa-2-Chat是它創造的潛力 ChatGPT 無需與他人共享任何數據的類似物 OpenAI,允許開發人員和研究人員利用模型的力量,同時保持對其數據的完全控制。

閱讀有關人工智能的更多信息:

標籤:

免責聲明

在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。

關於作者

Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。 

更多文章
達米爾亞拉洛夫
達米爾亞拉洛夫

Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。 

Hot Stories

代幣化的 RWA 正在彌合兩者之間的差距 DeFi 和傳統金融

by 安東尼·索洛弗
2024 年 6 月 24 日
加入我們的時事通訊。
最新消息

SnowBridge 推出跨鏈橋,增強 Polkadot 生態系內的互通性

by 艾莉莎戴維森
2024 年 6 月 24 日

從 Ripple 到大型綠色 DAO:加密貨幣專案如何為慈善事業做出貢獻

讓我們探索利用數位貨幣潛力進行慈善事業的措施。

了解更多

AlphaFold 3、Med-Gemini 等:2024 年人工智慧改變醫療保健的方式

人工智慧在醫療保健領域有多種表現形式,從發現新的遺傳相關性到增強機器人手術系統的能力…

了解更多
加入我們的創新技術社區
了解更多
阅读更多
加密貨幣交易所 ZKX 籌集 6.3 萬美元資金, Airdrop其代幣已上線 KuCoin、Gate.io 和 Bitget
商業 新聞報導 專業技術
加密貨幣交易所 ZKX 籌集 6.3 萬美元資金, Airdrop其代幣已上線 KuCoin、Gate.io 和 Bitget
2024 年 6 月 25 日
代幣化的 RWA 正在彌合兩者之間的差距 DeFi 和傳統金融
意見 排行榜 商業 市場 軟體 專業技術
代幣化的 RWA 正在彌合兩者之間的差距 DeFi 和傳統金融
2024 年 6 月 24 日
Rekt Capital 加密貨幣分析師表示,比特幣目前的修正水準仍低於平均水平
市場 新聞報導 專業技術
Rekt Capital 加密貨幣分析師表示,比特幣目前的修正水準仍低於平均水平
2024 年 6 月 24 日
核心開發者開源SRC協議的索引器程式碼,包括SRC-20、SRC-721和SRC-101代幣標準
新聞報導 軟體 專業技術
核心開發者開源SRC協議的索引器程式碼,包括SRC-20、SRC-721和SRC-101代幣標準
2024 年 6 月 24 日