新版 DeepSeek V4.1-Flash 在編碼和代理任務方面對大型人工智慧系統提出了挑戰
中國人工智慧新創企業 深度搜尋 發布 DeepSeek-V4.1-快閃記憶體該公司稱其為全新架構系列中最小的型號。據悉，此次發布正值該公司準備在上海科創板進行首次公開募股之際。
這個多模態模型擁有一個包含 5520 億個參數的混合專家模型骨幹，並支援高達一百萬個詞元的上下文。其主要優勢在於效率而非規模。 DeepSeek 的因果編碼器-解碼器架構將 40 個 Transformer 層劃分為獨立的 20 層編碼和解碼階段。因此，每個輸入詞元僅需啟動 80 億個參數，每個產生的詞元僅需啟動 160 億個參數。
該架構專為輸入密集型智能體任務而設計，在這些任務中，處理大型文件、程式碼庫或對話歷史記錄會佔據計算成本的大部分。 DeepSeek 表示，其 SWA 有界重播方法無需將選定的注意力狀態持久化到固態儲存上，從而將持久化 KV 快取的佔用空間減少到 DeepSeek-V4-Flash 的大約八分之一。
相關的壓縮稀疏注意力2系統在各層之間分配靜態注意力模式，並重複使用選定的注意力索引。結合FP4格式的鍵值緩存，它將全域鍵值快取需求降低到每個詞元890字節，約為先前Flash模型的四分之一。該模型還整合了條件記憶體和推測性解碼，每個MoE層使用一個共享專家和384個路由專家。
推理、編碼和智能體方面的競爭性結果
DeepSeek 從零開始，使用 45 兆個多模態 tokens 對 V4.1-Flash 模型進行訓練，這些 tokens 包括從預訓練開始就與文字一起進行原生處理的圖像。稀疏注意力訓練從 64,000 個 tokens 開始，然後在 34 兆個 tokens 階段將上下文長度擴展到 100 萬。訓練後，結合了監督式微調、強化學習和策略蒸餾，推理強度可在 1 到 100 的範圍內進行配置。
基準測試表明，其性能遠遠超出規模更大的模型。基礎版本在 MMLU-Pro、HumanEval 和 GSM8K 測試中分別獲得 74.1 分、79.4 分和 93.0 分，而 DeepSeek-V4-Pro-Base 的相應得分分別為 73.5 分、76.8 分和 92.6 分。在最大推理負荷下，V4.1-Flash 在 Terminal-Bench 2.1 和 DeepSWE v1.1 測試中分別獲得 90.6 分和 74.2 分，略微領先於領先的 Opus 和 GPT 該模型在這些智能體基準測試中表現出色。它還在 Codeforces 上獲得了 3,471 分，並在 MathArena Apex 上取得了與目前最佳成績相同的結果。
結果並非完全佔優。 V4.1-Flash 在 GPQA Diamond、Humanity's Last Exam 和 SimpleQA 等大型對比測試中仍落後於其他型號。儘管相比之前的 DeepSeek 型號有了顯著提升，但其在新版 Terminal-Bench 3.0 和 4.0 上的得分也低於 Opus-5.0。
多模態效能測試結果分別為：MMMU-Pro 56.5 分，CVBench 77.9 分，DocVQA 95.6 分。啟用代理工具後，模型在 Chartography 和 BabyVision 上的得分分別為 78.9 分和 89.6 分。
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Alisa，一位熱心記者 MPost專注於加密貨幣、人工智慧、投資以及廣闊的領域 Web3。她對新興趨勢和技術有著敏銳的洞察力，提供全面的報道，讓讀者了解並吸引讀者了解不斷發展的數位金融領域。
更多文章
Alisa，一位熱心記者 MPost專注於加密貨幣、人工智慧、投資以及廣闊的領域 Web3。她對新興趨勢和技術有著敏銳的洞察力，提供全面的報道，讓讀者了解並吸引讀者了解不斷發展的數位金融領域。
