意見 專業技術
2023 年 12 月 19 日

Akash Network 執行長 Greg Osuri 表示,“科技業將在 2024 年減少對 GPU 的依賴”

簡單來說

Overclock Labs 和 Akash Network 執行長 Greg Osuri 斷言,採用更少的 GPU 將在 2024 年重塑技術格局並釋放連鎖反應。

Overclock Labs 和 Akash Network 執行長 Greg Osuri 預測,“科技業將在 2024 年減少對 GPU 的依賴”

隨著科技業的主要參與者繼續主導市場 強大的 GPU,顯著轉向更少 強大的晶片 預計將於 2024 年實現。在替代方案必要性的推動下,這項舉措預計將重塑格局,使規模較小的公司和新創公司能夠為持續的發展做出重大貢獻。 人工智能熱潮.

對高效能運算的需求,尤其是訓練大型語言模型的需求,已經超出了傳統提供者的能力,例如 AWS、微軟Azure和 Google雲端。小型企業發現負擔和保留這些高效能資源具有挑戰性,導致人們對分散式和無需許可的網路越來越感興趣。

在與...的對話中 Metaverse Post — Greg Osuri,超頻實驗室首席執行官 阿卡什網絡,揭示了這一變革趨勢背後的驅動因素和潛在影響。

去中心化雲端平台 Akash Network 最近宣布透過 Mainnet 8 進行重大雲端升級。新升級引入了關鍵增強功能,旨在簡化 GPU訪問 並提升部署體驗。

Greg Osuri 將優化資料集要求視為採用較小 GPU 的關鍵要素。

低階適應(LoRA)成為這項轉變中的關鍵技術。這種策略修改著重於臨界權重,減少所需參數的數量,並保留模型中原始的預訓練知識。

Akash Network 的Greg Osuri 表示:「那些在GPU 緊張的情況下尋求替代方案的人將透過使用不太密集的資料集要求、部署低秩適應(LoRA) 等更有效率的技術來訓練語言模型以及以並行方式分配工作負載來取得進展。” Metaverse Post。 「這涉及部署較低層晶片集群來完成相當於較少數量 A100 的任務, H100s。雲端運算的新時代將會出現,在這個時代,權力是分散的,而不是掌握在少數人手中。”

他說,透過較小的晶片集群並行化工作負載是另一種策略。與傳統的 GPU 利用率相比,叢集提供了更好的可擴充性、成本效益和分散式工作負載能力。然而,挑戰包括資料傳輸延遲、同步問題、 可擴展性限制 和通訊費用。

「資料越大,非並置機器之間的通訊成本就越高且困難,因此可能需要更有效的方法/技術來克服昂貴且具有挑戰性的通訊障礙。成功實施需要硬體和軟體的結合,」Greg Osuri 說。

分散式和無需許可的網路的興起正在成為一個關鍵的推動因素,使組織能夠利用較少 GPU 的潛力並提高整體晶片利用率。

Greg Osuri 解釋說:「為了實現最佳化,組織應該考慮需要較少GPU 記憶體的較小批量大小,對資料子集進行訓練以進行調試,利用預先訓練的模型(因為它們需要較少的計算資源),並在多個GPU 之間分配訓練。” “這使得規模較小的公司和新創公司能夠進行創新,並為人工智慧的繁榮做出真正的貢獻,而無需完全依賴最強大的 GPU。”

分散式網路可以支撐技術格局

Akash Network 的 Greg Osuri 預計,採用更少的 GPU 將創造一個更加多樣化和更具競爭性的環境,從而減輕對科技巨頭主導市場的擔憂。 人工智能景觀。他表示,這種方法提供了一種經濟高效、開發人員優先的解決方案,用於存取各種 GPU,從而使較小的參與者能夠在平等的基礎上競爭。

「創新的去中心化解決方案不斷湧現,解決了需求激增的問題,確保公平的 GPU 訪問,並促進雲端運算和人工智慧模型訓練方面的創新。透過允許對來自一系列提供者(從獨立到超大規模)的運算資源(包括 Nvidia A100 和 H100)進行無需許可的訪問,這些計算平台在緩解效率低下方面具有獨特的優勢,」他說。

規模較小的公司和新創公司有望利用向較少 GPU 的轉變,為行業做出有意義的貢獻。 人工智慧領域。 Thumper.ai 利用由 32 個 Nvidia A100 組成的叢集等範例,凸顯了對未充分利用的運算能力的最佳化,以實現更快的部署速度。

「透過提供一種經濟高效、開發人員優先的方法來存取各種GPU(從高效能資料中心晶片到消費者模型),小型企業將能夠像更成熟的公司一樣存取相同的運算,這些公司正在運營方面具有靈活性。支出,」格雷格·奧蘇裡補充道。

著眼於更廣泛的影響,奧蘇裡先生預見到科技業可能發生典範轉移。向功能較弱的 GPU 和去中心化運算的轉變可能會導致新應用程式和用例的開發,從人工智慧擴展到其他技術領域。

Akash Network 的 Greg Osuri 表示:“分散式網路固有的靈活性可以使獨立開發人員和研究人員能夠試驗全新的應用程序,並解鎖開發完全開放的應用程式架構的新方法。” Metaverse Post。 「這種連鎖反應可能會導致跨行業開發更加去中心化的應用程式和服務,更廣泛地共享運算資源和知識, 加密blockchain,以及與現有技術的整合。”

免責聲明

在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。

關於作者

Victor 是一位管理技術編輯/作家 Metaverse Post 涵蓋企業領域內的人工智慧、加密貨幣、資料科學、元宇宙和網路安全。 他擁有五年的媒體和人工智慧經驗,曾在 VentureBeat、DatatechVibe 和 Analytics India Magazine 等知名媒體工作。 身為牛津大學和南加州大學等著名大學的媒體導師,Victor 擁有數據科學和分析碩士學位,他堅定地致力於跟上新興趨勢。 他為讀者提供來自科技和領域的最新、最有洞察力的敘述。 Web3 景觀。

更多文章
維克多·戴伊
維克多·戴伊

Victor 是一位管理技術編輯/作家 Metaverse Post 涵蓋企業領域內的人工智慧、加密貨幣、資料科學、元宇宙和網路安全。 他擁有五年的媒體和人工智慧經驗,曾在 VentureBeat、DatatechVibe 和 Analytics India Magazine 等知名媒體工作。 身為牛津大學和南加州大學等著名大學的媒體導師,Victor 擁有數據科學和分析碩士學位,他堅定地致力於跟上新興趨勢。 他為讀者提供來自科技和領域的最新、最有洞察力的敘述。 Web3 景觀。

Hot Stories
加入我們的時事通訊。
最新消息

在波動中機構對比特幣 ETF 的興趣增強

透過 13F 文件揭露的資訊顯示,著名機構投資者涉足比特幣 ETF,突顯出人們越來越接受...

了解更多

宣判日到來:美國法院考慮司法部的認罪,CZ 的命運懸而未決

趙長鵬將於今日在西雅圖的美國法院接受宣判。

了解更多
加入我們的創新技術社區
了解更多
阅读更多
ZKPs驅動的挖礦演算法Soland宣布推出並進行20天礦機預售
新聞報導 專業技術
ZKPs驅動的挖礦演算法Soland宣布推出並進行20天礦機預售
2024 年 5 月 13 日
Notcoin 計劃將其代幣供應量的 5% 分發給 500,000 萬名社群成員和加密貨幣交易所用戶
市場 新聞報導 專業技術
Notcoin 計劃將其代幣供應量的 5% 分發給 500,000 萬名社群成員和加密貨幣交易所用戶
2024 年 5 月 13 日
唐納德·川普向加密貨幣的轉變:從反對者到倡導者,以及這對美國加密貨幣市場意味著什麼
購物 市場 故事和評論 專業技術
唐納德·川普向加密貨幣的轉變:從反對者到倡導者,以及這對美國加密貨幣市場意味著什麼
2024 年 5 月 10 日
Layer3 將於今年夏天推出 L3 代幣,將總供應量的 51% 分配給社區
市場 新聞報導 專業技術
Layer3 將於今年夏天推出 L3 代幣,將總供應量的 51% 分配給社區
2024 年 5 月 10 日