GPT-5 培訓將耗資 2.5 億美元並於明年開始
來自紐約的 Twitter 用戶 Martin Shkreli 今天發文稱 GPT-5 估計需要 2.0-2.5 億美元用於培訓。 此訓練將涉及 500,000 天內的 100 個 H90 Tensor Core GPU 或替代配置。 培訓定於明年開始。
OpenAI 正在積極致力於 提高 GPT-4 具有各種能力，例如體現、代理、蘇格拉底推理、知識圖、世界模型、多模態、規劃、語義可解釋性、蜂巢思維、控制和有界性，以及較小的高價值任務。
H100/A100的生產規模引發了疑問。 是否有足夠的 GPU 來完成如此艱鉅的任務？ 預計今年底H1的產量約100萬輛，隔年預計出貨5萬輛。
關於成本，GPU 的觀點是有道理的。 將這些 GPU 的成本納入訓練費用可能會產生誤導，因為它們在訓練過程後不會過時。 光是這些 GPU 的價值就可能達到 20 億美元。
值得注意的是，晶片製造公司Sustainable Metal Cloud (SMC)目前H100的最大產能為每月15,000個，但他們已將產量提高至每月約50,000個。
就電力成本而言，它們僅佔總計算成本的相對較小的一部分。 從長遠來看，6,000,000 kWh 大約相當於 1 萬美元。
即使有微軟的支持，明年購買 500,000 萬台 H100 似乎也是一項艱鉅的任務。 此外，也出現了關於 推理成本 訓練過程是否確實如建議的那樣是計算密集型的。
在上下文中 英偉達的市場 到 2023 年，值得注意的是，他們的成功據報道增加了兩倍，超過 1 兆美元。 這一增長很大程度上歸因於人工智慧應用中越來越多地採用 Nvidia 晶片。 然而，重要的是要考慮到 美國出口限制 限制了高端人工智慧晶片在中國市場的銷售，這可能會影響製造和培訓成本。
英偉達的利潤率接近千倍 Barron 的資深作家 Tae Kim 表示，其銷售的每台 H100 GPU 加速器的價格都是如此。 這意味著 Nvidia 每個 HPC 加速器的市場價格約為 25,000 至 30,000 美元，涵蓋了每個晶片和周邊組件估計的 3,320 美元成本。 成本分析尚不清楚，但據信是純粹的製造成本問題。 Nvidia 的研發成本也需要考慮，因為像 H100 這樣的晶片的開發需要專業人員花費數千個小時。 然而，Nvidia 的 AI 加速產品已經銷售到 2024 年，預計到 150 年 AI 加速器市場價值將達到 2027 億美元左右。
該公司受益於其基礎設施和產品堆疊，但預算和機會成本可能會限制其他領域的投資或限制研發場所的風險。
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
