GPT-5 訓練には2.5億ドルの費用がかかり、来年開始される
ニューヨーク在住のツイッターユーザー、マーティン・シュクレリさんは本日、次のように投稿した。 GPT-5 トレーニングには推定 2.0 億ドルから 2.5 億ドルが必要となります。 このトレーニングには、500,000 日間で 100 個の H90s Tensor コア GPU または代替構成が必要になります。 研修は来年から始まる予定だ。
OpenAI に積極的に取り組んでいます 強化 GPT-4 さまざまな機能を備えた、具体化、主体性、ソクラテス的推論、ナレッジグラフ、世界モデル、マルチモダリティ、計画、意味論的解釈可能性、集合心、制御と境界性、およびより小規模で価値の高いタスクなど。
H100/A100 の生産規模には疑問が生じます。 このような重要な取り組みに使用できる GPU は十分あるでしょうか? 年末までに約 1 万台の H100 が生産され、翌年には推定 5 万台が出荷される可能性があります。
コストに関しては、GPU については正当な指摘があります。 これらの GPU はトレーニング プロセス後に廃止されないため、トレーニング費用にこれらの GPU のコストを含めることは誤解を招く可能性があります。 これらの GPU だけでも 20 億ドルに達する可能性があります。
注目に値するのは、チップ製造会社Sustainable Metal Cloud（SMC）のH100の最大生産能力は現在月産15,000ユニットだが、生産量を月あたり約50,000ユニットまで増やしていることである。
電力コストという点では、全体のコンピューティング コストに占める割合は比較的小さいです。 大局的に見ると、6,000,000 kWh は約 1 万ドルに相当します。
| 関連記事: AI産業は国家の電力消費量に匹敵する可能性がある |
来年までに 500,000 台の H100 を獲得するのは、Microsoft の支援があっても困難な作業のようです。 さらに、次のような疑問も生じます。 推論のコスト トレーニング プロセスが実際に示唆されているのと同じくらい計算集約的である場合。
の文脈で エヌビディアの市場 2023 年のパフォーマンスでは、その成功が 1 倍になり、XNUMX 兆ドルを超えたと伝えられているのは注目に値します。 この成長は主に、AI アプリケーションにおける Nvidia チップの採用の増加に起因すると考えられます。 ただし、次のことを考慮することが重要です 米国の輸出制限 中国市場でのハイエンドAIチップの販売を制限しており、製造コストやトレーニングコストに影響を与える可能性がある。
Nvidia はほぼ XNUMX 倍の利益率を生み出しています Barron のシニア ライター Tae Kim 氏によると、同社が販売する H100 GPU アクセラレータごとに、 これは、HPC アクセラレータごとに約 25,000 ドルから 30,000 ドルという Nvidia の店頭価格が、チップおよび周辺コンポーネントあたりの推定コスト 3,320 ドルをカバーすることを意味します。 コスト分析は不明ですが、純粋な製造コストの問題であると考えられています。 H100のようなチップの開発には専門の労働者が何千時間も費やす必要があるため、NVIDIAの研究開発コストも考慮する必要がある。 ただし、Nvidia の AI 高速化製品はすでに 2024 年まで販売されており、AI アクセラレータ市場は 150 年までに約 2027 億ドルの価値があると予想されています。
同社はインフラストラクチャと製品スタックから恩恵を受けていますが、予算と機会費用により、他の分野への投資が制限されたり、研究開発現場でのリスクが制限されたりする可能性があります。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
