GPT-5 培训将耗资 2.5 亿美元并于明年开始
来自纽约的 Twitter 用户 Martin Shkreli 今天发帖称 GPT-5 估计需要 2.0-2.5 亿美元用于培训。 此训练将涉及 500,000 天内的 100 个 H90 Tensor Core GPU 或替代配置。 培训定于明年开始。
OpenAI 正在积极致力于 加强 GPT-4 具有各种能力，例如体现、代理、苏格拉底推理、知识图、世界模型、多模态、规划、语义可解释性、蜂巢思维、控制和有界性，以及较小的高价值任务。
H100/A100的生产规模引发了疑问。 是否有足够的 GPU 来完成如此艰巨的任务？ 预计今年年底H1的产量约为100万辆，次年预计发货5万辆。
关于成本，GPU 的观点是有道理的。 将这些 GPU 的成本包含在训练费用中可能会产生误导，因为它们在训练过程后不会过时。 仅这些 GPU 的价值就可能达到 20 亿美元。
值得注意的是，芯片制造公司Sustainable Metal Cloud (SMC)目前H100的最大产能为每月15,000个，但他们已将产量提高至每月约50,000个。
就电力成本而言，它们仅占总计算成本的相对较小的一部分。 从长远来看，6,000,000 kWh 大约相当于 1 万美元。
即使有微软的支持，明年购买 500,000 台 H100 似乎也是一项艰巨的任务。 此外，还出现了关于 推理成本 训练过程是否确实如建议的那样是计算密集型的。
中的上下文 英伟达的市场 到 2023 年，值得注意的是，他们的成功据报道增加了两倍，超过 1 万亿美元。 这一增长很大程度上归因于人工智能应用中越来越多地采用 Nvidia 芯片。 然而，重要的是要考虑到 美国出口限制 限制了高端人工智能芯片在中国市场的销售，这可能会影响制造和培训成本。
英伟达的利润率接近千倍 《巴伦周刊》高级作家 Tae Kim 表示，其销售的每台 H100 GPU 加速器的价格都是如此。 这意味着 Nvidia 每个 HPC 加速器的市场价格约为 25,000 至 30,000 美元，涵盖了每个芯片和外围组件估计的 3,320 美元成本。 成本分析尚不清楚，但据信是纯粹的制造成本问题。 Nvidia 的研发成本也需要考虑，因为像 H100 这样的芯片的开发需要专业人员花费数千个小时。 然而，Nvidia 的 AI 加速产品已经销售到 2024 年，预计到 150 年 AI 加速器市场价值将达到 2027 亿美元左右。
该公司受益于其基础设施和产品堆栈，但预算和机会成本可能会限制其他领域的投资或限制研发场所的风险。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
