20260811-中金公司-中金_AI进化论_22_无惧存储通胀_下游盈利健康_多元降本重构AI硬件投资叙事_22页_3mb

AI硬件投资分析总结

核心内容

本报告由中金公司发布，聚焦当前AI硬件投资回报率的讨论，特别是在存储成本持续上涨的背景下，分析算力硬件如何通过技术迭代和架构优化维持盈利能力和投资吸引力。报告指出，尽管存储通胀对资本开支（CapEx）形成压力，但算力效率的提升能够有效对冲这一影响，从而推动AI硬件需求持续增长。

主要观点

存储成本与算力效率的博弈

• 存储通胀主要由AI驱动的刚性需求增长和寡头供给收缩叠加所致。
• 尽管存储成本上涨，但算力硬件架构的持续迭代显著提升了单token的生成效率，使得单位CapEx的token产出能力快速提升。
• 2026年部署GB300 NVL72时，存储通胀对CapEx的侵蚀率约为63%，而2027年部署VR200 NVL72时，尽管存储成本进一步上涨，单位CapEx的token产出效率却实现268%的增长。

下游盈利与硬件需求的联动

• 闭源模型依赖能力溢价维持盈利，而开源模型通过优化基础设施降低成本，两者盈利模式各有优势。
• 2026年，DeepSeek、Moonshot AI等开源厂商毛利率快速提升，盈利水平逐步接近闭源厂商。
• AI推理成本下降有助于扩大应用场景，提升Token消耗量，从而带动整个算力硬件需求增长。

推理负载结构精细化与定制化芯片发展

• 推理负载从传统Chat-only向Agent等复杂交互场景演进，推动对定制化架构和系统互联创新的需求。
• 推理芯片竞争焦点从单token成本转向在特定负载下实现吞吐与延迟的帕累托最优，即系统整体TCO表现更优。

帕累托前沿曲线与系统级优化

• 评估推理芯片性能不能仅依赖单token成本或峰值算力，而应综合考虑时延、吞吐、显存带宽、模型精度等多维度。
• 通过帕累托前沿曲线，可识别出在特定业务负载下最优的硬件部署方案，提升整体效率。

关键信息

存储与算力成本结构变化

帕累托前沿曲线与推理芯片分类

• SRAM中心架构：如Groq、Cerebras，通过集成SRAM提升吞吐与延迟表现，但成本较高。
• SRAM+低成本DRAM架构：如d-Matrix、Tenstorrent，通过替代HBM降低成本，同时保持一定可编程性。
• 分层存储架构：如SambaNova、Positron，通过多层级存储优化，适合Agent频繁调用模型的场景。
• HBM中心架构：如Rebellions、FuriosaAI，依赖HBM实现高性能，但对新模型架构适应能力有限。

AI基础设施发展趋势

• 随着模型复杂度提升，对内存容量和带宽的需求显著增加，CXL技术作为分层存储方案，有望缓解HBM依赖，提升系统级资源利用率。
• 前沿模型如GPT-5.6 Sol、Claude Fable 5等，因其性能优势，维持较高API定价，推动Premium AI市场发展。
• 开源模型通过技术优化和成本控制，正在快速缩小与闭源模型的差距，成为AI应用的重要推动力。

风险提示

• AI硬件投资回报率不及预期；
• 高端产能供给不足，供应链匹配失衡；
• AI应用落地不及预期，场景拓展乏力。

产业链与市场前景

• 开源模型的普及将带动Token需求高速扩张，利好全链路AI硬件及国产算力产业链。
• 中国公有云Token消耗量从2024年的114万亿增长至2025年的1,944万亿，预计2026年将突破40,000万亿。
• 国产GPU、存储、服务器与互联方案在成本、性能和可扩展性上具备竞争力，有望承接更多AI算力需求。

结论

AI硬件投资逻辑未变，算力需求持续增长，存储通胀虽对CapEx形成一定压力，但硬件效率提升与系统级优化能够有效对冲该影响。未来，具备高吞吐、低延迟、优化存储架构的芯片将在Premium AI场景中占据优势，推动AI基础设施向更高效、更灵活的方向演进。