20260831-中金公司-中金_Token启示录_五_推理产业链深度-测算篇_14页_2mb

推理产业链深度报告：测算篇总结

核心内容概述

本报告聚焦于推理产业链的深度分析，探讨推理优化技术如何影响单位Token成本，以及不同参与者在产业链中的角色与价值。报告指出，在推理需求快速增长与算力紧缺的背景下，优化技术成为降低成本、提升效率的关键。各环节的毛利率主要由推理优化能力、硬件利用率、采购成本和产品定价权决定，长期来看，技术效率的提升将转化为更低的单位Token成本和更稳定的软件服务溢价。

主要观点

• 推理优化技术的重要性：推理优化能够显著降低单位Token成本，涉及模型架构、算法优化、推理引擎和集群利用率等多个层面。
• 成本下降的关键因素：在硬件价格固定的情况下，单位Token成本由单卡理论吞吐、算法增益、推理引擎工程达成率和集群利用率共同决定。
• 技术壁垒与Co-design能力：单项技术难以形成持续的成本优势，而覆盖模型、算法、引擎与硬件的Co-design能力更具长期竞争力。
• 市场格局：产业链参与者包括模型厂商、云厂商、新云、推理优化平台、异构算力管理平台、多模型API聚合平台等，各参与方在技术与商业模式上各有侧重。
• 商业模式差异：推理优化平台提供按Token计费、GPU时间或容量保障的生产服务，而云厂商与新云则依赖算力采购和规模效应提升收益。
• 国内外差异：海外平台偏向公有云服务，而国内平台更重视异构适配和私有部署。

关键信息

推理优化技术与产业链参与者

单位Token成本与优化效果

优化能力与成本测算

• 混合实际成本测算：经过逐层优化后，混合实际成本可达约0.039美元/百万Token，较基准情况下的44.46美元/百万Token大幅下降。
• 优化四层模型：
  • 模型架构设定理论吞吐边界
  • 量化、投机解码等算法提高有效吞吐
  • 推理引擎提升系统工程达成率
  • 集群利用率决定实际产出

市场格局与经济效益

• 公有云市场：2025年中国公有云MaaS市场按调用量计算，火山引擎占据近半份额，阿里云、百度智能云、硅基流动、移动云紧随其后。
• 私有部署市场：集中度较低，传统政企客户更倾向于私有部署，以保障数据安全和本地化管理。
• 经济效益衡量：单位Token成本和单位任务成本共同影响推理服务的经济效益，降低Token消耗同样重要。

投资建议

• 关注具备Co-design能力的厂商：能够将推理优化前移至模型或芯片设计阶段，形成技术壁垒。
• 重视数据反馈平台建设：通过真实生产流量形成反馈闭环，提升优化效果。
• 关注不同商业模式的适应性：如按Token计费、GPU租赁、私有部署等，适应市场需求变化。

风险提示

• 技术迭代风险：模型架构、算法和开源框架快速变化，可能导致既有优化成果贬值。
• 模型商业化模式变化风险：未来可能采用订阅制、广告、交易佣金等模式，影响产业链价值分配。
• 成本上升风险：GPU采购、电力、数据中心租金等成本上升可能压缩利润空间。
• 推理优化技术演进风险：低精度量化、投机解码等技术可能引发输出精度下降、拒绝率上升等问题。

结论

推理产业链在技术与商业模式的双重推动下持续发展，各方参与者通过不同的技术路径和商业模式实现价值创造。中长期来看，具备Co-design能力和数据反馈平台的厂商更具竞争优势，能够持续优化单位Token成本，提升整体效益。同时，技术迭代和商业化模式变化可能带来新的风险与机遇。