算力重构_从模型训练迈向推理主导的新时代_16页_946kb

报告摘要

算力行业正经历从“模型训练”向“模型推理”的结构性转变，推理算力成为新的增长核心。随着大模型训练数据量增长放缓、边际效益递减，以及推理成本因技术优化出现断崖式下跌，推理需求迅速爆发。未来，多模态交互与Agent的普及将进一步推动推理算力的非线性增长，成为算力结构演进的主要驱动力。

算力重心转移：当前算力需求正从训练端向推理端倾斜，预计2026年推理算力将占全球计算总量的三分之二，2025年将占一半，2023年约三分之一。
Agent驱动算力重构：Agent的普及使得推理任务从单次问答演变为复杂流程与链式思考，从而推动算力需求结构化增长。Agent的执行过程高度依赖CPU的多核调度能力，CPU正从“幕后调度”角色转向“前台执行”核心。
GPU面临新挑战：随着推理任务对显存带宽的依赖增强，GPU的性能瓶颈已从算力峰值转向显存带宽，中高端推理卡市场需求快速增长。
云服务模式转型：云厂商正从传统的“资源租赁”模式向“MaaS（模型即服务）与Agent编排服务”模式转变，提供基于Token消耗或执行步数的精细化计费方式，同时构建更完善的工具链生态。
存储架构革新：为应对推理阶段的KV缓存需求，存储架构正向更高容量、更高速度、更低成本演进，英伟达推出ICMS平台，结合G3.5闪存层与BlueField-4 DPU，提升存储效率与数据处理能力。