20260522-中金公司-中金_联合研究_CPU_推理时代地位重塑_15页_3mb
报告摘要
中金 • 联合研究 | CPU:推理时代地位重塑
核心内容
随着Agentic AI的快速发展,CPU在AI推理时代的地位正在发生显著变化。过去,GPU在AI训练和推理中占据主导地位,但随着强化学习和复杂任务编排的兴起,CPU的重要性逐步上升。本文从需求增长、市场测算、技术趋势和竞争格局四个方面对CPU在推理时代的发展进行了深入分析。
主要观点
-
CPU需求增长的原因:
- 在训练侧,强化学习对CPU/GPU配比提出了新要求,CPU资源不足会导致GPU空转。
- 在推理侧,出现了三个主要领域:推理Host CPU、编排节点CPU、以及沙盒执行层对CPU的需求增长。
- Agentic AI任务的复杂性和并发性提升,使CPU成为新的瓶颈环节。
-
市场测算:
- 预计至2030年,全球CPU市场规模将超过1300亿美元。
- Agentic AI当前情景下对CPU的新增需求约为840万颗。
- AI服务器中CPU:GPU配比将从1:4逐步提升至1:1或更高。
-
技术发展趋势:
- CPU将向更高带宽、更强I/O能力和更多核心数方向发展。
- 随着AI负载变化,CPU将承担更多任务调度、数据处理和工具执行职责。
- CPU与加速器的边界逐渐模糊,可能嵌入网络设备或数据中心核心。
-
CPU应用场景细化:
- 推理伴生CPU:负责数据处理、token监控和GPU利用率优化。
- 编排节点CPU:承担Agent的规划、执行和多Agent协调。
- RL训练环境CPU:支持大规模并行模拟和训练任务。
关键信息
-
CPU与GPU配比变化:
- 当前服务器中普遍采用2:1的GPU:CPU配比。
- 随着Agentic AI发展,预计到2030年CPU:GPU配比将提升至1:1甚至更多。
-
CPU市场增长预测:
- 通用型服务器CPU市场规模预计在2030年达到349亿美元,CAGR为5%。
- AI服务器CPU市场规模预计在2030年达到1,360亿美元,CAGR为71%。
- 全球服务器CPU市场规模预计在2030年达到1,360亿美元,CAGR为39%。
-
CPU核心需求:
- 随着并发任务增加,CPU核心数需求显著上升。
- 在某些场景下,CPU核心数需求可能达到数百甚至数千个。
-
竞争格局:
- 当前全球服务器CPU市场以x86架构为主,Arm市占率不足20%。
- Arm架构因功耗效率优势,有望在高并发推理场景中加速追赶。
- 预计到2030年,Arm在服务器CPU市场中占比可能接近一半。
风险提示
- CPU需求不及预期:若Agentic AI进展缓慢或云厂商资本开支放缓,CPU需求可能低于预期。
- 市场竞争加剧:x86与Arm之间的竞争可能加剧,导致价格压力和市场份额争夺。
- 上游产能供应紧张:先进制程和封装产能受限,可能影响CPU市场增长。
CPU未来发展趋势
- 数据带宽能力提升:随着AI任务复杂度上升,CPU需要更高的内存带宽和缓存容量。
- 任务分工专业化:CPU将向不同工作负载需求分化,如高单核性能、KV-cache管理、高吞吐等。
- 与加速器深度融合:CPU将与GPU、DPU等加速器协同工作,形成异构计算体系。
总结
CPU在AI推理时代的重要性正在上升,尤其是在Agentic AI推动下,其在任务编排、工具执行和高并发处理中的作用日益显著。预计到2030年,全球CPU市场规模将突破1300亿美元,其中AI服务器CPU占比显著提升。尽管x86目前占据主导地位,但Arm因能效优势有望在推理场景中获得更大市场份额。未来CPU的发展将围绕提升带宽、优化任务分工和与加速器的深度融合展开,其在AI体系中的核心地位不会动摇。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载