计算机行业：全球AI算力需求继续向上_17页_1mb

全球AI算力需求继续向上

核心内容

随着大模型的持续迭代和参数量、数据集的不断增长，全球AI算力需求持续上升。大模型的演进路径表明，未来模型体量将进一步扩大，从而推动算力基础设施需求的快速增长。从模型的预训练、推理到调优，每个环节都对算力提出了不同但显著的需求。根据测算，一个1000亿参数模型在预训练、推理和调优三个环节的算力需求总和约为18万PFlop/s-day，对应约2.8万张A100等效GPU算力。

主要观点

• 模型能力提升依赖于参数量与数据集的增加：模型参数量和数据集的扩大显著提升了模型的感知能力、推理能力和记忆能力，是大模型演进的核心动力。
• “Scaling Law”推动算力需求增长：大模型的性能与参数量、Token数量和计算量之间存在显著的幂律关系，即算力需求随着模型参数量和训练数据量的增加而增加。
• 大模型算力需求拆解：大模型的算力需求主要体现在预训练、推理和调优三个环节，分别由不同的计算公式和变量驱动。
• 算力基础设施需求增长空间巨大：成熟大模型的运营预计可带来3169亿美元的AI服务器增量市场，远超2023年的211亿美元，显示未来增长潜力。
• 国产化趋势明显：由于美国对高性能AI芯片的出口限制，国内AIGPU厂商有望加速追赶，实现技术突破。

关键信息

算力需求测算

• 预训练：根据“Chinchilla缩放定律”，预训练算力需求公式为 $C \approx 6NBS$，其中N为模型参数量，B为Token批量，S为训练步数。
• 推理：根据OpenAI的公式 $C \approx 2NBS$，推理算力需求主要取决于Token数量和模型参数量。
• 调优：调优算力需求主要由调优次数决定，通过GPU核时数倒推，1000亿参数模型每月调优算力需求为216PFlop/s-day，1万亿参数模型则为2160PFlop/s-day。

市场预测

• AI服务器市场规模：2023年全球AI服务器市场规模为211亿美元，预计2024-2025年CAGR为22.7%，未来增长空间巨大。
• 全球AI服务器增量市场：成熟大模型的运营预计带来3169亿美元的增量市场，主要由30家厂商运营1000亿参数模型、20家运营5000亿参数模型、10家运营1万亿参数模型构成。
• A100等效GPU需求：以1000亿参数模型为例，所需A100等效GPU为2.8万张；5000亿参数模型为21.8万张；1万亿参数模型为63.4万张。

产业链相关公司

• 英伟达链：浪潮信息、工业富联、中际旭创、沪电股份等。
• 昇腾链：神州数码等。
• 海光链：海光信息、中科曙光等。
• EDA：华大九天等。

风险提示

• 宏观经济波动：可能影响新技术的落地节奏及IT投资。
• 下游需求不及预期：可能导致算力需求增长慢于预期。
• 测算结果偏差：基于“缩放定律”等假设，可能存在与实际模型训练过程不符的情况。

总结

全球AI算力需求因大模型的持续迭代而不断增长，主要体现在预训练、推理和调优三个环节。随着模型参数量和数据集的增加，算力需求将呈指数级上升，预计未来AI服务器市场将有显著增长。在算力基础设施需求增长的背景下，相关产业链公司将迎来发展机遇。同时，由于高性能芯片进口受限，国产AIGPU有望加速发展，缩小与国际先进水平的差距。