算力租赁-大模型发展的关键引擎，看好AI算力高景气持续_37页_2mb

报告摘要

随着大模型技术的快速发展，AI算力需求呈现爆发式增长。GPU作为大模型训练、微调与推理的核心计算资源，成为推动AI技术落地的关键引擎。英伟达A100与H100在性能和生态上具有显著优势，供不应求，成为市场关注的焦点。算力租赁市场因大模型的广泛应用而持续增长，未来成长空间广阔。

GPU是大模型发展的核心驱动力：
- 大模型训练、微调和推理均需要大量GPU算力支持，尤其在训练阶段，GPU集群的规模与稳定性成为关键。
- 英伟达A100与H100因其强大的计算性能和成熟的生态系统，在市场中占据主导地位。
算力租赁需求激增：
- 随着大模型参数量和训练复杂度的提升，单个模型所需GPU数量呈指数级增长，如GPT-4可能需要数万张A100卡。
- 推理侧GPU需求同样巨大，预计每家龙头大模型厂商推理侧A100需求有望达到十万张量级。
云厂商的核心竞争力：
- 云厂商在AI算力领域具备资金、软硬件和下游客户等多重优势，其核心竞争力从规模向服务能力转变。
- 云厂商需具备强大的算力运维能力，以应对训练过程中的频繁中断和故障问题。

训练侧：
- GPT-3训练需要1024张A100，GPU利用率约为45%。
- GPT-4可能需要10000-25000张A100，训练时间可能达90-100天。
推理侧：
- ChatGPT月度访问量为14亿，假设每次访问提问10个，每个问题平均Token数为1000，推理侧A100需求约为7000张。
- 未来若ChatGPT月度访问量增长20倍，达到300亿，则推理侧A100需求可能超过70万张。