通信行业AIGC系列之二十：通信网络延续基础算力的摩尔定律_43页_4mb

通信网络延续基础算力的摩尔定律？

核心内容

在AI领域，通信网络的价值在于延续了集群算力的摩尔定律。随着算力需求的增长，网络设备和器件（如交换机、光模块等）的重要性显著提升，其对算力性能的影响不可忽视。高速芯片间连接方案（如NVLink、CXL、OCS等）的推广，是宏观设备和数据中心层高速网络、光网络需求爆发的底层逻辑。传统以太网已无法满足大规模GPU集群的连接需求，NVIDIA、Google、AMD、AWS等算力大厂正采用InfiniBand、OCS等新架构来提升网络性能，从而带来增量网络需求。

主要观点

1. 网络是算力性能的关键因素
   在AI系统中，吞吐带宽和连接架构是影响整体性能的重要因素。随着AI算力需求的提升，网络设备和器件的性能和数量需求也随之增长。

2. NVIDIA的NVLink与InfiniBand技术推动网络需求

   • NVLink：NVIDIA通过NVLink实现GPU之间的高速点对点连接，提升带宽并减少通信开销。NVLink 4协议下，H100 GPU提供高达900GB/s的双向带宽。
   • NVSwitch：NVIDIA推出NVSwitch芯片，用于服务器内部的高速互连，进一步提升系统性能。
   • NVLink交换机：NVIDIA的NVLink交换机支持高速网络架构，用于连接多台服务器，提升集群整体性能。例如，DGX H100 SuperPOD系统中，每套系统配备18台NVLink交换机。
   • InfiniBand网络：NVIDIA通过收购Mellanox，推广InfiniBand网络，其高带宽、低延迟的特性非常适合AI训练和推理场景。

3. Google的TPU v4采用OCS与3D组网

   • OCS（Optical Circuit Switch）：作为谷歌TPU v4的核心技术，OCS是全光交换方案，通过MEMS阵列和光环路器实现灵活的光路切换，提升网络效率。
   • 3D组网：TPU v4采用3D立方体组网方式，每个block由64个芯片组成，每个block通过6个面连接外部交换机，实现高带宽、低延迟的通信。

4. AMD和AWS的光网络需求

   • AMD MI300系列：通过Infinity Fabric技术，提升内存带宽和芯片间互联性能。MI300X提供高达896GBps的带宽，是NVIDIA H100的1.6倍。
   • AWS Trn1训练芯片：搭载Neuron Link和Elastic Fabric Adapter（EFA）网络接口，支持高带宽、高扩展性的训练场景。

关键信息

• 网络需求增长：在NVIDIA H100到GH200系统中，800G光模块用量可提升30%-275%，256GPU集群的交换机需求从不足50台提升至150台以上。
• 光模块与交换机需求：对于256GPU的DGX SuperPOD集群，光模块和交换机需求显著增长。在H100体系下，GPU与800G光模块的用量比为1:2.4至1:6.9。
• 光网络架构演进：从传统的200G网络演进至800G甚至1.6T，单模WDM光模块成为高带宽下的必然需求。OCS技术的引入，使光通信网络的升级迭代不再受限于传统网络芯片的带宽和端口速率。
• AI数据中心架构：AI数据中心多采用**胖树（Fat-Tree）**架构，相较于传统金字塔型网络，该架构可实现无带宽收敛，支持高带宽、高并发的内部流量。

风险提示

• 信息技术的快速迭代可能带来新的网络通信方案，从而颠覆现有网络架构和市场格局。
• 光通信技术的发展（如硅光、CPO、MPO、LPO、OCS等）可能改变当前光模块和交换机的市场需求结构。

相关标的

总结

AI算力的发展不仅依赖于芯片性能的提升，更依赖于高速通信网络的建设。NVLink、CXL、OCS、Infinity Fabric等技术的推广，推动了光网络、高速交换机和光模块的市场需求增长。随着AI训练和推理需求的上升，数据中心架构正从传统的金字塔型向胖树型演进，以满足高带宽、高并发的内部通信需求。未来，光通信技术（如800G、1.6T）和新型网络架构（如OCS）将对AI算力网络产生深远影响，相关标的如中际旭创、华工科技、新易盛、紫光股份等，有望受益于AI网络需求的持续增长。