07-04 AI 集群网络:GPU 之间的高速公路
07-04 AI集群网络 是计算机网络和你现有 03-01 AI硬件供应链 的交汇点。AI 训练不是一颗 GPU 单打独斗,而是几千颗 GPU 频繁同步。网络慢,昂贵 GPU 就在等人。

一、为什么 AI 需要强网络
大模型训练会把任务切到很多 GPU 上。每轮计算后,GPU 之间要交换梯度和参数。计算越快,通信越不能拖后腿。
二、东西向流量
传统网站很多流量是用户到服务器的南北向流量;AI 集群里,大量流量在服务器之间、GPU 之间横向流动,这叫东西向流量。
三、网络瓶颈怎么影响算力
如果网络慢,GPU 算完一小段就要等别的 GPU 同步。你买了很贵的算力,却因为“路堵”而空转。
四、关键技术
07-05 RDMA与RoCE 降低 CPU 参与和延迟,07-06 InfiniBand 提供高性能专用网络,07-07 以太网AI网络 试图用更开放的以太网承接 AI 集群。硬件上对应 03-03 光模块、03-02 CPO、03-04 PCB、03-05 液冷。
五、投资/产业视角
AI 网络把网络设备、交换芯片、光模块、CPO、PCB、散热全串起来。它解释了为什么 03-03 光模块 不只是通信配件,而是 AI 算力利用率的一部分。
一句话总结
AI 集群里,网络不是配角,而是让 GPU 不空等的高速公路。