07-06 InfiniBand:AI 集群的专用高铁
07-06 InfiniBand 可以理解成 AI 集群里的专用高铁系统:为低延迟、高吞吐、集群通信而生,性能强,但生态更专用。
一、它解决什么
大规模 GPU 训练需要节点之间高速互联。InfiniBand 提供高带宽、低延迟、RDMA 友好和成熟的集群通信能力。
二、为什么不是普通以太网
传统以太网更通用、更便宜,但早期在低延迟和无损通信上不如 InfiniBand。AI 训练对等待极敏感,所以高端集群长期偏爱 InfiniBand。
三、代价
专用系统性能强,但成本、供应链、生态绑定也更强。越是专用高铁,越不如普通公路灵活。
四、和以太网路线
07-07 以太网AI网络 正在追赶:用 RoCE、拥塞控制、高速交换芯片和光模块,把普通公路升级成能跑重载车队的高速路。
一句话总结
InfiniBand 是高性能 AI 网络的专用高铁,强在低延迟和集群通信。