GPU和光模块的需求分析

主要观点总结

文章主要讨论了华为CM384超节点和英伟达NVL72中光模块的用量，以及不同互联方案在万卡级超大规模集群中的成本和效率差异。文章指出，短期内如果光的技术没有大的提升，CM384可能会引入铜。同时，随着AI集群规模的扩大，对互联密度的要求越来越高，光模块需求量增加，但其与GPU的比例呈现出非线性增长的趋势。不同互联方案的成本和效率差异显著，博通的以太网方案在超大规模集群中展现出显著的成本优势。

关键观点总结

关键观点1: 华为CM384超节点和光模块的关系

在CM384超节点中，光模块的用量非常高，达到NPU:光模块为1:18的比例。短期内如果光的技术没有大的提升，可能会引入铜。

关键观点2: 光模块与GPU的非线性增长

在万卡级超大规模集群中，随着集群规模的扩大，光模块与GPU的比例呈现出非线性增长的趋势。网络架构的复杂性、交换机类型和配置的变化都会影响这一比例。

关键观点3: 不同互联方案的成本和效率差异

英伟达InfiniBand方案、英伟达以太网方案和博通以太网方案在万卡级集群中的成本差异显著。博通方案展现出显著的成本优势，可能会推动更多企业转向以太网方案。