软硬件融合视角：一文看懂高性能网络

文章预览

欢迎关注下方公众号 阿宝1990 ，本公众号专注于自动驾驶和智能座舱，每天给你一篇汽车干货，我们始于车，但不止于车。 编者按 随着大模型的广泛流行，GPU集群计算的规模越来越大（单芯片算力提升有限，只能通过扩规模的方式来提升整体算力），千卡、万卡已经成为主流，十万卡、百万卡也都在未来3-5年的规划中。 集群计算的网络可以分为两类：南北向流量，也就是俗称的外网流量；东西向流量，也就是俗称的内网流量。集群计算的网络连接数 S = N x (N-1)（N为节点数）。这也是为什么现在数据中心中东西向流量占比超过90%的原因所在。再加上系统规模扩大导致的南北向网络流量的增加，这使得数据中心所需的网络带宽呈指数级增长趋势。 2019年，NVIDIA收购Mellanox，凭借着在InfiniBand和ROCEv2领域的领先优势，NVIDIA成为了高性能网络的霸主。各大 ………………………………