专栏名称: AI寒武纪
Attention Is All You Need
今天看啥  ›  专栏  ›  AI寒武纪

马斯克AI超级计算机再升级!10万张H100还不够,还要再加10万张?

AI寒武纪  · 公众号  ·  · 2024-09-03 11:42
    

文章预览

马斯克在AI领域的“军备竞赛”还在继续!他打造的超级AI训练集群Colossus,7月份就已初步建成,10万张H100 GPU的恐怖算力已经让业界震惊。但这对马斯克来说还不够,他还要再加10万张 Colossus位于德克萨斯州的孟菲斯,距离特斯拉超级工厂约6.5小时车程,方便特斯拉团队就近使用。它采用了单一RDMA架构,所有GPU都连接在同一个高速、低延迟的网络上,允许它们高效地相互通信,协同工作效率爆表! 刚刚,马斯克兴奋地宣布:Colossus 已经正式上线!从开始建设到上线,只用了 122 天,简直是神速!  他还透露,Colossus 将在未来几个月内再增加 10 万张 GPU,其中 5 万张是更先进的 H200,这意味着 Colossus 的算力将再次翻倍!  看来,马斯克对 Colossus 寄予厚望!它将用来训练 xAI 的各种 AI 模型,包括 Grok、特斯拉自动驾驶和擎天柱机器人等等 Colossus 的出现 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览