GPU互连，ALink System破局

文章预览

随着生成式人工智能的蓬勃发展，尤其是大语言类模型，对AI基础设施提出了更高的要求，特别是AI系统 scale up互连技术。在2024年8月8日OCP开放计算中国峰会上，来自阿里云的超高速互连负责人孔阳博士介绍了阿里云发起的Scale Up开放生态ALS(ALink System，加速器互连系统)。为了进一步了解Scale Up和ALS系统，我们和阿里云孔阳博士进行了一番深入交流。 AI大模型发展下互连技术需求 从算力角度，毫无疑问，计算需求爆炸式增长是AI应用发展最显著的特点。以模型参数（能够一定程度上代表算力和GPU显存需求量）为例，在过去的十年间，迅速从AlexNet的不足0.07B参数，历经BERT以及GPT模型的演进，达到当前的GPT4模型参数达到了1.8T的规模，增长了数千倍，但算力和显存容量的增长远低于这个速率。 从性能角度，另一个特点是在线服务的实时性和高吞吐需求。 ………………………………