HBM，怎么玩？

文章预览

👆如果您希望可以时常见面，欢迎标星🌟收藏哦~ 来源：内容编译自semiengineering，谢谢。 随着最先进的 AI 加速器、图形处理单元和高性能计算应用程序需要快速处理的数据量持续激增，高带宽内存 (HBM) 的销量也在激增。 由于在开发和改进 ChatGPT 等大型语言模型方面投入了大量精力和资金， HBM库存已售罄。HBM 是存储创建这些模型所需的大量数据的首选内存，而通过添加更多层来增加密度所做的更改，以及 SRAM 扩展的限制，都为火上浇油。 Rambus 高级副总裁兼硅 IP 总经理 Neeraj Paliwal 表示：“大型语言模型 (LLM) 现在已超过一万亿个参数并且还在不断增长，克服内存带宽和容量瓶颈对于满足 AI 训练和推理的实时性能要求至关重要。” 这种势头至少有一部分是先进封装技术的结果，在许多情况下，先进封装技术可以提供比平面 SoC 更短、更快、更强大 ………………………………