看啥推荐读物
专栏名称: 处芯积律
处芯积律,而后知所至。一个芯片人的技术和行业研究分享。
目录
相关文章推荐
今天看啥  ›  专栏  ›  处芯积律

HBM:小贵但AI需要

处芯积律  · 公众号  ·  · 2024-04-29 21:25
即将推出的高带宽内存 high-bandwidth memory在散热方面还存在挑战,但可能即将得到改善。高带宽内存 (HBM) 正在成为算力提供商的首选内存,由于 AI/ML 的需求,使用量也在继续增长,HBM 提供紧凑的 2.5D 外形尺寸,可大幅减少延迟。HBM 的好处是你可以在非常小的占用空间内获得这些带宽,并且还将获得非常好的能效。缺点是它依赖于昂贵的硅中介层和 TSV 来运行。用于最大数据吞吐量的 HBM 堆栈。目前困扰HBM的一件事是成本。3D堆叠很昂贵。有一个 logic die位于芯片堆栈的底部,这是必须存在的额外一块硅。然后是一个硅中介层silicon interposer,它位于 CPU 或 GPU 以及 HBM 存储器下方。然后,你需要一个更大的package。成本问题将 HBM 从消费领域中移除,并将其更牢固地放在服务器机房或数据中心中。相比之下,像 GDDR6 这样的图形内存虽然没有 HBM 那么高的 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照