专栏名称: 电子发烧友网
关注电子发烧友网,即时收听电子行业动态,抢先知晓半导体行业发生的最新事件。
今天看啥  ›  专栏  ›  电子发烧友网

HBM4进一步打破内存墙,Rambus控制器IP先行

电子发烧友网  · 公众号  ·  · 2024-11-21 07:00
    

文章预览

电子发烧友网报道(文/黄晶晶)2022年11月发布的GPT-3使用1750亿个参数,而今年5月发布的最新版本GPT-4o则使用超过1.5万亿个参数。在过去几年里,这些大语言模型的规模增长了超过400倍。但我们看到,在相同时间内硬件内存的规模仅增长了两倍。 那么要完成这些AI模型的任务,就必须投入额外数量的GPU和AI加速器,才能满足对内存容量和带宽的需求。同时内存系统也必须不断升级。Rambus在内存系统领域拥有超过30年的高性能内存系统开发和研究经验,一直以来都是市场的领导者。近日,Rambus研究员兼杰出发明家Steven Woo博士和Rambus大中华区总经理苏雷先生接受媒体采访,分享了Rambus的HBM4控制器IP新品,以及对内存市场的看法。 HBM内存技术演进 HBM高性能内存具有非常高的带宽和密度,远高于市面上常见的普通DRAM。HBM内存非常适用于AI训练、高性能计算 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览