看啥推荐读物
专栏名称: 夕小瑶科技说
这里有自然语言处理、机器学习、算法的入门指导、科普与深度干货,有小夕的回忆与日常,还有最重要的:萌!气!
今天看啥  ›  专栏  ›  夕小瑶科技说

史上最强AI芯片!英伟达H200震撼来袭!141 GB 超大显存,Llama2推理性能翻倍,老黄赢麻了!

夕小瑶科技说  · 公众号  ·  · 2023-11-14 10:26
夕小瑶科技说 原创作者 | 王二狗英伟达又一次打了所有人措手不及!就在昨晚,老黄发布了新一代史上最强 AI芯片 NVIDIA HGX™ H200 。141 GB 超大显存!带宽增加 2.4 倍H200 拥有141GB 显存!相比之前的 H100和A100,容量几乎翻倍!NVIDIA H200 是首款提供 HBM3e 的 GPU,借助 HBM3e,NVIDIA H200 以每秒 4.8 TB 的速度提供 141GB 显存,带宽增加 2.4 倍。H200可以轻松加速生成式 AI 和大语言模型,同时推进 HPC 工作负载的科学计算。下面是H200和H100以及A100显卡的各参数对比图,可以清晰帮助大家看出H200各方面带来的提升。兼容H100系统,轻松训练ChatGPT,Llama 2推理速度翻倍!NVIDIA H200将在具有四路和八路配置的NVIDIA HGX H200服务器主板中提供,这些主板与HGX H100系统的硬件和软件兼容。它还可用于 8 月份发布的采用 HBM3e 的 NVIDIA GH200 Grace Hopper™ 超级芯片。HGX H200 由 NVIDIA NVLink™ 和 N ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照