AI推理芯片LPU新催化

文章预览

独角兽智库 产业研究第一智库 独角兽投研情报群招募 独角兽智库发展至今，历时9年，积累了大量资源，也和顶尖投研资源形成了利益共同体，并经过今年近一年的产品测试，小范围会员服务近两年。 十一月精准把握住了 固态电池、AI+ 等板块机会，个股 桂发祥、华胜天成、供销大集 等 现开放体验名额，加微信 ：itouzi8888， 文末有二维码 新催化！美国时间2.9下午2:55，groq创始人要在leap2025展示高速AI推理。 2024年，AI推理市场迎来历史性拐点。Groq公司公布的LPU（Language Processing Unit）实测数据引发行业震动：在Llama 2-70B推理任务中，其LPU系统实现每秒近300 token的吞吐量，相较英伟达H100实现10倍性能提升，单位推理成本降低达80%。这标志着专用推理芯片首次在核心指标上实现对GPU的跨代超越，AI算力战争进入下半场。近日，groq已经在自己的lpu芯片上实 ………………………………