注册    登录
专栏名称: 歸藏的AI工具箱
互联网科技博主 产品设计师、模型设计师、 不会代码的独立开发者。 关注人工智能、LLM 、 Stable Diffusion 和设计。
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  歸藏的AI工具箱

Cerebras 也来抢 Groq 的生意了，推出世界上最快的 -20240828154327

歸藏的AI工具箱  · 微博  ·  · 2024-08-28 15:43
    

文章预览

2024-08-28 15:43 本条微博链接 Cerebras 也来抢 Groq 的生意了，推出世界上最快的 LLM 推理服务。 #ai# Llama 3.1 8B 的生成数独可以到每秒1800Token，70B 可以达到 450 Token。 且价格更优，分别为每百万个Token 10 美分和 60 美分。 目前每个为每个开发者每天提供 100 万个免费 Token。 先搞个 API 家人们。 Cerebras 推理采用第三代 Wafer Scale Engine（WSE-3），它拥有 21 兆字节 / 秒的内存带宽，能够存储整个模型在芯片上，从而消除了外部内存的需 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
广发银行  ·  【福利】母亲节广发优「荟」购，精选好物限时1元抢！
14 小时前
招商银行  ·  【助力】闪电贷助力消费，轻松解锁品质生活！
昨天
New Economist  ·  仇保兴：中国人工智能追赶美国还存在一定挑战
10 月前
FreeBuf  ·  XMGoat：一款针对Azure的环境安全检测工具
8 月前
无线徐州  ·  平时不运动，周末“补上”有效吗？
2 月前
星辰投研  ·  【小研好物】春夏回购王！去年卖到断货的男女T恤，升级了，福利返团89元起/3件！
1 月前
星辰投研  ·  【小研好物】春夏回购王！去年卖到断货的男女T恤，升级了，福利返团89元起/3件！
1 月前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   小百科（海外）   ·   Link管理
今天看啥 - 公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
© 2025 ~ 沪ICP备11025650号