线上课堂 | 以卓越的性价比在 TPUs (Trillium/Ironwood) 上部署开放模型

文章预览

以下文章来源于谷歌云服务，作者 Google Cloud AI 的兴起，给基础设施带来了前所未有的挑战，大模型需要强大的计算能力和专用硬件才能高效地进行训练、微调和推理。 Google 的张量处理单元（TPU） 就是为满足日益增长的 AI 工作负载需求而设计，本次课程给大家介绍开放的大语言模型及扩散模型在 TPU 上的 训练和推理最佳实践 ，把训练 Gemini 模型的 同样强大、高效和可持续的基础架构 带给出海企业和初创公司。 01 课程安排 TPU 简介与 Trillium/Ironwood 的演进 在 TPU 上服务开放模型的关键技术 吞吐量延迟等具体性能指标解读 TPU 硬件特性所带来的性能优势 成功案例分享与总结 02 本期嘉宾 王顺 Google Cloud    AI 基础设施专家 03 精彩互动 脑力大比拼： 直播中，将随着课程发布课堂小测验，最快答对的观众即可获得 Google Cloud 礼品。 反馈有惊喜： 填写问 ………………………………