视觉大模型训练和推理加速

本文整理自同名线上分享，是 12 月份「百度百舸 - 云原生 AI」技术公开课的第四期和最后一期。本次分享将讲解如何结合 profiling 工具，发现训练与推理的性能瓶颈。介绍结合GPU产品特点，利用算子融合、低精度等技术，以及Faster Transformer最佳实践，提升性能并加快吞吐。12 月份的「百度百舸 - 云原生 AI」技术公开课的 4 期整理文字已经全部发布，直播回放视频将在明年 1 月份陆续上线，大家可以通过百度智能云技术站视频号观看。大家好，我是来自 NVIDIA GPU 计算专家团队的陶砺，很高兴今天有机会在这里跟大家分享一下我和我的同事陈庾，在 Swin Transformer 这个视觉大模的型训练和推理优化上的一些工作。其中一些的方法与策略，在其他的模型训练、推理的优化上都可以使用，来提高模型的吞吐、提升 GPU 的使用效率、加快模型的迭代。我会介绍 ………………………………