MIT韩松团队新作DuoAttention：大模型高效推理框架

文章预览

前言   DuoAttention 通过将大语言模型的注意力头分为检索头（Retrieval Heads，需要完整 KV 缓存）和流式头（Streaming Heads，只需固定量 KV 缓存），大幅提升了长上下文推理的效率，显著减少内存消耗、同时提高解码（Decoding）和预填充（Pre-filling）速度，同时在长短上下文任务中保持了准确率 。 Pytorch训练营，花两个星期彻底掌握代码实现 CV各大方向专栏与各个部署框架最全教程整理 CV全栈指导班、基础入门班、论文指导班 全面上线!! 来源： 机器之心 仅用于学术分享，若侵权请联系删除 论文链接：https://arxiv.org/abs/2410.10819 项目主页及代码：https://github.com/mit-han-lab/duo-attention 单 GPU 实现 330 万 Token 上下文推理演示视频： 随着大语言模型（Large Language Models，LLMs）在各类任务中的广泛应用，尤其是在长上下文（Long-Context）场景中处理海量文本信息，如何在 ………………………………