专栏名称: AI缝合术
专注创作高质量推文内容,每天分享人工智能(AI)前沿技术,2025年即插即用模块,助力模型涨点,帮你快速找到创新点,众多硕博生、科研工作者关注,研究生发论文必备!
今天看啥  ›  专栏  ›  AI缝合术

【CVPR 2025】魔鬼藏于统一性——即插即用分层多头注意力!

AI缝合术  · 公众号  ·  · 2025-04-05 10:02
    

文章预览

一、论文信息   1 论文题目: Devil is in the Uniformity: Exploring Diverse Learners within Transformer for Image Restoration 中文题目: 魔鬼藏于统一性中:探索用于图像恢复的Transformer中的多样化学习者 论文链接: https://arxiv.org/pdf/2503.20174v1 所属单位: 南开大学计算机科学学院 VCIP & TMCC & DISSec,南开国际高级研究院(深圳·福田),南京理工大学计算机科学与工程学院 核心速览: 本文提出了一种名为HINT的基于层次化多头注意力机制的Transformer模型,用于图像恢复任务。HINT通过引入层次化多头注意力(HMHA)和查询-键缓存更新(QKCU)模块,解决了传统多头注意力(MHA)中的冗余问题,提高了图像恢复的质量和效率。 二、论文概要    Highlight 图1. 普通多头注意力(MHA)与提出的HMHA(配备QKCU模块)的比较(左)和提出的HMHA(配备QKCU模块)(右),用于低光增强任 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览