文章预览
一、论文信息 1 论文题目: Devil is in the Uniformity: Exploring Diverse Learners within Transformer for Image Restoration 中文题目: 魔鬼藏于统一性中:探索用于图像恢复的Transformer中的多样化学习者 论文链接: https://arxiv.org/pdf/2503.20174v1 所属单位: 南开大学计算机科学学院 VCIP & TMCC & DISSec,南开国际高级研究院(深圳·福田),南京理工大学计算机科学与工程学院 核心速览: 本文提出了一种名为HINT的基于层次化多头注意力机制的Transformer模型,用于图像恢复任务。HINT通过引入层次化多头注意力(HMHA)和查询-键缓存更新(QKCU)模块,解决了传统多头注意力(MHA)中的冗余问题,提高了图像恢复的质量和效率。 二、论文概要 Highlight 图1. 普通多头注意力(MHA)与提出的HMHA(配备QKCU模块)的比较(左)和提出的HMHA(配备QKCU模块)(右),用于低光增强任
………………………………