浅谈Transformer+CNN混合架构：CMT以及从0-1复现

↑ 点击蓝字 关注极市平台作者丨FlyEgle来源丨GiantPandaCV编辑丨极市平台极市导读 本文详细讲解了华为诺亚与悉尼大学在Transformer+CNN架构混合方面的尝试，一种同时具有Transformer长距离建模与CNN局部特征提取能力的CMT。并给出了自己从0-1的复现过程以及是实验结果。 >>加入极市CV技术交流群，走在计算机视觉的最前沿论文链接: https://arxiv.org/abs/2107.06263论文代码(个人实现版本): https://github.com/FlyEgle/CMT-pytorch知乎专栏:https://www.zhihu.com/people/flyegle写在前面本篇博客讲解CMT模型并给出从0-1复现的过程以及实验结果，由于论文的细节并没有给出来，所以最后的复现和paper的精度有一点差异，等作者release代码后，我会详细的校对我自己的code，找找原因。1. 出发点Transformers与现有的 ………………………………