Backbone设计使用1/8的FLOPs，实现比Baseline更高精度的方法（附论文及源码）

以下文章来源于微信公众号：集智书童作者：小书童链接：https://mp.weixin.qq.com/s/j6-fjx_NVG6FeNWDgMNDmg本文仅用于学术分享，如有侵权，请联系后台作删文处理导读随着计算机视觉技术的发展，研究者越来越重视如何在不减性能前提下降低模型的参数量。本文针对低FLOPs模型无法从大规模预训练中受益的问题，提出ParameterNet，实现了使用1/8的FLOPs比Baseline更高的精度。论文地址：https://arxiv.org/pdf/2306.14525.pdf代码地址：https://github.com/huawei-noah/Efficient-AI-Backbones大规模视觉预训练显著提高了大型视觉模型的性能。然而，作者观察到现有的低FLOPs模型无法从大规模预训练中受益的问题。在本文中，作者提出了一种通用的设计原则，即ParameterNet，用于在大规模视觉预训练中增加更多参数的同时保持低FLOPs。例如，采用动态卷积技术可以为网络提供更多参数，同时仅略 ………………………………