看啥推荐读物
专栏名称: 雷克世界
赛迪研究院(CCID)主办的新媒体平台,每天跟你聊聊机器人、人工智能、智能制造领域的那些你想知道的事……
目录
相关文章推荐
今天看啥  ›  专栏  ›  雷克世界

伯克利推出Shift:利用「移位」操作替代空间卷积

雷克世界  · 公众号  · 机器人  · 2017-11-26 08:43
原文来源:arxiv作者:Bichen Wu、Alvin Wan、Xiangyu Yue、Peter Jin、Sicheng Zhao等「雷克世界」编译:嗯~阿童木呀通常情况下,神经网络是依靠卷积来聚集空间信息的。然而,就模型大小和计算而言,空间卷积是非常昂贵的,且这两者会随着内核大小变化呈现出二次方增长趋势。在本文中,我们提出了一种无参数、无FLOPs(每秒浮点运算次数)约束的“移位”操作作为空间卷积的可替代性选择。我们融合了移位和逐点卷积,以构建端到端的可训练的基于移位的模块,其中超参数表征了在准确性和效率之间的折衷。为了演示该操作的有效性,我们用基于移位的模块取代了ResNet的3x3卷积,在使用减少了60%的参数情况下,提高了CIFAR10和CIFAR100中的精度,我们还演示了该操作在Imag ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照