2021机器学习研究风向是啥？MLP→CNN→Transformer→MLP！

点击下方卡片，关注“新机器视觉”公众号视觉/图像重磅干货，第一时间送达来源：机器之心‍‍就在2月份，Transformer还横扫CV和NLP各种task。但到了5月份，似乎一切变了。近来，谷歌、清华、Facebook相继发表了关于多层感知机（MLP）的工作，MLP→CNN→Transformer→MLP似乎已经成为一种大势所趋。我们来看下最新的几篇代表性论文。12月:“图像识别也是Transformer最强(ViT)”2月:“Transformer is All you Need”3月:“Attention is not All you Need”5月:“在MLP上的ViT并(MLPmixer)”5月:“Convolution比Transformer强”5月:“在MLP上加个门，跨越Transformer (Pay Attention to MLPs)”谷歌大脑首席科学家、AutoML鼻祖Quoc Le研究团队将gMLP用于图像分类任务，并在ImageNet数据集上取得了非常不错的结果。在类似的训练设置 ………………………………