随机神经网络结构搜索 (SNAS)

作者：谢思锐、郑和惠、刘春晓、林倞编写：谢思锐、石建萍、刘春晓注：本文出自商汤研究院（SenseTime Research）。原论文发表于ICLR 2019，及arXiv:1812.09926，代码将在后续公开。转载需注明作者及出处。神经网络结构搜索（Neural Architecture Search, NAS）是自动机器学习（AutoML）中的热点问题之一。通过设计经济高效的搜索方法，自动获得泛化能力强、硬件友好的神经网络结构，可以大量节省人工，解放研究员的创造力。经典的NAS方法［1］中，一个agent在trial and error中通过强化学习（Reinforcement Learning）的方式学习搭建网络结构。本文作者对NAS任务中强化学习的效率进行了深入思考，从理论上给出了NAS中强化学习收敛慢的原因。作者进一步重新建模了NAS问题，提出了一个更高 ………………………………