One-Shot 神经网络搜索(NAS)的searching阶段到底在做什么？

点击上方“MLNLP”，选择加"星标"或“置顶”重磅干货，第一时间送达编辑：忆臻https://www.zhihu.com/question/339002300本文仅作为学术分享，如果侵权，会删文处理One-Shot 神经网络搜索(NAS)的searching阶段到底在做什么？作者：纳米酱https://www.zhihu.com/question/339002300/answer/777887539NAS说到底就是跑n个模型，挑个好的。一般都可以分成 two stage ，如何跑与如何挑。DARTS是一种整合性方案。先说如何跑。对于题主提到的各种 NAS，存在 random search 跑的大差不差，确切来说， random 不是掷骰子那种 random，random 过程是要有目的去控制每个候选算子应该投入的优化次数的。理想情况下，算法能够自动给好的算子，或者好的子网络投入更多计算资源，给差的算子减少计算资源。DARTS 只是一种资源分 ………………………………