今日 Paper | 自适应次梯度法；多域联合语义框架；无问答对分析；口语系统评价等

  目录自适应次梯度法在线学习与随机优化dropout：防止神经网络过度拟合基于双向RNN-LSTM的多域联合语义框架分析无问答对的大规模语义分析口语系统评价：ATIS领域   自适应次梯度法在线学习与随机优化论文名称：Adaptive Subgradient Methods for Online Learning and Stochastic Optimization作者：John Duchi /Elad Hazan /Yoram Singer发表时间：2011/7/11论文链接：http://jmlr.org/papers/volume12/duchi11a/duchi11a.pdf推荐原因核心问题：神经网友如何学习优化是一个非常重要的内容，当你学习深度学习的时候，你首先学习的一定是梯度下降算法，但是这个方法存在一些问题，所以之后诞生了很多优秀的算法。创新点：作者提出一个新的次梯度方法家族,可以动态地吸收之前的看过的数据的信息,来进行基于梯度 ………………………………