今日 Paper | 自适应次梯度法；多域联合语义框架；无问答对分析；口语系统评价等

文章预览

    目录 自适应次梯度法在线学习与随机优化 dropout：防止神经网络过度拟合 基于双向RNN-LSTM的多域联合语义框架分析 无问答对的大规模语义分析 口语系统评价：ATIS领域      自适应次梯度法在线学习与随机优化 论文名称：Adaptive Subgradient Methods for Online Learning and Stochastic Optimization 作者：John Duchi /Elad Hazan /Yoram Singer 发表时间：2011/7/11 论文链接：http://jmlr.org/papers/volume12/duchi11a/duchi11a.pdf 推荐原因 核心问题：神经网友如何学习优化是一个非常重要的内容，当你学习深度学习的时候，你首先学习的一定是梯度下降算法，但是这个方法存在一些问题，所以之后诞生了很多优秀的算法。 创新点：作者提出一个新的次梯度方法家族,可以动态地吸收之前的看过的数据的信息,来 ………………………………