一个有情怀的公众号。机器学习、自然语言处理、算法等知识集中营、期待与你相遇~
今天看啥  ›  专栏  ›  机器学习算法与自然语言处理

如何评价Word2Vec作者提出的fastText算法?深度学习是否在文本分类等简单任务上没有优势?

机器学习算法与自然语言处理  · 公众号  ·  · 2019-08-10 00:00
点击上方“MLNLP”,选择加"星标"或“置顶”重磅干货,第一时间送达编辑:忆臻https://www.zhihu.com/question/48345431本文仅作为学术分享,如果侵权,会删文处理如何评价Word2Vec作者提出的fastText算法?深度学习是否在文本分类等简单任务上没有优势?作者:董力https://www.zhihu.com/question/48345431/answer/111513229fastText简而言之,就是把文档中所有词通过lookup table变成向量,取平均后直接用线性分类器得到分类结果。fastText和ACL-15上的deep averaging network [1] (DAN,如下图)非常相似,区别就是去掉了中间的隐层。两篇文章的结论也比较类似,也是指出对一些简单的分类任务,没有必要使用太复杂的网络结构就可以取得差不多的结果。文中实验选取的都是对句子词序不是很敏感的数据集,所 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照