基于课程学习（Curriculum Learning）的自然语言理解

©PaperWeekly 原创 · 作者｜张琨学校｜中国科学技术大学博士生研究方向｜自然语言处理论文标题：Curriculum Learning for Natural Language Understanding论文作者：Benfeng Xu, Licheng Zhang , Zhendong Mao, Quan Wang, Hongtao Xie and Yongdong Zhang论文链接：https://www.aclweb.org/anthology/2020.acl-main.542/动机伴随着 Bert 等预训练模型在自然语言处理领域的全面铺开，在预训练模型上进行 fine-tune 已经成为当前自然语言处理各种研究的一个标配。在微调阶段，目标数据会被一股脑的抛给模型，用于训练一个在具体任务上的模型。但数据集中的数据之间是存在难易程度的，有些例子很容易被区分，有些例子就很难被区分，例如下图展示的 SST-2 情感分类任务上的一个数据样例，简单的例子可以直接利用一些词进行 ………………………………