专栏名称: PaperWeekly
PaperWeekly是一个分享知识和交流学问的学术组织,关注的领域是自然语言处理的各个方向。我们热爱知识,分享知识,希望通过我们大家的努力为自然语言处理的发展做出一点点贡献。我们每周会分享一期特定话题的论文笔记和本周值得读的相关论文。
今天看啥  ›  专栏  ›  PaperWeekly

论NLP可解释的评估:什么才是“好”的解释?

PaperWeekly  · 公众号  · 科研  · 2021-01-16 17:55
©PaperWeekly 原创 · 作者|李泺秋学校|浙江大学硕士生研究方向|自然语言处理、知识图谱前言深度学习模型已经成为 NLP 的标准工具,在解决许多问题上大显神通。然而其黑盒性质也成为一大问题,对系统的可控性、可信任度都造成影响。在医疗、金融等领域,对模型可解释的需求都日益增加。目前,NLP 的可解释领域中已经有了不少工作,比如:基于 probing task 测试模型的语义理解能力从模型的 embedding、activation、attention 到 saliency 的可视化分析构造特定语言现象的 challenge set 作某种方面质量评估的用各种启发式方法生成 adversarial sample 分析模型鲁棒性的生成模型预测的自然语言解释文本(NL Explanation Generation)寻找简单的替代模型,或者将模型的局部分类面简化(LIME ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照