中科院自动化所提出 BIFT 模型：面向自然语言生成，同步双向推断

AI 科技评论按，本文作者中国科学院自动化研究所张家俊，他为 AI 科技评论撰写了基于 BIFT 的独家解读。正文内容如下：前言概括地讲，自然语言处理包括两大任务：自然语言文本理解和自然语言文本生成。自然语言文本理解就是让机器洞悉人们所言之意，自然语言文本生成旨在让机器像人一样表达和说话。文本理解的关键在于对已知文本的上下文表征和建模，而文本生成的本质是在文本理解的基础上准确流畅地产生自然语言文本。自然语言理解既可以利用上文信息也可以利用下文信息，高效的双向编码能力正是 BERT 成功的关键因素之一。但是，自然语言生成由于都默认自左往右地逐词产生文本输出，预测某个时刻的输出只能利用上文的历史信息而无法访问还未生成 ………………………………