专栏名称: 专知
专知,为人工智能从业者服务,提供专业可信的人工智能知识与技术服务,让认知协作更快更好!
今天看啥  ›  专栏  ›  专知

基于预训练语言模型的文本生成研究综述

专知  · 公众号  ·  · 2021-10-15 17:00
© 作者|李军毅机构|中国人民大学高瓴人工智能学院研究方向|文本生成与预训练语言模型本文介绍的是一篇有基于预训练语言模型的文本生成研究综述。文章也同步发布在AI Box知乎专栏(知乎搜索 AI Box专栏),欢迎大家在知乎专栏的文章下方评论留言,交流探讨!导读:本文将参考上述综述论文,从预训练语言模型应用于文本生成任务的三个挑战出发:如何对输入数据进行编码并保持语义,使其与预训练语言模型进行融合;如何设计通用且合适的预训练语言模型架构,使其作为生成函数;如何优化生成函数,并保证生成文本满足特殊属性。并详细列举目前每个挑战下的研究进展。一、背景介绍文本生成是目前自然语言处理领域一项非常重要但具有挑战性的任务,



文章无法展示全部,请购买VIP后 使用网页访问内容 或者 使用第三方RSS订阅工具访问内容





今天看啥 - 让阅读更高品质
本文地址:http://www.jintiankansha.me/t/LH9E7O1ALg