大规模计算时代：深度生成模型何去何从

作者 |Chunyuan编辑 | 丛末人工智能的核心愿望之一是开发算法和技术，使计算机具有合成我们世界上观察到的数据的能力, 比如自然语言，图片等等。每当我们建立一个模型来模仿这种能力时，该模型就称为生成模型 (Generative Models)。如果该模型涉及深度神经网络，则该模型是深度生成模型（Deep Generative Models, 简称 DGMs）。作为深度学习中自我监督学习 (self-supervised learning)技术的一个分支，DGM特别专注于刻画数据的生成过程。这篇文章回顾了DGM的历史，定义和现状，并分享最新的一些研究结果。最终希望启发大家去思考一个共同的主题：如何在大规模预训练时代推进或应用深度生成模型。1历史回顾和基础知识：三种类型的深度生成模型和一个通用技巧生成模型（Generati ………………………………