追溯XLNet的前世今生：从Transformer到XLNet

作者丨李格映来源 | 转载自CSDN博客导读：2019 年 6 月，CMU 与谷歌大脑提出全新 XLNet，基于 BERT 的优缺点，XLNet 提出一种泛化自回归预训练方法，在 20 个任务上超过了 BERT 的表现，并在 18 个任务上取得了当前最佳效果！从 BERT 到 XLNet，预训练模型在不断进步，本文将解读 XLNet 的诞生过程，回顾它的前世今生。前言正当 GPT-2 还拿着 15 亿参数的模型吊着人们的胃口时，XLNet 带着开源的代码和 20 项 SOTA 的成绩悄悄发布了。从 BERT 到 XLNet，大一统预训练模型的成功，无疑昭示着行业的快速进步。现在是最好的时机。回到正题，本文虽篇幅较长，但能提供不一样的视角，帮你迅速理清模型的细节。废话不多说，笔者这就将带你快速品读，XLNet 诞生之路上最重要的三篇论文：Att ………………………………