OpenAI「假新闻」生成器GPT-2的最简Python实现

选自GitHub机器之心整理由 OpenAI 推出的文本生成模型 GPT-2 最近引发了人们的广泛关注，这种算法不仅在很多任务上超过了此前的最佳水平，还可以根据一小段话自动「脑补」出大段连贯的文本，并模拟不同的写作风格。它看起来可以用来自动生成「假新闻」。然而这个 GPT-2 模型内含多达 15 亿个参数，过高的算力要求让大多数开发者望而却步。而且 OpenAI 还曾「出于对模型可能遭恶意应用的担忧，并不会立即发布所有预训练权重。」一时引发机器学习社区的吐槽。近日，由 Buzzfeed 数据科学家 Max Woolf 开源的「GPT-2 精简版」出现在 GitHub 上。这是一个简单的 Python 软件包，它封装了 OpenAI GPT-2 文本生成模型（特别是它是具有 1.17 亿超参数的「较小」版本）的现有模型微调和 ………………………………