【Transformer】赛尔译文 | 从头开始了解Transformer

公众号关注 “ML_NLP”设为 “星标”，重磅干货，第一时间送达！作者：Peter Bloem原文：TRANSFORMERS FROM SCRATCH链接：http://www.peterbloem.nl/blog/transformers代码：https://github.com/pbloem/former译者：哈工大SCIR 徐啸，顾宇轩转载须注明出处：哈工大SCIR编者按：自2017年提出以来，Transformer在众多自然语言处理问题中取得了非常好的效果。它不但训练速度更快，而且更适合建模长距离依赖关系，因此大有取代循环或卷积神经网络，一统自然语言处理的深度模型江湖之势。我们（赛尔公众号）曾于去年底翻译了哈佛大学Alexander Rush教授撰写的《Transformer注解及PyTorch实现》一文，并获得了广泛关注。近期，来自荷兰阿姆斯特丹大学的Peter Bloem博士发表博文，从零基础开始，深入浅出的介绍了T ………………………………