超BERT 24倍！英伟达发布有史以来最大NLP模型MegatronLM

作者 | 刘燕 编辑 | 陈思 AI 前线导读：8 月 13 日，InfoQ 从英伟达方面获悉，其用于开发和运行可理解和响应请求的对话式 AI 的 GPU 强化平台，已经达成了一些重要的里程碑，并打破了若干新记录，其 AI 平台目前拥有迄今为止最快的训练记录、最快的推断速度和最大的训练模型。更多优质内容请关注微信公众号“AI 前线”（ID：ai-front） 最快的训练速度英伟达的 AI 平台仅需 53 分钟就能够完成模型训练，经过训练的模型在短短 2 毫秒多一点的时间里（10 毫秒在业内被认为是高水平线）就能够成功地做出推理（即利用通过训练学习到的能力得出结果），这创造了新的记录。英伟达能够使用优化的 PyTorch 软件和超过 1000 个 GPU 的 DGX-SuperPOD 训练 BERT-Large ，能够在 53 ………………………………