用 TensorFlow Extended 实现可扩展、快速且高效的 BERT 部署

来源：TensorFlow本文约3144字，建议阅读9分钟。本文介绍如何通过 TensorFlow 的生态系统实现可扩展、快速且高效的 BERT 部署。Transformer 模型（尤其是 BERT 模型）为 NLP 带来巨大的变革，并且在情感分析、实体提取和问答问题等任务的处理上也均有新的突破。BERT 模型让数据科学家站在了巨人的肩膀上。各公司已经通过大型语料库对模型进行预训练，数据科学家可以对这些经过训练的多用途 Transformer 模型应用迁移学习，针对其所在领域的特定问题达成突破性解决方案。BERT 模型https://arxiv.org/abs/1810.04805在 SAP 的 Concur Labs (www.concurlabs.com)，我们希望利用 BERT 来解决差旅与费用领域中出现的一些新问题。我们希望能够简化 BERT 推理。遗憾的是，我们曾尝试的解决方案都不太理想 ………………………………