用 TensorFlow 在 Transformers 上生成字幕的注意机制的实现

总览了解最先进的变压器模型。了解我们如何使用Tensorflow在已经看到的图像字幕问题上实现变形金刚比较《变形金刚》与注意力模型的结果。介绍我们已经看到，注意力机制已成为各种任务（例如图像字幕）中引人注目的序列建模和转导模型的组成部分，从而允许对依赖项进行建模，而无需考虑它们在输入或输出序列中的距离。Transformer是一种避免重复发生的模型体系结构，而是完全依赖于注意力机制来绘制输入和输出之间的全局依存关系。Transformer体系结构允许更多并行化，并可以达到翻译质量方面的最新水平。在本文中，让我们看看如何使用TensorFlow来实现用变形金刚生成字幕的注意力机制。开始之前的先决条件：Python编程Tensorflow和KerasRNN和LSTM转移学习编码器和解 ………………………………