transformer 中的注意力机制和胶囊网络中的动态路由：它们在本质上或许具有相似性

AI 科技评论按：胶囊网络是一种热门的计算机网络模型，倍受人工智能领域相关研究人员的关注。而 transformer 是谷歌在 2017 年的一篇著名论文「Attention Is All You Need」（https://arxiv.org/abs/1706.03762）中提出的一种网络结构，这种网络结构是基于注意力机制的，主要关注 NLP 领域的机器翻译问题。Amsterdam 大学的博士生 Samira 思考了胶囊网络和 transformer 之间的关系，并发表了一篇博客。在博客中，她讨论了 transformer 和胶囊网络的主要组成部分以及它们之间的关系。雷锋网 AI 科技评论将她的文章编译整理如下：在本文中，我们将介绍 transformer 和胶囊网络的主要组成部分，并尝试在这两个模型的不同组件之间建立连接。我们的主要目标是研究这些模型本质上是否 ………………………………