深度学习笔记 | 第11讲：写一篇人人都能看得懂的LSTM

大家好！又到了每周一狗熊会的深度学习时间了。从上一讲开始，小编和大家一起将目光由 CNN 转向了神经网络的另一大类型循环神经网络 RNN，对 RNN 网络的基本构造、原理以及应用领域进行了详细的介绍。在本讲中，小编将继续和大家介绍 RNN 的一种著名的变种网络——LSTM（长短期记忆网络）。小编力图用详细但又不失明了的语言来给大家讲懂复杂的 LSTM 网络。   1深度神经网络的困扰：梯度爆炸与梯度消失在此前的普通深度神经网络和深度卷积网络的讲解时，当网络结构变深时，神经网络在训练时碰到梯度爆炸或者梯度消失的情况。那么什么是梯度爆炸和梯度消失呢？它们又是怎样产生的呢？问题先抛出，咱们一个一个来看。大家都了解了神经网络的训练机制， ………………………………