深度学习教程LSTM
发布时间
阅读量:
阅读量
本内容遵循循序渐进的思路,对LSTM模块的结构进行讲解,借助流程图对相关公式进行系统化整理,确保读者在阅读后能够记忆深刻、理解透彻,达到轻松掌握的效果。
模块结构
核心变量
总体而言,LSTM结构包含输入x_t、输出y_t以及内部用于存储信息的记忆单元c_t。

描述一个LSTM通常涉及三个基本变量,可表示为\mathrm{LSTM}(x,y,c)。在某些情况下,输出y也被称作隐状态h。
入口与门
除主要输入端口外,输入信号x_t(红色)还通过另外三个控制单元“门”进入LSTM结构:输入门、遗忘门与输出门。
同时被引入该模块的,还包括输出信号y(蓝色)以及记忆状态c(绿色)。
对于前一时刻的状态变量,其在图中以虚线形式进行表示。

将输入端口与门的运算结果分别标记为z,i,f,o。
