Advertisement

Encoder-Decoder模型(基于RNNS和LSTM)适用于序列学习方案

阅读量:

1.RNN Encoder-Decoder

Sequence2Sequence这一概念主要用来描述一系列从序列到序列的映射问题,其中“序列”可以指代字符串序列或图像序列(如视频)。当给定一个输入的字符串序列,并期望得到一个对应的输出字符串序列(例如翻译任务或语义对应任务)时,该类任务便可被定义为Sequence2Sequence。

在当前深度学习技术的发展背景下,常见的处理方式是将输入的源序列通过编码过程转换为一个中间表示,即context。这个context通常是一个具有固定长度的向量形式。随后,再依据这个context生成目标输出序列。若以人类思维过程来类比,则可理解为:首先观察源序列并将其读入大脑,在大脑中形成某种记忆状态,这种状态即为context;接着基于该记忆状态进行思考与推理,并最终将其转化为输出内容。其中,读入并存储信息的过程被称为Encoder,它负责将输入信息转化为内部表示;而根据该内部表示生成输出内容的过程则被称为Decoder,即解码阶段。整体而言,这一流程可归纳为编码-存储-解码 的基本结构。

从现有研究来看,最经典的Encoder-Decoder模型架构多是建立在RNNs基础之上的。

![](https://ad.itadn.com/c/weblog/blog-img/images/2025-05-31/ckGrQqRY

全部评论 (0)

还没有任何评论哟~