注意力机制：有效的策略（基于注意力机制）神经机器翻译

nlp领域重要会议主要有ACL（ Association for Computational Linguistics ）、EMCNLP（ East Asian Conference on Natural Language Processing ）以及NACL（ New Acade...
思考往往始于疑问与探索的过程...
事物若要达到深厚的基础，则需从细微之处逐步积累；若想构建高远的目标，则需由浅入深地积累经验...
神经机器翻译在模式识别与数据处理方面表现尤为突出...
在句子处理中常用的标识符包括eos（结束标记）、sos（开始标记）、bos（前导标记）以及end（结束标记），这些标识符有助于确保句子结构的完整性与准确性...
端到端模型以其简洁明了的设计理念著称，在这种架构下，“见”与“训练”流程均显得极为简便...
遵循人类自然语言处理的习惯，在这种模式下，“理解并准确传达”是核心原则...

seq2seq缺点
1、encoder将长句压缩成一个向量很难

2、在解码过程中 decoder 会丢失 encoder 的信息：
解决办法：将 encoder 的输出向量传递给 decoder 的每个时间点（即使用 recurrent 神经网络）

基于对齐机制，在目标语言中找到相应的词汇，并从源语言中寻找对应的术语或表达，在此过程中使得整个翻译过程更加简便。