Multi-grained Attention Network for Aspect-Level Sentiment Classification(阅读笔记)
发布时间
阅读量:
阅读量
针对基于aspect的情感分析任务,本文设计了一种多粒度注意力网络以实现更精准的处理。
传统模型存在两个主要缺陷。首先,其采用的是粗粒度的注意力机制,在面对某个aspect包含大量词汇或文本内容较长时,容易导致信息丢失。其次,这些模型在训练过程中仅关注与特定aspect相关的部分,而忽略了不同aspect之间的潜在联系。
所谓粗粒度注意力机制是指:通过计算aspect的平均向量与context word之间的交互关系来学习权重;同时利用context的平均向量与aspect word进行交互以获取权重。该思想源于IAN模型,其核心观点是,在基于aspect的情感分类任务中,target和aspect之间应存在相互作用关系。具体而言,context应当具有针对特定aspect的特性,而target也应具备对应于特定context的特征。通过这种相互作用机制,该模型借助注意力机制实现了二者之间的有效交互。
细粒度注意力机制则强调在单词层面进行交互。不仅在aspect与context之间实现逐词交互,本文还进一步探索了不同aspect之间的信息提取方法。
该模型由五个部分构成:输入嵌入层、上下文层、多粒度注意力层、输出层以及模型训练模块。
输入嵌入层 采用CloVe技术将每个词汇转换为对应的词向量表示。
上下文层 利用双向LSTM分别提取co
全部评论 (0)
还没有任何评论哟~
