利用语法-模型一致性进行神经关系抽取学习笔记
发布时间
阅读量:
阅读量
Exploiting the Syntax-Model Consistency for Neural Relation Extraction
论文中首先通过深度学习模型中单词的向量表达来计算每个单词的关键得分(命名为基于模型的关键性评分)。这些基于模型的关键性评估有望量化出各单词所承载的语义信息,并有效推断输入实体所涉及的关系。
随后可建议采取基于模型的重要性分数与语法对应的一致性方法(采用KL散度作为衡量工具),将基于语法的重要性分数整合到RE的深度学习模型中。
为了提高重要性分数而实施一致性策略,在传递语法信息方面发挥桥梁作用的同时帮助深度学习模型构建更加丰富的表示向量
ON-LSTM基于在隐藏矢量计算中引入了两个额外的门(其中包括一个是主忘记门和另一个是输入门),从而实现了对LSTM模型的有效扩展。


还没有任何评论哟~
