Advertisement

Simplified and Precise Dependency Parsing with bidirectional LSTM-based feature representations

阅读量:

针对句子s,首先将其进行分词处理,得到n个词语wi,每个词语wi对应一个词性ti,并获取词语对应的词向量e(wi)以及词性对应的词性向量e(ti),将两者进行拼接操作,从而生成新的向量xi=concat(e(wi),e(ti))。

BILSTM模型通过处理输入序列x_1:n,i,输出对应的BILSTM向量vi=BILSTM(x_1:n,i)=concat(RNN_F(x_1:i),RNN_R(x_n:i))。

随后,选取一部分BILSTM向量vi进行拼接,以构建特征向量F。该特征向量F的构成实际上依赖于句法分析过程,在后续关于句法分析的讨论中将进一步解析特征向量的具体结构。一旦获得特征向量F,即可将其作为输入送入传统的句法分析网络中。例如,可以通过引入一个非线性变换函数,如多层感知机(MLP)网络,对每个句法标记进行评分计算:

在采用基于BILSTM的特征向量基础上,我们还引入了常规的句法分析技

全部评论 (0)

还没有任何评论哟~