Named Entity Recognition of Novel Entities Using Transfer Learning

相关文献的获取路径为：https://aclweb.org/anthology/D16-1087 ，该研究成果发布于 EMNLP 会议。

摘要：

本文中，我们设计了一种技术途径，旨在针对特定领域内存在相似但非完全一致的命名实体（NE）类型，并且仅有少量相关领域训练数据的情形，通过迁移学习方式构建该领域的NE模型。本文的创新点在于不仅考虑了不同领域之间的差异性，还进一步引入了标签层面不一致性的假设。

1、介绍

当训练数据量受到限制时，我们难以确保特征参数的学习过程具有足够的可靠性。此外，由于目标NE类型在源域中缺失，迁移学习面临较大挑战，因为无法直接将源域训练所得的模型应用于目标域。Alvarado等人（2015）指出，即便不同域中的NE标签集保持一致，若标签分布存在显著差异，也会对模型性能产生负面影响。尽管面临上述问题，跨域知识的传递仍然具有可行性，因为与目标相关的NE类型往往具备相似的词汇构成和上下文特征。

我们首先利用大规模的源域语料库对NER模型进行训练，并进一步探索源域与目标域中NE类型之间的关联性。在最终阶段，我们将第二阶段所获得的模型参数作为初始值，用于线性链CRF的构建，并对其进行微调以捕捉特定于目标域的特征模式。 通过仅使用125个来自目标域的训练样本，我们的方法在现有高性能基线基础上实现了F分数提升160%的成绩。