文献阅读 - 构建和分析深度上下文化的词表示法

Deep Contextualized Word Representations

M. E. Peters and colleagues introduced the concept of Deep Contextualized Word Representations at the NAACL 2018 conference

摘要

深度上下文词表示（deep contextualized word representation）：

（1）词特征（complex characteristics of word），如语法（syntax）、语义（semantics）

（2）一词多义（vary across linguistic contexts i.e., polysemy）

本文的词向量是双层递归神经网络模型的中间隐层表示的映射（映射...内部状态）

验证的主要任务包括问答（question answering）、语义继承机制（semantic inhe