无先验知识情况下的监督式自然语言处理方法论(基于深度学习)
发布时间
阅读量:
阅读量

一、神经网络研究进展




二、自监督 词表示 学习:建模语言,使其能输入到神经网络中


one-hot编码:高维稀疏表示 ,无需进行参数学习
embedding嵌入:低维稠密表示 ,必须通过参数学习过程 实现 —> 参数学习方式:词向量生成模型Word2Vec





三、句子编码神经网络





四、自回归、自编码预训练学习


全部评论 (0)
还没有任何评论哟~








one-hot编码:高维稀疏表示 ,无需进行参数学习
embedding嵌入:低维稠密表示 ,必须通过参数学习过程 实现 —> 参数学习方式:词向量生成模型Word2Vec











