Advertisement

无先验知识情况下的监督式自然语言处理方法论(基于深度学习)

阅读量:
在这里插入图片描述

一、神经网络研究进展

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

二、自监督 词表示 学习:建模语言,使其能输入到神经网络中

在这里插入图片描述
在这里插入图片描述

one-hot编码:高维稀疏表示 ,无需进行参数学习
embedding嵌入:低维稠密表示 ,必须通过参数学习过程 实现 —> 参数学习方式:词向量生成模型Word2Vec

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

三、句子编码神经网络

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

四、自回归、自编码预训练学习

在这里插入图片描述
在这里插入图片描述

全部评论 (0)

还没有任何评论哟~