开发word2vec（Skip-Gram模型）
发布时间
阅读量：
阅读量
本文由罗周杨 原创，转载请注明作者和出处。未经允许，不得用于商业用途
对word2vec的skip-gram模型进行学习时，除了skip-gram模型之外，还存在另一种模型即CBOW模型。
在skip-gram模式中，其核心思想是通过给定的中间词来预测其前后相邻的词语，而CBOW模型则与之相反，它是依据前后词语的信息来推断出中间词的内容。
接下来需要明确的是，什么是中间词？又有哪些词语可以被定义为前后词？
首先应当确定一个窗口尺寸，在该窗口范围内的词语才具备中间词和前后词的概念。通常情况下，窗口尺寸设定在5到10之间。
例如，若将窗口尺寸（window size）设定为2：
|The|quick|brown|fox|jump|
此时，brown被确定为中间词，而The、quick、fox、jump则作为其前后的相关词汇。
可以理解的是，word2vec本质上是一种神经网络模型（后续将进行详细说明），那么针对此类数据，在训练过程中究竟采用何种格式进行处理呢？
通过观察下图，即可获得清晰的认识：
还没有任何评论哟~