Text Similarity
发布时间
阅读量:
阅读量
文本相似性分析
-
- 1、相似度计算的流程
- 2、实际应用中的代码实现
- 1、相似度计算的流程
1、相似度计算的步骤
前一篇文章:文本挖掘
1、读取文档
2、对要计算的多篇文档进行分词
3、对文档进行整理成指定格式,方便后续进行计算
4、计算出词语的频率
5【可选】、对频率低的词语进行过滤
6、通过语料库建立词典
7、加载要对比的文档
8、将要对比的文档通过doc2bow转化为稀疏向量
9、对稀疏向量进行进一步处理,得到新语料库
10、将新语料库通过tfidfmodel进行处理,得到tfidf
11、通过token2id得到特征数
12、稀疏矩阵相似度,从而建立索引
13、得到最终相似度结果
2、实战代码实现与应用
'''
计算文本相似度
'''
from gensim import corpora,models,similarities
import jieba
全部评论 (0)
还没有任何评论哟~
