Advertisement

Text Similarity

阅读量:

文本相似性分析

    • 1、相似度计算的流程
      • 2、实际应用中的代码实现

1、相似度计算的步骤

前一篇文章:文本挖掘

复制代码
    1、读取文档
    2、对要计算的多篇文档进行分词
    3、对文档进行整理成指定格式,方便后续进行计算
    4、计算出词语的频率
    5【可选】、对频率低的词语进行过滤
    6、通过语料库建立词典
    7、加载要对比的文档
    8、将要对比的文档通过doc2bow转化为稀疏向量
    9、对稀疏向量进行进一步处理,得到新语料库
    10、将新语料库通过tfidfmodel进行处理,得到tfidf
    11、通过token2id得到特征数
    12、稀疏矩阵相似度,从而建立索引
    13、得到最终相似度结果
    
    
      
      
      
      
      
      
      
      
      
      
      
      
      
    

2、实战代码实现与应用

复制代码
    '''
    计算文本相似度
    '''
    from gensim import corpora,models,similarities
    import jieba

全部评论 (0)

还没有任何评论哟~