Advertisement

自然语言处理与NLTK入门

阅读量:

NLTK是自然语言处理中常用的工具包

复制代码
    import nltk
    

nltk中的工具/模块/包不是事先安装好的,需要用到哪个就安装那个,安装方法:

复制代码
    nltk.download()
    

进入安装界面后,从所有可用包中挑选所需组件进行安装操作即可完成。

分词:

(以下以英文文本的处理作为示例)

复制代码
 from nltk.tokenize import word_tokenize

    
 from nltk.text import Text
    
  
    
 input_str="Today's weather is good,very windy and sunny,we have no classes in the afternoon,we have to play basketball tomorrow"
    
  
    
 # 需要先在nltk download安装alpino包
    
 # 分词
    
 tokens=word_tokenize(input_str)
    
    
    
    

将子串转换为小写字母形式:

复制代码
 tokens=[word.lower() for word in tokens]

全部评论 (0)

还没有任何评论哟~