Advertisement

NLP_文本数据分析_3(example)

阅读量:

目标

  • 认识文本数据分析的功能.
    • 熟悉多种常见的文本数据分析途径.

一、 文件数据分析介绍

文本数据分析的作用:

复制代码
* 文本数据分析在辅助理解数据语料方面具有显著效果,能够迅速识别语料中潜在的问题,并为后续模型训练过程中超参数的设定提供指导依据。

常用的几种文本数据分析方法:

复制代码
* 标签数量的分布情况
* 句子长度的分布特征
* 词频统计以及关键词词云生成

二、 数据集说明

借助真实的中文酒店评论数据集,对几种常见的文本数据分析技术进行解析。

中文酒店评论数据集:

复制代码
* 该数据集为二分类的情感分析语料库,存储路径为"./cn_data"文件夹内。
* 其中train.tsv为训练数据,dev.tsv为验证数据,二者的数据格式保持一致。

train.tsv文件的数据格式如下:

复制代码
 sentence    label

    
 早餐不好,服务不到位,晚餐无西餐,早餐晚餐相同,房间条件不好,餐厅不分吸烟区.房间不分有无烟房.    0
    
 去的时候 ,酒店大厅和餐厅在装修,感觉大厅有点挤.由于餐厅装修本来该享受的早饭,也没有享受(他们是8点开始每个房间送,但是我时间来不及了)不过前台服务员态度好!    1
    
 有很长时间没有在西藏大厦住了,以前去北京在这里住

全部评论 (0)

还没有任何评论哟~