Advertisement

《三国演义》书评:数据爬取与可视化呈现

阅读量:

Scrapy爬虫框架应用

基于豆瓣读书平台的书评数据,生成《三国演义》的评价词云图

实验环境构建

推荐使用国内镜像源
豆瓣:https://pypi.douban.com/simple/
阿里云:https://mirrors.aliyun.com/pypi/simple/
清华大学:https://pypi.tuna.tsinghua.edu.cn/simple

复制代码
    import scrapy
    import numpy as np
    import matplotlib.pyplot as plt
    
    
      
      
      
    

Scrapy框架加载与应用

复制代码
    # terminal 终端实现
    cd .. # 跳转到上一层目录
    scrapy startproject 当前项目名 # 和项目同名的scrapy框架项目
    
    
      
      
      
    

setting配置设置

复制代码
    ROBOTSTXT_OBEY = False # 君子协议 false 不遵守
    USER_AGENT = 'Mozilla/5.0 (Windows NT 6.1; Win64; x

全部评论 (0)

还没有任何评论哟~