Advertisement

赶集网住房信息数据爬取和可视化

阅读量:

Scrapy爬虫框架应用

通过赶集网平台获取各类户型的租金数据,对不同户型的最高租金、最低租金以及平均租金进行统计分析,并据此生成反映各类户型平均租金变化趋势的折线图及柱状图。

实验环境构建

推荐使用国内镜像源
豆瓣:https://pypi.douban.com/simple/
阿里云:https://mirrors.aliyun.com/pypi/simple/
清华大学:https://pypi.tuna.tsinghua.edu.cn/simple

复制代码
    import scrapy
    import numpy as np
    import pandas as pd
    import matplotlib.pyplot as plt
    
    
      
      
      
      
    

Scrapy框架加载与应用

复制代码
    # terminal 终端实现
    cd .. # 跳转到上一层目录
    scrapy startproject booktop # 和项目同名的scrapy框架项目
    
    
      
      
      
    

setting配置设置

复制代码
    ROBOTSTXT_OBEY 

全部评论 (0)

还没有任何评论哟~