Advertisement

生成词云图并爬取知乎榜单

阅读量:

1.网页信息爬取

首先访问知乎的热门榜单页面:https://www.zhihu.com/hot并调用requests库执行数据抓取操作;值得注意的是:
在配置request headers时需特别设置request headers中的user-agent字段需设置为Mozilla/5.0这一参数以便模仿浏览器行为;否则服务器可能会判定该行为属于网络爬虫从而影响抓取效果;

复制代码
>       1. url="https://www.zhihu.com/hot"

>  
>       2. headers={'User-Agent':'Mozilla/5.0',
>  
>       3.          'cookie':'_xsrf=0NKUqgDc8ezRmsJGb1xC5ukDIxHhxeMq; _zap=bfe65d37-53d8-46d3-ac1e-784e06dcf8a9; d_c0="ALCgxU862A6PTvBEmeag_oGAglx-a-SfU-g=|1547808969"; z_c0="2|1:0|10:1547808985|4:z_c0|92:Mi4xNFpjWUJBQUFBQUFBc0tERlR6cllEaVlBQUFCZ0FsVk4yZjR1WFFCcy1xaEJMbWpyNGNUSkJSY1JacnlXYTJQUWhn|e

全部评论 (0)

还没有任何评论哟~