Advertisement

python urllib.request etree抓取百度贴吧图片并在本地存储

阅读量:

利用python语言中的urllib.request模块以及etree库,实现从百度贴吧抓取图片并保存至本地的操作,其对应的源代码如下:

复制代码
    import re
    import time
    import urllib.request
    from lxml import etree
    
    # ------ 获取网页源代码的方法 ---
    def getHtml(url):
    # page = urllib.request.urlopen(url)
    # html = page.read()
    
    headers = {'User-Agent': 'User-Agent:Mozilla/5.0'}
    html1 = urllib.request.Request(url, headers=headers)
    html = urllib.request.urlopen(html1).read()
    return html
    
    # ------ getHtml()内输入任意帖子的URL ------
    html = getHtml('https://tieba.baidu.com/index.html')
    # ------ 修改html对象内的字符编码为UTF-8 ----

全部评论 (0)

还没有任何评论哟~