博客
关于我
Python爬取高清桌面壁纸(附源码),直接运行即可
阅读量:630 次
发布时间:2019-03-14

本文共 1690 字,大约阅读时间需要 5 分钟。

前言

本文是一个实用的技术指南,旨在帮助开发人员快速了解如何从网页中抓取图片数据。代码和图片均来源于网络,仅供学习和交流使用,禁止商业用途。如有任何问题,请联系我们进行处理。


一、导入工具

import requestsfrom pyquery import PyQuery as pqimport time

二、请求、解析网页数据,保存数据

proxies = {    'https': '218.75.69.50:39590'}headers = {    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36'}def start_request(url):    response = requests.get(url, headers=headers, proxies=proxies)    response.encoding = 'GBK'    return response.textdef parse(text, page_num):    doc = pq(text)    images = doc('div.list ul li img').items()        current_image_num = 1    for image in images:        img_url = image.attr('src')        image_content = requests.get(img_url, headers=headers, proxies=proxies).content                save_path = os.path.dirname(os.path.abspath(__file__)) + '\\image\\' + f'imgs\\{page_num}\\{current_image_num}.jpg'        os.makedirs(os.path.dirname(save_path), exist_ok=True)                with open(save_path, 'wb') as f:            f.write(image_content)            print(f"正在下载第{page_num}页第{current_image_num}张图片...")            current_image_num += 1    print(f"写入完成,共下载了{current_image_num-1}张图片。")def main():    base_url = 'http://www.netbian.com'    html = start_request(base_url)    parse(html, 1)        # 爬取指定范围的页面    for page in range(2, 100):        url = f'{base_url}/index_{page}.htm'        html = start_request(url)        parse(html, page)if __name__ == "__main__":    main()

三、技术说明

  • 工具导入

    使用了 requests 库来抓取网页内容,PyQuery 集成了一些命令行提取功能,非常适合网页解析任务。

  • 请求设置

    设置了 User-Agent 字符串,让请求看起来更自然,避免被反爬机制拦截。

  • 页面编码

    网页默认使用 gbk 字符编码,本地显示可能会出现乱码,需要手动指定编码格式。

  • 图片下载与存储

    读取图片链接后,将图片内容下载并保存到指定目录中,支持多页抓取和分页存储。

  • 转载地址:http://etioz.baihongyu.com/

    你可能感兴趣的文章
    Pandas Dataframe的日志文件
    查看>>
    Pandas df.iterrows() 并行化
    查看>>
    pandas GROUPBY+变换和多列
    查看>>
    pandas Groupby:创建两列的Groupby时,如何按正确的顺序对工作日进行排序?
    查看>>
    Pandas matplotlib 无法显示中文
    查看>>
    pandas PIVOT_TABLE保持索引
    查看>>
    Pandas Plots:周末的单独颜色,x 轴上漂亮的打印时间
    查看>>
    pandas to_latex() 转义数学模式
    查看>>
    Pandas 中文官档 ~ 基础用法4
    查看>>
    pandas 中的 for 循环真的很糟糕吗?我什么时候应该关心?
    查看>>
    Pandas 中的多索引旋转
    查看>>
    Pandas 中的日期范围
    查看>>
    pandas 中的时间序列箱线图
    查看>>
    Pandas 使用指南
    查看>>
    pandas 分组并使用最小值更新
    查看>>
    pandas 均值(mean), 均值填充NA(fill_na)
    查看>>
    Pandas 对数据框的布尔比较
    查看>>
    pandas 将通话数据分割为15分钟的间隔
    查看>>
    pandas 找到局部最大值和最小值
    查看>>
    pandas 按日期和年份分组,并汇总金额
    查看>>