博客
关于我
Python爬取高清桌面壁纸(附源码),直接运行即可
阅读量:630 次
发布时间:2019-03-14

本文共 1690 字,大约阅读时间需要 5 分钟。

前言

本文是一个实用的技术指南,旨在帮助开发人员快速了解如何从网页中抓取图片数据。代码和图片均来源于网络,仅供学习和交流使用,禁止商业用途。如有任何问题,请联系我们进行处理。


一、导入工具

import requestsfrom pyquery import PyQuery as pqimport time

二、请求、解析网页数据,保存数据

proxies = {    'https': '218.75.69.50:39590'}headers = {    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36'}def start_request(url):    response = requests.get(url, headers=headers, proxies=proxies)    response.encoding = 'GBK'    return response.textdef parse(text, page_num):    doc = pq(text)    images = doc('div.list ul li img').items()        current_image_num = 1    for image in images:        img_url = image.attr('src')        image_content = requests.get(img_url, headers=headers, proxies=proxies).content                save_path = os.path.dirname(os.path.abspath(__file__)) + '\\image\\' + f'imgs\\{page_num}\\{current_image_num}.jpg'        os.makedirs(os.path.dirname(save_path), exist_ok=True)                with open(save_path, 'wb') as f:            f.write(image_content)            print(f"正在下载第{page_num}页第{current_image_num}张图片...")            current_image_num += 1    print(f"写入完成,共下载了{current_image_num-1}张图片。")def main():    base_url = 'http://www.netbian.com'    html = start_request(base_url)    parse(html, 1)        # 爬取指定范围的页面    for page in range(2, 100):        url = f'{base_url}/index_{page}.htm'        html = start_request(url)        parse(html, page)if __name__ == "__main__":    main()

三、技术说明

  • 工具导入

    使用了 requests 库来抓取网页内容,PyQuery 集成了一些命令行提取功能,非常适合网页解析任务。

  • 请求设置

    设置了 User-Agent 字符串,让请求看起来更自然,避免被反爬机制拦截。

  • 页面编码

    网页默认使用 gbk 字符编码,本地显示可能会出现乱码,需要手动指定编码格式。

  • 图片下载与存储

    读取图片链接后,将图片内容下载并保存到指定目录中,支持多页抓取和分页存储。

  • 转载地址:http://etioz.baihongyu.com/

    你可能感兴趣的文章
    OpenStack项目管理实战
    查看>>
    OpenStreetMap初探(一)——了解OpenStreetMap
    查看>>
    openSUSE 13.1 Milestone 2 发布
    查看>>
    openSUSE推出独立 GUI 包管理工具:YQPkg,简化了整个软件包管理流程
    查看>>
    OpenVSwtich(OVS)Vlan间路由实战 附实验环境
    查看>>
    Openwrt LuCI模块练习详细步骤
    查看>>
    OpenWrt固件编译刷机完全总结
    查看>>
    Open××× for Linux搭建之二
    查看>>
    Open×××有线网络时使用正常,无线网络时使用报错的解决方案
    查看>>
    Operation not supported on read-only collection 的解决方法 - [Windows Phone开发技巧系列1]
    查看>>
    Operations Manager 2007 R2系列之仪表板(多)视图
    查看>>
    operator new 与 operator delete
    查看>>
    operator() error
    查看>>
    OPPO K3在哪里打开USB调试模式的完美方法
    查看>>
    Optional类:避免NullPointerException
    查看>>
    ORA-00932: inconsistent datatypes: expected - got NCLOB【ORA-00932: 数据类型不一致: 应为 -, 但却获得 NCLOB 】【解决办法】
    查看>>
    ORA-00942 表或视图不存在
    查看>>
    ORA-01795: 列表中的最大表达式数为 1000
    查看>>
    ORA-06575: 程序包或函数 NO_VM_DROP_PROC 处于无效状态
    查看>>
    ORA-08102的错误
    查看>>