Python爬虫之抓图
从"百度图片(http://image.baidu.com/)"的首页下载图片
# -*- coding: utf-8 -*-
import urllib
import re
import sys url = 'http://image.baidu.com/' # 获取URL的源代码
def get_html(url):
page = urllib.urlopen(url)
html = page.read()
return html # 下载图片到本地
def get_image():
pattern_image = re.compile('img src="(.+\.jpg)')
image_list = re.findall(pattern_image, get_html(url))
for image in image_list:
temp = []
temp = image.split('/')
filename = './image/' + temp[-1]
print '开始下载',image
try:
urllib.urlretrieve(image, filename, download)
except:
print "Unexpected error:", sys.exc_info()[0]
finally:
print '下载完成'
print '总共下载:',len(image_list),'张图片' # 展示下载进度
def download(a, b, c):
per = 100.0 * a * b / c
if per > 100 :
per = 100
print '%.2f%%' % per get_image()
运行结果:
开始下载 http://img0.bdstatic.com/img/image/shouye/sheying0601.jpg
0.00%
50.66%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/bizhi0302.jpg
0.00%
71.50%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/mingxing0601.jpg
0.00%
64.83%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/chongwu0128.jpg
0.00%
82.68%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/dongman0309.jpg
0.00%
65.25%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/touxiang0601.jpg
0.00%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/jianbihua0601.jpg
0.00%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/qiche0313.jpg
0.00%
93.70%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/qqpifu0601.jpg
0.00%
99.62%
100.00%
下载完成
开始下载 http://img0.bdstatic.com/img/image/shouye/duorou0601.jpg
0.00%
65.42%
100.00%
下载完成
总共下载: 10 张图片
下载到本地的图片:

Python爬虫之抓图的更多相关文章
- Python爬虫之路——简单网页抓图升级版(添加多线程支持)
转载自我的博客:http://www.mylonly.com/archives/1418.html 经过两个晚上的奋斗.将上一篇文章介绍的爬虫略微改进了下(Python爬虫之路--简单网页抓图),主要 ...
- Python 爬虫模拟登陆知乎
在之前写过一篇使用python爬虫爬取电影天堂资源的博客,重点是如何解析页面和提高爬虫的效率.由于电影天堂上的资源获取权限是所有人都一样的,所以不需要进行登录验证操作,写完那篇文章后又花了些时间研究了 ...
- python爬虫成长之路(一):抓取证券之星的股票数据
获取数据是数据分析中必不可少的一部分,而网络爬虫是是获取数据的一个重要渠道之一.鉴于此,我拾起了Python这把利器,开启了网络爬虫之路. 本篇使用的版本为python3.5,意在抓取证券之星上当天所 ...
- python爬虫学习(7) —— 爬取你的AC代码
上一篇文章中,我们介绍了python爬虫利器--requests,并且拿HDU做了小测试. 这篇文章,我们来爬取一下自己AC的代码. 1 确定ac代码对应的页面 如下图所示,我们一般情况可以通过该顺序 ...
- python爬虫学习(6) —— 神器 Requests
Requests 是使用 Apache2 Licensed 许可证的 HTTP 库.用 Python 编写,真正的为人类着想. Python 标准库中的 urllib2 模块提供了你所需要的大多数 H ...
- 批量下载小说网站上的小说(python爬虫)
随便说点什么 因为在学python,所有自然而然的就掉进了爬虫这个坑里,好吧,主要是因为我觉得爬虫比较酷,才入坑的. 想想看,你可以批量自动的采集互联网上海量的资料数据,是多么令人激动啊! 所以我就被 ...
- python 爬虫(二)
python 爬虫 Advanced HTML Parsing 1. 通过属性查找标签:基本上在每一个网站上都有stylesheets,针对于不同的标签会有不同的css类于之向对应在我们看到的标签可能 ...
- Python 爬虫1——爬虫简述
Python除了可以用来开发Python Web之后,其实还可以用来编写一些爬虫小工具,可能还有人不知道什么是爬虫的. 一.爬虫的定义: 爬虫——网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区 ...
- Python爬虫入门一之综述
大家好哈,最近博主在学习Python,学习期间也遇到一些问题,获得了一些经验,在此将自己的学习系统地整理下来,如果大家有兴趣学习爬虫的话,可以将这些文章作为参考,也欢迎大家一共分享学习经验. Pyth ...
随机推荐
- leetcode 230. 二叉搜索树中第K小的元素(C++)
给定一个二叉搜索树,编写一个函数 kthSmallest 来查找其中第 k 个最小的元素. 说明:你可以假设 k 总是有效的,1 ≤ k ≤ 二叉搜索树元素个数. 示例 1: 输入: root = [ ...
- day15—jQuery UI之widgets插件
转行学开发,代码100天——2018-03-31 今天学习了jQuery UI的widgets插件,主要包括accordion插件 accordion插件 该插件表示折叠面板效果,点击头部展开/折叠被 ...
- DR 项目小结
前言 个人的项目总结, 非技术类博文. 需要补充的知识点 HTTP 协议与其内置方法 curl 指令和各选项的意义 Keystone 认证流程和各项目配置文件 [keystone_authtoken] ...
- WEB开发:Java与Php对比
比较PHP和JSP这两个Web开发技术,在目前的情况是其实是比较PHP和Java的Web开发.以下是我就几个主要方面进行比较: 一. 语言比较 PHP是解释执行的服务器脚本语言,首先php有简单容易上 ...
- 测开之路七十三:用kafka实现消息队列之环境搭建
一:装java环境,确保java能正确调用 kafka下载地址:http://kafka.apache.org/downloads 下载并解压kafka: 新建两个文件夹,用于存放zookeeper和 ...
- grpc应用于微服务的分析,基于python
grpc应用于微服务的分析 gRPC 是一个高性能.开源和通用的 RPC 框架,面向移动和 HTTP/2 设计,目前提供 C.Java 和 Go 语言版本,分别是:grpc, grpc-java, g ...
- WEB安全----XSS和CSRF
随着Web2.0.社交网络.微博等等一系列新型的互联网产品的诞生,基于Web环境的互联网应用越来越广泛,企业信息化的过程中各种应用都架设在Web平台上,Web业务的迅速发展也引起黑客们的强烈关注,接踵 ...
- Mac009--Axure RP安装
Mac--Axure RP安装 一.下载Axure RP8.0 下载网址:https://www.axure.com/download (下载mac版本) Axure RP说明: Axure RP是 ...
- sourcetree for mac 使用
1.sourceTree clone 仓库 打开sourceTree, 点击 新仓库(1) -> 从url克隆(2), 如下图 如下图所示, 粘贴源url路径, 自动补全或者手动选择目标路径和名 ...
- 初识内存分配ByteBuf
初识ByteBuf: ByteBuf 是Netty 整个结构里面最为底层的模块,主要负责把数据从底层IO 里面读到ByteBuf,然后传递给应用程序,应用程序处理完成之后再把数据封装成ByteBuf ...