import osimport timeimport sys

import requests#依序下载POP20_CC = ('CN IN US ID BR PK NG BD RU JP'            'MX PH VN ET EG DE IR TE CD TR').split()BASE_URL = 'http://flupy.org/data/flags'DEST_DIR = 'downloads/'

def save_flag(img, filename):    path = os.path.join(DEST_DIR, filename)    if not os.path.isdir(DEST_DIR):        os.mkdir(DEST_DIR)

    with open(path, 'wb') as fp:        if fp.writable():            fp.write(img)

def get_flag(cc):#下载内容    url = '{}/{cc}/{cc}.gif'.format(BASE_URL, cc=cc.lower())  # 格式化字符串{BASE_URL}/{cc}/{cc}    print(url)    resp = requests.get(url)#以二进制形式下载    return resp.content#返回二进制数据

def show(text):    print(text,end=' ')    sys.stdout.flush()#在liunx系统下,不加这句,打印时间不是立刻打印的。假如在windows中不存在这个问题(正常情况遇到换行才会刷新stdout缓冲)

def download_many(cc_list):    for cc in sorted(cc_list):#sorted()这个排序的结果和作用是什么?        image=get_flag(cc)        show(cc)

        save_flag(image,cc.lower()+'.gif')    return len(cc_list)

def main_n(download_many):    t1=time.time()    count=download_many(POP20_CC)    elapsed=time.time()-t1    msg='\n{} flags download in {:.2f}s'    print(msg.format(count,elapsed))

if __name__ == '__main__':    main_n(download_many)#BD BR CD CN DE EG ET ID IN IR JPMX NG PH PK RU TE TR US VN# 19 flags download in 8.57s

#concurrent.futures 模块下载
from concurrent import futuresimport osimport timeimport requestsimport sys

MAX_WORKERS = 20POP20_CC = ('CN IN US ID BR PK NG BD RU JP'            'MX PH VN ET EG DE IR TE CD TR').split()BASE_URL = 'http://flupy.org/data/flags'DEST_DIR = 'downloads/'

def save_flag(img, filename):    path = os.path.join(DEST_DIR, filename)    if not os.path.isdir(DEST_DIR):        os.mkdir(DEST_DIR)

    with open(path, 'wb') as fp:        if fp.writable():            fp.write(img)

def get_flag(cc):    url = '{}/{cc}/{cc}.gif'.format(BASE_URL, cc=cc.lower())    resp = requests.get(url)    return resp.content

def show(text):    print(text, end=' ')    sys.stdout.flush()

def main_n(download_many):    t1 = time.time()    count = download_many(POP20_CC)    elapsed = time.time() - t1    msg = '\n{} flags download in {:.2f}s'    print(msg.format(count, elapsed))

def download_one(cc):    image = get_flag(cc)    show(cc)    save_flag(image, cc.lower() + '.gif')    return cc

def download_many(cc_list):    workers = min(MAX_WORKERS, len(cc_list))  # 设置最大线程数

    with futures.ThreadPoolExecutor(workers) as executor:        res = executor.map(download_one, sorted(cc_list))    return len(list(res))

# BD BR CN ID EG JPMX IN NG RU TE ET CD IR PH PK VN DE US TR# 19 flags download in 2.44sif __name__ == '__main__':    main_n(download_many)
												

python 网络下载的三种风格 未完成的更多相关文章

  1. [转]VMware Workstation网络连接的三种模式

    经常要使用VMWare Workstation来在本地测试不同的操作系统,以前也搞不清楚网络连接三种模式,最近看了几篇文章才算明白.现总结如下: 1. VMware Workstation的虚拟网络组 ...

  2. python实现单例模式的三种方式及相关知识解释

    python实现单例模式的三种方式及相关知识解释 模块模式 装饰器模式 父类重写new继承 单例模式作为最常用的设计模式,在面试中很可能遇到要求手写.从最近的学习python的经验而言,singlet ...

  3. Python实现定时执行任务的三种方式简单示例

    本文实例讲述了Python实现定时执行任务的三种方式.分享给大家供大家参考,具体如下: 1.定时任务代码 import time,os,sched schedule = sched.scheduler ...

  4. Python格式化输出的三种方式

    Python格式化输出的三种方式 一.占位符 程序中经常会有这样场景:要求用户输入信息,然后打印成固定的格式比如要求用户输入用户名和年龄,然后打印如下格式:My name is xxx,my age ...

  5. 辛星跟您玩转vim第一节之vim的下载与三种模式

    首先值得一提的是,我的vim教程pdf版本号已经写完了,大家能够去下载,这里是csdn的下载地址:点此下载 ,假设左边的下载地址挂掉了,也能够自行在浏览器以下输入例如以下地址进行下载:http://d ...

  6. python字符串连接的三种方法及其效率、适用场景详解

    python字符串连接的方法,一般有以下三种:方法1:直接通过加号(+)操作符连接website=& 39;python& 39;+& 39;tab& 39;+& ...

  7. Python 列表(List) 的三种遍历(序号和值)方法

    三种遍历列表里面序号和值的方法: 最近学习python这门语言,感觉到其对自己的工作效率有很大的提升,特在情人节这一天写下了这篇博客,下面废话不多说,直接贴代码 #!/usr/bin/env pyth ...

  8. 记住 Python 变量类型的三种方式

    title: 记住变量类型的三种方式 date: 2017-06-11 15:25:03 tags: ['Python'] category: ['Python'] toc: true comment ...

  9. python更新数据库脚本三种方法

    最近项目的两次版本迭代中,根据业务需求的变化,需要对数据库进行更新,两次分别使用了不同的方式进行更新. 第一种:使用python的MySQLdb模块利用原生的sql语句进行更新 import MySQ ...

随机推荐

  1. numpy-Randow

    Randow使用 http://blog.csdn.net/pipisorry/article/details/39508417 概率相关使用 转:http://www.cnblogs.com/Nau ...

  2. Hibernate 再接触 组件映射

    将另外一个类嵌入到另外一个类 从而合并生成一张表 Husband.java package com.bjsxt.hibernate; import javax.persistence.Embedded ...

  3. EF 踩过的坑

    ef + mysql-8.0.12-winx64 这个版本的mysql,当一个类为树型结构,会迁移报错. 数据迁移提示:No connection string named 'TaoBaoEntiti ...

  4. 学JS的心路历程 -非同步执行

    JS是单线程的语言,也就是说同一时间只会执行一行程序,所以如果一段程序执行过久就会造成阻塞(blocking)的现象,必须等到它结束后才能执行下一段程序. 举个例子来说,如果我们今天要买便当,但是老板 ...

  5. putty 链接亚马逊服务器

    使用 PuTTY 从 Windows 连接到亚马逊云的 Linux 实例 转载 2016年07月22日 14:09:47   使用 PuTTY 从 Windows 连接到亚马逊云的 Linux 实例 ...

  6. 跨年操作--new Date()

    //时间在2017/12/31 17:00 --- 2018/1/1 06:00区间,提示用户无法操作公告. //time.js (function(){ var date = new Date(); ...

  7. python lambda 函数

    lambda 函数,也叫匿名函数,是一个不需要使用def 关键字定义的小函数.返回一个函数地址. 表达式只能有一个,参数可以有多个. a = lambda x:x*x a(3) 返回的是9

  8. PHP ActiveRecord demo栗子中 关于类名 的问题

    问题: ActiveRecord如何将单个类名与表名相关联? 我昨天才发现了ActiveRecord,很奇妙的php数据库框架. 但是,我仍然对以下工作感到困惑: 1.下面这个Person Model ...

  9. 【Spider】学习使用XMLFeedSpider

    前面写了学习CrawlSpider遇到的问题后,今天学XMLFeedSpider又出现了启动后没爬取到数据,但又不报错的情况 经过排查,发现又是一个粗心大意的错误: class SpiderUserX ...

  10. scrollIntoView 顶部与视图(容器)对齐

    调用方法为 element.scrollIntoView() 参数默认为true. 参数为true时调用该函数,页面(或容器)发生滚动,使element的顶部与视图(容器)顶部对齐: 参数为false ...