在学习协程之前,你需要先知道协程是什么?协程又称为微线程,一个程序可以包含多个协程,可以对比与一个进程包含多个线程,因而下面我们来比较协程和线程。我们知道多个线程相对独立,有自己的上下文,切换受系统控制;而协程也相对独立,有自己的上下文,但是其切换由自己控制。    协程是一个线程执行,两个子过程通过相互协作完成某个任务。协程和子程序调用很像,但协程是在子程序内部中断去执行别的子程序,适当时候返回接着执行,中断有别于函数调用。

好了,废话不多说,我们直接上实例,结合实战来搞懂这个不算特别容易理解的概念。之后,我们再由浅入深,直击协程的核心。

我们先看一个简单的爬虫例子:

import time

def crawl_page(url):
print('crawling {}'.format(url))
time.sleep(2)
print('OK {}'.format(url)) a=['url1', 'url2', 'url3', 'url4']
start=time.time()
for url in a:
crawl_page(url)
end=time.time()
print('use {}'.format(end-start)) ###输出
crawling url1
OK url1
crawling url2
OK url2
crawling url3
OK url3
crawling url4
OK url4
use 8.007500886917114

    这是一个很简单的爬虫函数执行时,调取 crawl_page() 函数进行网络通信,经过2秒等待后收到结果,然后执行下一个。4个url抓取耗费了8s的时间。下面我们来看看协程的实现。

import asyncio

async def crawl_page(url):
print('crawling {}'.format(url))
await asyncio.sleep(2)
print('OK {}'.format(url)) async def run(urls):
for url in urls:
await crawl_page(url) start=time.time()
asyncio.run(run(['url1', 'url2', 'url3', 'url4']))
end=time.time()
print('use {}s'.format(end-start)) ####输出
crawling url1
OK url1
crawling url2
OK url2
crawling url3
OK url3
crawling url4
OK url4
use 8.012088060379028s

  

也许你会发现,怎么还是耗时8s,和顺序执行没任何区别啊,这什么玩意。你说对了,我们先带着这个疑问继续往下看。在讲解之前,我们先分析一下这个代码,首先来看 import asyncio(注意是在python3.7版本以上才可以哦),这个库包含了大部分我们实现协程所需的魔法工具。

async 修饰词声明异步函数,于是,这里的 crawl_page 和 run 都变成了异步函数。而调用异步函数,我们便可得到一个协程对象(coroutine object)。

我们再来说说协程的执行。这里我介绍一下常用的三种。

  • 我们可以通过 await 来调用。await 执行的效果,和 Python 正常执行是一样的,也就是说程序会阻塞在这里,进入被调用的协程函数,执行完毕返回后再继续,而这也是 await 的字面意思。代码中 await asyncio.sleep(sleep_time) 会在这里休息若干秒,await crawl_page(url) 则会执行 crawl_page() 函数。

  • 我们可以通过 asyncio.create_task() 来创建任务,这个我们下节课会详细讲一下,你先简单知道即可。

  • 我们需要 asyncio.run 来触发运行。asyncio.run 这个函数是 Python 3.7 之后才有的特性,可以让 Python 的协程接口变得非常简单,你不用去理会事件循环怎么定义和怎么使用的问题(我们会在下面讲)。

到此,我们应该可以看懂上面的代码了吧,不懂也没关系,我们继续分析。还记得上面await 是同步调用,因此, crawl_page(url) 在当前的调用结束之前,是不会触发下一次调用的。于是,这个代码效果就和上面完全一样了,相当于我们用异步接口写了个同步代码。我们接下来就来真正写一个异步的代码。

import asyncio

async def crawl_page(url):
print('crawling {}'.format(url))
await asyncio.sleep(2)
print('OK {}'.format(url)) async def run(urls):
tasks = []
for url in urls:
tasks.append(asyncio.create_task(crawl_page(url))) for task in tasks:
await task start=time.time()
urls=['url1', 'url2', 'url3', 'url4']
asyncio.run(run(urls))
end=time.time()
print('use {}s'.format(end-start)) ####输出#####
crawling url1
crawling url2
crawling url3
crawling url4
OK url1
OK url2
OK url3
OK url4
use 2.0025851726531982s

  

你可以看到,我们有了协程对象后,便可以通过 asyncio.create_task 来创建任务。任务创建后很快就会被调度执行,这样,我们的代码也不会阻塞在任务这里。所以,我们要等所有任务都结束才行,用for task in tasks: await task 即可。

下面我们来深入分析一下协程的执行过程。

import asyncio

async def worker_1():
print('worker_1 start')
await asyncio.sleep(1)
print('worker_1 done') async def worker_2():
print('worker_2 start')
await asyncio.sleep(2)
print('worker_2 done') async def run():
task1 = asyncio.create_task(worker_1())
task2 = asyncio.create_task(worker_2())
print('before await')
await task1
print('awaited worker_1')
await task2
print('awaited worker_2') start=time.time()
asyncio.run(run())
end=time.time()
print('use {}s'.format(end-start)) #####结果#####
before await
worker_1 start
worker_2 start
worker_1 done
awaited worker_1
worker_2 done
awaited worker_2
use 2.001868963241577s

  

让我们来执行分析一下。

  1. asyncio.run(run()),程序进入 run() 函数,事件循环开启。

  2. task1 和 task2 任务被创建,并进入事件循环等待运行;运行到 print,输出 'before await';

  3. await task1 执行,用户选择从当前的主任务中切出,事件调度器开始调度 worker_1;

  4. worker_1 开始运行,运行 print 输出'worker_1 start',然后运行到 await asyncio.sleep(1), 从当前任务切出,事件调度器开始调度 worker_2;

  5. worker_2 开始运行,运行 print 输出 'worker_2 start',然后运行 await asyncio.sleep(2) 从当前任务切出;

  6. 一秒钟后,worker_1 的 sleep 完成,事件调度器将控制权重新传给 task_1,输出 'worker_1 done',task_1 完成任务,从事件循环中退出;

  7. await task1 完成,事件调度器将控制器传给主任务,输出 'awaited worker_1',然后在 await task2 处继续等待;

  8. 两秒钟后,worker_2 的 sleep 完成,事件调度器将控制权重新传给 task_2,输出 'worker_2 done',task_2 完成任务,从事件循环中退出;

  9. 主任务输出 'awaited worker_2',协程全任务结束,事件循环结束。

最后我们来总结一下今天的内容。

  • 协程和多线程的区别,主要在于两点,一是协程为单线程;二是协程由用户决定,在哪些地方交出控制权,切换到下一个任务。

  • 协程的写法更加简洁清晰,把 async、await 和 create_task 结合来用,对于中小级别的并发需求已经毫无压力。

欢迎大家留言和我交流。

Python协程你学会了吗?的更多相关文章

  1. Python 协程总结

    Python 协程总结 理解 协程,又称为微线程,看上去像是子程序,但是它和子程序又不太一样,它在执行的过程中,可以在中断当前的子程序后去执行别的子程序,再返回来执行之前的子程序,但是它的相关信息还是 ...

  2. day-5 python协程与I/O编程深入浅出

    基于python编程语言环境,重新学习了一遍操作系统IO编程基本知识,同时也学习了什么是协程,通过实际编程,了解进程+协程的优势. 一.python协程编程实现 1.  什么是协程(以下内容来自维基百 ...

  3. 终结python协程----从yield到actor模型的实现

    把应用程序的代码分为多个代码块,正常情况代码自上而下顺序执行.如果代码块A运行过程中,能够切换执行代码块B,又能够从代码块B再切换回去继续执行代码块A,这就实现了协程 我们知道线程的调度(线程上下文切 ...

  4. 从yield 到yield from再到python协程

    yield 关键字 def fib(): a, b = 0, 1 while 1: yield b a, b = b, a+b yield 是在:PEP 255 -- Simple Generator ...

  5. 关于python协程中aiorwlock 使用问题

    最近工作中多个项目都开始用asyncio aiohttp aiomysql aioredis ,其实也是更好的用python的协程,但是使用的过程中也是遇到了很多问题,最近遇到的就是 关于aiorwl ...

  6. 用yield实现python协程

    刚刚介绍了pythonyield关键字,趁热打铁,现在来了解一下yield实现协程. 引用官方的说法: 与线程相比,协程更轻量.一个python线程大概占用8M内存,而一个协程只占用1KB不到内存.协 ...

  7. [转载] Python协程从零开始到放弃

    Python协程从零开始到放弃 Web安全 作者:美丽联合安全MLSRC   2017-10-09  3,973   Author: lightless@Meili-inc Date: 2017100 ...

  8. 00.用 yield 实现 Python 协程

    来源:Python与数据分析 链接: https://mp.weixin.qq.com/s/GrU6C-x4K0WBNPYNJBCrMw 什么是协程 引用官方的说法: 协程是一种用户态的轻量级线程,协 ...

  9. python协程详解

    目录 python协程详解 一.什么是协程 二.了解协程的过程 1.yield工作原理 2.预激协程的装饰器 3.终止协程和异常处理 4.让协程返回值 5.yield from的使用 6.yield ...

随机推荐

  1. 033.Python的__del__析构方法he__call__方法

    一 __del__ 魔术方法(析构方法) 1.1 介绍 触发时机:当对象被内存回收的时候自动触发[1.页面执行完毕回收所有变量 2.所有对象被del的时候] 功能:对象使用完毕后资源回收 参数:一个s ...

  2. 最简单的方法是使用标准的 Linux GUI 程序之一: i-nex 收集硬件信息,并且类似于 Windows 下流行的 CPU-Z 的显示。 HardInfo 显示硬件具体信息,甚至包括一组八个的流行的性能基准程序,你可以用它们评估你的系统性能。 KInfoCenter 和 Lshw 也能够显示硬件的详细信息,并且可以从许多软件仓库中获取。

    最简单的方法是使用标准的 Linux GUI 程序之一: i-nex 收集硬件信息,并且类似于 Windows 下流行的 CPU-Z 的显示. HardInfo 显示硬件具体信息,甚至包括一组八个的流 ...

  3. MyBatis 缓存机制(十三)

    什么是缓存 缓存就是内存中的一个对象,用于对数据库查询结果的保存,用于减少与数据库的交互次数从而降低数据库的压力,进而提高响应速度. MyBatis 缓存机制原理 Mybatis 缓存机制原理是将第一 ...

  4. 10.2-3 ifup&ifdown:激活与禁用网络接口

    ifup:激活网络接口     ifup 和 ifdown 命令用于激活指定的网络接口.ifup命令其实是一个Shel脚本,有Shel基础的读者可以使用which命令来找到这个脚本并读一读.命令可读取 ...

  5. 火币HBAI量化币圈唯一免费量化炒币机器人

    量化交易是一种投资方法.以先进的数学模型替代人为的主观判断,利用计算机技术从庞大的历史数据中海选能带来超额收益的多种"大概率"事件以制定策略,极大地减少了投资者情绪波动的影响,避免 ...

  6. Ajax向服务器端发送请求

    Ajax向服务器端发送请求 Ajax的应用场景 页面上拉加载更多数据 列表数据无刷新分页 表单项离开焦点数据验证 搜索框提示文字下拉列表 Ajax运行原理 Ajax 相当于浏览器发送请求与接收响应的代 ...

  7. 五:.net core(.NET 6)使用Autofac实现依赖注入

    Autofac的简单使用: 由于将来可能引用很多包,为了保持统一队形,我们再新建一个类库项目Wsk.Core.Package,当做包的引用集合: 删掉Class1,把Wsk.Core.Wsk.Core ...

  8. 【greys使用】阿里greys在线诊断工具

    Greys是一个Java进程的异常诊断工具,可以在不停止程序的前提下,对一些问题进行检测.这个框架主要是采用Java的探针技术,可以做到动态修改java的字节码技术.前提是Jdk版本6+.(prema ...

  9. GO学习-(23) Go语言操作MySQL + 强大的sqlx

    Go语言操作MySQL MySQL是业界常用的关系型数据库,本文介绍了Go语言如何操作MySQL数据库. Go操作MySQL 连接 Go语言中的database/sql包提供了保证SQL或类SQL数据 ...

  10. 工作流中的数据持久化详解!Activiti框架中JPA的使用分析

    Activiti中JPA简介 可以使用JPA实体作为流程变量, 并进行操作: 基于流程变量更新已有的JPA实体,可以在用户任务的表单中填写或者由服务任务生成 重用已有的领域模型,不需要编写显示的服务获 ...