python异步编程之asyncio低阶API

低阶API介绍
asyncio中低阶API的种类很多,涉及到开发的5个方面。包括:
- 获取事件循环
- 事件循环方法集
- 传输
- 协议
- 事件循环策略
本篇中只讲解asyncio常见常用的函数,很多底层函数如网络、IPC、套接字、信号等不在本篇范围。
获取事件循环
事件循环是异步中重要的概念之一,用于驱动任务的执行。包含的低阶API如下:
| 函数 | 功能 |
|---|---|
| asyncio.get_running_loop() | 获取当前运行的事件循环首选函数。 |
| asyncio.get_event_loop() | 获得一个事件循环实例 |
| asyncio.set_event_loop() | 将策略设置到事件循环 |
| asyncio.new_event_loop() | 创建一个新的事件循环 |
在asyncio初识这篇中提到过事件循环,可以把事件循环当做是一个while循环,在周期性的运行并执行一些任务。这个说法比较抽象,事件循环本质上其实是能调用操作系统IO模型的模块。以Linux系统为例,IO模型有阻塞,非阻塞,IO多路复用等。asyncio 常用的是IO多路复用模型的epool和 kqueue。事件循环原理涉及到异步编程的操作系统原理,后续更新一系列相关文章。
get_event_loop()
创建一个事件循环,用于驱动协程的执行
import asyncio
async def demo(i):
print(f"hello {i}")
def main():
loop = asyncio.get_event_loop()
print(loop._selector)
task = loop.create_task(demo(1))
loop.run_until_complete(task)
main()
结果:
<selectors.KqueueSelector object at 0x104eabe20>
hello 1
可以通过loop._selector属性获取到当前事件循环使用的是kqueue模型
获取循环
import asyncio
async def demo(i):
res = asyncio.get_running_loop()
print(res)
print(f"hello {i}")
def main():
loop = asyncio.get_event_loop()
task = loop.create_task(demo(1))
loop.run_until_complete(task)
main()
结果:
<_UnixSelectorEventLoop running=True closed=False debug=False>
hello 1
推荐使用asyncio.run 创建事件循环,底层API主要用于库的编写。
生命周期
生命周期是用于管理任务的启停的函数,如下:
| 函数 | 功能 |
|---|---|
| loop.run_until_complete() | 运行一个期程/任务/可等待对象直到完成。 |
| loop.run_forever() | 一直运行事件循环,直到被显示停止 |
| loop.stop() | 停止事件循环 |
| loop.close() | 关闭事件循环 |
| loop.is_running() | 返回 True , 如果事件循环正在运行 |
| loop.is_closed() | 返回 True ,如果事件循环已经被关闭 |
| await loop.shutdown_asyncgens() | 关闭异步生成器 |
run_until_complete:
运行一个期程/任务/可等待对象直到完成。run_until_complete的参数是一个futrue对象。当传入一个协程,其内部会自动封装成task。run_until_complete()是会自动关闭事件循环的函数,区别于run_forever()是需要手动关闭事件循环的函数。
import asyncio
async def demo(i):
print(f"hello {i}")
def main():
loop = asyncio.get_event_loop()
task = loop.create_task(demo(1))
# 传入的是一个任务
loop.run_until_complete(task)
# 传入的是一个协程也可以
loop.run_until_complete(demo(20))
main()
结果:
hello 1
hello 20
调试
| 函数 | 功能 |
|---|---|
| loop.set_debug() | 开启或禁用调试模式 |
| loop.get_debug() | 获取当前测试模式 |
调度回调函数
在异步编程中回调函数是一种很常见的方法,想要在事件循环中增加一些回调函数,可以有如下方法:
| 函数 | 功能 |
|---|---|
| loop.call_soon() | 尽快调用回调。 |
| loop.call_soon_threadsafe() | loop.call_soon() 方法线程安全的变体。 |
| loop.call_later() | 在给定时间之后调用回调函数。 |
| loop.call_at() | 在指定的时间调用回调函数。 |
这些回调函数既可以回调普通函数也可以回调协程函数。
call_soon
函数原型:
loop.call_soon(callback, *args, context=None)
示例:
import asyncio
async def my_coroutine():
print("协程被执行")
async def other_coro():
print("非call_soon调用")
def callback_function():
print("回调函数被执行")
# 创建一个事件循环
loop = asyncio.get_event_loop()
# 使用create_task包装协程函数,并调度执行
loop.call_soon(loop.create_task, my_coroutine())
# 调度一个常规函数以尽快执行
loop.call_soon(callback_function)
# 启动一个事件循环
task = loop.create_task(other_coro())
loop.run_until_complete(task)
结果:
回调函数被执行
非call_soon调用
协程被执行
结果分析:
call_soon调用普通函数直接传入函数名作为参数,调用协程函数需要讲协程通过loop.create_task封装成task。
线程/进程池
| 函数 | 功能 |
|---|---|
| await loop.run_in_executor() | 多线程中运行一个阻塞的函数 |
| loop.set_default_executor() | 设置 loop.run_in_executor() 默认执行器 |
asyncio.run_in_executor 用于在异步事件循环中执行一个阻塞的函数或方法。它将阻塞的调用委托给一个线程池或进程池,以确保不阻塞主事件循环。可以用于在协程中调用一些不支持异步编程的方法,不支持异步编程的模块。
run_in_executor
import asyncio
import concurrent.futures
def blocking_function():
# 模拟一个阻塞的操作
import time
time.sleep(2)
return "阻塞函数返回"
async def async_function2():
print("async_function2 start")
await asyncio.sleep(1)
print("async_function2 end")
async def async_function():
print("异步函数开始执行。。。")
print("调用同步阻塞函数")
# 使用run_in_executor调度执行阻塞函数
result = await loop.run_in_executor(None, blocking_function)
print(f"获取同步函数的结果: {result}")
# 创建一个事件循环
loop = asyncio.get_event_loop()
# 运行异步函数
loop.run_until_complete(asyncio.gather(async_function(), async_function2()))
结果:
异步函数开始执行。。。
调用同步阻塞函数
async_function2 start
async_function2 end
获取同步函数的结果: 阻塞函数返回
结果分析:
通过事件循环执行任务async_function,在async_function中通过loop.run_in_executor调用同步阻塞函数blocking_function,该阻塞函数没有影响事件循环中另一个任务async_function2的执行。
await loop.run_in_executor(None, blocking_function)中None代表使用的是默认线程池,也可以替换成其他线程池。
使用自定义线程池和进程池
import asyncio
import concurrent.futures
def blocking_function():
# 模拟一个阻塞的操作
import time
time.sleep(2)
return "阻塞函数返回"
async def async_function():
print("异步函数开始执行。。。")
print("调用同步阻塞函数")
# 线程池
with concurrent.futures.ThreadPoolExecutor() as pool:
result = await loop.run_in_executor(
pool, blocking_function)
print('线程池调用返回结果:', result)
# 进程池
with concurrent.futures.ProcessPoolExecutor() as pool:
result = await loop.run_in_executor(
pool, blocking_function)
print('进程池调用返回结果:', result)
if __name__ == '__main__':
# 创建一个事件循环
loop = asyncio.get_event_loop()
# 运行异步函数
loop.run_until_complete(async_function())
结果:
异步函数开始执行。。。
调用同步阻塞函数
线程池调用返回结果: 阻塞函数返回
进程池调用返回结果: 阻塞函数返回
结果分析:
通过线程池concurrent.futures.ThreadPoolExecutor()和进程池concurrent.futures.ProcessPoolExecutor()执行阻塞函数。
任务与期程
| 函数 | 功能 |
|---|---|
| loop.create_future() | 创建一个 Future 对象。 |
| loop.create_task() | 将协程当作 Task 一样调度。 |
| loop.set_task_factory() | 设置 loop.create_task() 使用的工厂,它将用来创建 Tasks 。 |
| loop.get_task_factory() | 获取 loop.create_task() 使用的工厂,它用来创建 Tasks 。 |
create_future
create_future 的功能是创建一个future对象。future对象通常不需要手动创建,因为task会自动管理任务结果。相当于task是全自动,创建future是半自动。创建的future就需要手动的讲future状态设置成完成,才能表示task的状态为完成。
import asyncio
def foo(future, result):
print(f"此时future的状态:{future}")
future.set_result(result)
print(f"此时future的状态:{future}")
if __name__ == '__main__':
loop = asyncio.get_event_loop()
# 手动创建future对象
all_done = loop.create_future()
# 设置一个回调函数用于修改设置future的结果
loop.call_soon(foo, all_done, "Future is done!")
result = loop.run_until_complete(all_done)
print("返回结果", result)
print("获取future的结果", all_done.result())
结果:
此时future的状态:<Future pending cb=[_run_until_complete_cb() at /Users/lib/python3.10/asyncio/base_events.py:184]>
此时future的状态:<Future finished result='Future is done!'>
返回结果 Future is done!
获取future的结果 Future is done!
结果分析:
future设置结果之后之后,future对象的状态就从pending变成finished状态。如果一个future没有手动设置结果,那么事件循环就不会停止。
create_task
将协程封装成一个task对象,事件循环主要操作的是task对象。协程没有状态,而task是有状态的。
import asyncio
async def demo(i):
print(f"hello {i}")
await asyncio.sleep(1)
def main():
loop = asyncio.get_event_loop()
# 将携程封装成task,给事件使用
task = loop.create_task(demo(1))
loop.run_until_complete(task)
main()
>>>
hello 1
asyncio.create_task 和 loop.create_task的区别:
两者实现的功能都是一样的,将协程封装成一个task,让协程拥有了生命周期。区别仅仅在于使用的方法。asyncio.create_task 是高阶API,不需要创建事件循环,而loop.create_task需要先创建事件循环再使用该方法。
小结
以上是asyncio低阶API的使用介绍,前一篇是高阶API的使用介绍,用两篇介绍了asyncio常见的函数,以后遇到asyncio相关的代码就不会感到陌生。虽然asyncio是比较复杂的编程思想,但是有了这些函数的使用基础,能够更高效的掌握。
连载一系列关于python异步编程的文章。包括同异步框架性能对比、异步事情驱动原理等。欢迎关注微信公众号第一时间接收推送的文章。

python异步编程之asyncio低阶API的更多相关文章
- python异步编程之asyncio
python异步编程之asyncio 前言:python由于GIL(全局锁)的存在,不能发挥多核的优势,其性能一直饱受诟病.然而在IO密集型的网络编程里,异步处理比同步处理能提升成百上千倍的效率, ...
- python异步编程之asyncio(百万并发)
前言:python由于GIL(全局锁)的存在,不能发挥多核的优势,其性能一直饱受诟病.然而在IO密集型的网络编程里,异步处理比同步处理能提升成百上千倍的效率,弥补了python性能方面的短板,如最 ...
- python并发编程之asyncio协程(三)
协程实现了在单线程下的并发,每个协程共享线程的几乎所有的资源,除了协程自己私有的上下文栈:协程的切换属于程序级别的切换,对于操作系统来说是无感知的,因此切换速度更快.开销更小.效率更高,在有多IO操作 ...
- 异步编程之asyncio简单介绍
引言: python由于GIL(全局锁)的存在,不能发挥多核的优势,其性能一直饱受诟病.然而在IO密集型的网络编程里,异步处理比同步处理能提升成百上千倍的效率,弥补了python性能方面的短板. as ...
- Python核心技术与实战——十八|Python并发编程之Asyncio
我们在上一章学习了Python并发编程的一种实现方法——多线程.今天,我们趁热打铁,看看Python并发编程的另一种实现方式——Asyncio.和前面协程的那章不太一样,这节课我们更加注重原理的理解. ...
- python并发编程之gevent协程(四)
协程的含义就不再提,在py2和py3的早期版本中,python协程的主流实现方法是使用gevent模块.由于协程对于操作系统是无感知的,所以其切换需要程序员自己去完成. 系列文章 python并发编程 ...
- python并发编程之multiprocessing进程(二)
python的multiprocessing模块是用来创建多进程的,下面对multiprocessing总结一下使用记录. 系列文章 python并发编程之threading线程(一) python并 ...
- python并发编程之Queue线程、进程、协程通信(五)
单线程.多线程之间.进程之间.协程之间很多时候需要协同完成工作,这个时候它们需要进行通讯.或者说为了解耦,普遍采用Queue,生产消费模式. 系列文章 python并发编程之threading线程(一 ...
- python并发编程之threading线程(一)
进程是系统进行资源分配最小单元,线程是进程的一个实体,是CPU调度和分派的基本单位,它是比进程更小的能独立运行的基本单位.进程在执行过程中拥有独立的内存单元,而多个线程共享内存等资源. 系列文章 py ...
- 异步编程之co——源码分析
异步编程系列教程: (翻译)异步编程之Promise(1)--初见魅力 异步编程之Promise(2):探究原理 异步编程之Promise(3):拓展进阶 异步编程之Generator(1)--领略魅 ...
随机推荐
- ORACEL12C ORA-01033:ORACLE 正在初始化或关闭
问题:客户端报ORA-01033 原因:oracle12C CDB启动,但是可拔插的PDB实例未启动 解决办法: sqlplus / as sysdba--系统管理员登录 alter session ...
- Django框架——Django与Ajax、分页器
文章目录 1 Django与Ajax 一 什么是Ajax 优点: 二 基于jquery的Ajax实现 Ajax-->服务器-->Ajax执行流程图 三 案例 一 通过Ajax,实现前端输入 ...
- 基于Python语言的KNN算法
import operator import numpy as np # 鸢尾花的数据集 load_iris from sklearn.datasets import load_iris ''' 对测 ...
- Window10安装linux子系统及子系统安装1Panel面板
原文地址:Window10安装linux子系统及子系统安装1Panel面板 - Stars-One的杂货小窝 最近看到halo博客发布了2.10.0,终于是新增了个备份功能,于是有了念头想要升级下 但 ...
- 【sqli-labs】学习--待续
预备知识: 数字型注入: 这种sql语句中处理的是整型,不需要使用单引号来闭合变量的值. 首先输入id=1',此时因为不是整型,sql语句会执行出错,抛出异常. 然后输入id=1 and 1=1,此时 ...
- tunm, 一种对标JSON的二进制数据协议
Tunm simple binary proto 一种对标JSON的二进制数据协议 支持的数据类型 基本支持的类型 "u8", "i8", "u16& ...
- JZYZ作业好题
文章目录 敲砖块 Circle 敲砖块 首先把砖块向左对齐, 这样选择第 ( i , j ) (i,j) (i,j)块的前提是第 ( i − 1 , j ) , ( i − 1 , j + 1 ) ( ...
- 来世再不选Java!
危机感 距离上一次找工作面试已经过去快2年了,那时候正值疫情肆虐,虽然还未感受到"寒潮来临"的苗头,但最终还是成功通过了几轮面试,顺利签约.在目前公司待了2年了,在大环境的影响下, ...
- 容器中sh脚本明明存在,为何会报"no such file or directory"的错误?
小伙伴碰到一起奇怪的事故,从gitlab上拉取的docker镜像项目,在本地开发机上进行docker build后,启动容器会报错如下: exec /app/run.sh : no such file ...
- 吉客云与用友U8的系统数据集成对接方案
吉客云与用友U8之间的系统数据集成方案.吉客云作为一款电商ERP产品,旨在为企业的数字化升级提供全方位的支持.用友U8是一个经过多年发展的信息化管理系统,见证了企业信息化从简单到精细.从局部到全面的转 ...