python学习之-- 协程
协程(coroutine)
也叫:微线程,是一种用户态的轻量级线程,就是在单线程下实现并发的效果。
优点:
1:无需线程上下文切换的开销。(就是函数之间来回切换)
2:无需原子操作锁定及同步的开销。(如改一个变量就相当于一个原子操作,因为协程是在单线程内操作,属于串行,所以不需要锁的操作)
3:方便切换控制流,简化编程模型。
4:高并发+高扩展+低成本:一个CPU支持上万个协程都不是问题,所以很适合用于高并发处理。(因为它都在一个线程里处理)
缺点:
1:无法利用多核资源,协程的本质是个单线程,它不能同时将单个CPU上的多个核用上,协程需要和进程配合才能运行在多CPU上,一般用于CPU密集型
2:进行阻塞操作会阻塞掉整个程序
gevent (实现自动切换):是一个第三方库,可以通过gevent实现并发同步或异步编程,其中的主要模式是Greenlet,
greenlet (实现手动切换)由gevent进行了封装
举例:通过手动切换实现协程
import gevent
def fun1():
print('输出函数1')
gevent.sleep(2)
print('函数1结束')
def fun2():
print('输出函数2')
gevent.sleep(1)
print('函数2结束')
def fun3():
print('输出函数3')
gevent.sleep(0)
print('函数3结束')
gevent.joinall([gevent.spawn(fun1),gevent.spawn(fun2),gevent.spawn(fun3)])生成3个函数的自动切换
以上代码解释:对3个函数生成自动切换,先运行fun1函数,遇到sleep(2)是,执行等待2秒,然后直接切换到fun2函数,执行遇到sleep(1)时,执行
等待1秒,继续切换到fun3函数,执行遇到sleep(0)时切换到fun1函数,发现sleep(2)未完成,又切换入fun2函数发现sleep(1)也没有执行完成,
继续切换如fun3函数,这里sleep(0)不用等待,直接执行fun3的最后一个print,执行完成后,返回fun1函数的sleep,发现没有完成,又切入
fun2函数,发现sleep(1)已完成,可以向下继续执行,执行完下面的语句后,最后返回fun1,这时fun1的sleep(2)已完成,继续执行fun1剩下的语句。
举例:使用普通串行爬网页与使用协程的gevent进行爬网页对比用时
import gevent,time
from gevent import monkey
from urllib import request
monkey.patch_all() # gevent补丁,把当前的所有的IO操作都单独的坐上标记 def web(url):
print('开始爬网页%s' % url)
res = request.urlopen(url)
data = res.read()
print('%d bytes received from %s' % (len(data),url))
urls = [
'https://web1/',
'https://web2/',
'https://web3/'
]
# 串行模式执行
time_start = time.time()
for url in urls:
web(url)
print('同步cost',time.time()-time_start)
# 协程并发模式执行
async_time_start = time.time()
gevent.joinall([
gevent.spawn(web,'https://web1/'),
gevent.spawn(web,'https://web2/'),
gevent.spawn(web,'https://web3/')
])
print('异步cost',time.time()-async_time_start)
举例:通过协程实现一个socket服务器端(客户端没啥变化不写了)
import sys,socket,time,gevent
from gevent import socket,monkey
monkey.patch_all() def server():
s = socket.socket()
s.bind(('0.0.0.0',9999))
s.listen(500)
while True:
cli,addr = s.accept()
# 主要这里,将每个连进来的客户端对象交给协程并发处理
gevent.spawn(handle_request,cli) def handle_request(client):
while True:
try:
data = client.recv(1024).decode()
print(data)
client.send(data.encode('utf-8'))
if not data:
client.shutdown(socket.SHUT_WR)
except Exception as e:
print('err',e)
finally:
client.close()
python学习之-- 协程的更多相关文章
- Python学习---线程/协程/进程学习 1220【all】
Python学习---线程基础学习 Python学习---线程锁/信号量/条件变量同步1221 Python学习---同步条件event/队列queue1223 Python学习---进程 1225 ...
- python学习笔记 协程
在学习异步IO模型前,先来了解协程 协程又叫做微线程,Coroutine 子程序或者成为函数,在所有语言中都是层级调用,比如a调用b,b调用c.c执行完毕返回,b执行完毕返回,最后a执行完毕返回 所以 ...
- Python学习之协程
8.8 协程 我们都知道线程间的任务切换是由操作系统来控制的,而协程的出现,就是为了减少操作系统的开销,由协程来自己控制任务的切换 协程本质上就是线程.既然能够切换任务,所以线程有两个最基本的 ...
- Python学习笔记--协程asyncio
协程的主要功能是单线程并发运行 假设有3个耗时不一样的任务.看看协程的效果. 先来看没有使用协程情况: #!/usr/bin/python3 # -*- coding:utf-8 -*- import ...
- [转载]Python 3.5 协程究竟是个啥
http://blog.rainy.im/2016/03/10/how-the-heck-does-async-await-work-in-python-3-5/ [译] Python 3.5 协程究 ...
- [译] Python 3.5 协程究竟是个啥
转自:http://blog.rainy.im/2016/03/10/how-the-heck-does-async-await-work-in-python-3-5/ [译] Python 3.5 ...
- Python基础之协程
阅读目录 一 引子 二 协程介绍 三 Greenlet模块 四 Gevent模块 引子 之前我们学习了线程.进程的概念,了解了在操作系统中 进程是资源分配的最小单位,线程是CPU调度的最小单位. 按道 ...
- python中和生成器协程相关的yield之最详最强解释,一看就懂(一)
yield是python中一个非常重要的关键词,所有迭代器都是yield实现的,学习python,如果不把这个yield的意思和用法彻底搞清楚,学习python的生成器,协程和异步io的时候,就会彻底 ...
- python基础(35):协程
1. 前言 之前我们学习了线程.进程的概念,了解了在操作系统中进程是资源分配的最小单位,线程是CPU调度的最小单位.按道理来说我们已经算是把cpu的利用率提高很多了.但是我们知道无论是创建多进程还是创 ...
随机推荐
- centos系统iptables使用帮助
#如果只是想屏蔽IP的话“开放指定的端口”可以直接跳过.#屏蔽单个IP的命令是iptables -I INPUT -s 123.45.6.7 -j DROP#封整个段即从123.0.0.1到123.2 ...
- JavaScript 声明全局变量与局部变量
一.JavaScript 声明全局变量的三种方式: 声明方式一: 使用var(关键字)+变量名(标识符)的方式在function外部声明,即为全局变量,否则在function声明的是局部变量.该方式即 ...
- (转)编码剖析Spring管理Bean的原理
http://blog.csdn.net/yerenyuan_pku/article/details/52832434 在Spring的第一个案例中,我们已经知道了怎么将bean交给Spring容器进 ...
- 事件冒泡 & 阻止事件冒泡
事件冒泡 : 当一个元素接收到事件的时候,会把他接收到的所有传播给他的父级,一直到顶层window.事件冒泡机制 阻止冒泡 : 当前要阻止冒泡的事件函数中调用 event.cancelBubble = ...
- xls表格 拼接字段 拼json =CONCAT("{ code:'",A2,"',","codeName: '",B2,"',","flag: '",C2,"'},")
xls表格 拼接字段 拼json =CONCAT("{ code:'",A2,"',","codeName: '",B2,"',& ...
- python基础一 day5 集合
集合是无序的 增:add()添加进去是无序,不一定是最后面,update()像extend() 删: 没有改,有查,里面的元素是不可变类型 查用for in 交集: 并集: 反交集 叉集: 子集与超集 ...
- python json.loads json.dumps的区别
json.loads() 是将字符串传化为字典 json.dumps () 是将字典转化为字符串 >>> dict = "{8:'bye', 'you':'coder'}& ...
- fio测试nvme性能
#cat /sys/block/nvme0n1/queue/scheduler none #cat /sys/block/sda/queue/scheduler noop deadline [cfq] ...
- bzoj3774 最优选择
题目描述: 小N手上有一个N*M的方格图,控制某一个点要付出Aij的代价,然后某个点如果被控制了,或者他周围的所有点(上下左右)都被控制了,那么他就算是被选择了的.一个点如果被选择了,那么可以得到Bi ...
- linux php安装ODBC扩展
进入php源码安装目录的ext/pdo_odbc $ sudo /data/apps/php/bin/phpize $ ./configure --with-php-config=/data/apps ...