并发编程 --进、线程池、协程、IO模型
内容目录:
1.socket服务端实现并发
2.进程池,线程池
3.协程
4.IO模型
1.socket服务端实现并发
# 客户端:
import socket
client = socket.socket()
client.connect(('127.0.0.1', 8080))
while True:
data = input('>>>:').encode('utf-8')
if len(data) == 0: continue
client.send(data)
res = client.recv(1024)
print(res)
# 服务端:
"""
1.固定的ip和端口
2.24小时不间断提供服务
3.支持高并发
"""
import socket
from threading import Thread
server = socket.socket()
server.bind(('127.0.0.1', 8080))
server.listen(5)
def trans_data(conn):
while True:
try:
data = conn.recv(1024)
if len(data) == 0: break
print(data)
conn.send(data.upper())
except ConnectionResetError:
break
conn.close()
while True:
conn, addr = server.accept()
print(addr)
t = Thread(target=trans_data, args=(conn,))
t.start()
2.进程池、线程池
"""
无论是开线程还是开进程,其实都会消耗资源,开线程消耗的资源比开进程的小
池:
1.为了减缓计算机硬件的压力,避免计算机硬件设备崩溃
2.虽然减轻了计算机硬件的压力,但一定程度上降低了持续的效率
进程池、线程池:
为了限制开设的进程数和线程数,从而保证计算机硬件的安全
"""
from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor
import time
# 实例化池对象 --线程池
# 不指定参数的情况下,默认为当前计算机cpu个数乘以5,也可指定线程个数
pool1 = ThreadPoolExecutor(20)
# 实例化池对象 --进程池
# 不指定参数的情况下,默认为当前计算机cpu个数,也可指定进程个数
pool = ProcessPoolExecutor(20)
# pool = pool1 # 为了交换测试两种池
def task(n):
print(n)
time.sleep(2)
return n**2
def call_back(n):
print("拿到结果:%s" % n.result())
"""
提交任务的方式:
同步:提交任务之后,等待任务执行返回结果之后,再进行下一步代码
异步:提交任务之后,不等待任务的返回结果(通过回调函数返回结果),直接执行下一步操作
"""
# 回调函数:异步提交之后一旦任务有返回结果,自动交给另一个去执行
if __name__ == '__main__':
# pool.submit(task,1)
t_list = []
for i in range(20):
pool.submit(task, i).add_done_callback(call_back) # 异步提交任务
# t_list.append(future)
pool.shutdown() # 关闭池子并且等待池子中所有的任务运行完毕
# for p in t_list:
# print('>>>:', p.result())
print('主')
3.协程
"""
进程:资源单位(车间)
线程:最小执行单位(流水线)
协程:单线程,实现并发
并发:看上去像同时运行就可以称之为并发
多道技术:
空间上的复用:硬件上的复用,内存中划分区域存放数据信息
时间上的复用:快速切换
协程:认为创造的专业名词
通过代码层面自己监测IO自己实现切换,让操作系统误以为你这个线程没有IO
切换+保存状态就一定能够提升程序效率吗?
不一定,如果任务是计算密集型,反而会降低效率,如果任务是IO密集型,会提升效率。
"""
# 检测代码中所有的IO行为
from gevent import monkey;monkey.patch_all()
from gevent import spawn, joinall # gevent 本身识别不了time.sleep等不属于该模块内的io操作
import time
def play(name):
print('%s play 1' % name)
time.sleep(2)
print('%s play 2' % name)
def eat(name):
print('%s eat 1' % name)
time.sleep(1)
print('%s eat 2' % name)
start = time.time()
g1 = spawn(play, 'lisi')
g2 = spawn(eat, 'lisi')
# g1.join()
# g2.join()
joinall([g1, g2])
print('主', time.time() - start) # 单线程下实现并发,提升效率
"""
# 运行结果:
lisi play 1
lisi eat 1
lisi eat 2
lisi play 2
主 2.013660192489624
"""
4.IO模型
"""
阻塞IO
非阻塞IO (服务端通信针对accept用s.setblocking(False)加异常捕获,cpu占用率过高)
IO多路复用
在只检测一个套接字的情况下,他的效率连阻塞IO都比不上。因为select这个中间人增加了环节。
但是在检测多个套接字的情况下,就能省去wait for data过程
异步IO
"""
并发编程 --进、线程池、协程、IO模型的更多相关文章
- 05网络并发 ( GIL+进程池与线程池+协程+IO模型 )
目录 05 网络并发 05 网络并发
- Java并发编程:线程池的使用
Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了, ...
- Java并发编程:线程池的使用(转)
Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了, ...
- Java并发编程:线程池的使用(转载)
转载自:https://www.cnblogs.com/dolphin0520/p/3932921.html Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实 ...
- Java并发编程:线程池的使用(转载)
文章出处:http://www.cnblogs.com/dolphin0520/p/3932921.html Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实 ...
- [转]Java并发编程:线程池的使用
Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了, ...
- 【转】Java并发编程:线程池的使用
Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了, ...
- 13、Java并发编程:线程池的使用
Java并发编程:线程池的使用 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了, ...
- 《转载》Python并发编程之线程池/进程池--concurrent.futures模块
本文转载自Python并发编程之线程池/进程池--concurrent.futures模块 一.关于concurrent.futures模块 Python标准库为我们提供了threading和mult ...
- 并发编程 13—— 线程池的使用 之 配置ThreadPoolExecutor 和 饱和策略
Java并发编程实践 目录 并发编程 01—— ThreadLocal 并发编程 02—— ConcurrentHashMap 并发编程 03—— 阻塞队列和生产者-消费者模式 并发编程 04—— 闭 ...
随机推荐
- 16-python基础-字典
1.字典的定义 dictionary(字典)是除列表以外python之中最灵活的数据类型. 字典同样可以存储多个数据. 通常用于存储一个物体的相关信息. 和列表的区别 列表是有序的对象集合 字典是无序 ...
- HashSet源码解析笔记
HashSet是基于HashMap实现的.HashSet底层采用HashMap来保存元素,因此HashSet底层其实比较简单. HashSet是Set接口典型实现,它按照Hash算法来存储集合中的元素 ...
- OC开发系列-内存管理
概述 移动设备的内存极其有限,每个app所有占用的内存是有限的.当app所占用的内存比较多时,系统会发出内存警告,这时得回收一些不需要再使用的内存空间. 任何集成了NSObject的对象都需要手动进行 ...
- javascript onclick事件可以调用两个方法吗?
答案是:可以的,onclick事件可以调用多个方法,每个方法之间用分号(:)隔开即可. onclick后面其实是可以写任何代码的,但是一般不建议这么写!! 例:onclick="fun1() ...
- leetcode-163周赛-1260-二维网格迁移
题目描述: 自己的提交: class Solution: def shiftGrid(self, grid: List[List[int]], k: int) -> List[List[int] ...
- 关于计算机学习的书(doc,mobi,epub,pdf四种格式)
关于计算机学习的书(doc,mobi,epub,pdf四种格式) <html> <body> <div> 21天学通C+ +2016/6/22 18:47文條 30 ...
- SQl 分组后按照某一列拼接字符串
/* 分组之后拼接字符串 */ ;with t as( SELECT WorkflowId,Remark FROM dbo.OperatorAutomationProcess GROUP BY Wor ...
- PHP ftp_alloc() 函数
定义和用法 ftp_alloc() 函数为要上传到 FTP 服务器的文件分配空间. 如果成功,该函数返回 TRUE.如果失败,则返回 FALSE. 语法 ftp_alloc(ftp_connectio ...
- 二分+贪心——cf1251D
二分的时候要特别注意一下下界L #include<bits/stdc++.h> using namespace std; #define ll long long #define N 20 ...
- 构造——cf1214E
首先定义三元组(2*i-1,2*i,d),将n个三元组按d降序排列,然后取每个三元组的2*i-1连在一起,构成一条长为n-1的链 然后降序枚举每个三元组,把对应的2*i在链上合法的位置接上, 能保证一 ...