线程queue、线程进程池,协程
线程queue
import queue
q = queue.Queue() #先进先出
q = queue.LifoQueue() #先进后出
t = queue.PriorityQueue() #优先级取数据,通常这个元组的第一个值是int类型
q.put('123')
q.put('qweqwe')
print(q.get())
print(q.get())
t.put('100', 'tank')
t.put('10', 'nick')
t.put('1', 'jason')
print(t.get())
print(t.get())
print(t.get())
q.task_done()
q.task_done()
q.join()
线程定时器
from threading import Thread, Timer
import time
def task():
print('线程执行了')
time.sleep(2)
print('线程结束了')
t = Timer(3, task) #过了3秒后开启了一个线程
t.start()
多线程实现socket服务端
#服务端
from threading import Thread
import socket
def talk(conn):
while True:
try:
info = conn.recv(1024)
if len(info) == 0: break
print(str(info, encoding = 'utf8'))
conn.send(info.upper())
except ConnectionResetError:
print('客户端关闭了一个连接')
break
conn.close()
def server_demo():
server = socket.socket(
socket.AF_INET, socket.SOCK_STREAM
)
server.bind(('127.0.0.1', 8001))
server.listen(4)
while True:
conn,addr = server.accept()
print(conn, addr)
t = Thread(target=talk)
t.start()
if __name__ == '__main__':
server_demo()
#客户端
from threading import Thread,currentThread
import socket
def client_demo():
client = socket.socket()
client.connect(('127.0.0.1', 8001))
while True:
msg = f'{currentThread().name}'
client.send(bytes(msg, encoding = 'utf8'))
info = client.recv(1024)
print(str(info, encoding = 'utf8'))
client.close()
if __name__ == '__main__':
for i in range(10):
t = Thread(target = client_demo)
t.start()
多线程中的Queue队列中join()与task_done()
'''
Queue.task_done():在完成一项工作之后,Queue.task_done()函数向任务已经完成的队列发送一个信号。
Queue.join():实际上意味着等到队列为空,再执行别的操作
如果线程里每从队列里取一次,但没有执行task_done(),则join无法判断队列中到底有没有结束。
可以理解为,每task_done一次,就从队列里删掉一个元素,这样在最后Join的时候根据队列长度是否为0来判断队列是否结束,从而执行主线程
'''
import queue
q = queue.Queue()
q.put('123')
q.put('qwe')
q.task_done()
q.task_done()
q.join() #这样的话,程序不会被挂起,但是如果只有一个task_done(),则会被挂起
线程池和进程池
进程池和线程池:
池的功能限制进程数或线程数.
什么时候限制?
当并发的任务数量远远大于计算机所能承受的范围时,即无法 一次性开启过多的任务数量,我就应该考虑去限制进程数或线程数 ,从而保证服务器不崩。
## 线程池和进程池
from concurrent.futures import ProcessPoolExecutor, ThreadPoolExecutor
from threading import currentThread
from multiprocessing import current_process
import time
def task(i):
print(f'{currentThread().name} 正在执行任务 {i}')
time.sleep(2)
print('\n\n\n')
return i**2 #每次线/进程执行完都会返回一个值
if __name__ == '__main__':
pool = ProcessPoolExecutor(5) #设置进程池的大小,每次只允许有5个进程同时运行
# pool = ThreadPoolExecutor(5)
fu_list = [] #列表用于保存任务对象
for i in range(15): #一共有15个任务
future = pool.submit(task, i) #把任务提交给进程执行
fu_list.append(future) #把任务对象加到列表中
pool.shutdown() #关闭线程池的入口
for fu in fu_list: #任务执行完接收返回值
print(fu.result())
#回调函数
from concurrent.futures import ProcessPoolExecutor, ThreadPoolExecutor
from threading import currentThread
from multiprocessing import current_process
import time
def task(i):
print(f'{currentThread().name} 正在执行任务 {i}')
time.sleep(2)
return i**2
def fun(future):
print(future.result())
if __name__ == '__main__':
pool = ProcessPoolExecutor(5)
# pool = ThreadPoolExecutor(5)
for i in range(15):
future = pool.submit(task, i)
future.add_done_callback(fun)
'''
回调函数:
为当前任务绑定了一个函数,在当前
任务执行结束的时候会触发这个函数,会把future对象作为参数传给函数
,这个称为回调函数,处理完了回来就调用这个函数
'''
协程(待补充)
'''
python的线程用的是操作系统原生的线程
协程:单线程下实现并发
并发:切换加保存状态
多线程:主要由操作系统帮忙实现,遇到io操作或者执行时间过
长就会切换。
什么样的协程是有意义的:
遇到io切换的时候才有意义
具体:
协程概念本质是程序员抽象出来的,操作系统根本不知道协程的存在,一个线程遇到io,该线程内部把CPU切到别的任务上了,操作系统就发现不了,这样实现了单线程下效率最高
'''
'''
优点:
自己控制切换要比操作系统切换快的多
缺点:
对比多线程
自己检测所有io, 但凡有一个阻塞整体都跟着阻塞
对比多进程
无法利用多核优势
为什么要有协程(遇到io切换)?
自己控制切换要比操作系统切换快的多,降低了单个线程的io时间
'''
线程queue、线程进程池,协程的更多相关文章
- 进程、线程、轻量级进程、协程与 go 的 goroutine【转载+整理】
本文内容 进程 线程 协程 Go 中的 goroutine 参考资料 最近,看一些文章,提到"协程"的概念,心想,进程,线程,协程,前两个很容易,任何一本关于操作系统的书都有说,开 ...
- 进程、线程、轻量级进程、协程和go中的Goroutine
进程.线程.轻量级进程.协程和go中的Goroutine 那些事儿电话面试被问到go的协程,曾经的军伟也问到过我协程.虽然用python时候在Eurasia和eventlet里了解过协程,但自己对协程 ...
- 进程、线程、轻量级进程、协程与 go 的 goroutine
本文内容 进程 线程 协程 Go 中的 goroutine 参考资料 最近,看一些文章,提到“协程”的概念,心想,进程,线程,协程,前两个很容易,任何一本关于操作系统的书都有说,开发时也经常用,但是协 ...
- Go语言 进程、线程、轻量级进程、协程和go中的Goroutine 那些事儿
原文:http://www.cnblogs.com/shenguanpu/archive/2013/05/05/3060616.html 电话面试被问到go的协程,曾经的军伟也问到过我协程.虽然用py ...
- python GIL全局解释器锁,多线程多进程效率比较,进程池,协程,TCP服务端实现协程
GIL全局解释器锁 ''' python解释器: - Cpython C语言 - Jpython java ... 1.GIL: 全局解释器锁 - 翻译: 在同一个进程下开启的多线程,同一时刻只能有一 ...
- 定时器、线程queue、进程池和线程池
1.定时器 指定n秒后,执行任务 from threading import Timer,current_thread import os def hello(): print("%s he ...
- python3多进程 进程池 协程并发
一.进程 我们电脑的应用程序,都是进程,进程是资源分配的单位.进程切换需要的资源最大,效率低. 进程之间相互独立 cpu密集的时候适合用多进程 #多 ...
- python运维开发(十一)----线程、进程、协程
内容目录: 线程 基本使用 线程锁 自定义线程池 进程 基本使用 进程锁 进程数据共享 进程池 协程 线程 线程使用的两种方式,一种为我们直接调用thread模块上的方法,另一种我们自定义方式 方式一 ...
- python并发编程之Queue线程、进程、协程通信(五)
单线程.多线程之间.进程之间.协程之间很多时候需要协同完成工作,这个时候它们需要进行通讯.或者说为了解耦,普遍采用Queue,生产消费模式. 系列文章 python并发编程之threading线程(一 ...
- Python之线程、进程和协程
python之线程.进程和协程 目录: 引言 一.线程 1.1 普通的多线程 1.2 自定义线程类 1.3 线程锁 1.3.1 未使用锁 1.3.2 普通锁Lock和RLock 1.3.3 信号量(S ...
随机推荐
- Linux三剑客入门
grep文本过滤工具 grep命令是Linux系统中最重要的命令之一,功能是从文本文件或管道数据流中筛选匹配的行和数据,如果再配合正则表达式,功能十分强大,是Linux运维人员必备的命令 语法: gr ...
- 五年微软DevOps MVP (也称TFS MVP)
笔者有幸第五次被微软授予MVP称号,高兴之余,在这里简单的介绍一下MVP的基本情况: 谁是 MVP? Microsoft 最有价值专家 (MVP) 是热情地与社区分享知识的技术专家.他们总是处于&qu ...
- pyqt助手中安装Qt帮助文档
一.个人安装环境 1.Windows7x64_SP1 2.anaconda2.5.0 + python2.7(anaconda集成,不需单独安装) 3.pyinstaller3.0 4.通过Anaco ...
- sql server删除重复记录只保留一条
今天遇到一个历史导入数据重复的问题,于是要删除重复的记录,一开始想用子查询的方式找到要删除记录的id删除,后来发现DELETE语句可以直接用外连接,这样更加简单,效率也更高. delete sys_p ...
- Intellij Idea 自动更新资源和类
Run -> Edit Configurations 进入配置页 On update action:当发现更新时的操作 选择Update classes and resources On ...
- logstash之mongodb-log
1.logstash6.5.3 配置收集mongodb的日志: 首先在mongodb服务器上部署filebeat收集日志并上传到logstash进行处理,然后上传到ES. filebeat-conf: ...
- 单片机成长之路(51基础篇) - 023 N76e003 系统时钟切换到外部时钟
N76e003切换到外部时钟的资料很少(因为N76e003的片子是不支持无源晶振的,有源晶振的成本又很高,所以网上很少有对N76e003的介绍).有图有真相: 代码如下: main.c #includ ...
- redis 缓存问题汇总
前言:在使用redis的时候,特别是大型应用,会碰到不少问题,下面就来总结一下使用redis时的常见问题 一.redis为缓存的问题 1.缓存和数据库双写一致性问题 分析:一致性问题是分布式常见问题, ...
- 一种小型后台管理系统通用开发框架中的Cache缓存设计
本篇博客记录一下我在实习的公司的后台管理系统开发框架中学习到的一种关于网站的缓存(Cache)的实现方法,我会在弄懂的基础上,将该方法在.net core上进行实现.因为公司开发都是基于.net fr ...
- mini QQ(项目一)
一个多人聊天工具(C/S结构),实现了如下功能: 一个可视化窗口,支持鼠标点击事件 注册功能,用户可以注册自己的聊天账号, 注册信息包括: 账号名(可以用姓名来替代账号,支持中文), 密码(聊天框输入 ...