Python进阶【第二篇】多线程、消息队列queue
1.Python多线程、多进程
目的提高并发
1.一个应用程序,可以有多进程和多线程
2.默认:单进程,单线程
3.单进程,多线程
IO操作,不占用CPU
python的多线程:IO操作,多线程提供并发
计算性操作
多进程提高并发
4.GIL,全局解释器锁
总结:
多进程,多线程,提供并发
IO密集型:多线程
计算密集型:多进程
2.threading模块
| threading模块对象 | 描述 |
| Thread | 表示一个线程的执行的对象 |
| Lock | 锁原语对象 |
| RLock | 可重入锁对象。使单线程可以再次获得已经获得了的锁(递归锁定) |
| Event | 通用的条件变量。多个线程可以等待某个事件的发生,在事件发生后,所有的线程都会被激活 |
| BoundedSemaphore | 每次允许几个线程通过 |
| Timer | 等待多久在开始运行 |
3.如何创建一个线程
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
# 1.先导出threading模块
import threading
import time
def f1(arg):
time.sleep(2)
print(arg)
for i in range(10):
# 2.创建一个线程对象
t = threading.Thread(target=f1,args=(i,))
# 创建一个线程那你想让它执行那些操作呢,就是target指定
# 假设上面的f1是一个函数,那么如果函数可以传参数就用args=(参数1,参数2)
t.start()
# t.start()
# 并不代表当前线程会被立即执行
# setDaemon方法,主进程执行完就退出不在等待子进程结束
# t.setDaemon(True)
# 表示主线程到此等待,直到子线程执行完毕
t.join()
print("end")
# 默认情况下主线程不会等待子线程t.start()执行完,而是直接执行下面的print("end"),但是程序不会退出,而是等子进程执行结束后才退出程序
4.定时器Timer()
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
from threading import Timer
def func():
print("hello world")
# 等1秒钟在执行func函数
t = Timer(1,func)
t.start()
5.消息队列queue模块
| queue模块函数 | 描述 |
| queue(size) | 创建一个大小为size的queue对象 |
| queue对象函数 | |
| qsize() | 返回队列的大小 |
| empty() | 如果队列为空返回True,否则返回False |
| full() | 如果队列已满返回True,否则返回False |
| put(item,block=0) | 把item放到队列中,如果给了block=False表示没有数据时不阻塞,直接报错 |
| get(block=False) | 在队列中取一个对象,默认block=True,如果给了block=False表示没有数据时不阻塞,直接报错 |
示例:
1.queue.Queue 先进先出队列
2.queue.LifoQueue,后进先出队列
3.queue.PriorityQueue,优先级队列
4.queue.deque,双向队列
1.先进先出
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import queue
#创建一个先进先出队列
# put 存放数据,是否阻塞,是否有超时时间
# put也可以传参数:
# timeout=2表示如果队列满了等待2秒如果有位置就存进去,如果没有就报错
# block=False 表示如果队列满了,不等待直接报错
# get 取出数据,默认阻塞,队列中没有数据时阻塞等待数据
# get也可以传参数:
# block=False 表示不阻塞,没有数据直接报错
# timeout=2 取数据时等待的超时时间
#
# Queue()可以接收参数Queue(10)表示最多接收10个数据
# empty() 如果队列为空返回True,有数据则返回False
q = queue.Queue()
# 队列中是否有数据
print(q.empty())
# 向队列中添加数据
q.put(111)
q.put(222)
q.put(333)
# 队列中是否有数据
print(q.empty())
# 查看队列中有多少数据
print("当前队列中有 [%s] 个数据"%q.qsize())
# 获取数据
print(q.get())
# 获取数据
print(q.get())
# 取出两个在查看
print("当前队列中有 [%s] 个数据"%q.qsize())
2.后进先出队列
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import queue
q = queue.LifoQueue()
q.put(123)
q.put(456)
print(q.get())
3.双向队列
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import queue
q = queue.deque()
# 写入数据
q.append(")
q.append(")
# 在左边插入输入
q.appendleft(")
# 获取数据
print(q.pop())
# 获取最左边的数据
print(q.popleft())
4.优先级队列
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import queue
q = queue.PriorityQueue()
# 优先级队列写入数据需要传两个值,第一个值是优先级数字越小优先级越高,第二个参数是数据
q.put((1,"test1"))
q.put((2,"test2"))
q.put((0,"test0"))
print(q.get())
生产者消费者模型(队列)
6.自定义线程池
#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import queue
import threading
import time
class Threadpool:
"""
自定义线程池
"""
def __init__(self,maxsize=5):
"""
初始化
:param maxsize: 队列存放数据的个数
"""
self.maxsize = maxsize
# 创建一个队列
self._q = queue.Queue(maxsize)
# maxsize多大就创建一个线程对象
for i in range(maxsize):
self._q.put(threading.Thread)
def get_thread(self):
"""
获取一个线程对象
等同于创建了一线线程对象t = threading.Thread
:return:
"""
return self._q.get()
def add_thread(self):
"""
添加一个线程对象到队列中
:return:
"""
self._q.put(threading.Thread)
pool = Threadpool(5)
def task(arg,p):
"""
任务
:param arg:
:param p: p 等于接收pool对象
:return:
"""
print(arg)
time.sleep(1)
# 队列中减少一个线程对象就在添加一个进去,保证队列中始终是5个
p.add_thread()
for i in range(100):
t = pool.get_thread()
obj = t(target=task, args=(i,pool))
obj.start()
Python进阶【第二篇】多线程、消息队列queue的更多相关文章
- python消息队列Queue
实例1:消息队列Queue,不要将文件命名为"queue.py",否则会报异常"ImportError: cannot import name 'Queue'" ...
- 消息队列Queue大全
消息队列Queue大全 (http://queues.io/) 作业队列,消息队列和其他队列.几乎所有你能想到的都在这. 关于 那里有很多排队系统.他们每个人都不同,是为解决某些问题而创建的.这个页面 ...
- 消息队列queue
一.queue 在多线程编程中,程序的解耦往往是一个麻烦的问题,以及在socket网络编程中也会有这样的问题.recv 和send之间,如果服务端有消息,问题需要发送给客户端,而那边的recv 被主程 ...
- Python人工智能第二篇:人脸检测和图像识别
Python人工智能第二篇:人脸检测和图像识别 人脸检测 详细内容请看技术文档:https://ai.baidu.com/docs#/Face-Python-SDK/top from aip impo ...
- python【第十一篇】消息队列RabbitMQ、缓存数据库Redis
大纲 1.RabbitMQ 2.Redis 1.RabbitMQ消息队列 1.1 RabbitMQ简介 AMQP,即Advanced Message Queuing Protocol,高级消息队列协议 ...
- python多进程之间的通信:消息队列Queue
python中进程的通信:消息队列. 我们知道进程是互相独立的,各自运行在自己独立的内存空间. 所以进程之间不共享任何变量. 我们要想进程之间互相通信,传送一些东西怎么办? 需要用到消息队列!! 进程 ...
- python学习笔记——multiprocessing 多进程组件-队列Queue
1 消息队列 1.1 基本语法 消息队列:multiprocessing.Queue,Queue是对进程安全的队列,可以使用Queue实现对进程之间的数据传输:还有一个重要作用是作为缓存使用. Que ...
- python基本数据结构栈stack和队列queue
1,栈,后进先出,多用于反转 Python里面实现栈,就是把list包装成一个类,再添加一些方法作为栈的基本操作. 栈的实现: class Stack(object): #初始化栈为空列表 def _ ...
- python 3.x 学习笔记16 (队列queue 以及 multiprocessing模块)
1.队列(queue) 用法: import queue q = queue.Queue() #先进先出模式 q.put(1) #存放数据在q里 作用: 1)解耦 2)提高效率 class qu ...
随机推荐
- JS的解析与执行过程
JS的解析与执行过程 全局中的解析和执行过程 预处理:创建一个词法环境(LexicalEnvironment,在后面简写为LE),扫描JS中的用声明的方式声明的函数,用var定义的变量并将它们加到预处 ...
- 微服务(Microservices)——Martin Flower【翻译】
原文是 Martin Flower 于 2014 年 3 月 25 日写的<Microservices>. 本文内容 微服务 微服务风格的特性 组件化(Componentization ) ...
- Redis Cluster原理
Redis Cluster 是Redis的集群实现,内置数据自动分片机制,集群内部将所有的key映射到16384个Slot中,集群中的每个Redis Instance负责其中的一部分的Slot的读写. ...
- [转]DbFirst数据验证
转自:Data Validate 之 Data Annotation 什么是Data Annotation ? 如何使用 ? 自定义Validate Attribute EF Db first中使用 ...
- webserver[实时查询当天的天气情况]
1.webserver是什么? 日常生活中经常会使用到webserver,注册时,会收到验证码,购买东西时,会收到短信,假如,A公司网站和B公司合作,那么A公司注册对的用户可以直接推送给B网站,那怎么 ...
- php实现设计模式之 原型模式
<?php /* * 原型模式:通过复制已经存在的对象来创建新对象. * 通过原型实例指定创建对象的种类,并且通过copy这些原型创建信的对象 * 是创建型模式 * 有的时候创建一个对象有很多步 ...
- 【转】PHP 杂谈《重构-改善既有代码的设计》之一 重新组织你的函数
原文地址: PHP 杂谈<重构-改善既有代码的设计>之一 重新组织你的函数 思维导图 点击下图,可以看大图. 介绍 我把我比较喜欢的和比较关注的地方写下来和大家分享.上次我写 ...
- MyBatis Mapper.xml文件中 $和#的区别
MyBatis Mapper.xml文件中 $和#的区别 网上有很多,总之,简略的写一下,作为备忘.例子中假设参数名为 paramName,类型为 VARCHAR . 1.优先使用#{paramN ...
- 《Effective C#》读书笔记
Effiective C# Item1 : 使用属性代替成员变量 Effective C# Item2:运行时常量(readonly)优于编译时常量(const) Effective C# Item3 ...
- JavaScript变换表格边框颜色
效果查看:http://hovertree.com/texiao/js/2.htm 代码如下,保存到HTML文件也可以查看效果: <html> <head> <meta ...