python高级技术(进程二)
一 进程对象及其他方法
'''
一台计算机上面运行着很多进程,那么计算机是如何区分并管理这些进程服务端的呢?
计算机会给每一个运行的进程分配一个PID号
如何查看
windows电脑
进入cmd输入tasklist即可查看
tasklist|findstr PID查看具体的进程
linux电脑
进入终端之后输入ps aux
ps aux|grep PID查看具体的进程
'''
from multiprocessing import Process, current_process
import time
import os def task():
print('{} is running'.format(current_process().pid))
print('{} is running'.format(os.getpid()))
print('{} 是子进程的主进程号'.format(os.getppid()))
time.sleep(5) if __name__ == '__main__':
p = Process(target=task)
p.start()
# p.terminate() # 杀死当前进程
# 是告诉操作系统帮你去杀死当前进程 但是需要一定的时间 而代码的运行速度极快,加上time.sleep,打印结果为True
# time.sleep(0.001)
print(p.is_alive()) # 判断当前进程是否存活
'''
一般情况下我们会默认将
存储布尔值的变量名
和返回的结果是布尔值的方法名
都起成以is_开头
'''
print('主', current_process().pid)
print('主进程的父进程号', os.getpid()) '''
rue
主 6308
主进程的父进程号 6308
16144 is running
16144 is running
6308 是子进程的主进程号
'''
current_process().pid和os.getpid()都是获取当前进程的进程号,
os.getppid()获取当前进程的父进程
p.terminate() 杀死当前进程
p.is_alive()判断当前进程是否存活
二 僵尸进程与孤儿进程(了解)
1、僵尸进程
死了但是没有死透
当你开设了子进程之后,该进程死后不会立刻释放占用的进程号
因为我要让父进程能够查看到它开设的子进程的一些基本信息 占用的pid号 运行时间
所有的进程都会步入僵尸进程
父进程不死并且在无限制的创建子进程并且子进程也不结束
回收子进程占用的pid号
父进程等待子进程运行结束
父进程调用join方法
2、孤儿进程
子进程存活,父进程意味死亡
操作系统会开设一个“儿童福利院”专门管理孤儿进程回收相关资源
三 守护进程
会随着主进程的结束而结束。
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止
from multiprocessing import Process
import time def task(name):
print('{}正在活着'.format(name))
time.sleep(3)
print('{}正在死亡'.format(name)) if __name__ == '__main__':
p = Process(target=task, args=('xiaobao',))
p.daemon = True # 将进程p设置成守护进程 这一句一定要放在start方法上面才有效否则会直接报错
p.start()
print('haha') '''
haha
'''
四 互斥锁
多个进程操作同一份数据的时候,会出现数据错乱的问题
针对上述问题,解决方式就是加锁处理
将并发变成串行,牺牲效率但是保证了数据的安全
from multiprocessing import Process, Lock
import json
import time
import random # 查票
def search(i):
# 文件操作读取票数
with open('data', 'r', encoding='utf-8') as f:
dic = json.load(f) # 操作文件用load,具体对象数据用loads
print('用户名{}查询余票{}'.format(i, dic.get('ticket_num')))
# 字典取值不要用[]的形式,如果没有,会报错,推荐使用get,写代码尽量避免报错。 # 买票 1.先查 2.再买
def buy(i):
# 先查票
with open('data', 'r', encoding='utf-8') as f:
dic = json.load(f) # 模拟网络延迟
time.sleep(random.randint(1, 3))
# 判断当前是否有票
if dic.get('ticket_num') > 0:
# 修改数据库 买票
dic['ticket_num'] -= 1
# 写入数据库
with open('data', 'w', encoding='utf-8') as f:
json.dump(dic, f)
print('用户{}买票成功'.format(i))
else:
print('用户{}买票失败'.format(i)) # 整合上面两个函数
def run(i, mutex):
search(i)
# 给买票环节加锁处理
# 抢锁
mutex.acquire()
buy(i)
# 释放锁
mutex.release() if __name__ == '__main__':
# 在主进程中生成一把锁 让所有的子进程抢 谁先抢到谁先买票
mutex = Lock()
for i in range(1, 11):
p = Process(target=run, args=(i, mutex))
p.start()
模拟抢票,一个用户对应一个进程,余票剩余1张,不加锁的情况下,因是并发,10个用户
显示都够买成功了1张,实际情况只能有1个用户购买成功,所以加锁,10个用户抢锁
,锁先抢到,谁先运行,让并发效果变成了串行效果,牺牲了效率,保证了数据安全
'''
扩展 行锁 表锁
注意:
1、锁不要轻易的使用,容易造成死锁现象(我们写代码一般不会用到,都是内部封装好的)
2、锁只在处理数据的部分来保证数据安全(只在争抢数据的环节加锁处理即可)
'''
五 进程间通信
队列:先进先出(扶手电梯)
堆栈:先进后出(箱子里叠衣服)
管道:subprocess
stdin stdout stderr
队列:管道+锁

from multiprocessing import Queue # 创建一个队列
q = Queue(5) # 括号内可以传数字 表示生成的队列最大可以同时存放的数据量
q.put(111)
q.put(222)
q.put(333)
print(q.full()) # 判断当前队列是否满了
print(q.empty()) # 判断当前队列是否空了
q.put(444)
q.put(555)
# q.put(666) # 当队列数据放满了之后 如果还有数据要放程序会阻塞 直到有位置让出来 '''
存取数据 存是为了更好的取
千方百计的存、简单快捷的取
'''
# 去队列中取数据
v1 = q.get()
v2 = q.get()
v3 = q.get()
v4 = q.get()
v5 = q.get()
# v6 = q.get() # 队列中如果已经没有数据的话 get方法会原地阻塞
try:
v6 = q.get(timeout=3)
print(v6)
except Exception as e:
print('已经被取完了')
print(v1) '''
q.full()
q.empty()
q.get_nowait()
在多进程的情况下是不精准
'''
put 当队列数据放满了之后 如果还有数据要放程序会阻塞 直到有位置让出来
get 队列中如果已经没有数据的话 get方法会原地阻塞
IPC机制
from multiprocessing import Process, Queue '''
研究思路
1、主进程跟子进程借助于队列通信
2、子进程跟子进程借助于队列通信
''' def producer(q):
q.put('zd')
print('hello llx') def consumer(q):
print(q.get()) if __name__ == '__main__':
q = Queue()
p = Process(target=producer, args=(q,))
p1 = Process(target=consumer, args=(q,))
p.start()
p1.start() '''
hello llx
zd
'''
六 生产者消费者模型
生产者:生产/制造东西的
消费者:消费/处理东西的
该模型除了上述两个之外还需要一个媒介
生产者和消费者之间不是直接做交互的,而是借助于媒介做交互
生产者+消费队列+消费者
生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。
生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,
所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,
消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,
平衡了生产者和消费者的处理能力。
from multiprocessing import Process, Queue
import time
import random def producer(name, food, q):
for i in range(10):
data = '{}生产了{}{}'.format(name, i, food)
# 模拟延迟
time.sleep(random.randint(1, 3))
print(data)
# 将数据放入队列中
q.put(data) def consumer(name, q):
# 消费者胃口很大 光盘行动
while True:
food = q.get()
if food is None:
break
time.sleep(random.randint(1, 3))
print('{}吃了{}'.format(name, food)) if __name__ == '__main__':
q = Queue()
p1 = Process(target=producer, args=('大厨lq', '包子', q))
p2 = Process(target=producer, args=('大厨zd', '油条', q))
c1 = Process(target=consumer, args=('吃货xiao', q))
c2 = Process(target=consumer, args=('吃货xiaoxiaobao', q))
p1.start()
p2.start()
c1.start()
c2.start()
p1.join()
p2.join()
# 等待生产者生产完毕之后 往队列中添加特定的结束符号
q.put(None) # 肯定在所有生产者生产的数据的末尾,有几个消费者,就要有几个put(None)
q.put(None) # 主进程与子进程的通信
解决生产者生产完毕后,有几个消费者就需要向几个消费者添加几个put(None)的结束标志的问题,
使用JoinableQueue模块
from multiprocessing import Process, JoinableQueue
import time
import random def producer(name, food, q):
for i in range(10):
data = '{}生产了{}{}'.format(name, i, food)
# 模拟延迟
time.sleep(random.randint(1, 3))
print(data)
# 将数据放入队列中
q.put(data) def consumer(name, q):
# 消费者胃口很大 光盘行动
while True:
food = q.get()
time.sleep(random.randint(1, 3))
print('{}吃了{}'.format(name, food))
q.task_done() # 告诉队列你已经从里面取出了一个数据并且处理完毕了 if __name__ == '__main__':
q = JoinableQueue()
p1 = Process(target=producer, args=('大厨lq', '包子', q))
p2 = Process(target=producer, args=('大厨zd', '油条', q))
c1 = Process(target=consumer, args=('吃货xiao', q))
c2 = Process(target=consumer, args=('吃货cyz', q))
p1.start()
p2.start()
# 将消费者设置成守护进程
c1.daemon = True
c2.daemon = True
c1.start()
c2.start() p1.join()
p2.join()
q.join() # 等待队列中所有的数据被取完再执行往下执行代码
'''
JoinableQueue 每当你往队列中存入数据的时候 内部会有一个计数器+1
每当你调用task_done的时候 计数器-1
q.join() 当计数器为0的时候 才往后运行
#主进程等--->p1,p2等---->c1,c2
#p1,p2结束了,证明c1,c2肯定全都收完了p1,p2发到队列的数据
#因而c1,c2也没有存在的价值了,不需要继续阻塞在进程中影响主进程了。应该随着主进程的结束而结束,所以设置成守护进程就可以了。
'''
python高级技术(进程二)的更多相关文章
- iOS开发——高级技术&生成二维码
生成二维码 因为项目里需要新增个功能,该功能用到了二维码技术.于是我便查阅了资料,先学习了二维码的生成. 我们使用libqrencode库来生成二维码.下载地址http://download.cs ...
- python之路----进程二
守护进程 会随着主进程的结束而结束. 主进程创建守护进程 其一:守护进程会在主进程代码执行结束后就终止 其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic ...
- python高级编程——进程和进程池
python提供了一个跨平台的多进程支持——multiprocessing模块,其包含Process类来代表一个进程对象 1.Process语法结构:(注: 传参的时候一定使用关键字传参) 2.自定义 ...
- python基础(32):进程(二)
1. multiprocess模块 仔细说来,multiprocess不是一个模块而是python中一个操作.管理进程的包. 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含 ...
- Python进阶----计算机基础知识(操作系统多道技术),进程概念, 并发概念,并行概念,多进程实现
Python进阶----计算机基础知识(操作系统多道技术),进程概念, 并发概念,并行概念,多进程实现 一丶进程基础知识 什么是程序: 程序就是一堆文件 什么是进程: 进程就是一个正在 ...
- 进击的Python【第五章】:Python的高级应用(二)常用模块
Python的高级应用(二)常用模块学习 本章学习要点: Python模块的定义 time &datetime模块 random模块 os模块 sys模块 shutil模块 ConfigPar ...
- python并发编程之multiprocessing进程(二)
python的multiprocessing模块是用来创建多进程的,下面对multiprocessing总结一下使用记录. 系列文章 python并发编程之threading线程(一) python并 ...
- OpenCV -Python 性能衡量和提升技术 | 十二
目标 在图像处理中,由于每秒要处理大量操作,因此必须使代码不仅提供正确的解决方案,而且还必须以最快的方式提供.因此,在本章中,你将学习 衡量代码的性能. 一些提高代码性能的技巧. 你将看到以下功能:c ...
- Python高级编程之生成器(Generator)与coroutine(二):coroutine介绍
原创作品,转载请注明出处:点我 上一篇文章Python高级编程之生成器(Generator)与coroutine(一):Generator中,我们介绍了什么是Generator,以及写了几个使用Gen ...
- python高级(二)—— python内置序列类型
本文主要内容 序列类型分类: (1)容器序列.扁平序列 (2)可变序列.不可变序列 列表推导式 生成器表达式 元组拆包 切片 排序(list.sort方法和sorted函数) bisect pytho ...
随机推荐
- .NET Core开发实战(第17课:为选项数据添加验证:避免错误配置的应用接收用户流量)--学习笔记
17 | 为选项数据添加验证:避免错误配置的应用接收用户流量 三种验证方法 1.直接注册验证函数 2.实现 IValidateOptions 3.使用 Microsoft.Extensions.Opt ...
- .NET 大数据实时计算--学习笔记
摘要 纯 .Net 自研大数据实时计算平台,在中通快递服务数百亿包裹,处理数据万亿计!将分享大数据如何落地以及设计思路,技术重难点. 目录 背景介绍 计算平台架构 项目实战 背景介绍 计算平台架构 分 ...
- Linux shell 判断变量是否包含某个字符串的几种方法
方法一:利用grep查找 strA="long string" strB="string" result=$(echo $strA | grep "$ ...
- 致敬英雄,共悼逝者,css 让页面变黑白
壹 ❀ 引 今天是四月四日清明节,也是全国哀悼抗疫烈士的一天.细心的同学可以发现,不仅是娱乐活动以及游戏全部停止,当我们打开各大门户网站,网站页面也都变成了黑白,那么具体怎么做呢,这里可以借用CSS3 ...
- NC19872 [AHOI2005]SHUFFLE 洗牌
题目链接 题目 题目描述 为了表彰小联为Samuel星球的探险所做出的贡献,小联被邀请参加Samuel星球近距离载人探险活动. 由于Samuel星球相当遥远,科学家们要在飞船中度过相当长的一段时间,小 ...
- Context与Reducer
Context与Reducer Context是React提供的一种跨组件的通信方案,useContext与useReducer是在React 16.8之后提供的Hooks API,我们可以通过use ...
- CSS之浮动Float
前言 提到浮动,前端的小伙伴肯定都不陌生,但是随着弹性布局等等一些更好用的标准出来后,用在布局方面少了很多,当初我刚开始接触前端的时候,很习惯用浮动来给元素改变定位,当时还并不是很流行flexbox布 ...
- 面向对象之封装,类的相关操作,私有成员删除,构造方法__init__---day20
1.面向对象之封装 # ### 面向对象oop -封装 """ 类中封装: 成员属性 成员方法 封装等级: 1.公有:公有成员既能够在类外调用,也可在类内调用 2.私有: ...
- 用BootstrapBlazor制作修改订单字段的页面
1.在Shared文件夹下新增一个razor 2.页面初始化的时候获取订单信息 准备一个名为OrderId的参数 准备重写页面初始化时的方法 改成异步的形式来重写 4.获取数据 就3行代码. 声明这个 ...
- 第一百一十二篇: JS数组Array(一)数组基本用法
好家伙, 1.数组 Array应该就是ECMAScript中最常用的类型了.ECMAScript数组跟其他编程语言的数组有很大区别. 跟其他语言中的数组一样,ECMAScript 数组也是一组有序 ...