1、

https://blog.csdn.net/wonengguwozai/article/details/80325745

今天项目中涉及到了使用多进程处理数据,在廖雪峰的python教程上学习了一下多进程相关,其中涉及到了start和join函数,解释的不是很清晰,在网上找了博客,敲了下博客提供的代码,瞬间理解了。感谢原文:https://blog.csdn.net/HeatDeath/article/details/72842899

由于Python是跨平台的,自然也应该提供一个跨平台的多进程支持。

multiprocessing模块就是跨平台版本的多进程模块。

multiprocessing模块提供了一个Process类来代表一个进程对象。

创建子进程时,只需要传入一个执行函数和函数的参数,创建一个Process实例

start()方法启动,这样创建进程比fork()还要简单。

join()方法可以等待子进程结束后再继续往下运行,通常用于进程间的同步。(进一步地解释,哪个子进程调用了join方法,主进程就要等该子进程执行完后才能继续向下执行,具体可见下边的分析图)

使用 join()

  1.  
    # -*- coding:utf-8 -*-
  2.  
    from multiprocessing import Process
  3.  
    import os
  4.  
    import time
  5.  
     
  6.  
     
  7.  
    def run_proc(name):
  8.  
    time.sleep(10)
  9.  
    print('Run child process %s (%s)...' % (name, os.getpid()))
  10.  
     
  11.  
     
  12.  
    def hello_world():
  13.  
    # time.sleep(5)
  14.  
    time.sleep(20)
  15.  
    print('hello world!')
  16.  
    print('Run child process (%s)...' % (os.getpid()))
  17.  
     
  18.  
     
  19.  
    if __name__ == '__main__':
  20.  
    print ('Parent process %s.' % os.getpid())
  21.  
    p1 = Process(target=run_proc, args=('test',))
  22.  
    p2 = Process(target=hello_world)
  23.  
    print 'Process will start.'
  24.  
    p1.start()
  25.  
    p2.start()
  26.  
    p1.join()
  27.  
    print('Process end.')

输出:

  1.  
    Parent process 11860.
  2.  
    Process will start.
  3.  
    Run child process test (11232)...
  4.  
    Process end.
  5.  
    hello world!
  6.  
    Run child process (2288)...
  7.  
     
  8.  
    Process finished with exit code 0

子进程的开始时间

  1.  
    # -*- coding:utf-8 -*-
  2.  
    from multiprocessing import Process
  3.  
    import os
  4.  
    import time
  5.  
     
  6.  
     
  7.  
    def run_proc(name):
  8.  
    print(time.time())
  9.  
     
  10.  
    time.sleep(10)
  11.  
    print('Run child process %s (%s)...' % (name, os.getpid()))
  12.  
     
  13.  
     
  14.  
    def hello_world():
  15.  
    print(time.time())
  16.  
     
  17.  
    # time.sleep(5)
  18.  
    time.sleep(20)
  19.  
    print('hello world!')
  20.  
    print('Run child process (%s)...' % (os.getpid()))
  21.  
     
  22.  
     
  23.  
    if __name__ == '__main__':
  24.  
    print ('Parent process %s.' % os.getpid())
  25.  
    p1 = Process(target=run_proc, args=('test',))
  26.  
    p2 = Process(target=hello_world)
  27.  
    print 'Process will start.'
  28.  
    p1.start()
  29.  
    p2.start()
  30.  
    p1.join()
  31.  
    print('Process end.')

输出:

  1.  
    Parent process 7220.
  2.  
    Process will start.
  3.  
    1496374096.56
  4.  
    1496374096.56
  5.  
    Run child process test (2196)...
  6.  
    Process end.
  7.  
    hello world!
  8.  
    Run child process (832)...
  9.  
     
  10.  
    Process finished with exit code 0

可以认为 子进程 p1 与 子进程 p2 同时开始


去掉 join(),使用 map

  1.  
    # -*- coding:utf-8 -*-
  2.  
    from multiprocessing import Process
  3.  
    import os
  4.  
    import time
  5.  
     
  6.  
     
  7.  
    def run_proc(name):
  8.  
    print(time.time())
  9.  
     
  10.  
    time.sleep(10)
  11.  
    print('Run child process %s (%s)...' % (name, os.getpid()))
  12.  
     
  13.  
     
  14.  
    def hello_world():
  15.  
    print(time.time())
  16.  
     
  17.  
    # time.sleep(5)
  18.  
    time.sleep(20)
  19.  
    print('hello world!')
  20.  
    print('Run child process (%s)...' % (os.getpid()))
  21.  
     
  22.  
     
  23.  
    if __name__ == '__main__':
  24.  
    print ('Parent process %s.' % os.getpid())
  25.  
    p1 = Process(target=run_proc, args=('test',))
  26.  
    p2 = Process(target=hello_world)
  27.  
    print 'Process will start.'
  28.  
    # p1.start()
  29.  
    # p2.start()
  30.  
    # p1.join()
  31.  
    p_list = (p1, p2)
  32.  
    map(Process.start, p_list)
  33.  
    print('Process end.')

输出:

  1.  
    Parent process 8580.
  2.  
    Process will start.
  3.  
    Process end.
  4.  
    1496374397.24
  5.  
    1496374397.24
  6.  
    Run child process test (7148)...
  7.  
    hello world!
  8.  
    Run child process (8348)...
  9.  
     
  10.  
    Process finished with exit code 0

2.

https://blog.csdn.net/yagamil/article/details/51284851

threads=[]
f=[fast,slow]
l=len(f)
for i in range(l):
t=MyThread(f[i],(),str(i))
threads.append(t)

for i in range(l):
threads[i].start()

for i in range(l):
#pass
threads[i].join()
print threads[i].getName()
print "Done on main"
exit()

join的主要功能是阻塞线程,也就是使用了join后,后面的语句需要等当前进程完成之后才能 执行。

那么看看下面的例子

class MyThread(threading.Thread):
def __init__(self,fun,arg,name=""):
threading.Thread.__init__(self)
self.fun=fun
self.arg=arg
self.name=name
#self.result

def run(self):
self.result=apply(self.fun,self.arg)

def getName(self):
return self.name

def getResult(self):
return self.result

上面是一个多线程的类。 待会用来调用的。
下面是main函数

def fast():
print "in fast"
sleep(15)
print "done in fast"

def slow():
print "in slow"
sleep(10)
print "done in slow"

threads=[]
f=[fast,slow]
l=len(f)
for i in range(l):
t=MyThread(f[i],(),str(i))
threads.append(t)

for i in range(l):
threads[i].start()

for i in range(l):
#pass
threads[i].join()
print threads[i].getName()
print "Done on main"
exit()

运行之后
输出的结果是

in fast
in slow
done in slow
done in fast
0
1
Done on main

看到了吗?

运行到thread[i].join() 这一行, 下一句没有马上被执行,需要等到done in fast 完成之后才执行, 而为什么done in slow却提前被执行了呢?

因为上面执行了threads[i].start() 后 两个线程已经同时开启了,但是由于在slow线程里只sleep了10秒,而fast线程sleep了15秒,所以会先打印done in slow。

print threads[i].getName()

而上面这句则需要等线程1执行之后才会执行,

等执行完了上面那句之后,才会执行线程2的 join(), 由于此时的线程已经早已执行完毕,所以这句也没有起到阻塞作用,故会马上执行 下面只一句

print threads[i].getName()
---------------------
作者:重复的生活
来源:CSDN
原文:https://blog.csdn.net/yagamil/article/details/51284851
版权声明:本文为博主原创文章,转载请附上博文链接!

转 Python 多进程multiprocessing.Process之satrt()和join()的更多相关文章

  1. python多进程——multiprocessing.Process

    简介 multiprocessing是一个使用类似于threading模块的API支持生成进程的包.该multiprocessing软件包提供本地和远程并发.因此,该multiprocessing模块 ...

  2. Python 多进程 multiprocessing.Pool类详解

    Python 多进程 multiprocessing.Pool类详解 https://blog.csdn.net/SeeTheWorld518/article/details/49639651

  3. Python多进程multiprocessing使用示例

    mutilprocess简介 像线程一样管理进程,这个是mutilprocess的核心,他与threading很是相像,对多核CPU的利用率会比threading好的多. import multipr ...

  4. Python 多进程multiprocessing

    一.python多线程其实在底层来说只是单线程,因此python多线程也称为假线程,之所以用多线程的意义是因为线程不停的切换这样比串行还是要快很多.python多线程中只要涉及到io或者sleep就会 ...

  5. python ---多进程 Multiprocessing

    和 threading 的比较 多进程 Multiprocessing 和多线程 threading 类似, 他们都是在 python 中用来并行运算的. 不过既然有了 threading, 为什么 ...

  6. python多进程-----multiprocessing包

    multiprocessing并非是python的一个模块,而是python中多进程管理的一个包,在学习的时候可以与threading这个模块作类比,正如我们在上一篇转载的文章中所提,python的多 ...

  7. python多进程multiprocessing Pool相关问题

    python多进程想必大部分人都用到过,可以充分利用多核CPU让代码效率更高效. 我们看看multiprocessing.pool.Pool.map的官方用法 map(func, iterable[, ...

  8. 操作系统OS,Python - 多进程(multiprocessing)、多线程(multithreading)

    多进程(multiprocessing) 参考: https://docs.python.org/3.6/library/multiprocessing.html 1. 多进程概念 multiproc ...

  9. python多进程(multiprocessing)

    最近有个小课题,需要用到双进程,翻了些资料,还算圆满完成任务.记录一下~ 1.简单地双进程启动 同时的调用print1()和print2()两个打印函数,代码如下: #/usr/bin/python ...

随机推荐

  1. 100198H Royal Federation

    传送门 题目大意 国家有N个城市,任意城市可以到达任意城市,是一棵树.国王要给这些城市分省份.每个省份最少M个城市,最多3M个城市.每个省有一个首府,首府不一定是这个省的城市,只是首府到这个省各个城市 ...

  2. python3-字典中包含字典

    # Auther: Aaron Fan #定义字典及内容av_catalog = { "欧美":{ "www.youporn.com": ["很多免费 ...

  3. 树莓派研究笔记(10)-- Retropie 模拟器

    前面介绍过lakka模拟器,小巧,轻便,支持中文.其实最著名的游戏系统还是要属于Retropie啊.虽然笨重了一点,但是很多树莓派系统的原汁原味还是保留的很好.这样就不需要我们自己还要对lakka的源 ...

  4. SDUT 3343 数据结构实验之二叉树四:还原二叉树

    数据结构实验之二叉树四:还原二叉树 Time Limit: 1000MS Memory Limit: 65536KB Submit Statistic Problem Description 给定一棵 ...

  5. 巧用 git rebase 将某一部分 commit 复制到另一个分支

    一.为什么需要将一个 commit 复制到其他分支上去呢? 在我们的实际开发的过程中,我们的项目中会存在多个分支. 在某些情况下,可能需要将某一个分支上的 commit 复制到另一个分支上去.   二 ...

  6. Xshell连接linux(deepin)时提示ssh服务器拒绝了密码,请再试一次解决方法

    用Xshell root连接时显示ssh服务器拒绝了密码,应该是应该是sshd的设置不允许root用户用密码远程登录 修改 /etc/ssh/sshd_config文件,注意,安装了openssh才会 ...

  7. 解决Mac版微信小程序开发工具打开后无法显示二维码

    问题描述: 正常情况下,打开微信小程序开发工具后,首页提示扫描二维码进行登陆,但是如果不显示二维码,当然无法登陆. 解决方案: 无法显示二维码肯定是程序运行哪里出错了,我们直接点击桌面图标是无法排查错 ...

  8. Xcode编译报错信息总结

    1.dyld: Library not loaded: @rpath/.../xxx.framework 一般与这个库的加载路径有关,先看看是否将静态库设置成了动态库(库的Mach-o Type选项) ...

  9. Zinterstore 命令

    先来看一下这个命令的定义: Redis Zinterstore 命令计算给定的一个或多个有序集的交集,其中给定 key 的数量必须以 numkeys 参数指定,并将该交集(结果集)储存到 destin ...

  10. linux 进程间通信机制(IPC机制)- 管道

    一,定义: 管道又可以分为无名管道和命名管道,两者的用途是不一样的. 无名管道PIPE:主要用于具有亲缘关系的进程之间的通信,无名管道的通信是单向的,只能由一段到另外一段:无名管道是临时性的,完成通信 ...