转 Python 多进程multiprocessing.Process之satrt()和join()
1、
https://blog.csdn.net/wonengguwozai/article/details/80325745
今天项目中涉及到了使用多进程处理数据,在廖雪峰的python教程上学习了一下多进程相关,其中涉及到了start和join函数,解释的不是很清晰,在网上找了博客,敲了下博客提供的代码,瞬间理解了。感谢原文:https://blog.csdn.net/HeatDeath/article/details/72842899
由于Python是跨平台的,自然也应该提供一个跨平台的多进程支持。
multiprocessing模块就是跨平台版本的多进程模块。
multiprocessing模块提供了一个Process类来代表一个进程对象。
创建子进程时,只需要传入一个执行函数和函数的参数,创建一个Process实例
start()
方法启动,这样创建进程比fork()还要简单。
join()
方法可以等待子进程结束后再继续往下运行,通常用于进程间的同步。(进一步地解释,哪个子进程调用了join方法,主进程就要等该子进程执行完后才能继续向下执行,具体可见下边的分析图)
使用 join()
- # -*- coding:utf-8 -*-
- from multiprocessing import Process
- import os
- import time
- def run_proc(name):
- time.sleep(10)
- print('Run child process %s (%s)...' % (name, os.getpid()))
- def hello_world():
- # time.sleep(5)
- time.sleep(20)
- print('hello world!')
- print('Run child process (%s)...' % (os.getpid()))
- if __name__ == '__main__':
- print ('Parent process %s.' % os.getpid())
- p1 = Process(target=run_proc, args=('test',))
- p2 = Process(target=hello_world)
- print 'Process will start.'
- p1.start()
- p2.start()
- p1.join()
- print('Process end.')
输出:
- Parent process 11860.
- Process will start.
- Run child process test (11232)...
- Process end.
- hello world!
- Run child process (2288)...
- Process finished with exit code 0
子进程的开始时间
- # -*- coding:utf-8 -*-
- from multiprocessing import Process
- import os
- import time
- def run_proc(name):
- print(time.time())
- time.sleep(10)
- print('Run child process %s (%s)...' % (name, os.getpid()))
- def hello_world():
- print(time.time())
- # time.sleep(5)
- time.sleep(20)
- print('hello world!')
- print('Run child process (%s)...' % (os.getpid()))
- if __name__ == '__main__':
- print ('Parent process %s.' % os.getpid())
- p1 = Process(target=run_proc, args=('test',))
- p2 = Process(target=hello_world)
- print 'Process will start.'
- p1.start()
- p2.start()
- p1.join()
- print('Process end.')
输出:
- Parent process 7220.
- Process will start.
- 1496374096.56
- 1496374096.56
- Run child process test (2196)...
- Process end.
- hello world!
- Run child process (832)...
- Process finished with exit code 0
可以认为 子进程 p1 与 子进程 p2 同时开始
去掉 join(),使用 map
- # -*- coding:utf-8 -*-
- from multiprocessing import Process
- import os
- import time
- def run_proc(name):
- print(time.time())
- time.sleep(10)
- print('Run child process %s (%s)...' % (name, os.getpid()))
- def hello_world():
- print(time.time())
- # time.sleep(5)
- time.sleep(20)
- print('hello world!')
- print('Run child process (%s)...' % (os.getpid()))
- if __name__ == '__main__':
- print ('Parent process %s.' % os.getpid())
- p1 = Process(target=run_proc, args=('test',))
- p2 = Process(target=hello_world)
- print 'Process will start.'
- # p1.start()
- # p2.start()
- # p1.join()
- p_list = (p1, p2)
- map(Process.start, p_list)
- print('Process end.')
输出:
- Parent process 8580.
- Process will start.
- Process end.
- 1496374397.24
- 1496374397.24
- Run child process test (7148)...
- hello world!
- Run child process (8348)...
- Process finished with exit code 0
2.
https://blog.csdn.net/yagamil/article/details/51284851
threads=[]
f=[fast,slow]
l=len(f)
for i in range(l):
t=MyThread(f[i],(),str(i))
threads.append(t)
for i in range(l):
threads[i].start()
for i in range(l):
#pass
threads[i].join()
print threads[i].getName()
print "Done on main"
exit()
join的主要功能是阻塞线程,也就是使用了join后,后面的语句需要等当前进程完成之后才能 执行。
那么看看下面的例子
class MyThread(threading.Thread):
def __init__(self,fun,arg,name=""):
threading.Thread.__init__(self)
self.fun=fun
self.arg=arg
self.name=name
#self.result
def run(self):
self.result=apply(self.fun,self.arg)
def getName(self):
return self.name
def getResult(self):
return self.result
上面是一个多线程的类。 待会用来调用的。
下面是main函数
def fast():
print "in fast"
sleep(15)
print "done in fast"
def slow():
print "in slow"
sleep(10)
print "done in slow"
threads=[]
f=[fast,slow]
l=len(f)
for i in range(l):
t=MyThread(f[i],(),str(i))
threads.append(t)
for i in range(l):
threads[i].start()
for i in range(l):
#pass
threads[i].join()
print threads[i].getName()
print "Done on main"
exit()
运行之后
输出的结果是
in fast
in slow
done in slow
done in fast
0
1
Done on main
看到了吗?
运行到thread[i].join() 这一行, 下一句没有马上被执行,需要等到done in fast 完成之后才执行, 而为什么done in slow却提前被执行了呢?
因为上面执行了threads[i].start() 后 两个线程已经同时开启了,但是由于在slow线程里只sleep了10秒,而fast线程sleep了15秒,所以会先打印done in slow。
print threads[i].getName()
而上面这句则需要等线程1执行之后才会执行,
等执行完了上面那句之后,才会执行线程2的 join(), 由于此时的线程已经早已执行完毕,所以这句也没有起到阻塞作用,故会马上执行 下面只一句
print threads[i].getName()
---------------------
作者:重复的生活
来源:CSDN
原文:https://blog.csdn.net/yagamil/article/details/51284851
版权声明:本文为博主原创文章,转载请附上博文链接!
转 Python 多进程multiprocessing.Process之satrt()和join()的更多相关文章
- python多进程——multiprocessing.Process
简介 multiprocessing是一个使用类似于threading模块的API支持生成进程的包.该multiprocessing软件包提供本地和远程并发.因此,该multiprocessing模块 ...
- Python 多进程 multiprocessing.Pool类详解
Python 多进程 multiprocessing.Pool类详解 https://blog.csdn.net/SeeTheWorld518/article/details/49639651
- Python多进程multiprocessing使用示例
mutilprocess简介 像线程一样管理进程,这个是mutilprocess的核心,他与threading很是相像,对多核CPU的利用率会比threading好的多. import multipr ...
- Python 多进程multiprocessing
一.python多线程其实在底层来说只是单线程,因此python多线程也称为假线程,之所以用多线程的意义是因为线程不停的切换这样比串行还是要快很多.python多线程中只要涉及到io或者sleep就会 ...
- python ---多进程 Multiprocessing
和 threading 的比较 多进程 Multiprocessing 和多线程 threading 类似, 他们都是在 python 中用来并行运算的. 不过既然有了 threading, 为什么 ...
- python多进程-----multiprocessing包
multiprocessing并非是python的一个模块,而是python中多进程管理的一个包,在学习的时候可以与threading这个模块作类比,正如我们在上一篇转载的文章中所提,python的多 ...
- python多进程multiprocessing Pool相关问题
python多进程想必大部分人都用到过,可以充分利用多核CPU让代码效率更高效. 我们看看multiprocessing.pool.Pool.map的官方用法 map(func, iterable[, ...
- 操作系统OS,Python - 多进程(multiprocessing)、多线程(multithreading)
多进程(multiprocessing) 参考: https://docs.python.org/3.6/library/multiprocessing.html 1. 多进程概念 multiproc ...
- python多进程(multiprocessing)
最近有个小课题,需要用到双进程,翻了些资料,还算圆满完成任务.记录一下~ 1.简单地双进程启动 同时的调用print1()和print2()两个打印函数,代码如下: #/usr/bin/python ...
随机推荐
- 面试题: 1天的java面试题 已看1
1,自我介绍下,我直接说的项目经历,(哪年在哪个公司呆过) 2,问是否有带过团队的经历,我说去年带过一次. 3,Struts是单例模式还是多例模式?我先说单例模式,后说多例模式. Struts1是单例 ...
- Ubuntu,kubuntu与xubuntu的差别 Ubuntu各版本主要差异
Ubuntu各版本主要差异 Ubuntu官方考虑到使用者的不同需求,提供各种不同的发行版.虽然发布了几种版本的Ubuntu系统,但是它们的核心系统是一模一样的.可以这么说不同发行版的Ubuntu的区别 ...
- Effective Objective-C [上]
网上看到的 http://esoftmobile.com/2013/08/10/effective-objective-c/ 本文是针对<Effective Objective-C>一书的 ...
- 'module' object has no attribute 'contrib'
Problem solved, turns i had 2 tensorflow versions installed: When launching $python , it used 0.6 ve ...
- 按失真类型分类整理TID2008
对于图像质量评价(IQA)数据库,TID2008算是不大不小的数据集了.TID2008是由乌克兰国家航空航天大学的N504信号接收.传输与处理系建立,包括25幅参考图像,1700幅失真图像.失真类型有 ...
- Oracle 函数-字符型函数
1.字符型函数 函数 说明 案例 结果 ASCII(X) 求字符X的ASCII码 select ASCII('A') FROM DUAL; 65 CHR(X) 求ASCII码对应的字符 select ...
- c#处理未捕获的异常(UnhandledException)
处理未捕获的异常,放在program类的Main函数下 1.UnhandledException 作用:接收未捕获到的异常 例: static void Main(string[] args) { A ...
- Data Base mysql批量操作
mysql 批量操作 批量操作数据是利用 CommandBuilder 和 DataAdapter.Update() 方法 对数据库进行批量更新 说解: DataAdapter中有四个重要对象:S ...
- 消息队列开发记录笔记-ActiveMQ
1.下载ActiveMQ 去官方网站下载:http://activemq.apache.org/ 2.运行ActiveMQ 解压缩apache-activemq-5.5.1-bin.zip,然后双击a ...
- webservice服务及客户端 编程 - 入门
开发工具 eclipse 建立一个简单的webservice服务 1 创建服务 (1)创建一个 java项目(java project)或 web项目(Dynamic web project) (2) ...