python之路——进程

 

阅读目录

理论知识

  • 操作系统背景知识
  • 什么是进程
  • 进程调度
  • 进程的并发与并行
  • 同步\异步\阻塞\非阻塞
  • 进程的创建与结束
  • 在python程序中的进程操作
    • multiprocess模块
    • 进程的创建和multiprocess.Process
    • 进程同步控制 —— 锁\信号量\事件 
      (multiprocess.Lock、multiprocess.Semaphore、multiprocess.Event)
    • 进程间通信 —— 队列和管道(multiprocess.Queue、multiprocess.Pipe)
    • 进程间的数据共享 —— multiprocess.Manager
    • 进程池和multiprocess.Pool
理论知识

操作系统背景知识

顾名思义,进程即正在执行的一个过程。进程是对正在运行程序的一个抽象。

进程的概念起源于操作系统,是操作系统最核心的概念,也是操作系统提供的最古老也是最重要的抽象概念之一。操作系统的其他所有内容都是围绕进程的概念展开的。

所以想要真正了解进程,必须事先了解操作系统,  

PS:即使可以利用的cpu只有一个(早期的计算机确实如此),也能保证支持(伪)并发的能力。将一个单独的cpu变成多个虚拟的cpu(多道技术:时间多路复用和空间多路复用+硬件上支持隔离),没有进程的抽象,现代计算机将不复存在。

必备的理论基础:

  1. #一 操作系统的作用:
  2. 1:隐藏丑陋复杂的硬件接口,提供良好的抽象接口
  3. 2:管理、调度进程,并且将多个进程对硬件的竞争变得有序
  4.  
  5. #二 多道技术:
  6. 1.产生背景:针对单核,实现并发
  7. ps
  8. 现在的主机一般是多核,那么每个核都会利用多道技术
  9. 4cpu,运行于cpu1的某个程序遇到io阻塞,会等到io结束再重新调度,会被调度到4
  10. cpu中的任意一个,具体由操作系统调度算法决定。
  11.  
  12. 2.空间上的复用:如内存中同时有多道程序
  13. 3.时间上的复用:复用一个cpu的时间片
  14. 强调:遇到io切,占用cpu时间过长也切,核心在于切之前将进程的状态保存下来,这样
  15. 才能保证下次切换回来时,能基于上次切走的位置继续运行

什么是进程

进程(Process)是计算机中的程序关于某数据集合上的一次运行活动,是系统进行资源分配和调度的基本单位,是操作系统结构的基础。在早期面向进程设计的计算机结构中,进程是程序的基本执行实体;在当代面向线程设计的计算机结构中,进程是线程的容器。程序是指令、数据及其组织形式的描述,进程是程序的实体。

狭义定义:进程是正在运行的程序的实例(an instance of a computer program that is being executed)。
广义定义:进程是一个具有一定独立功能的程序关于某个数据集合的一次运行活动。它是操作系统动态执行的基本单元,在传统的操作系统中,进程既是基本的分配单元,也是基本的执行单元。
  1. 第一,进程是一个实体。每一个进程都有它自己的地址空间,一般情况下,包括文本区域(text region)、数据区域(data region)和堆栈(stack region)。文本区域存储处理器执行的代码;数据区域存储变量和进程执行期间使用的动态分配的内存;堆栈区域存储着活动过程调用的指令和本地变量。
  2. 第二,进程是一个“执行中的程序”。程序是一个没有生命的实体,只有处理器赋予程序生命时(操作系统执行之),它才能成为一个活动的实体,我们称其为进程。[3]
  3. 进程是操作系统中最基本、重要的概念。是多道程序系统出现后,为了刻画系统内部出现的动态情况,描述系统内部各道程序的活动规律引进的一个概念,所有多道程序设计操作系统都建立在进程的基础上。

进程的概念

  1. 从理论角度看,是对正在运行的程序过程的抽象;
  2. 从实现角度看,是一种数据结构,目的在于清晰地刻画动态系统的内在规律,有效管理和调度进入计算机系统主存储器运行的程序。

操作系统引入进程的概念的原因

  1. 动态性:进程的实质是程序在多道程序系统中的一次执行过程,进程是动态产生,动态消亡的。
  2. 并发性:任何进程都可以同其他进程一起并发执行
  3. 独立性:进程是一个能独立运行的基本单位,同时也是系统分配资源和调度的独立单位;
  4. 异步性:由于进程间的相互制约,使进程具有执行的间断性,即进程按各自独立的、不可预知的速度向前推进
  5. 结构特征:进程由程序、数据和进程控制块三部分组成。
  6. 多个不同的进程可以包含相同的程序:一个程序在不同的数据集里就构成不同的进程,能得到不同的结果;但是执行过程中,程序不能发生改变。

进程的特征

  1. 程序是指令和数据的有序集合,其本身没有任何运行的含义,是一个静态的概念。
  2. 而进程是程序在处理机上的一次执行过程,它是一个动态的概念。
  3. 程序可以作为一种软件资料长期存在,而进程是有一定生命期的。
  4. 程序是永久的,进程是暂时的。

进程与程序中的区别

注意:同一个程序执行两次,就会在操作系统中出现两个进程,所以我们可以同时运行一个软件,分别做不同的事情也不会混乱。

进程调度

要想多个进程交替运行,操作系统必须对这些进程进行调度,这个调度也不是随即进行的,而是需要遵循一定的法则,由此就有了进程的调度算法。

  1. 先来先服务(FCFS)调度算法是一种最简单的调度算法,该算法既可用于作业调度,也可用于进程调度。FCFS算法比较有利于长作业(进程),而不利于短作业(进程)。由此可知,本算法适合于CPU繁忙型作业,而不利于I/O繁忙型的作业(进程)。

先来先服务调度算法

  1. 短作业(进程)优先调度算法(SJ/PF)是指对短作业或短进程优先调度的算法,该算法既可用于作业调度,也可用于进程调度。但其对长作业不利;不能保证紧迫性作业(进程)被及时处理;作业的长短只是被估算出来的。

短作业优先调度算法

  1. 时间片轮转(Round RobinRR)法的基本思路是让每个进程在就绪队列中的等待时间与享受服务的时间成比例。在时间片轮转法中,需要将CPU的处理时间分成固定大小的时间片,例如,几十毫秒至几百毫秒。如果一个进程在被调度选中之后用完了系统规定的时间片,但又未完成要求的任务,则它自行释放自己所占有的CPU而排到就绪队列的末尾,等待下一次调度。同时,进程调度程序又去调度当前就绪队列中的第一个进程。
  2. 显然,轮转法只能用来调度分配一些可以抢占的资源。这些可以抢占的资源可以随时被剥夺,而且可以将它们再分配给别的进程。CPU是可抢占资源的一种。但打印机等资源是不可抢占的。由于作业调度是对除了CPU之外的所有系统硬件资源的分配,其中包含有不可抢占资源,所以作业调度不使用轮转法。
  3. 在轮转法中,时间片长度的选取非常重要。首先,时间片长度的选择会直接影响到系统的开销和响应时间。如果时间片长度过短,则调度程序抢占处理机的次数增多。这将使进程上下文切换次数也大大增加,从而加重系统开销。反过来,如果时间片长度选择过长,例如,一个时间片能保证就绪队列中所需执行时间最长的进程能执行完毕,则轮转法变成了先来先服务法。时间片长度的选择是根据系统对响应时间的要求和就绪队列中所允许最大的进程数来确定的。
  4. 在轮转法中,加入到就绪队列的进程有3种情况:
  5. 一种是分给它的时间片用完,但进程还未完成,回到就绪队列的末尾等待下次调度去继续执行。
  6. 另一种情况是分给该进程的时间片并未用完,只是因为请求I/O或由于进程的互斥与同步关系而被阻塞。当阻塞解除之后再回到就绪队列。
  7. 第三种情况就是新创建进程进入就绪队列。
  8. 如果对这些进程区别对待,给予不同的优先级和时间片从直观上看,可以进一步改善系统服务质量和效率。例如,我们可把就绪队列按照进程到达就绪队列的类型和进程被阻塞时的阻塞原因分成不同的就绪队列,每个队列按FCFS原则排列,各队列之间的进程享有不同的优先级,但同一队列内优先级相同。这样,当一个进程在执行完它的时间片之后,或从睡眠中被唤醒以及被创建之后,将进入不同的就绪队列。

时间片轮转法

  1. 前面介绍的各种用作进程调度的算法都有一定的局限性。如短进程优先的调度算法,仅照顾了短进程而忽略了长进程,而且如果并未指明进程的长度,则短进程优先和基于进程长度的抢占式调度算法都将无法使用。
  2. 而多级反馈队列调度算法则不必事先知道各种进程所需的执行时间,而且还可以满足各种类型进程的需要,因而它是目前被公认的一种较好的进程调度算法。在采用多级反馈队列调度算法的系统中,调度算法的实施过程如下所述。
  3. (1) 应设置多个就绪队列,并为各个队列赋予不同的优先级。第一个队列的优先级最高,第二个队列次之,其余各队列的优先权逐个降低。该算法赋予各个队列中进程执行时间片的大小也各不相同,在优先权愈高的队列中,为每个进程所规定的执行时间片就愈小。例如,第二个队列的时间片要比第一个队列的时间片长一倍,……,第i+1个队列的时间片要比第i个队列的时间片长一倍。
  4. (2) 当一个新进程进入内存后,首先将它放入第一队列的末尾,按FCFS原则排队等待调度。当轮到该进程执行时,如它能在该时间片内完成,便可准备撤离系统;如果它在一个时间片结束时尚未完成,调度程序便将该进程转入第二队列的末尾,再同样地按FCFS原则等待调度执行;如果它在第二队列中运行一个时间片后仍未完成,再依次将它放入第三队列,……,如此下去,当一个长作业(进程)从第一队列依次降到第n队列后,在第n 队列便采取按时间片轮转的方式运行。
  5.  
  6. (3) 仅当第一队列空闲时,调度程序才调度第二队列中的进程运行;仅当第1~(i-1)队列均空时,才会调度第i队列中的进程运行。如果处理机正在第i队列中为某进程服务时,又有新进程进入优先权较高的队列(第1~(i-1)中的任何一个队列),则此时新进程将抢占正在运行进程的处理机,即由调度程序把正在运行的进程放回到第i队列的末尾,把处理机分配给新到的高优先权进程。

多级反馈队列

进程的并行与并发

并行 : 并行是指两者同时执行,比如赛跑,两个人都在不停的往前跑;(资源够用,比如三个线程,四核的CPU )

并发 : 并发是指资源有限的情况下,两者交替轮流使用资源,比如一段路(单核CPU资源)同时只能过一个人,A走一段后,让给B,B用完继续给A ,交替使用,目的是提高效率。

区别:

并行是从微观上,也就是在一个精确的时间片刻,有不同的程序在执行,这就要求必须有多个处理器。
并发是从宏观上,在一个时间段上可以看出是同时执行的,比如一个服务器同时处理多个session。

同步异步阻塞非阻塞

状态介绍

  在了解其他概念之前,我们首先要了解进程的几个状态。在程序运行的过程中,由于被操作系统的调度算法控制,程序会进入几个状态:就绪,运行和阻塞。

  (1)就绪(Ready)状态

  当进程已分配到除CPU以外的所有必要的资源,只要获得处理机便可立即执行,这时的进程状态称为就绪状态。

  (2)执行/运行(Running)状态当进程已获得处理机,其程序正在处理机上执行,此时的进程状态称为执行状态。

  (3)阻塞(Blocked)状态正在执行的进程,由于等待某个事件发生而无法执行时,便放弃处理机而处于阻塞状态。引起进程阻塞的事件可有多种,例如,等待I/O完成、申请缓冲区不能满足、等待信件(信号)等。

同步和异步

所谓同步就是一个任务的完成需要依赖另外一个任务时,只有等待被依赖的任务完成后,依赖的任务才能算完成,这是一种可靠的任务序列。要么成功都成功,失败都失败,两个任务的状态可以保持一致。

  所谓异步是不需要等待被依赖的任务完成,只是通知被依赖的任务要完成什么工作,依赖的任务也立即执行,只要自己完成了整个任务就算完成了。至于被依赖的任务最终是否真正完成,依赖它的任务无法确定,所以它是不可靠的任务序列

  1. 比如我去银行办理业务,可能会有两种方式:
  2. 第一种 :选择排队等候;
  3. 第二种 :选择取一个小纸条上面有我的号码,等到排到我这一号时由柜台的人通知我轮到我去办理业务了;
  4.  
  5. 第一种:前者(排队等候)就是同步等待消息通知,也就是我要一直在等待银行办理业务情况;
  6.  
  7. 第二种:后者(等待别人通知)就是异步等待消息通知。在异步消息处理中,等待消息通知者(在这个例子中就是等待办理业务的人)往往注册一个回调机制,在所等待的事件被触发时由触发机制(在这里是柜台的人)通过某种机制(在这里是写在小纸条上的号码,喊号)找到等待该事件的人。

例子

阻塞与非阻塞

阻塞和非阻塞这两个概念与程序(线程)等待消息通知(无所谓同步或者异步)时的状态有关。也就是说阻塞与非阻塞主要是程序(线程)等待消息通知时的状态角度来说的

  1. 继续上面的那个例子,不论是排队还是使用号码等待通知,如果在这个等待的过程中,等待者除了等待消息通知之外不能做其它的事情,那么该机制就是阻塞的,表现在程序中,也就是该程序一直阻塞在该函数调用处不能继续往下执行。
  2. 相反,有的人喜欢在银行办理这些业务的时候一边打打电话发发短信一边等待,这样的状态就是非阻塞的,因为他(等待者)没有阻塞在这个消息通知上,而是一边做自己的事情一边等待。
  3.  
  4. 注意:同步非阻塞形式实际上是效率低下的,想象一下你一边打着电话一边还需要抬头看到底队伍排到你了没有。如果把打电话和观察排队的位置看成是程序的两个操作的话,这个程序需要在这两种不同的行为之间来回的切换,效率可想而知是低下的;而异步非阻塞形式却没有这样的问题,因为打电话是你(等待者)的事情,而通知你则是柜台(消息触发机制)的事情,程序没有在两种不同的操作中来回切换。

例子

同步/异步与阻塞/非阻塞

  1. 同步阻塞形式

  效率最低。拿上面的例子来说,就是你专心排队,什么别的事都不做。

  1. 异步阻塞形式

  如果在银行等待办理业务的人采用的是异步的方式去等待消息被触发(通知),也就是领了一张小纸条,假如在这段时间里他不能离开银行做其它的事情,那么很显然,这个人被阻塞在了这个等待的操作上面;

  异步操作是可以被阻塞住的,只不过它不是在处理消息时阻塞,而是在等待消息通知时被阻塞。

  1. 同步非阻塞形式

  实际上是效率低下的。

  想象一下你一边打着电话一边还需要抬头看到底队伍排到你了没有,如果把打电话和观察排队的位置看成是程序的两个操作的话,这个程序需要在这两种不同的行为之间来回的切换,效率可想而知是低下的。

  1. 异步非阻塞形式

  效率更高,

  因为打电话是你(等待者)的事情,而通知你则是柜台(消息触发机制)的事情,程序没有在两种不同的操作中来回切换

  比如说,这个人突然发觉自己烟瘾犯了,需要出去抽根烟,于是他告诉大堂经理说,排到我这个号码的时候麻烦到外面通知我一下,那么他就没有被阻塞在这个等待的操作上面,自然这个就是异步+非阻塞的方式了。

  

很多人会把同步和阻塞混淆,是因为很多时候同步操作会以阻塞的形式表现出来,同样的,很多人也会把异步和非阻塞混淆,因为异步操作一般都不会在真正的IO操作处被阻塞

进程的创建与结束

进程的创建

  但凡是硬件,都需要有操作系统去管理,只要有操作系统,就有进程的概念,就需要有创建进程的方式,一些操作系统只为一个应用程序设计,比如微波炉中的控制器,一旦启动微波炉,所有的进程都已经存在。

  而对于通用系统(跑很多应用程序),需要有系统运行过程中创建或撤销进程的能力,主要分为4中形式创建新的进程:

  1. 系统初始化(查看进程linux中用ps命令,windows中用任务管理器,前台进程负责与用户交互,后台运行的进程与用户无关,运行在后台并且只在需要时才唤醒的进程,称为守护进程,如电子邮件、web页面、新闻、打印)

  2. 一个进程在运行过程中开启了子进程(如nginx开启多进程,os.fork,subprocess.Popen等)

  3. 用户的交互式请求,而创建一个新进程(如用户双击暴风影音)

  4. 一个批处理作业的初始化(只在大型机的批处理系统中应用)

  无论哪一种,新进程的创建都是由一个已经存在的进程执行了一个用于创建进程的系统调用而创建的。  

进程的结束

  1. 正常退出(自愿,如用户点击交互式页面的叉号,或程序执行完毕调用发起系统调用正常退出,在linux中用exit,在windows中用ExitProcess)

  2. 出错退出(自愿,python a.py中a.py不存在)

  3. 严重错误(非自愿,执行非法指令,如引用不存在的内存,1/0等,可以捕捉异常,try...except...)

  4. 被其他进程杀死(非自愿,如kill -9)

在python程序中的进程操作

  之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。

在python程序中的进程操作

  之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。

multiprocess模块

仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。

multiprocess.process模块

process模块介绍

process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。

  1. Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)
  2.  
  3. 强调:
  4. 1. 需要使用关键字的方式来指定参数
  5. 2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
  6.  
  7. 参数介绍:
  8. 1 group参数未使用,值始终为None
  9. 2 target表示调用对象,即子进程要执行的任务
  10. 3 args表示调用对象的位置参数元组,args=(1,2,'egon',)
  11. 4 kwargs表示调用对象的字典,kwargs={'name':'egon','age':18}
  12. 5 name为子进程的名称
  1. #方法介绍
  2. 1 p.start():启动进程,并调用该子进程中的p.run()
  3. 2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
  4. 3 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
  5. 4 p.is_alive():如果p仍然运行,返回True
  6. 5 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能joinstart开启的进程,而不能joinrun开启的进程
  1. #属性介绍
  2. 1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
  3. 2 p.name:进程的名称
  4. 3 p.pid:进程的pid
  5. 4 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
  6. 5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
  1. #在windows中使用process模块的注意事项
  2. Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ ==‘__main__ 判断保护起来,import 的时候 ,就不会递归运行了。

使用process模块创建进程

  1. #主进程和子进程的生命周期
  2. import os#引入os模块
  3. import time#引入时间模块
  4. from multiprocessing import Process#引入进程模块
  5. def func(args,args2):
  6. print(args,args2)
  7. time.sleep(3)
  8. print('子进程 :', os.getpid())
  9. print('子进程的父进程 :', os.getppid())
  10. print(12345)
  11.  
  12. if __name__ == '__main__':
  13. p = Process(target=func,args=('参数','参数2')) # 注册
  14. # p是一个进程对象,还没有启动进程
  15. p.start() # 开启了一个子进程
  16. print('*'*10)
  17. print('父进程 :',os.getpid()) # 查看当前进程的进程号
  18. print('父进程的父进程 :',os.getppid()) # 查看当前进程的父进程
  19.  
  20. # 进程的生命周期
  21. # 主进程
  22. # 子进程
  23. # 开启了子进程的主进程 :
  24. # 主进程自己的代码如果长,等待自己的代码执行结束,
  25. # 子进程的执行时间长,主进程会在主进程代码执行完毕之后等待子进程执行完毕之后 主进程才结束

在一个python进程中开启子进程,start方法和并发效果。

  1. #在python中启动的第一个子进程
  2. import time#引入时间模块
  3. from multiprocessing import Process#引入多元进程模块
  4.  
  5. def f(name):#定义一个函数
  6. print('hello', name)#打印这个
  7. print('我是子进程')#打印我是子进程
  8.  
  9. if __name__ == '__main__':#如果True
  10. p = Process(target=f, args=('bob',))#实例化一个对象
  11. p.start()#启动这个进程
  12. time.sleep(1)#休眠1
  13. print('执行主进程的内容了')#打印这个内容
  1. # 在python中启动的第一个子进程
  2. import time#引入时间模块
  3. from multiprocessing import Process#引入进程模块
  4.  
  5. def f(name):#定义一个函数
  6. print('hello', name)#打印内容
  7. time.sleep(1)#休眠1
  8. print('我是子进程')#打印我是子进程
  9.  
  10. if __name__ == '__main__':#如果 True
  11. p = Process(target=f, args=('bob',))#实例化一个进程对象
  12. p.start()#启动这个进程
  13. #p.join()#子进程结束完之后
  14. print('我是父进程')#执行打印
  1. #查看主进程和子进程的进程号
  2. import os#引入os模块
  3. from multiprocessing import Process#引入进程模块
  4.  
  5. def f(x):#定义一个函数
  6. print('子进程id :',os.getpid(),'父进程id :',os.getppid())#打印子进程id和父进程id
  7. return x*x#返回一个x的平方
  8.  
  9. if __name__ == '__main__':#如果用户名等于抢钱用户名
  10. print('主进程id :', os.getpid())#打印主进程id
  11. p_lst = []#创建一个空列表
  12. for i in range(5):#循环5
  13. p = Process(target=f, args=(i,))#实例化一个进程对象
  14. p.start()#开始运行 

进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)

  1. #多个进程同时运行
  2. import time#引入时间模块
  3. from multiprocessing import Process#引入进程模块
  4.  
  5. def f(name):#定义一个函数
  6. print('hello', name)#打印内容
  7. time.sleep(1)#睡1
  8.  
  9. if __name__ == '__main__':#如果用户名等于当前用户名
  10. p_lst = []#创建一个空列表
  11. for i in range(5):#循环04
  12. p = Process(target=f, args=('bob',))#实例化对象
  13. p.start()#启动进程
  14. p_lst.append(p)#添加到列表中
  1. #多个进程同时运行,再谈join方法(1)
  2. import time#引入时间模块
  3. from multiprocessing import Process#引入一个进程
  4.  
  5. def f(name):#定义一个函数
  6. print('hello', name)#打印用户名
  7. time.sleep(1)#睡1
  8.  
  9. if __name__ == '__main__':#如果用户名等于当前用户名
  10. p_lst = []#创建一个空列表
  11. for i in range(5):#循环5个数
  12. p = Process(target=f, args=('bob',))#实例化一个对象
  13. p.start()#开始进程
  14. p_lst.append(p)#添加到这个进程
  15. p.join()#进程结束后再运行之后的代码# 是感知一个子进程的结束,将异步的程序改为同步
  16.  
  17. # [p.join() for p in p_lst]#进程都结束后再打印之后的代码
  18. print('父进程在执行')#打印福程序在执行
  1. #多个进程同时运行,再谈join方法(2)
  2. import time#引入的时间模块
  3. from multiprocessing import Process#引入进程模块
  4.  
  5. def f(name):#定义一个函数
  6. print('hello', name)#打印内容
  7. time.sleep(1)#睡1
  8.  
  9. if __name__ == '__main__':#如果用户名等于当前用户名
  10. p_lst = []#创建一个列表
  11. for i in range(5):#循环5️⃣个数
  12. p = Process(target=f, args=('bob',))实例化一个进程对象
  13. p.start()#启动这个进程
  14. p_lst.append(p)#把进程添加到这个列表里
  15. # [p.join() for p in p_lst]#循环这个列表之后执行后边的代码
  16. print('父进程在执行')#打印父进程

除了上面这些开启进程的方法,还有一种以继承Process类的形式开启进程的方式

  1. #通过进程Process类开启进程
  2. import os#引入系统模块哦
  3. from multiprocessing import Process#引入进程模块
  4.  
  5. class MyProcess(Process):#定义一个类
  6. def __init__(self,name):#初始化对象
  7. super().__init__()#继承父类初始化方法
  8. self.name=name#定义一个名字的属性
  9. def run(self):#定义run方法
  10. print(os.getpid())#打印系统进程id
  11. print('%s 正在和女主播聊天' %self.name)#打印内容
  12.  
  13. p1=MyProcess('wupeiqi')#实例化一个进程
  14. p2=MyProcess('yuanhao')#实例化一个进程
  15. p3=MyProcess('nezha')#实例化一个进程
  16.  
  17. p1.start() #start会自动调用run
  18. p2.start()#开始运行
  19. # p2.run()#运行run方法
  20. p3.start()#自动调用run
  21.  
  22. p1.join()#第一个对象运行完运行下一个
  23. p2.join()#第二运行完运行下一个
  24. p3.join()#第三对象运行完运行下一个
  25.  
  26. print('主线程')#打印

进程之间的数据隔离问题

  1. from multiprocessing import Process#引入进程模块
  2.  
  3. def work():#定义一个方法
  4. global n#定义一个全局变量
  5. n=0
  6. print('子进程内: ',n)#打印n
  7.  
  8. if __name__ == '__main__':#如果文件名=当前文件名
  9. n = 100#n赋值等于100
  10. p=Process(target=work)#实例化一个进程
  11. p.start()#开启这个进程
  12. print('主进程内: ',n)#打印这个n

守护进程

会随着主进程的结束而结束。

主进程创建守护进程

  其一:守护进程会在主进程代码执行结束后就终止

  其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children

注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止

  1. #守护进程的启动
  2. import os#引入系统模块
  3. import time#引入时间模块
  4. from multiprocessing import Process#引入进程模块
  5.  
  6. class Myprocess(Process):#定义一个类
  7. def __init__(self,person):#初始化对象
  8. super().__init__()#继承父类初始化方法
  9. self.person = person#定义一个动态属性
  10. def run(self):#定义一个run方法
  11. print(os.getpid(),self.name)#打印系统id和系统名字
  12. print('%s正在和女主播聊天' %self.person)#打印正在和女主播聊天
  13.  
  14. p=Myprocess('哪吒')#实例化一个对象
  15. p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
  16. p.start()#开始这个进程
  17. time.sleep(10) # 在sleep时查看进程id对应的进程ps -ef|grep id
  18. print('主')#打印主
  19.  
  20. # 守护进程 会 随着 主进程的代码执行完毕 而 结束
  21. # 在主进程内结束一个子进程 p.terminate()
  22. # 结束一个进程不是在执行方法之后立即生效,需要一个操作系统响应的过程
  23. # 检验一个进程是否活着的状态 p.is_alive()
  24. # p.name p.pid 这个进程的名字和进程号
  1. #主进程代码执行结束守护进程立即结束
  2. from multiprocessing import Process#引入一个进程模块
  3.  
  4. def foo():#定义一个函数
  5. print(123)#打印123
  6. time.sleep(1)#睡1
  7. print("end123")#打印end123
  8.  
  9. def bar():#定义一个bar函数
  10. print(456)#打印456
  11. time.sleep(3)#睡3
  12. print("end456")#打印end456
  13.  
  14. p1=Process(target=foo)#实例化一个进程对象
  15. p2=Process(target=bar)#实例化一个进程对象
  16.  
  17. p1.daemon=True#
  18. p1.start()#开始p1进程
  19. p2.start()#开始p2进程
  20. time.sleep(0.1)#睡0.1
  21. print("main-------")#打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止.

买票案例

  1. # 锁
  2.  
  3. # 火车票
  4. import json#引入序列化模块
  5. import time#引入时间模块
  6. from multiprocessing import Process#引入进程模块
  7. from multiprocessing import Lock#引入进程锁模块
  8.  
  9. # def show(i):#定义一个函数
  10. # with open('ticket') as f:#打开这个文件
  11. # dic = json.load(f)#加载信息
  12. # print('余票: %s'%dic['ticket'])#打印余票
  13.  
  14. def buy_ticket(i,lock):#定义一个买票的方法
  15. lock.acquire() #拿钥匙进门
  16. with open('ticket') as f:#打开这个文件
  17. dic = json.load(f)#读文件中的内容
  18. time.sleep(0.1)#睡0.1
  19. if dic['ticket'] > 0 :#如果票大于0
  20. dic['ticket'] -= 1#则-=1
  21. print('\033[32m%s买到票了\033[0m'%i)#打印买到票啦
  22. else:
  23. print('\033[31m%s没买到票\033[0m'%i)#打印没买到票
  24. time.sleep(0.1)#睡0.1
  25. with open('ticket','w') as f:#写
  26. json.dump(dic,f)#写在文件里
  27. lock.release() # 还钥匙
  28.  
  29. if __name__ == '__main__':#如果文件名等于当前文件名
  30. # for i in range(10):#循环10个数
  31. # p = Process(target=show,args=(i,))#实例化一个进程
  32. # p.start()#开始
  33. lock = Lock()#实例化一个锁
  34. for i in range(10):#循环10 个数
  35. p = Process(target=buy_ticket, args=(i,lock))#实例化一个进程
  36. p.start()#开始这个进程

socket聊天并发实例

  1. #使用多进程实现socket聊天并发-server
  2. from socket import *#引入套接字模块
  3. from multiprocessing import Process#引入进程
  4.  
  5. server=socket(AF_INET,SOCK_STREAM)#数实例化一个ftp
  6. server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)#设置套接字
  7. server.bind(('127.0.0.1',8080))#绑定ip和端口号
  8. server.listen(5)#监听5字节
  9.  
  10. def talk(conn,client_addr):#定义一个说话函数
  11. while True:#循环为真
  12. try:
  13. msg=conn.recv(1024)#接受一个信息1024大小
  14. if not msg:break#如果没有信息则打断
  15. conn.send(msg.upper())#链接发送
  16. except Exception:#接收万能错误则打断
  17. break
  18.  
  19. if __name__ == '__main__': #windows下start进程一定要写到这下面
  20. while True:#循环为真
  21. conn,client_addr=server.accept()#接收链接 、客户端两个参数
  22. p=Process(target=talk,args=(conn,client_addr))#实例化一个进程
  23. p.start()#开始这个进程
  1. #client端
  2. from socket import *#引入套接字模块
  3.  
  4. client=socket(AF_INET,SOCK_STREAM)#定义一个ftp套接字
  5. client.connect(('127.0.0.1',8080))#链接ip及端口
  6.  
  7. while True:#循环为真
  8. msg=input('>>: ').strip()#输入你的内容
  9. if not msg:continue#如果没有信息则跳过
  10.  
  11. client.send(msg.encode('utf-8'))#发送信息
  12. msg=client.recv(1024)#接收信息
  13. print(msg.decode('utf-8'))#打印这个信息 

多进程中的其他方法

  1. #进程对象的其他方法:terminate,is_alive
  2. from multiprocessing import Process#引入进程模块
  3. import time#引入时间模块
  4. import random#引入随机数
  5.  
  6. class Myprocess(Process):#定义一个进程类
  7. def __init__(self,person):#初始化方法
  8. self.name=person#定义一个人类属性
  9. super().__init__()#继承父类的初始化方法
  10.  
  11. def run(self):#运行方法
  12. print('%s正在和网红脸聊天' %self.name)#打印谁正在和网红聊天
  13. time.sleep(random.randrange(1,5))#随机睡1~5
  14. print('%s还在和网红脸聊天' %self.name)#打印谁还在和网红聊天
  15.  
  16. p1=Myprocess('哪吒')实例化一个哪吒
  17. p1.start()#开始这个进程
  18.  
  19. p1.terminate()#关闭进程,不会立即关闭,所以is_alive立刻查看的结果可能还是存活
  20. print(p1.is_alive()) #结果为True
  21.  
  22. print('开始')
  23. print(p1.is_alive()) #结果为False
  1. #进程对象的其他属性:pid和name
  2. 1 class Myprocess(Process):#定义一个类
  3. 2 def __init__(self,person):#初始化方法
  4. 3 self.name=person # name属性是Process中的属性,标示进程的名字
  5. 4 super().__init__() # 执行父类的初始化方法会覆盖name属性
  6. 5 #self.name = person # 在这里设置就可以修改进程名字了
  7. 6 #self.person = person #如果不想覆盖进程名,就修改属性名称就可以了
  8. 7 def run(self):
  9. 8 print('%s正在和网红脸聊天' %self.name)
  10. 9 # print('%s正在和网红脸聊天' %self.person)
  11. 10 time.sleep(random.randrange(1,5))
  12. 11 print('%s正在和网红脸聊天' %self.name)
  13. 12 # print('%s正在和网红脸聊天' %self.person)
  14. 13
  15. 14
  16. 15 p1=Myprocess('哪吒')
  17. 16 p1.start()
  18. 17 print(p1.pid) #可以查看子进程的进程id

进程 day36的更多相关文章

  1. day36——死锁、递归锁、信号量、GIL、多线程实现socket通信、线程池和进程池

    day36 死锁现象与递归锁 死锁现象 是指两个或两个以上的进程或线程在执行过程中,因争夺资源而造成的一种互相等待的现象,若无外力作用,它们都将无法推进下去.此时称系统处于死锁状态或系统产生了死锁,这 ...

  2. python并发_进程_multiprocessing

    多进程基础, 主要是用了 multiprocessing模块 : 在一个python进程中开启子进程,start方法和并发效果. import time from multiprocessing im ...

  3. 进程间的通讯————IPC

    """ IPC 指的是进程间通讯 之所以开启子进程 肯定需要它帮我们完成任务 很多情况下 需要将数据返回给父进程 然而 进程内存是物理隔离的 解决方案: 1.将共享数据放 ...

  4. day36 爬虫+http请求+高性能

    爬虫 参考博客:http://www.cnblogs.com/wupeiqi/articles/5354900.html http://www.cnblogs.com/wupeiqi/articles ...

  5. 故障重现, JAVA进程内存不够时突然挂掉模拟

    背景,服务器上的一个JAVA服务进程突然挂掉,查看产生了崩溃日志,如下: # Set larger code cache with -XX:ReservedCodeCacheSize= # This ...

  6. 死磕内存篇 --- JAVA进程和linux内存间的大小关系

    运行个JAVA 用sleep去hold住 package org.hjb.test; public class TestOnly { public static void main(String[] ...

  7. 使用Monit监控本地进程

    目前用它监控某些服务,失败自动重启,同时监控特定的日志文件,如果有变化,就发邮件报警 安装不细写了,网上好多 我先用cat /proc/version看了下我的系统是el6的,于是wget http: ...

  8. [APUE]进程控制(上)

    一.进程标识 进程ID 0是调度进程,常常被称为交换进程(swapper).该进程并不执行任何磁盘上的程序--它是内核的一部分,因此也被称为系统进程.进程ID 1是init进程,在自举(bootstr ...

  9. [APUE]UNIX进程的环境(下)

    一.共享库 共享库使得可执行文件中不再需要包含常用的库函数,而只需在所有进程都可存取的存储区中保存这种库例程的一个副本.程序第一次执行的时候或第一次调用某个库函数的时候,用动态链接方法将程序与共享库函 ...

随机推荐

  1. shell编程小技巧(命令篇)

    本文主要介绍shell编程中一些好用的命令或者一些常见命令但比较少用却又好用的参数,目的是希望可以提高编码效率. df命令 常用命令 df / df -k / df -m / df -H / df - ...

  2. LeetCode OJ 49. Group Anagrams

    题目 Given an array of strings, group anagrams together. For example, given: ["eat", "t ...

  3. LeetCode OJ 144. Binary Tree Preorder Traversal

    Given a binary tree, return the preorder traversal of its nodes' values. For example:Given binary tr ...

  4. vue项目bug-Couldn’t find preset "es2015"

    在使用vue项目的时候安装了其他的插件,发现会报错 Couldn’t find preset "es2015".是因引用的插件使用了es标准,解决办法如下 npm install ...

  5. map和hasmap的区别

    MAP接口的定义如下: public interface MAP< k , v>      Key 到value 的映射 ,Key不允许重复,每一个key只能映射一个value . Has ...

  6. [CI]CodeIgniter特性 & 结构

    ------------------------------------------------------------------------------------------------- 市场 ...

  7. JAVAWEB 一一 userweb1(原生,非servlet版)

    创建数据库和表 首先,创建一个web项目 然后引入jar包 创建jsp页面 创建包 创建接口 实现类 详细内容 首先创建一个登陆页面 login.jsp <%@ page language=&q ...

  8. ArcGIS自定义工具箱-自增字段(可以设置初始值和步长)

    ArcGIS自定义工具箱-自增字段(可以设置初始值和步长) 联系方式:谢老师,135-4855-4328,xiexiaokui#qq.com 目的:字段值初始值为设定值(默认为0),每次增加一个步长( ...

  9. 三种方式监听NGUI的事件方法

    NGUI研究院之三种方式监听NGUI的事件方法(七) NGUI事件的种类很多,比如点击.双击.拖动.滑动等等,他们处理事件的原理几乎万全一样,本文只用按钮来举例. 1.直接监听事件 把下面脚本直接绑定 ...

  10. c 语言的复杂声明

    简化的声明语法: dcl: optional *'s direct-dcl direct-dcl: name (dcl)  direct-dcl() direct-dcl[optional size] ...