Python进阶----进程之间通信(互斥锁,队列(参数:timeout和block),), ***生产消费者模型

Python进阶----进程之间通信(互斥锁,队列(参数:timeout和block),), ***生产消费者模型

一丶互斥锁

含义:

​ ​ ​ 每个对象都对应于一个可称为" 互斥锁" 的标记，这个标记用来保证在任一时刻，只能有一个线程访问该对象(串行)

目的:

 ​ ​ 来保证共享数据操作的完整性和安全性(文本数据),保证数据的公平性

区别join:

 ​ ​ 共同点: 都能实现cpu的进程串行

 ​ ​ 不同点: join是人为指定顺序, 不能保证公平性. 互斥锁能够保证公平性

### 加锁处理
from multiprocessing import Lock

def task1(loc):
    loc.acquire()					# 上锁
    print('task1: 开始打印')
    time.sleep(random.randint(1,3))
    print('task1: 结束打印')
    loc.release()					# 解锁

def task2(loc):
    loc.acquire()
    print('task2: 开始打印')
    time.sleep(random.randint(1,3))
    print('task2: 结束打印')
    loc.release()

def task3(loc):
    loc.acquire()
    print('task3: 开始打印')
    time.sleep(random.randint(1,3))
    print('task3: 结束打印')
    loc.release()

if __name__ == '__main__':
    loc=Lock()			# 生成锁对象
    p1=Process(target=task1,args=(loc,)).start()		#把锁对象作为参数传给具体的方法
    p2=Process(target=task2,args=(loc,)).start()
    p3=Process(target=task3,args=(loc,)).start()

锁死:(下一篇细说锁死)

​ ​ ​  当一个进程或者一个线程一直调用或者占用同一锁Lock而不释放资源而导致其他进程/线程无法获得锁，就会出现的死锁状况，一直阻塞在aquire()处

### 当一个锁对象已经被上锁, 试图再次加锁,  就会造成锁死.
from multiprocessing import Lock

def task1(loc):
    print('task1')
    loc.acquire()
    print('task1: 开始打印')
    time.sleep(random.randint(1,3))
    print('task1: 结束打印')
    loc.release()

def task2(loc):
    print('task2')
    loc.acquire()                        # 第一层锁
    loc.acquire()                        #第二层锁, 试图再次加锁,由于锁对象已经被占用(已经锁上了,还没有释放)再次上锁,就会造成锁死 (程序被卡主)~~~
    loc.release()
    print('task2: 开始打印')
    time.sleep(random.randint(1,3))
    print('task2: 结束打印')
    loc.release()

def task3(loc):
    print('task3')
    loc.acquire()
    print('task3: 开始打印')
    time.sleep(random.randint(1,3))
    print('task3: 结束打印')
    loc.release()

if __name__ == '__main__':
    loc=Lock()
    p1=Process(target=task1,args=(loc,)).start()
    p2=Process(target=task2,args=(loc,)).start()
    p3=Process(target=task3,args=(loc,)).start()

 ​ ​  案例:模拟抢票(多进程串行执行够任务.)

###  db.json 自己提前创建好
 with open('db.json', 'w', encoding='utf-8') as f:
        dic={'count':1}
       json.dump(dic, f)

### searc方法 打印剩余票数
def search():
    time.sleep(random.random())
    with open('db.json', encoding='utf-8') as f:
        dic = json.load(f)
        print(f'剩余票数:{dic["count"]}')

### 模拟多用户(多进程)抢票
def get():
    with open('db.json', encoding='utf-8') as f:
        dic = json.load(f)
    time.sleep(random.randint(0, 2))
    if dic['count'] > 0:
        dic['count'] -= 1
        with open('db.json', 'w', encoding='utf-8') as f:
            json.dump(dic, f)
        print(f'用户:{os.getpid()} ,购买成功~~')
    else:
        print(f'{os.getpid()} 没票了~~~~')

def task(lock):
    search()
    lock.acquire() #给抢票购买, 加锁	. 既保证了数据的安全性,也保证了数据公平性
    get()
    lock.release()# 解锁

if __name__ == '__main__':
    lock = Lock()
    for i in range(5):
        p1 = Process(target=task, args=(lock,))	# 模拟5个用户进程
        p1.start()

二丶进程之间的通信: 队列.

含义:

​ ​ ​ 队列就是存在于内存中一个数据容器,一种特殊的线性表

​ ​ ​ 特点:先进先出(FIFO),Queue是多进程安全的队列,自动加锁,自动阻塞

目的:

​ ​ ​ 实现进程之间的通信

multiprocessing模块:

​ ​ ​ 模块支持两种形式：队列(自动加锁,自动阻塞)和管道(需要自己手动加锁)，这两种方式都是用于进程间消息传递

### 队列Queue基本用法
    # 1.放值  put(值,block=False,timeout=X) block是否阻塞, timeout是否超时
    # 2.取值	get()	#get完队列里的所有数据时,程序卡出. 如果队列中有新的数据时,会继续执行
    # 3.maxsize 队列中允许最大存放数
    # 4.empty():调用此方法时q为空则返回True，该结果不可靠，
    # 5.full()：调用此方法时q已满则返回True，该结果不可靠，
    # 6.qsize():返回队列中目前项目的正确数量，结果也不可靠，
    # 7.get_nowait()	 和 put_nowait() 同 block=False 不阻塞,不等待

from multiprocessing import Queue
q=Queue(3) 			# 设置队列里最大的元素个数
q.put('1')
q.put('2')
q.put('3')
q.put('4') 			# 夯住 ,只能放3个,不允许继续添加,程序卡在此处. 下面的程序不再执行

print(q.get())
print(q.get())
print(q.get())
print(q.get())		#### 夯住 只能取3个,程序卡在此处. 如果队列中有新的数据时,会继续执行

# 原理同上
# timeout 超时抛出异常(Full or  Empty) , block默认阻塞,block=Fasle不会阻塞
q=Queue(3)
q.put(1)
q.put(3)
q.put(2)
q.put(4,block=False,timeout=3)

print(q.get())
print(q.get())
print(q.get())
q.get(block=False,timeout=3)

三丶进程之间的通信实例

###  队列模拟进程之间 ,30个进程,队列只获取10个.

from multiprocessing import Process
from multiprocessing import Queue
import os

def task(q):
    try:
        q.put(os.getpid(),block=False)
    except Exception:
        return

if __name__ == '__main__':
    q=Queue(10)			# 生成Queue队列
    for i in range(30):
        Process(target=task,args=(q,)).start()

    for j in range(1,11):
        print(f'第{j}用户:{q.get()}')

四丶生产者消费者模型(常用于并发)

含义:

​ ​ ​ 完完全全的实现进程之间的通信.有三个主体:生产者,消费者,存数据的容器(队列).

好处:

​ ​ ​ 1.平衡生产者与消费者之间的速度差

​ ​ ​ 2.程序解开耦合

​ ​ ​ 3.支持并发

构成:

​ ​ ​  三二一原则：

​ ​ ​  ​ ​ ​  三种关系 (生产者与生产者（互斥） , 生产者与消费者（同步与互斥） ,消费者与消费者（互斥))

​ ​ ​  ​ ​ ​  两个角色(生产者和消费者)

​ ​ ​  ​ ​ ​  一个场所 (队列缓冲区)

No BB see 代码:

# -*-coding:utf-8-*-
# Author:Ds

###  合理的去调控多个进程去生成数据以及提取数据,中间有个必不可少的环节容器队列.

from multiprocessing import Process
from multiprocessing import Queue
import time
import random

# 生产者
def Producer(name,q):
    for el in range(1,11):
        time.sleep(random.randint(1,2)) # 随机
        res=f'生产者:{name}   ,   生产的---第 {el} 号包子 '
        q.put(res)      #放到队列容器中
        print(f'\033[0;35m  {res} \033[0m')
# 消费者
def Consumer(name,q):
    while 1:                                    # 循环从队列里面取出数据,    如果队列中不存在,就会卡住,等待数据. 一但队列中有了数据,等待的消费者进程就会获得数据.
        try:
            time.sleep(random.randint(1,3))        # 增加随机性
            ret=q.get(timeout=5)                        # 从队列中取数据,并设置超时. 一旦生成者不再往队列中添加数据,5秒之后消费者直接抛出empty异常
            print(f'消费者{name}: 吃了 {ret}')
        except Exception:
            return

###
if __name__ == '__main__':

    q=Queue()  # 实例化队列对象

    # 2 生产者对象
    for i in range(1,3):
        Process(target=Producer,args=(i,q)).start()        # args() 接收参数队列对象,确保使用的是同一个队列

    # 3 个消费者对象
    for j in range(1,4):
        Process(target=Consumer,args=(j,q)).start()