python_线程、进程和协程

线程

Threading用于提供线程相关的操作，线程是应用程序中工作的最小单元。

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import threading,time

 def show(arg):
     time.sleep(2)
     print('线程: ' + str(arg))

 for i in range(5):
     t = threading.Thread(target=show,args=(i,))
     t.start()

如上述代码创建了5个线程，target指向函数，arges参数传递数值。

• 其它方法：

1. start 线程准备就绪，等待CPU调度
2. setName 为线程设置名称
3. getName 获取线程名称
4. setDaemon 设置为后台线程或前台线程（默认）。如果是后台线程，主线程执行过程中，后台线程也在进行，主线程执行完毕后，后台线程不论成功与否，均停止；如果是前台线程，主线程执行过程中，前台线程也在进行，主线程执行完毕后，等待前台线程也执行完成后，程序停止
5. join 逐个执行每个线程，执行完毕后继续往下执行，该方法使得多线程变得无意义
6. run 线程被cpu调度后自动执行线程对象的run方法

• setName\getName使用方法

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import threading,time

 def test(i):
     print("线程：%s" %str(i))
     time.sleep(2)

 for i in range(2):
     t = threading.Thread(target=test,args=(i,))
     t.start()
     t.setName("我的线程: {0}".format(str(i)))
     print(t.getName())

 运行结果：
 线程：0
 我的线程: 0
 线程：1
 我的线程: 1

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import threading,time

 class MyThread(threading.Thread):
     def __init__(self,num):
         threading.Thread.__init__(self)
         self.num = num

     def run(self):
         print("running thread:%s" % self.num)
         time.sleep(2)

 if __name__ == '__main__':
     for i in range(2):
         t1 = MyThread(i)
         t1.start()
         t1.setName("我的线程: {0}".format(str(i)))
         print(t1.getName())

 运行结果：
 running thread:0
 我的线程: 0
 running thread:1
 我的线程: 1

自定义线程类

• setDaemon方法使用

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import threading,time

 def run(num):
     print("running thread %s" % str(num))
     time.sleep(2)
     print("OK! %s" % str(num))

 for i in range(2):
     t = threading.Thread(target=run,args=(i,))
     #未使用setDaemon时默认是前台线程
     #t.setDaemon(True)
     t.start()
     t.setName("MyThread_{0}".format(str(i)))
     print(t.getName())

 运行结果：
 running thread 0
 MyThread_0
 running thread 1
 MyThread_1
 OK! 1
 OK! 0

后台线程：

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import threading,time

 def run(num):
     print("running thread %s" % str(num))
     time.sleep(2)
　　　　＃主线程执行结束后，不会执行以下语句
     print("OK! %s" % str(num))

 for i in range(2):
     t = threading.Thread(target=run,args=(i,))
     #使用setDaemon时是后台线程
     t.setDaemon(True)
     t.start()
     t.setName("MyThread_{0}".format(str(i)))
     print(t.getName())

 运行结果：
 running thread 0
 MyThread_0
 running thread 1
 MyThread_1

• join用法理解

当未使用join方法时候，先执行完主线程再根据超时决定等待子线程执行完才能程序结束；如果使用join方法，先执行子线程执行完后，才开始执行下一步主线程，此方法没有达到并行效果。

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'yinjia'

 import time,threading

 def do_thread(num):
     time.sleep(3)
     print("this is thread %s" % str(num))

 for i in range(2):
     t = threading.Thread(target=do_thread, args=(i,))
     t.start()
     t.setName("Mythread_{0}".format(str(i)))
     print("print in main thread: thread name:", t.getName())

 运行效果：【#先同时执行两个主线程，等待3秒后再执行两个子线程】
 print in main thread: thread name: Mythread_0  #主线程
 print in main thread: thread name: Mythread_1  #主线程
 this is thread 0 #子线程
 this is thread 1 #子线程

使用join效果如下：

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ ='yinjia'

 import time,threading

 def do_thread(num):
     time.sleep(3)
     print("this is thread %s" % str(num))

 for i in range(2):
     t = threading.Thread(target=do_thread, args=(i,))
     t.start()
     t.join() #增加join
     t.setName("Mythread_{0}".format(str(i)))
     print("print in main thread: thread name:", t.getName())

 运行结果：【先执行子线程，然后再执行主线程，单一逐步执行】
 this is thread 0
 print in main thread: thread name: Mythread_0
 this is thread 1
 print in main thread: thread name: Mythread_1

• 线程锁（Lock、RLock）

线程是共享内存，当多个线程对一个公共变量修改数据，会导致线程争抢问题，为了解决此问题，采用线程锁。

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import time,threading

 gl_num = 0
 lock = threading.RLock()

 def Func():
     global gl_num
     #加锁
     lock.acquire()
     gl_num += 1
     time.sleep(1)
     print(gl_num)
     #解锁
     lock.release()

 for i in range(10):
     t = threading.Thread(target=Func)
     t.start()

• 信号量（Semaphore）

信号量同时允许一定数量的线程更改数据 ，比如厕所有3个坑，那最多只允许3个人上厕所，后面的人只能等里面有人出来了才能再进去。

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'yinjia'

 import time,threading

 def run(n):
     semaphore.acquire()
     time.sleep(1)
     print("run the thread: %s" % n)
     semaphore.release()

 if __name__ == '__main__':
     num = 0
     semaphore = threading.BoundedSemaphore(5)  # 最多允许5个线程同时运行
     for i in range(20):
         t = threading.Thread(target=run, args=(i,))
         t.start()

• 事件（event）

事件用于主线程控制其他线程的执行，事件主要提供了三个方法 set、wait、clear。

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import time,threading

 def run(event):
     print("start")
     event.wait()
     print('END.....')

 event_obj = threading.Event()
 for i in range(2):
     t = threading.Thread(target=run,args=(event_obj,))
     t.start()

 event_obj.clear()
 inp = input("input: ")
 if inp == 'true':
     event_obj.set()

 #运行结果：
 start
 start
 input: true
 END.....
 END.....

• 条件（Condition）

满足条件，才能释放N个线程。

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import time,threading

 def condition_func():
     ret = False
     inp = input('>>>')
     if inp == '':
         ret = True
     return ret

 def run(n):
     con.acquire()
     con.wait_for(condition_func)
     print("run the thread: %s" %n)
     con.release()

 if __name__ == '__main__':

     con = threading.Condition()
     for i in range(10):
         t = threading.Thread(target=run, args=(i,))
         t.start()

 #运行结果：
 >>>1
 run the thread: 0
 >>>1
 run the thread: 1
 >>>1
 run the thread: 2

• 定时器

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 from threading import Timer

 def hello():
     print("hello, world")

 t = Timer(1, hello)
 t.start()

进程

• 进程数据共享

方法一：Array

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 from multiprocessing import Process, Array, RLock

 def Foo(lock,temp,i):
     """
     将第0个数加100
     """
     lock.acquire()
     temp[0] = 100+i
     for item in temp:
         print(i,'----->',item)
     lock.release()

 lock = RLock()
 temp = Array('i', [11, 22, 33, 44])

 for i in range(20):
     p = Process(target=Foo,args=(lock,temp,i,))
     p.start()

方法二：manage.dict()共享数据

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 from multiprocessing import Process, Manager

 manage = Manager()
 dic = manage.dict()

 def Foo(i):
     dic[i] = 100 + i
     print(dic)
     print(dic.values())

 for i in range(2):
     p = Process(target=Foo, args=(i,))
     p.start()
     p.join()

• 进程池

进程池方法： 
apply(func[, args[, kwds]])： 阻塞的执行，比如创建一个有3个线程的线程池，当执行时是创建完一个 执行完函数再创建另一个，变成一个线性的执行 
apply_async(func[, args[, kwds[, callback]]]) ： 它是非阻塞执行，同时创建3个线程的线程池，同时执行，只要有一个执行完立刻放回池子待下一个执行，并行的执行 
close()： 关闭pool，使其不在接受新的任务。 
terminate() ： 结束工作进程，不在处理未完成的任务。 
join() 主进程阻塞，等待子进程的退出， join方法要在close或terminate之后使用。

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 from multiprocessing import Pool
 import time

 def myFun(i):
     time.sleep(2)
     return i+100

 def end_call(arg):
     print("end_call",arg)

 p = Pool(5)
 #print(p.apply(myFun,(1,)))
 #print(p.apply_async(func =myFun, args=(1,)).get())

 print(p.map(myFun,range(10)))

 for i in range(10):
     p.apply_async(func=myFun,args=(i,),callback=end_call)

 print("end")
 p.close()
 p.join()

• 生产者&消费型

产生数据的模块，就形象地称为生产者；而处理数据的模块，就称为消费者。在生产者与消费者之间在加个缓冲区，我们形象的称之为仓库，生产者负责往仓库了进商 品，而消费者负责从仓库里拿商品，这就构成了生产者消费者模型。

 #!/usr/bin/env python
 #coding=utf-8
 __author__ = 'yinjia'

 import queue
 import threading,time

 message = queue.Queue(10)

 def producer():
     name = threading.current_thread().getName()
     print(name + "线程启动....")
     for i in range(10):
         time.sleep(1)
         print('\033[45m<%s> 生产了 [%s]个饺子\033[0m' % (name, i))
         message.put(name)

 def consumer():
     name = threading.current_thread().getName()
     print(name + "线程启动.....")
     for i in range(10):
         message.get()
         print('\033[43m<%s> 吃了 [%s]个饺子\033[0m' % (name, i))

 if __name__ == '__main__':

     p = threading.Thread(target=producer, name='东北饺子店')
     c = threading.Thread(target=consumer, name='消费者')
     p.start()
     c.start()

运行结果：

协程

协程存在的意义：对于多线程应用，CPU通过切片的方式来切换线程间的执行，线程切换时需要耗时（保存状态，下次继续）。协程，则只使用一个线程，在一个线程中规定某个代码块执行顺序。

协程的适用场景：当程序中存在大量不需要CPU的操作时（IO），适用于协程；

• gevent

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import gevent

 def foo():
     print('Running in foo')
     gevent.sleep(0)
     print('Explicit context switch to foo again')

 def bar():
     print('Explicit context to bar')
     gevent.sleep(0)
     print('Implicit context switch back to bar')

 gevent.joinall([
     gevent.spawn(foo),
     gevent.spawn(bar),
 ])

 #运行结果：
 Running in foo
 Explicit context to bar
 Explicit context switch to foo again
 Implicit context switch back to bar

• 遇到IO操作自动切换

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_

 from gevent import monkey; monkey.patch_all()
 import gevent
 import urllib.request

 def f(url):
     print('GET: %s' % url)
     resp = urllib.request.urlopen(url)
     data = resp.read()
     print('%d bytes received from %s.' % (len(data), url))

 gevent.joinall([
         gevent.spawn(f, 'https://www.python.org/'),
         gevent.spawn(f, 'https://www.baidu.com/'),
         gevent.spawn(f, 'https://github.com/'),
 ])

 #运行结果：
 GET: https://www.python.org/
 GET: https://www.baidu.com/
 GET: https://github.com/
 227 bytes received from https://www.baidu.com/.
 49273 bytes received from https://www.python.org/.
 53756 bytes received from https://github.com/.

上下文管理

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import contextlib

 @contextlib.contextmanager
 def tag(name):
     print("<%s>" % name)
     yield
     print("</%s>" % name)

 with tag("h1"):
     print("foo")

 #运行结果：
 <h1>
 foo
 </h1>

 #!/usr/bin/env python
 # _*_ coding:utf-8 _*_
 __author__ = 'Administrator'

 import contextlib

 @contextlib.contextmanager
 def myopen(file_path,mode):
     f = open(file_path,mode,encoding='utf-8')
     try:
         yield f
     finally:
         f.close()
 with myopen('index.html','r') as file_obj:
     for i in file_obj:
         print(i)

更多方法参见：https://docs.python.org/3.6/library/contextlib.html