计算&IO密集型任务的优化

问题原因: 最近由于工作实际需求,需要对某个计算单元的计算方法进行重构.原因是由于这个计算单元的计算耗时较长,单个计算耗时大约在1s-2s之间,而新的需求下,要求在20s内对大约1500个计算单元计算完毕.如果不对原有计算单元的计算方法进行优化及效率提升,那么以8核CPU(超线程16线程)来说,在单个计算1s的理想条件,服务器16线程完成任务的理论上限也需要90s+,何况多线程还并不是简单的效率叠加,实际测试情况下,耗时往往在150s以上.因此,对原有计算单元的计算优化是必须的. 问题分析: 通…

浅谈Java两种并发类型——计算密集型与IO密集型

转载:https://blog.csdn.net/u013070853/article/details/49304099 核心是可以分别独立运行程序指令的计算单元.线程是操作系统能够进行运算调度的最小单位. PS:4核心8线程的!等于你有4个仓库,你要运输货物,8线程就是高速公路!8条高速公路送比你4条高速公路运的快吧! 有一个原则是:活跃线程数为 CPU(核)数时最佳.过少的活跃线程导致 CPU 无法被充分利用,过多的活跃线程导致过大的线程上下文切换开销. 线程应该是活跃的,处于 IO 的线程…

Python IO密集型任务、计算密集型任务，以及多线程、多进程

对于IO密集型任务: 直接执行用时:10.0333秒多线程执行用时:4.0156秒多进程执行用时:5.0182秒说明多线程适合IO密集型任务. 对于计算密集型任务直接执行用时:10.0273秒多线程执行用时:13.247秒多进程执行用时:6.8377秒说明多进程适合计算密集型任务. #coding=utf-8 import sys import multiprocessing import time import threading # 定义全局变量Queue g_queue =…

IO密集型计算密集型

参考:https://www.cnblogs.com/zhangyux/p/6195860.html 参考:廖雪峰协程 gevent IO密集型任务指的是磁盘IO或者网络IO占主要的任务,计算量很小,比如请求网页,读写文件等.===========读写文件,socker receive/send 计算密集型任务指的是CPU计算占主要的任务,比如图形渲染中矩阵的运算(当然现在都用GPU来完成) 因为协程是用户自己来编写调度逻辑的,对CPU来说,协程其实是单线程,所以CPU不用去考虑怎么调度.切换…

[Python]IO密集型任务 VS 计算密集型任务

所谓IO密集型任务,是指磁盘IO.网络IO占主要的任务,计算量很小.比如请求网页.读写文件等.当然我们在Python中可以利用sleep达到IO密集型任务的目的. 所谓计算密集型任务,是指CPU计算占主要的任务,CPU一直处于满负荷状态.比如在一个很大的列表中查找元素(当然这不合理),复杂的加减乘除等. 多线程即在一个进程中启动多个线程执行任务.一般来说使用多线程可以达到并行的目的,但由于Python中使用了全局解释锁GIL的概念,导致Python中的多线程并不是并行执行,而是“交替执行”. P…

cpu，io密集型计算概念

I/O密集型 (CPU-bound) I/O bound 指的是系统的CPU效能相对硬盘/内存的效能要好很多,此时,系统运作,大部分的状况是 CPU 在等 I/O (硬盘/内存) 的读/写,此时 CPU Loading 不高.CPU bound 指的是系统的硬盘/内存效能相对 CPU 的效能要好很多,此时,系统运作,大部分的状况是 CPU Loading 100%,CPU 要读/写 I/O (硬盘/内存),I/O在很短的时间就可以完成,而 CPU 还有许多运算要处理,CPU Loadin…

CPU计算密集型和IO密集型

CPU计算密集型和IO密集型第一种任务的类型是计算密集型任务,其特点是要进行大量的计算,消耗CPU资源,比如计算圆周率.对视频进行高清解码等等,全靠CPU的运算能力.这种计算密集型任务虽然也可以用多任务完成,但是任务越多,花在任务切换的时间就越多,CPU执行任务的效率就越低,所以,要最高效地利用CPU,计算密集型任务同时进行的数量应当等于CPU的核心数. 计算密集型任务由于主要消耗CPU资源,因此,代码运行效率至关重要.Python这样的脚本语言运行效率很低,完全不适合计算密集型任务.对于计算…

题外话：计算密集型 vs IO密集型

我们把任务分为计算密集型和IO密集型,erlang作为IO密集型的语言,适合网关等相关的场景,而对计算达到某一量级后,可能处理效率下降的很明显. erlang不适合数值计算.erlang是解释型的,虽然现在的解释器能够编译代码,但是还是太慢. 计算密集型任务的特点是要进行大量的计算,消耗CPU资源,比如计算圆周率.对视频进行高清解码等等,全靠CPU的运算能力.这种计算密集型任务虽然也可以用多任务完成,但是任务越多,花在任务切换的时间就越多,CPU执行任务的效率就越低,所以,要最高效地利用CPU,…

计算密集型和 io 密集型项目的使用场景分析和代码演示

from threading import Thread from multiprocessing import Process import time 计算密集型 def work1(): res=0 for i in range(100000000): #1+8个0 res*=i if __name__ == '__main__': t_list = [] start = time.time() for i in range(4): # t = Thread(target=work1) t…

并发编程~多线程~计算密集型 / IO密集型的效率, 多线程实现socket通信

一验证计算密集型 / IO密集型的效率 IO密集型: IO密集型: 单个进程的多线程的并发效率高. 计算密集型: 计算密集型: 多进程的并发并行效率高. 二多线程实现socket通信服务器端: import socket from threading import Thread def communicate(conn,addr): while 1: try: from_client_data = conn.recv(1024) print(f'来自客户端{addr[1]}的消息:{fro…

Python进阶----GIL锁,验证Cpython效率(单核,多核(计算密集型,IO密集型)),线程池,进程池

day35 一丶GIL锁什么是GIL锁: 存在Cpython解释器,全名:全局解释器锁.(解释器级别的锁) GIL是一把互斥锁,将并发运行变成串行. 在同一个进程下开启的多个线程,同时只能有一个线程执行,无法利用多核优势 GIL锁的作用: 保证同一时间内,共享数据只能被一个任务修改.保证数据的完整性和安全性自动上锁和解锁,不需要人为的添加.减轻开发人员的负担所谓诟病:单进程的多线程不能利用多核通常有人会认为GIL锁不能利用多核处理任务,是Pyt…

Python并发编程05 /死锁现象、递归锁、信号量、GIL锁、计算密集型/IO密集型效率验证、进程池/线程池

Python并发编程05 /死锁现象.递归锁.信号量.GIL锁.计算密集型/IO密集型效率验证.进程池/线程池目录 Python并发编程05 /死锁现象.递归锁.信号量.GIL锁.计算密集型/IO密集型效率验证.进程池/线程池 1. 死锁现象 2. 递归锁 3. 信号量 4. GIL全局解释器锁 1. 背景 2. 加锁的原因: 3. GIL与Lock锁的区别 4. 为什么GIL保证不了自己数据的安全? 5. 验证计算密集型.IO密集型的效率 6. 多线程实现socket通信 7. 进程池,线程…

Java多线程（二）关于多线程的CPU密集型和IO密集型这件事

点我跳过黑哥的卑鄙广告行为,进入正文. Java多线程系列更新中~ 正式篇: Java多线程(一) 什么是线程 Java多线程(二)关于多线程的CPU密集型和IO密集型这件事 Java多线程(三)如何创建线程 Java多线程(四)java中的Sleep方法 Java多线程(五)线程的生命周期番外篇(神TM番外篇): Java 过一下基础转载:java中Thread.sleep()函数使用 Java多线程 Socket使用 CPU密集型 CPU密集型会消耗掉大量的CPU资源,例如需要大量的计算…

什么是CPU密集型、IO密集型？

CPU密集型(CPU-bound) CPU密集型也叫计算密集型,指的是系统的硬盘.内存性能相对CPU要好很多,此时,系统运作大部分的状况是CPU Loading 100%,CPU要读/写I/O(硬盘/内存),I/O在很短的时间就可以完成,而CPU还有许多运算要处理,CPU Loading很高. 在多重程序系统中,大部份时间用来做计算.逻辑判断等CPU动作的程序称之CPU bound.例如一个计算圆周率至小数点一千位以下的程序,在执行的过程当中绝大部份时间用在三角函数和开根号的计算,便是属于CPU…

CPU密集型 VS IO密集型

CPU密集型 CPU密集型也叫计算密集型,指的是系统的硬盘.内存性能相对CPU要好很多,此时,系统运作大部分的状况是CPU Loading 100%,CPU要读/写I/O(硬盘/内存),I/O在很短的时间就可以完成,而CPU还有许多运算要处理,CPU Loading很高. 在多重程序系统中,大部份时间用来做计算.逻辑判断等CPU动作的程序称之CPU bound.例如一个计算圆周率至小数点一千位以下的程序,在执行的过程当中绝大部份时间用在三角函数和开根号的计算,便是属于CPU bound的程序.…

python网络编程基础(线程与进程、并行与并发、同步与异步、阻塞与非阻塞、CPU密集型与IO密集型)

python网络编程基础(线程与进程.并行与并发.同步与异步.阻塞与非阻塞.CPU密集型与IO密集型) 目录线程与进程并行与并发同步与异步阻塞与非阻塞 CPU密集型与IO密集型线程与进程进程前言进程的出现是为了更好的利用CPU资源使到并发成为可能. 假设有两个任务A和B,当A遇到IO操作,CPU默默的等待任务A读取完操作再去执行任务B,这样无疑是对CPU资源的极大的浪费.聪明的老大们就在想若在任务A读取数据时,让任务B执行,当任务A读取完数据后,再切换到任务A执行.注意关键字切换…

python判断任务是CPU密集型还是IO密集型

目前已经知道,在需要并发执行任务的时候,需要使用多线程或者多进程;如果是IO密集型任务,使用多线程,如果是CPU密集型任务,使用多进程;但问题是,经常我们会遇到一种情况就是:需要被执行的任务既有IO操作,又有计算操作,那么这种情况下,已经无法直观的判断任务是IO操作的多还是计算操作的多了; 所以,在开始并发任务之前,可以先进行测试,看看是使用多线程还是多进程所用的时间少,那个少就用那个 python 多进程模块multiprocessing,提供了多进程的进程池和多线程的线程池,辅助我们进行测…

爬虫高性能相关（协程效率最高，IO密集型）

一背景常识爬虫的本质就是一个socket客户端与服务端的通信过程,如果我们有多个url待爬取,采用串行的方式执行,只能等待爬取一个结束后才能继续下一个,效率会非常低. 需要强调的是:串行并不意味着低效,如果串行的都是纯计算的任务,那么cpu的利用率仍然会很高,之所以爬虫程序的串行低效,是因为爬虫程序是明显的IO密集型程序. 关于IO模型详见链接:http://www.cnblogs.com/linhaifeng/articles/7454717.html 那么该如何提高爬取性能呢? 二同步,异…

CPU密集型和IO密集型

对于Python如果是CPU密集型应该用多进程模型(大量的计算) 如果是IO密集型应该用多线程模型(数据的读取写入.网络IO数据传输) 由于GIL的存在,CPython不能有效的利用多核处理器,表现为任意时间一个进程只有一个线程在跑:而IO密集型运算,多数是在IO读写将线程堵塞掉了,这个时候线程切换是很合理的,反正线程只是单纯地等待,在这个等待的时候去做其他的事情,资源利用率就上去了. python的多线程只能使用一个cpu核心,io密集型应用,本来cpu占用率就很低(主要原因还是GIL锁)…

什么是CPU密集型、IO密集型？（转发）

Python GIL、CPU密集型、IO密集型

Python GIL(Global Interpreter Lock(全局解释器锁)) 1:进程里面多个线程,线程共享A=10 2:Python解释器,A改完值之后会传回进程容器,为了防止A和B同时修改A的值引起的错误,加入锁,能保证A修改时,B和C不能修改 3:通过C语言调用底层命令与操作系统进行交互,然后OS再和硬件进行交互什么是CPU密集型.IO密集型 IO密集型(I/O bound): 指的是系统的CPU性能相对硬盘.内存要好很多,此时,系统运作,大部分状况是CPU在等IO(硬盘/内…

CPU密集型、IO密集型

CPU密集型(CPU-bound) CPU密集型也叫计算密集型,指的是系统的硬盘.内存性能相对CPU要好很多,此时,系统运作大部分的状况是CPU Loading 100%,CPU要读/写I/O(硬盘/内存), I/O在很短的时间就可以完成,而CPU还有许多运算要处理,CPU Loading很高. IO密集型(I/O bound) IO密集型指的是系统的CPU性能相对硬盘.内存要好很多,此时,系统运作,大部分的状况是CPU在等I/O (硬盘/内存) 的读/写操作,此时CPU Loading并不高…

python IO密集型为什么使用多线程

IO密集型为什么使用多线程 python多线程,可以粗浅理解只用了cpu的一个核心. 为什么IO密集型用多线程?假设我们有多个线程都在发网络请求(request, 等response),一个请求的从发出到接收的过程中cpu大多时间都是在等. 所以,当前线程发出请求后,由于不占用cpu资源,可以阻塞等待,然后cpu执行权可以被另外一个线程所享有去发网络请求. IO密集型,单个CPU利用率很低,可能只有10%,所以多线程可以提升cpu利用率,可能10个线程才能打满一个核心, 从而多线程也有并行的效果…

python中同步、多线程、异步IO、多线程对IO密集型的影响

目录 1.常见并发类型 2.同步版本 3.多线程 4.异步IO 5.多进程 6.总结 1.常见并发类型 I/ O密集型: 蓝色框表示程序执行工作的时间,红色框表示等待I/O操作完成的时间.此图没有按比例显示,因为internet上的请求可能比CPU指令要多花费几个数量级的时间,所以你的程序可能会花费大部分时间进行等待. CPU密集型: IO密集型程序将时间花在cpu计算上. 常见并发类型以及区别: 2.同步版本我们将使用requests访问100个网页,使用同步的方式,requests的请求…

降低磁盘IO使Oracle性能优化(转)

文章转自:http://blog.chinaunix.net/uid-26813519-id-3207996.html 硬件方面虽然只占Oracle性能优化的一个方面(另一方面是软件),但是仍不可忽视.本文将针对硬件OLTP系统优化,来讲述如何优化Oracle数据库性能. 实验环境: 由于本文所需测试均是从内存盘使用方面的优化性测试,因此有一台内存较大cpu稍微好一点的机器就足以做相关测试了. 遗留问题: 1 每次重启数据库时重建oracle索引的代价是多少,应用能否接受? 2 redo log…