NIT 5 Queuing Theory 队列原理
目标:
1.明白性能调优的关键术语
      2. 应用队列技术解决性能问题
      3.明白性能调优的复杂性
 
5.1    Introduction to queuing theory 队列原理简介
A.      Little’s Law 给出了队列原理的基础
John Little于1961年用数学证明了这个原理。
B.      带来的好处:
a.       可以用工程学方法来进行性能管理。
b.       量化系统未来的性能
c.       说明监测工具的输出内容之间关系
d.       验证测量值和软件仪表数据的正确性。
  
5.2    Little’s Law
A.      关键术语:
a.       Queue length: average number of requests waiting in the system
队列长度:在系统中同时等待的平均请求数.
b.       Arrival rate: the rate at which requests enter a system
到达率:一次性有多少请求到达系统
c.       Wait time: average time to satisfy a request
等待时间:满足一个请求的平均时间
Also known as wall clock,latency,response time,or residence time
             硬件时钟,延时,响应时间,驻留时间
 公式:      L = A W   队列长度=到达率*等待时间
                          A=arrivals/observation period A=到达率/观测时间
 
5.3    Queue length 队列长度
A.      缓存在内存中的请求数
a.       L 可以是可以进行读写调整的或者只读的
b.       队列可以进行优先级排序
例:执行写之前先执行读(这就是为什么要优先级排序)
            算法必须防止饿死。
B.      注意事项:
a.       短的队列长度可以优化内存
b.       长的队列长充可以对重要请求进行有效的重新排序
 
5.4    Queue length vs wait time 队列长度VS 等待时间
A.      为了使到达率处于稳定状态
直接改变W来改变L
B.      例(假设到达率为200 requests/s):
a.       初步方案:400 req= 200 req/s * 2s
b.       减少W 或L: 200 req = 200 req/s * 1s
c.       提升W 或L: 800 req = 200 req/s * 4s
C.      小结
a.       在可预期的等待时间内限制队列长度
b.       限制等待时间来优化队列长度
 
5.5    Wait time 等待时间
A.等待时间包括:
   Queue time(排队时间:请求资源所花费的时间
Service time(服务时间):处理一个请求所花的时间
B. 策略:
    a. 减少排队时间
    b. 减少服务时间
 
   W=Q+S
   L=A (Q+S)
 
5.6    A closer look at wait time
A.      服务时间包括:
a.       System time系统时间:内核运算所花的时间
b.       User time用户时间:用户用于真正工作所花的时间
s= system call
u= user code
r= real time
r-u-s= real data transfer time
B. 策略
   a. 减少系统时间(阻塞用户模式操作)
       b. 只花费用户模式所需的时间
 
W=Q + (Tsys+Tuser)
 
5.7    How much user time is needed? For 20 inputs? For 100 inputs?
(略)
 
5.8    Profiling time with time 时间分析
A.      使用脚本来算出时间
Export TIME=”\n%e %S %U”
/usr/bin/time tar czf /tmp/demo.tgz /etc/ 2>&1 | tail –l | awk ‘BEGIN {print “W\tTsys\tTuser\tQ”} {print $1 ”\t” $2 “\t” $3 “\t” $1 - $2 - $3}’
a.       计算排队时间:Q=W – (Tsys+Tuser)
b.       可以分析出排队时间Q的问题。
 
5.9    Completion rate 完成率
A.      关键术语:
Bandwidth:data+overhead 带宽:数据+开销
Throughput:data only (Mbps)吞吐量:数据
Overhead: cost of doing work (Mbps) 开销:传输数据的开销
B.      带宽通常是固定的
减少开销可以提升吞吐量
 
B=X+O 带宽=完成率+开销
带宽固定的情况下,减少开销可以提高完成率。
 
5.10 Arrival rate vs completion rate 到达率VS完成率
     A. 关键术语:
        Arrival time(A)到达率:一次有多少个请求到达系统(packets/s)
        Completion rate(C)完成率:一次可以完成多少个请求(packets/s)
        Observation period观察时间:观察资源所花时间(1s)
        稳定状态:条件是当A=C时
B 目标:调整时用C替代A
a.       调整时到达率是系统外部因素,因此很难去调整。
b.       完成率是可调整的,但很出现到达率与完成率相等的情况
c.       系统很少真正的处于稳定状态。
d.       请求有可能在观察时间内完成不了
C.      警告:
a.       如果过分调整系统可能会引起系统不稳定,或者机器崩溃。
 
 
 
5.11 Finding a valid observation period 找出有效的观察时间。
A.      当观察时间适当长时,A average= C average
a.       用观察时间为1秒收集数据
b.       比较相对little’s Law 的测量值
c.       测量值是否匹配计算值?
如是,观察时间有效,且L=CW
如不是,用长点的间隔时间重复以上步骤。
B. 例:使用iostat 和dd 来确定有效间隔时间。
    dd if=/dev/zero of =/tmp/bigfile bs=1M count=1024
 
5.12           redicting system-wide limits 预测系统性能极限
A.      木桶理论
X system =X resource / V resource
B.      小结
a.       饱和资源是瓶颈。
b.       减少访问次数(V resource)可以提高系统吞吐量
c.       提升资源吞吐量(X resource) 可以提高系统吞吐量。
 
5.13       Predicting resource limits 预测资源极限
A.      利用率法则
Utilization = (service time) * (arrival rate) 
利用率=服务时间 * 到达率
B.      在稳定状态(C=A)下资源饱和(U=1)
1=SC   è  C max =1/S
 
C.      资源饱和情况下:
a.       减少S可以提升C,因此A提高了
b.       增加到达数量会加大队列长度,所以等待时间上升了
c.       减少到达率来减少队列长度,所以等待时间下降了
 
5.14           Summary of strategies 策略汇总
A.      调整L
a.       限制队列长度
b.       对读请求进行排序,以更多的去响应读请求
B.      调整A或C
a.       通过更多的资源(SMP,RAID)减少访问次数。
b.       延时资源访问直到思考时间到。
c.       提高资源吞吐量(更有效的协议,较少的开销)
C.      调整W
a.       减少请求过期时间
b.       使用资源来减少服务时间(memory cache , disk)
     D. 一次只能调整上面的一项。

RHCA学习笔记:RH442-Unit5 队列原理的更多相关文章

  1. Linux进程间通信IPC学习笔记之消息队列(SVR4)

    Linux进程间通信IPC学习笔记之消息队列(SVR4)

  2. Java IO学习笔记:概念与原理

    Java IO学习笔记:概念与原理   一.概念   Java中对文件的操作是以流的方式进行的.流是Java内存中的一组有序数据序列.Java将数据从源(文件.内存.键盘.网络)读入到内存 中,形成了 ...

  3. tensorflow学习笔记——模型持久化的原理,将CKPT转为pb文件,使用pb模型预测

    由题目就可以看出,本节内容分为三部分,第一部分就是如何将训练好的模型持久化,并学习模型持久化的原理,第二部分就是如何将CKPT转化为pb文件,第三部分就是如何使用pb模型进行预测. 一,模型持久化 为 ...

  4. 强化学习-学习笔记7 | Sarsa算法原理与推导

    Sarsa算法 是 TD算法的一种,之前没有严谨推导过 TD 算法,这一篇就来从数学的角度推导一下 Sarsa 算法.注意,这部分属于 TD算法的延申. 7. Sarsa算法 7.1 推导 TD ta ...

  5. RHCA学习笔记:RH442-Unit6 磁盘性能调整

    原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://alansky.blog.51cto.com/634963/654451 UNIT ...

  6. 机器学习实战(Machine Learning in Action)学习笔记————10.奇异值分解(SVD)原理、基于协同过滤的推荐引擎、数据降维

    关键字:SVD.奇异值分解.降维.基于协同过滤的推荐引擎作者:米仓山下时间:2018-11-3机器学习实战(Machine Learning in Action,@author: Peter Harr ...

  7. Android(java)学习笔记95:Android原理揭秘系列之View、ViewGroup

    作过Android 应用开发的朋友都知道,Android的UI界面都是由View和ViewGroup及其派生类组合而成的.其中,View是所有UI组件的基类,而ViewGroup是容纳这些组件的容器, ...

  8. RHCA学习笔记:RH442-Unit8进程与调度

      UNIT 8  Processes and the Scheduler 进程与调度 学习目标 A. CPU cache 与Service time之间的关系 B. 分析应用程序使用CPU cach ...

  9. Android学习笔记View的工作原理

    自定义View,也可以称为自定义控件,通过自定义View可以使得控件实现各种定制的效果. 实现自定义View,需要掌握View的底层工作原理,比如View的测量过程.布局流程以及绘制流程,除此之外,还 ...

随机推荐

  1. linux下安装jira详细步骤

    首先从官网下载jdk的安装包,将jdk的安装包上传到虚拟机或者服务器,在./usr/local/目录下面创建一个java目录:mkdir java 等等,具体祥看本文,希望对你有所帮助 linux下安 ...

  2. NRE

    NRE是Non-Recurring Engineering的缩写,NRE费用即一次性工程费用,是指集成电路生产成本中非经常性发生的开支,明确地说就是新的集成电路产品的研制开发费·新产品开发过程中的设计 ...

  3. 对QT的产品,以及QT的一些综合评论 good

    QT你不能说他不流行吧, WPS, Wirshark, KDE, dropbox, skype, virtualbox都和qt有关吧, 你想写个跨平台的C++程序, QT是个不错的选择, 普通PC应用 ...

  4. ArcGis 在线地图相关资源

    原文:ArcGis 在线地图相关资源 世界边界和地点:http://services.arcgisonline.com/ArcGIS/rest/services/Reference/World_Bou ...

  5. Git push错误non-fast-forward后的冲突解决

    当要push代码到git时,出现提示: error:failed to push some refs to ... Dealing with “non-fast-forward” errorsFrom ...

  6. [译]GotW #89 Smart Pointers

    There's a lot to love about standard smart pointers in general, and unique_ptr in particular. Proble ...

  7. IOS开发中单例模式使用详解

    第一.基本概念 单例模式是一种常用的软件设计模式.在它的核心结构中只包含一个被称为单例类的特殊类.通过单例模式可以保证系统中一个类只有一个实例而且该实例易于外界访问. 第二.在IOS中使用单例模式的情 ...

  8. comparison of floating point numbers with equality operator. possible loss of precision while rounding values

    double值由外部传入 private void Compare(double value) { string text; ) //小数位后保留2位 { //小数点后保留2位小数 text = st ...

  9. Subline Text默认设置文件Preferences.sublime-settings—Default详解

    Subline Text中,点击Preferences,选择Settings - Default 全部属性解析 // While you can edit this file, it's best t ...

  10. poj1988

    知道了并查集写的问题后,我也明白了为什么之前这道题TLE的原因: 有这道题的合并操作不难想到用并查集维护: 由于并查集易于向上查询而不易于向下查询 所以对于询问方块x下面有多少个方块,我们可以转化为立 ...