NIT 5 Queuing Theory 队列原理
目标:
1.明白性能调优的关键术语
      2. 应用队列技术解决性能问题
      3.明白性能调优的复杂性
 
5.1    Introduction to queuing theory 队列原理简介
A.      Little’s Law 给出了队列原理的基础
John Little于1961年用数学证明了这个原理。
B.      带来的好处:
a.       可以用工程学方法来进行性能管理。
b.       量化系统未来的性能
c.       说明监测工具的输出内容之间关系
d.       验证测量值和软件仪表数据的正确性。
  
5.2    Little’s Law
A.      关键术语:
a.       Queue length: average number of requests waiting in the system
队列长度:在系统中同时等待的平均请求数.
b.       Arrival rate: the rate at which requests enter a system
到达率:一次性有多少请求到达系统
c.       Wait time: average time to satisfy a request
等待时间:满足一个请求的平均时间
Also known as wall clock,latency,response time,or residence time
             硬件时钟,延时,响应时间,驻留时间
 公式:      L = A W   队列长度=到达率*等待时间
                          A=arrivals/observation period A=到达率/观测时间
 
5.3    Queue length 队列长度
A.      缓存在内存中的请求数
a.       L 可以是可以进行读写调整的或者只读的
b.       队列可以进行优先级排序
例:执行写之前先执行读(这就是为什么要优先级排序)
            算法必须防止饿死。
B.      注意事项:
a.       短的队列长度可以优化内存
b.       长的队列长充可以对重要请求进行有效的重新排序
 
5.4    Queue length vs wait time 队列长度VS 等待时间
A.      为了使到达率处于稳定状态
直接改变W来改变L
B.      例(假设到达率为200 requests/s):
a.       初步方案:400 req= 200 req/s * 2s
b.       减少W 或L: 200 req = 200 req/s * 1s
c.       提升W 或L: 800 req = 200 req/s * 4s
C.      小结
a.       在可预期的等待时间内限制队列长度
b.       限制等待时间来优化队列长度
 
5.5    Wait time 等待时间
A.等待时间包括:
   Queue time(排队时间:请求资源所花费的时间
Service time(服务时间):处理一个请求所花的时间
B. 策略:
    a. 减少排队时间
    b. 减少服务时间
 
   W=Q+S
   L=A (Q+S)
 
5.6    A closer look at wait time
A.      服务时间包括:
a.       System time系统时间:内核运算所花的时间
b.       User time用户时间:用户用于真正工作所花的时间
s= system call
u= user code
r= real time
r-u-s= real data transfer time
B. 策略
   a. 减少系统时间(阻塞用户模式操作)
       b. 只花费用户模式所需的时间
 
W=Q + (Tsys+Tuser)
 
5.7    How much user time is needed? For 20 inputs? For 100 inputs?
(略)
 
5.8    Profiling time with time 时间分析
A.      使用脚本来算出时间
Export TIME=”\n%e %S %U”
/usr/bin/time tar czf /tmp/demo.tgz /etc/ 2>&1 | tail –l | awk ‘BEGIN {print “W\tTsys\tTuser\tQ”} {print $1 ”\t” $2 “\t” $3 “\t” $1 - $2 - $3}’
a.       计算排队时间:Q=W – (Tsys+Tuser)
b.       可以分析出排队时间Q的问题。
 
5.9    Completion rate 完成率
A.      关键术语:
Bandwidth:data+overhead 带宽:数据+开销
Throughput:data only (Mbps)吞吐量:数据
Overhead: cost of doing work (Mbps) 开销:传输数据的开销
B.      带宽通常是固定的
减少开销可以提升吞吐量
 
B=X+O 带宽=完成率+开销
带宽固定的情况下,减少开销可以提高完成率。
 
5.10 Arrival rate vs completion rate 到达率VS完成率
     A. 关键术语:
        Arrival time(A)到达率:一次有多少个请求到达系统(packets/s)
        Completion rate(C)完成率:一次可以完成多少个请求(packets/s)
        Observation period观察时间:观察资源所花时间(1s)
        稳定状态:条件是当A=C时
B 目标:调整时用C替代A
a.       调整时到达率是系统外部因素,因此很难去调整。
b.       完成率是可调整的,但很出现到达率与完成率相等的情况
c.       系统很少真正的处于稳定状态。
d.       请求有可能在观察时间内完成不了
C.      警告:
a.       如果过分调整系统可能会引起系统不稳定,或者机器崩溃。
 
 
 
5.11 Finding a valid observation period 找出有效的观察时间。
A.      当观察时间适当长时,A average= C average
a.       用观察时间为1秒收集数据
b.       比较相对little’s Law 的测量值
c.       测量值是否匹配计算值?
如是,观察时间有效,且L=CW
如不是,用长点的间隔时间重复以上步骤。
B. 例:使用iostat 和dd 来确定有效间隔时间。
    dd if=/dev/zero of =/tmp/bigfile bs=1M count=1024
 
5.12           redicting system-wide limits 预测系统性能极限
A.      木桶理论
X system =X resource / V resource
B.      小结
a.       饱和资源是瓶颈。
b.       减少访问次数(V resource)可以提高系统吞吐量
c.       提升资源吞吐量(X resource) 可以提高系统吞吐量。
 
5.13       Predicting resource limits 预测资源极限
A.      利用率法则
Utilization = (service time) * (arrival rate) 
利用率=服务时间 * 到达率
B.      在稳定状态(C=A)下资源饱和(U=1)
1=SC   è  C max =1/S
 
C.      资源饱和情况下:
a.       减少S可以提升C,因此A提高了
b.       增加到达数量会加大队列长度,所以等待时间上升了
c.       减少到达率来减少队列长度,所以等待时间下降了
 
5.14           Summary of strategies 策略汇总
A.      调整L
a.       限制队列长度
b.       对读请求进行排序,以更多的去响应读请求
B.      调整A或C
a.       通过更多的资源(SMP,RAID)减少访问次数。
b.       延时资源访问直到思考时间到。
c.       提高资源吞吐量(更有效的协议,较少的开销)
C.      调整W
a.       减少请求过期时间
b.       使用资源来减少服务时间(memory cache , disk)
     D. 一次只能调整上面的一项。

RHCA学习笔记:RH442-Unit5 队列原理的更多相关文章

  1. Linux进程间通信IPC学习笔记之消息队列(SVR4)

    Linux进程间通信IPC学习笔记之消息队列(SVR4)

  2. Java IO学习笔记:概念与原理

    Java IO学习笔记:概念与原理   一.概念   Java中对文件的操作是以流的方式进行的.流是Java内存中的一组有序数据序列.Java将数据从源(文件.内存.键盘.网络)读入到内存 中,形成了 ...

  3. tensorflow学习笔记——模型持久化的原理,将CKPT转为pb文件,使用pb模型预测

    由题目就可以看出,本节内容分为三部分,第一部分就是如何将训练好的模型持久化,并学习模型持久化的原理,第二部分就是如何将CKPT转化为pb文件,第三部分就是如何使用pb模型进行预测. 一,模型持久化 为 ...

  4. 强化学习-学习笔记7 | Sarsa算法原理与推导

    Sarsa算法 是 TD算法的一种,之前没有严谨推导过 TD 算法,这一篇就来从数学的角度推导一下 Sarsa 算法.注意,这部分属于 TD算法的延申. 7. Sarsa算法 7.1 推导 TD ta ...

  5. RHCA学习笔记:RH442-Unit6 磁盘性能调整

    原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://alansky.blog.51cto.com/634963/654451 UNIT ...

  6. 机器学习实战(Machine Learning in Action)学习笔记————10.奇异值分解(SVD)原理、基于协同过滤的推荐引擎、数据降维

    关键字:SVD.奇异值分解.降维.基于协同过滤的推荐引擎作者:米仓山下时间:2018-11-3机器学习实战(Machine Learning in Action,@author: Peter Harr ...

  7. Android(java)学习笔记95:Android原理揭秘系列之View、ViewGroup

    作过Android 应用开发的朋友都知道,Android的UI界面都是由View和ViewGroup及其派生类组合而成的.其中,View是所有UI组件的基类,而ViewGroup是容纳这些组件的容器, ...

  8. RHCA学习笔记:RH442-Unit8进程与调度

      UNIT 8  Processes and the Scheduler 进程与调度 学习目标 A. CPU cache 与Service time之间的关系 B. 分析应用程序使用CPU cach ...

  9. Android学习笔记View的工作原理

    自定义View,也可以称为自定义控件,通过自定义View可以使得控件实现各种定制的效果. 实现自定义View,需要掌握View的底层工作原理,比如View的测量过程.布局流程以及绘制流程,除此之外,还 ...

随机推荐

  1. Linux下的绘图(流程图、UML、mindmap)工具

    http://blog.csdn.net/piyajee/article/details/5902380

  2. SPRING IN ACTION 第4版笔记-第四章ASPECT-ORIENTED SPRING-012-AOP总结

    1.AOP是面向对象编程的有力补充,它可以让你把分散在应用中的公共辅助功能抽取成模块,以灵活配置,减少了重复代码,让类更关注于自身的功能

  3. Altium Designer 特定网络取消 remove loops

    在使用Altium Designer时,在PCB Editor 里面可以设定是否需要Automatically remove Loops,但是这个设置是全局的,在设计时难免会遇到对大部分网络是需要删除 ...

  4. UC何小鹏:移动互联网创业需警惕五大“不靠谱

    http://tech.qq.com/a/20140121/012443.htm 腾讯科技 启言 1月21日报道 移动互联网创业很容易犯错误,一不小心就陷入“坑”中.UC也是如此.近日,UC创始人何小 ...

  5. 【Python】代码行数统计

    两级目录,可扩展为N级. # Count the line of dir or file import os, fnmatch, fileinput def ChkFileType(lst): tmp ...

  6. wcf 多个节点名出错

    无法加载协定为“ServiceReference1.xxxxxx”的终结点配置部分,因为找到了该协定的多个终结点配置.请按名称指示首选的终结点配置部分. 原因是config节点中多了endpoint相 ...

  7. remove all event handlers from a control

    The sample code below will remove all Click events from button1 public partial class Form1 : Form { ...

  8. 提升WI-FI信号强度的10大方法

    原文链接:http://server.51cto.com/Net-402889.htm

  9. Android 画直线并实现拖动

    自定义View,在onDraw()方法中绘制一条直线,在onTouch()方法中监听手指的移动. public class AroundDragView extends View implements ...

  10. sqlMetal用法和例子 自定义DBML

    SqlMetal是跟随VS发布的一个自动工具,可以用来生成数据库的Linq代码. 这是中文版的帮助文件. SqlMetal [选项] [<输入文件>] 为 .NET Framework 的 ...