web服务器都提供长连接的方式,所谓长连接就是客户端一次请求完后,不关闭连接,保持一段时间的连接,下次此客户端再次请求时,不用创建新连接,复用所保持的连接即可。从理论上,长连接可以免去大量建立和关闭连接的资源消耗,但同时也有大量连接被占用的代价。因此可以初步判断长连接比短连接能带来更高的TPS,更低的CPU消耗,更少的IO,更高的内存占用,下面通过实战来验证。

服务器环境和测试工具可以见工具和环境准备篇

本次web服务器选用apache prefork模式,apache长短连接的选择可以配置httpd.conf里的KeepAlive选项,如:

KeepAlive On:长连接

KeepAlive Off:短连接

另外如果选择长连接还需配置KeepAliveTimeout和MaxKeepAliveRequests,其中KeepAliveTimeout为每个长连接服务端保持时长,默认配置为15秒,MaxKeepAliveRequests为每个长连接服务请求最大数,默认配置为100次,本次试验保持默认配置。

使用ab来压apache,如:

短连接环境下: /usr/alibaba/install/httpd-2.0.63-prefork/bin/ab -c 100 -n 1000000 http://localhost/

长连接环境下: /usr/alibaba/install/httpd-2.0.63-prefork/bin/ab -c 100 -n 1000000 -k http://localhost/

同时都已100个并发请求apache默认首页1000000次

然后通过ab测试结果、nmon收集资源消耗和strace跟踪实际调用三个维度来考察短连接和长连接的区别。

1)ab测试结果

短连接:

  1. Concurrency Level:      100
  2. Time taken for tests:   190.754776 seconds
  3. Complete requests:      1000000
  4. Failed requests:        0
  5. Write errors:           0
  6. Total transferred:      1891115351 bytes
  7. HTML transferred:       1456088816 bytes
  8. Requests per second:    5242.33 [#/sec] (mean)
  9. Time per request:       19.075 [ms] (mean)
  10. Time per request:       0.191 [ms] (mean, across all concurrent requests)
  11. Transfer rate:          9681.50 [Kbytes/sec] received
  12. Connection Times (ms)
  13. min  mean[+/-sd] median   max
  14. Connect:        0    8   3.7      8      44
  15. Processing:     1   10   3.8      9      79
  16. Waiting:        0    7   3.0      7      61
  17. Total:          4   18   5.7     17     101

长连接:

  1. Concurrency Level:      100
  2. Time taken for tests:   59.509558 seconds
  3. Complete requests:      1000000
  4. Failed requests:        0
  5. Write errors:           0
  6. Keep-Alive requests:    990148
  7. Total transferred:      1927566346 bytes
  8. HTML transferred:       1456007280 bytes
  9. Requests per second:    16804.02 [#/sec] (mean)
  10. Time per request:       5.951 [ms] (mean)
  11. Time per request:       0.060 [ms] (mean, across all concurrent requests)
  12. Transfer rate:          31631.71 [Kbytes/sec] received
  13. Connection Times (ms)
  14. min  mean[+/-sd] median   max
  15. Connect:        0    0   0.1      0      12
  16. Processing:     0    5  22.5      1    1406
  17. Waiting:        0    5  22.4      1    1405
  18. Total:          0    5  22.5      1    1409

从中不然发现,在其他参数和环境相同的情况下,长连接比短连接的TPS高很多,16804.02/sec vs 5242.33/sec,另外也不难发现长连接在connection上花的时间几乎为0

2)nmon 的测试结果

cpu消耗:

短连接

长连接

以上数据表明长连接比短连接消耗CPU较少

IO占用:

短连接

长连接

以上数据表明长连接比短连接IO占用更少

内存空闲:

短连接

长连接

以上数据表明长连接比短连接占用更多内存

3)strace结果

apache的prefork模式是每个请求由单独的子进程来响应,因此通过对其中的一个子进程跟踪来比较调用系统资源的次数

短连接:

  1. % time     seconds  usecs/call     calls    errors syscall
  2. ------ ----------- ----------- --------- --------- ----------------
  3. 44.24    0.187941          19      9997           accept
  4. 40.22    0.170887          10     17738           poll
  5. 2.58    0.010976           0     67716     17737 read
  6. 2.49    0.010583           0     59964      9994 lstat
  7. 2.19    0.009319           0     49970      9994 stat
  8. 1.74    0.007388           0     39976           setsockopt
  9. 1.42    0.006045           1      9997           shutdown
  10. 1.25    0.005312           0     29988           close
  11. 1.06    0.004499           0     19989           open
  12. 0.71    0.003003           0     19994           fcntl
  13. 0.57    0.002426           0      9994           write
  14. 0.45    0.001911           0      9994           writev
  15. 0.38    0.001598           0      9994           sendfile
  16. 0.35    0.001503           0      9997           getsockname
  17. 0.34    0.001439           0      9997           gettimeofday
  18. 0.00    0.000002           1         2           fstat
  19. 0.00    0.000001           1         1           lseek
  20. 0.00    0.000001           1         1           mmap
  21. 0.00    0.000001           1         1           munmap
  22. ------ ----------- ----------- --------- --------- ----------------
  23. 100.00    0.424835                375310     37725 total

长连接:

  1. % time     seconds  usecs/call     calls    errors syscall
  2. ------ ----------- ----------- --------- --------- ----------------
  3. 37.05    0.032997           3      9919           write
  4. 21.90    0.019503           2      9940           poll
  5. 10.38    0.009248           0     39676           setsockopt
  6. 7.86    0.007000           0     49595      9919 stat
  7. 7.46    0.006642           0     59514      9919 lstat
  8. 5.35    0.004764           0     49720      9941 read
  9. 3.54    0.003156           0     19839           open
  10. 2.27    0.002018           0      9919           sendfile
  11. 1.95    0.001735           0     19941           close
  12. 1.28    0.001143           0      9919           writev
  13. 0.92    0.000816           0      9921           gettimeofday
  14. 0.02    0.000014           0       200           fcntl
  15. 0.01    0.000007           0       100           accept
  16. 0.01    0.000007           0       100           getsockname
  17. 0.01    0.000006           0       100         1 shutdown
  18. 0.00    0.000002           1         2           fstat
  19. 0.00    0.000001           1         1           lseek
  20. 0.00    0.000001           1         1           mmap
  21. 0.00    0.000001           1         1           munmap
  22. ------ ----------- ----------- --------- --------- ----------------
  23. 100.00    0.089061                288408     29780 total

以上数据表明,长连接accept和shutdown次数仅为100次,而短连接为9997次,近100倍的差距,从这里就不难发现为什么长连接的TPS那么高了,省了这么多次系统调用,不快才怪啊。

本次试验得出验证来开始的理论分析:长连接比短连接能带来更高的TPS,更低的CPU消耗,更少的IO,更高的内存占用,更少的系统调用

web服务器长连接的更多相关文章

  1. 1. Visio Web 形状 - 无法与 Web 服务器建立连接。请稍后重新进行搜索。处理方式

    今天在Visio中使用“搜索形状”,发现不管搜什么,结果都是:Visio Web 形状 - 无法与 Web 服务器建立连接.请稍后重新进行搜索 具体解决方案如下:控制面板=>添加或删除程序=&g ...

  2. 如何实现android和服务器长连接

    转载 这种功能实际上就是数据同步,同时要考虑手机本身.电量.网络流量等等限制因素,所以通常在移动端上有一下两个解决方案: 1.一种是定时去server查询数据,通常是使用HTTP协议来访问web服务器 ...

  3. Android 心跳包心跳连接 如何实现android和服务器长连接呢?推送消息的原理

    前言:现在的大多数移动端应用都有实时得到消息的能力,简单来说,有发送消息的主动权和接受消息的被动权.例如:微信,QQ,天气预报等等,相信好处和用户体验相信大家都知道吧. 提出问题:这种功能必须涉及cl ...

  4. shell基础知识---与监听服务器长连接端口状态

    从未写过脚本我的最近接了俩脚本的需求,就在这分享一下我的我学到基础知识主要就四部分内容 一.变量 变量的定义 string='字符串' string="字符串" num=808st ...

  5. Web服务器-并发服务器-长连接(3.4.4)

    @ 目录 1.说明 2.代码 关于作者 1.说明 每次new_socket都被强制关闭,造成短连接 所提不要关闭套接字 但是不关闭的话,浏览器不知道发完没有啊 此时用到header的属性Content ...

  6. web通信 长连接、长轮询

    http://www.cnblogs.com/hoojo/p/longPolling_comet_jquery_iframe_ajax.html

  7. 使用SecureCRTP 连接生产环境的web服务器和数据库服务器

    一.使用SecureCRTP 连接生产环境的web服务器 首先,需要知道以下参数信息: 1.web服务器的ip地址     2.服务器的端口号    3.会话连接的用户名和密码   4.服务器的用户名 ...

  8. 前端学HTTP之WEB服务器

    前面的话 Web服务器每天会分发出数以亿计的Web页面,它是万维网的骨干.本文主要介绍WEB服务器的相关内容 总括 Web服务器会对HTTP请求进行处理并提供响应.术语“Web服务器”可以用来表示We ...

  9. 20步打造最安全的NGINX WEB服务器

    Nginx 是一个轻量级的,高性能的Web服务器以及反向代理和邮箱(IMAP/POP3)代理服务器.它运行在UNIX,GNU /linux,BSD 各种版本,Mac OS X,Solaris和Wind ...

随机推荐

  1. iOS6的旋屏控制技巧

    在iOS5.1 和 之前的版本中, 我们通常利用 shouldAutorotateToInterfaceOrientation: 来单独控制某个UIViewController的旋屏方向支持,比如: ...

  2. 安装生物信息学软件-Samtools

    装完Bowtie2,官方文档给出的栗子说可以玩一玩samtools,所以我入个坑 参考这篇http://m.010lm.com/roll/2016/0620/2343389.html Step 1: ...

  3. 对编写html代码的几点儿小建议

    1.DOCTYPE说明:告诉浏览器要使用哪种规范来解释该文档内容: <!DOCTYPE html PUBLIC "-W3//DTD//XHTML 1.0  Transitional// ...

  4. 简单并查集 -- HDU 1232 UVALA 3644 HDU 1856

    并查集模板: #include<iostream> using namespace std; ],x,y; ]; //初始化 x 集合 void init(int n) { ; i< ...

  5. ES6 - for...of

    for...of是一种用来遍历数据结构的方法,可遍历的对象包括:数组,对象,字符串,节点数组等 我们先来看一下现在存在的遍历方式: var arr=[1,2,3,4] (1)for循环 缺点:代码不够 ...

  6. Spring Autowired错误???

    @SpringBootApplicationpublic class TestMqApplication extends SpringBootServletInitializer { @Suppres ...

  7. android之下拉刷新(reflush)

    package com.example.reflush; import android.app.ListActivity; import android.os.Bundle; import andro ...

  8. JavaSE配置文件java.util.Properties【单例模式Singleton】

    如果不是放在src文件夹里面,则: p.load(new BufferedInputStream(new FileInputStream("tank.properties"))); ...

  9. valgind使用错误——检测不同位目标程序

    当64位的valgrind工具测试32位的程序时,会报如下错误: ==22235== Memcheck, a memory error detector ==22235== Copyright (C) ...

  10. latch: cache buffers chains故障处理总结(转载)

    一大早就接到开发商的电话,说数据库的CPU使用率为100%,应用相应迟缓.急匆匆的赶到现场发现进行了基本的检查后发现是latch: cache buffers chains 作祟,处理过程还算顺利,当 ...