web服务器长连接
web服务器都提供长连接的方式,所谓长连接就是客户端一次请求完后,不关闭连接,保持一段时间的连接,下次此客户端再次请求时,不用创建新连接,复用所保持的连接即可。从理论上,长连接可以免去大量建立和关闭连接的资源消耗,但同时也有大量连接被占用的代价。因此可以初步判断长连接比短连接能带来更高的TPS,更低的CPU消耗,更少的IO,更高的内存占用,下面通过实战来验证。
服务器环境和测试工具可以见工具和环境准备篇
本次web服务器选用apache prefork模式,apache长短连接的选择可以配置httpd.conf里的KeepAlive选项,如:
KeepAlive On:长连接
KeepAlive Off:短连接
另外如果选择长连接还需配置KeepAliveTimeout和MaxKeepAliveRequests,其中KeepAliveTimeout为每个长连接服务端保持时长,默认配置为15秒,MaxKeepAliveRequests为每个长连接服务请求最大数,默认配置为100次,本次试验保持默认配置。
使用ab来压apache,如:
短连接环境下: /usr/alibaba/install/httpd-2.0.63-prefork/bin/ab -c 100 -n 1000000 http://localhost/
长连接环境下: /usr/alibaba/install/httpd-2.0.63-prefork/bin/ab -c 100 -n 1000000 -k http://localhost/
同时都已100个并发请求apache默认首页1000000次
然后通过ab测试结果、nmon收集资源消耗和strace跟踪实际调用三个维度来考察短连接和长连接的区别。
1)ab测试结果
短连接:
- Concurrency Level: 100
- Time taken for tests: 190.754776 seconds
- Complete requests: 1000000
- Failed requests: 0
- Write errors: 0
- Total transferred: 1891115351 bytes
- HTML transferred: 1456088816 bytes
- Requests per second: 5242.33 [#/sec] (mean)
- Time per request: 19.075 [ms] (mean)
- Time per request: 0.191 [ms] (mean, across all concurrent requests)
- Transfer rate: 9681.50 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 8 3.7 8 44
- Processing: 1 10 3.8 9 79
- Waiting: 0 7 3.0 7 61
- Total: 4 18 5.7 17 101
长连接:
- Concurrency Level: 100
- Time taken for tests: 59.509558 seconds
- Complete requests: 1000000
- Failed requests: 0
- Write errors: 0
- Keep-Alive requests: 990148
- Total transferred: 1927566346 bytes
- HTML transferred: 1456007280 bytes
- Requests per second: 16804.02 [#/sec] (mean)
- Time per request: 5.951 [ms] (mean)
- Time per request: 0.060 [ms] (mean, across all concurrent requests)
- Transfer rate: 31631.71 [Kbytes/sec] received
- Connection Times (ms)
- min mean[+/-sd] median max
- Connect: 0 0 0.1 0 12
- Processing: 0 5 22.5 1 1406
- Waiting: 0 5 22.4 1 1405
- Total: 0 5 22.5 1 1409
从中不然发现,在其他参数和环境相同的情况下,长连接比短连接的TPS高很多,16804.02/sec vs 5242.33/sec,另外也不难发现长连接在connection上花的时间几乎为0
2)nmon 的测试结果
cpu消耗:
短连接
长连接
以上数据表明长连接比短连接消耗CPU较少
IO占用:
短连接
长连接
以上数据表明长连接比短连接IO占用更少
内存空闲:
短连接
长连接
以上数据表明长连接比短连接占用更多内存
3)strace结果
apache的prefork模式是每个请求由单独的子进程来响应,因此通过对其中的一个子进程跟踪来比较调用系统资源的次数
短连接:
- % time seconds usecs/call calls errors syscall
- ------ ----------- ----------- --------- --------- ----------------
- 44.24 0.187941 19 9997 accept
- 40.22 0.170887 10 17738 poll
- 2.58 0.010976 0 67716 17737 read
- 2.49 0.010583 0 59964 9994 lstat
- 2.19 0.009319 0 49970 9994 stat
- 1.74 0.007388 0 39976 setsockopt
- 1.42 0.006045 1 9997 shutdown
- 1.25 0.005312 0 29988 close
- 1.06 0.004499 0 19989 open
- 0.71 0.003003 0 19994 fcntl
- 0.57 0.002426 0 9994 write
- 0.45 0.001911 0 9994 writev
- 0.38 0.001598 0 9994 sendfile
- 0.35 0.001503 0 9997 getsockname
- 0.34 0.001439 0 9997 gettimeofday
- 0.00 0.000002 1 2 fstat
- 0.00 0.000001 1 1 lseek
- 0.00 0.000001 1 1 mmap
- 0.00 0.000001 1 1 munmap
- ------ ----------- ----------- --------- --------- ----------------
- 100.00 0.424835 375310 37725 total
长连接:
- % time seconds usecs/call calls errors syscall
- ------ ----------- ----------- --------- --------- ----------------
- 37.05 0.032997 3 9919 write
- 21.90 0.019503 2 9940 poll
- 10.38 0.009248 0 39676 setsockopt
- 7.86 0.007000 0 49595 9919 stat
- 7.46 0.006642 0 59514 9919 lstat
- 5.35 0.004764 0 49720 9941 read
- 3.54 0.003156 0 19839 open
- 2.27 0.002018 0 9919 sendfile
- 1.95 0.001735 0 19941 close
- 1.28 0.001143 0 9919 writev
- 0.92 0.000816 0 9921 gettimeofday
- 0.02 0.000014 0 200 fcntl
- 0.01 0.000007 0 100 accept
- 0.01 0.000007 0 100 getsockname
- 0.01 0.000006 0 100 1 shutdown
- 0.00 0.000002 1 2 fstat
- 0.00 0.000001 1 1 lseek
- 0.00 0.000001 1 1 mmap
- 0.00 0.000001 1 1 munmap
- ------ ----------- ----------- --------- --------- ----------------
- 100.00 0.089061 288408 29780 total
以上数据表明,长连接accept和shutdown次数仅为100次,而短连接为9997次,近100倍的差距,从这里就不难发现为什么长连接的TPS那么高了,省了这么多次系统调用,不快才怪啊。
本次试验得出验证来开始的理论分析:长连接比短连接能带来更高的TPS,更低的CPU消耗,更少的IO,更高的内存占用,更少的系统调用
web服务器长连接的更多相关文章
- 1. Visio Web 形状 - 无法与 Web 服务器建立连接。请稍后重新进行搜索。处理方式
今天在Visio中使用“搜索形状”,发现不管搜什么,结果都是:Visio Web 形状 - 无法与 Web 服务器建立连接.请稍后重新进行搜索 具体解决方案如下:控制面板=>添加或删除程序=&g ...
- 如何实现android和服务器长连接
转载 这种功能实际上就是数据同步,同时要考虑手机本身.电量.网络流量等等限制因素,所以通常在移动端上有一下两个解决方案: 1.一种是定时去server查询数据,通常是使用HTTP协议来访问web服务器 ...
- Android 心跳包心跳连接 如何实现android和服务器长连接呢?推送消息的原理
前言:现在的大多数移动端应用都有实时得到消息的能力,简单来说,有发送消息的主动权和接受消息的被动权.例如:微信,QQ,天气预报等等,相信好处和用户体验相信大家都知道吧. 提出问题:这种功能必须涉及cl ...
- shell基础知识---与监听服务器长连接端口状态
从未写过脚本我的最近接了俩脚本的需求,就在这分享一下我的我学到基础知识主要就四部分内容 一.变量 变量的定义 string='字符串' string="字符串" num=808st ...
- Web服务器-并发服务器-长连接(3.4.4)
@ 目录 1.说明 2.代码 关于作者 1.说明 每次new_socket都被强制关闭,造成短连接 所提不要关闭套接字 但是不关闭的话,浏览器不知道发完没有啊 此时用到header的属性Content ...
- web通信 长连接、长轮询
http://www.cnblogs.com/hoojo/p/longPolling_comet_jquery_iframe_ajax.html
- 使用SecureCRTP 连接生产环境的web服务器和数据库服务器
一.使用SecureCRTP 连接生产环境的web服务器 首先,需要知道以下参数信息: 1.web服务器的ip地址 2.服务器的端口号 3.会话连接的用户名和密码 4.服务器的用户名 ...
- 前端学HTTP之WEB服务器
前面的话 Web服务器每天会分发出数以亿计的Web页面,它是万维网的骨干.本文主要介绍WEB服务器的相关内容 总括 Web服务器会对HTTP请求进行处理并提供响应.术语“Web服务器”可以用来表示We ...
- 20步打造最安全的NGINX WEB服务器
Nginx 是一个轻量级的,高性能的Web服务器以及反向代理和邮箱(IMAP/POP3)代理服务器.它运行在UNIX,GNU /linux,BSD 各种版本,Mac OS X,Solaris和Wind ...
随机推荐
- 关于重定向urlrewriter.urlmapping
大家都知道web.config 中的 urlMappings怎么用 <system.web> <urlMappings enabled="true"> &l ...
- Android RecyclerView单击、长按事件:基于OnItemTouchListener +GestureDetector标准实现(二),封装抽取成通用工具类
Android RecyclerView单击.长按事件:基于OnItemTouchListener +GestureDetector标准实现(二),封装抽取成通用工具类 我写的附录文章2,介绍了 ...
- TCP三次握手及四次挥手详细图解
TCP三次握手及四次挥手详细图解 Andrew Huangbluedrum@163.com 相对于SOCKET开发者,TCP创建过程和链接折除过程是由TCP/IP协议栈自动创建的.因此开发者并不 ...
- Java-->xml的pull解析
--> pull解析器是android内置的解析器,解析原理与sax类似 --> xml文件student.xml: <?xml version="1.0" en ...
- linux 下find命令 --查找文件名
1.在某目录下查找名为"elm.cc"的文件 find /home/lijiajia/ -name elm.cc 2.查找文件名中包含某字符(如"elm")的文 ...
- hdu4691 Front compression ——暴力 || 后缀数组
link:http://acm.hdu.edu.cn/showproblem.php?pid=4691 暴力,数据明显太水了吧,n=10^5, O(n^2)的复杂度哎喂.想让大家暴力写直接让n=100 ...
- html+css二级菜单制作!
二级菜单!!<!DOCTYPE html<html lang="e<head> <meta charset="UTF-8"> < ...
- list control失去焦点后,仍然蓝色高亮度显示
void CReaProSet::OnNMKillfocusReaprolist(NMHDR *pNMHDR, LRESULT *pResult)//指示控件已经失去焦点 { // TODO: 在此 ...
- fiddler web开发调试工具的使用
fiddler使用场景: (1)开发环境host配置: 通常情况下,配置host需要改变系统文件很不方便,在多个开发环境下切换很低效 fiddler提供了相对高效的host配置方法 (2)前后端接口调 ...
- SpringMVC学习系列(6) 之 数据验证
在系列(4).(5)中我们展示了如何绑定数据,绑定完数据之后如何确保我们得到的数据的正确性?这就是我们本篇要说的内容 —> 数据验证. 这里我们采用Hibernate-validator来进行验 ...