nginx 实现高并发和高负载

一、Nginx是如何实现高并发的

service nginx start之后，然后输入#ps -ef|grep nginx，会发现Nginx有一个master进程和若干个worker进程，这些worker进程是平等的，都是被master fork过来的。在master里面，先建立需要listen的socket（listenfd），然后再fork出多个worker进程。当用户进入nginx服务的时候，每个worker的listenfd变的可读，并且这些worker会抢一个叫accept_mutex的东西，accept_mutex是互斥的，一个worker得到了，其他的worker就歇菜了。而抢到这个accept_mutex的worker就开始“读取请求--解析请求--处理请求”，数据彻底返回客户端之后（目标网页出现在电脑屏幕上），这个事件就算彻底结束。

nginx用这个方法是底下的worker进程抢注用户的要求，同时搭配“异步非阻塞”的方式，实现高并发量。

注：在nginx.conf里第二行就是work_process，有默认是4的，也可以更改成auto，这个值不是越大越好，要可实际情况而定。

二、负载均衡

随着业务不断拓展、用户量不断增多，原本一台Nginx代理的服务器已经显得吃力，不论在性能、响应速度等都显得力不从心，所以需要对后台服务器做负载均衡，缓解一台或几台服务器的高并发请求压力。

1、Upstream

负载均衡需要使用Nginx支持的HTTP Upstream模块，该模块通过一个简单的算法调度来实现客户端ip到服务端负载均衡。Upstream目前支持4种调度算法：

A、默认的轮循

默认的调度算法，在处理客户端的每次请求时，按照时间顺序逐一分配到均衡服务器，可以设定服务器的权重(weight)比值，比值越大访问的几率越大，一般用在后台服务器列表访问性能不均匀情况。

B、ip_hash

记录每次访客的ip地址，固定分配给指定的服务器，有效的解决了不同服务器网页Session的问题。

C、fair

根据后端服务器响应的时间长短来分配，响应时间越短被分配几率越大，它属于第三方插件，Nginx本身并不支持，如需使用必须下载Nginx的upstream_fair模块。

D、url_hash

按访问的地址url的hash值结果分配， 使每个url定向到指定的服务器，可以提高后端服务器的缓存效率，同样的，Nginx本身也不支持该算法，需要第三方的hash软件。

2、Upstream支持的状态参数

在Nginx的Upstream模块中，除了可以通过server指定到特定服务器和端口，还可以设置服务器在负载均衡中的状态。目前的状态如下：

A、down

代表当前的服务器server不参与负载均衡。

B、backup

预留的备用设备，也就是当其它的服务器故障或忙时才会分配它给客户请求，所以它的压力最小。

C、max_fails

服务器server允许请求失败的次数，默认为1次，当失败次数超过限定的次数，就会返回proxy_next_upstream错误信息。

D、fail_timeout

当经历了max_fails的次数后，暂停服务的时间，一般与max_fails配合使用。

注意：

当服务器的调度算法为ip_hash时，服务器在负载均衡中的状态不能是weight和backup，理由很明显，不做说明。

3、Nginx配置负载

Nginx中配置负载均衡比较简单，只需要修改nginx.conf配置文件，添加均衡服务器列表，以及使用proxy_pass引用服务器列表即可，具体如下：

A、upstream

#upstream

upstream webservers {

server 127.0.0.1:8080 weight=1;

server 127.0.0.1:8081 weight=1;

}

注：

该配置放在http{}内，server{}之外，否则会报错。

B、proxy_pass

location / {

proxy_pass http://webservers;

proxy_set_header X-Real-IP$remote_addr;

}

注：

引用均衡服务器的列表

C、测试均衡

浏览器输入：http://127.0.0.1 反复刷新页面，如果看到test1和test2服务端交替出现，那么说明负载已经成功（如果其中一台服务器挂掉，如test1挂掉，那么只会给test2服务器分配），测试结果如下：

4、Nginx的健康状态检查

配置upstream状态max_fails和fail_timeout，对Nginx健康检查。

A、upstream

#upstream

upstream webservers {

server 127.0.0.1:8080 weight=1max_fails=2 fail_timeout=2;

server 127.0.0.1:8081 weight=1 max_fails=2 fail_timeout=2;

}

B、测试

这里的结果与上面的测试结果是一样的，这是添加了max_fails和fail_timeout。

5、配置backup服务器

这里需要添加一台backup虚拟机服务器，具体这里不介绍。服务器地址为：

http://backup.cwteam.com 端口：8082 内容：Error is now,please check theerror.log

A、upstream

#upstream

upstream webservers {

server 127.0.0.1:8080 weight=1max_fails=2 fail_timeout=2;

server 127.0.0.1:8081 weight=1max_fails=2 fail_timeout=2;

server 127.0.0.1:8082 backup;

}

B、测试

为了模拟在test1和test2服务器都不工作，这里我将test1和test2的虚拟机配置文件.conf中的监听端口分别改为：8084和8085，然后记得重启Nginx服务，这样在服务器列表中的test1和test2就不能正常工作。

输入：http://127.0.0.1 反复刷新，结果显示：

上图，说明了在test1和test2都坏掉之后，backup算法的服务器就会被访问了，下面来继续总结ip_hash算法。

6、配置ip_hash服务器

配置ip_hash算法调度服务器时，不能设置服务器的状态为weight和backup，所以需要关闭Nginx.conf中的backup状态服务器，配置完成记得重启nginx，如下：

A、upstream

#upstream

upstream webservers {

ip_hash;

server 127.0.0.1:8080 weight=1max_fails=2 fail_timeout=2;

server 127.0.0.1:8081 weight=1max_fails=2 fail_timeout=2;

#server 127.0.0.1:8082 backup;

}

B、测试

输入：http://127.0.0.1 反复刷新页面 如果调度的服务器总是test1或是test2时，那就说明ip_hash算法服务器设置成功，结果如下：

7、统计Web链接的次数

$ netstat -an | grep :8080 | wc -l

12

注意：

使用虚拟主机验证Nginx反向代理及负载均衡是有限制的，正常应该是为每个服务器配置web服务器，所以对应的均衡服务器配置验证时，因该以关闭web服务器为准，而且在对应的服务器中可以查看日志信息。