限流(四)nginx接入层限流

一、nginx限流模块

接入层指的是请求流量的入口，我们可以在这里做很多控制，比如：负载均衡，缓存，限流等。

nginx中针对限流有两个模块可以处理：

1）ngx_http_limit_req_module；连接数限流模块

2）ngx_http_limit_conn_module；请求限流模块

连接数限流模块是基于计数器方式实现的，请求限流模块是基于漏桶算法实现的；

关于限流算法可以参考：https://www.cnblogs.com/lay2017/p/9060497.html

除了以上两种，我们曾在分布式限流中提到nginx+lua方式来实现限流操作，只要集成一下lua模块。或者采用openresty，它自带了lua模块，可以实现复杂的限流场景。

本文不涉及lua模块的部分，只是简单使用nginx默认自带的两个模块来实现限流操作。

二、ngx_http_limit_conn_module

连接数限流模块，和一般的计数器限流是一样的思路，通过一个key来存取对应的value，value表示请求的数量。比如：限制某个IP的总请求数量，那么我们只需要改变和存取该IP对应的请求数量即可。

ngx_http_limit_conn_module限流模块使用代码如下：

http{
    limit_conn_zone $binary_remote_addr zone=addr:10m;
    limit_conn_log_level error;
    limit_conn_status 503;
    ...
    server{
        ...
        location /limit{
            limit_conn addr 1;
            proxy_pass 'http:www.baidu.com';
        }
    }
}

以上代码：

1）limit_conn：配置的是要存放KEY和计数器的共享内存区域（addr），并指定KEY的最大连接树木（这里是1）

2) limit_conn_zone: 配置限流的KEY（这里是IP地址：$binary_remote_addr）、共享内存区域的大小(10m)。

3) limit_conn_status: 配置限流以后返回的状态码；

4）limit_conn_log_level: 配置限流以后的日志级别；

5）proxy_pass: 返回代理的是百度的页面；

我们通过测试工具测试1秒钟20个请求的结果: http://localhost/limit

输出结果：

有部分请求将被限流并返回结果503，而未被限流的则返回百度页面；

三、ngx_http_limit_req_module

请求限流模块实现的是漏桶算法，主要是对请求的速率进行限制。

直接看具体代码：

http {
    limit_req_zone $binary_remote_addr zone=addr:10m rate=1r/s;
    limit_conn_log_level error;
    limit_conn_status 503;
    ...
    server {
    ...
        location /limit {
            limit_req zone=addr burst=2 nodelay;
            proxy_pass: 'http://www.baidu.com';
        }
    }
}

1）limit_req：配置共享内存区域、桶容量（突发容量，默认0）、是否延迟模式（默认延迟）；

2）limit_req_zone：配置限流KEY、及存放KEY对应信息的共享内存区域大小、固定请求速率；此处指定的KEY是“$binary_remote_addr”表示IP地址；固定请求速率使用rate参数配置，支持10r/s和60r/m，即每秒10个请求和每分钟60个请求，不过最终都会转换为每秒的固定请求速率（10r/s为每100毫秒处理一个请求；60r/m，即每1000毫秒处理一个请求）。

3）limit_conn_status：配置被限流后返回的状态码，默认返回503；

4）limit_conn_log_level：配置记录被限流后的日志级别，默认error级别。

limit_req的主要执行过程如下所示：

1、请求进入后首先判断最后一次请求时间相对于当前时间（第一次是0）是否需要限流，如果需要限流则执行步骤2，否则执行步骤3；

2.1、如果没有配置桶容量（burst），则桶容量为0；按照固定速率处理请求；如果请求被限流，则直接返回相应的错误码（默认503）；

2.2、如果配置了桶容量（burst>0）且延迟模式(没有配置nodelay)；如果桶满了，则新进入的请求被限流；如果没有满则请求会以固定平均速率被处理（按照固定速率并根据需要延迟处理请求，延迟使用休眠实现）；

2.3、如果配置了桶容量（burst>0）且非延迟模式（配置了nodelay）；不会按照固定速率处理请求，而是允许突发处理请求；如果桶满了，则请求被限流，直接返回相应的错误码；

3、如果没有被限流，则正常处理请求；

4、Nginx会在相应时机进行选择一些（3个节点）限流KEY进行过期处理，进行内存回收。

测试工具测试结果：

配置zone\burst\nodelay的情况下，20r/1s测试结果为3个，理论上应该是2个成功，但是由于计算算法问题，首次会出现3个，不过可以忽略不计。其它则返回503错误

参考文章：

http://jinnianshilongnian.iteye.com/blog/2305117