浅谈 OpenResty，基于opebresty+redis进行实时线上限流

一．前言

我们都知道Nginx有很多的特性和好处，但是在Nginx上开发成了一个难题，Nginx模块需要用C开发，而且必须符合一系列复杂的规则，最重要的用C开发模块必须要熟悉Nginx的源代码，使得开发者对其望而生畏。为了开发人员方便，所以接下来我们要介绍一种整合了Nginx和lua的框架，那就是OpenResty，它帮我们实现了可以用lua的规范开发，实现各种业务，并且帮我们弄清楚各个模块的编译顺序。关于OpenResty，我想大家应该不再陌生，随着系统架构的不断升级、优化，OpenResty在被广泛的应用。

二．OpenResty运行原理

Nginx 采用的是 master-worker 模型，一个 master 进程管理多个 worker 进程，基本的事件处理都是放在 woker 中，master 负责一些全局初始化，以及对 worker 的管理。在OpenResty中，每个 woker 使用一个 LuaVM，当请求被分配到 woker 时，将在这个 LuaVM 里创建一个 coroutine(协程)。协程之间数据隔离，每个协程具有独立的全局变量_G。

ps. 协程和多线程下的线程类似：有自己的堆栈，自己的局部变量，有自己的指令指针，但是和其他协程程序共享全局变量等信息。线程和协程的主要不同在于：多处理器的情况下，概念上来说多线程是同时运行多个线程，而协程是通过代码来完成协程的切换，任何时刻只有一个协程程序在运行。并且这个在运行的协程只有明确被要求挂起时才会被挂起。

原理图如下：

三．OpenResty的优势

首先我们选择使用OpenResty，其是由Nginx核心加很多第三方模块组成，其最大的亮点是默认集成了Lua开发环境，使得Nginx可以作为一个Web Server使用。

借助于Nginx的事件驱动模型和非阻塞IO，可以实现高性能的Web应用程序。

而且OpenResty提供了大量组件如Mysql、Redis、Memcached等等，使在Nginx上开发Web应用更方便更简单。目前在京东如实时价格、秒杀、动态服务、单品页、列表页等都在使用Nginx+Lua架构，其他公司如淘宝、去哪儿网等。

四．Nginx和lua的简介

1. Nginx：

(1) Nginx的优点

• 轻量级同样起web 服务比apache占用更少内存及资源

• 抗并发nginx 处理请求异步非阻塞而apache 则阻塞型高并发下nginx 能保持低资源低消耗高性能

• 高度模块化设计编写模块相对简单

• 社区活跃各种高性能模块出品迅速啊

(2) Nginx为什么性能高，占用内存少

众所周知，nginx性能高，而nginx的高性能与其架构是分不开的。在这里，我们简单粗略的介绍一下nginx的架构。

• 首先，nginx采用的是多多进程模式，好处是什么呢？首先，对于每个worker进程来说，独立的进程，不需要加锁，所以省掉了锁带来的开销，同时在编程以及问题查找时，也会方便很多。其次，采用独立的进程，可以让互相之间不会影响，一个进程退出后，其它进程还在工作，服务不会中断，master进程则很快启动新的worker进程。当然，worker进程的异常退出，肯定是程序有bug了，异常退出，会导致当前worker上的所有请求失败，不过不会影响到所有请求，所以降低风险。

• Nginx是采用异步非阻塞的方式去处理请求的，什么是异步非阻塞呢？其实就是当一个线程调用出现等待的io之类的情况时，而不是阻塞在这里，而是去处理别的事情，等io准备好了，然后再去执行，具体的我就不在这里和大家描述了。

2. lua:

(1) Lua 是一个小巧的脚本语言。作者是巴西人。该语言的设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能

(2) Lua的特点：

• Lua脚本可以很容易的被C/C++代码调用，也可以反过来调用C/C++的函数，这使得Lua在应用程序中可以被广泛应用。不仅仅作为扩展脚本，也可以作为普通的配置文件，代替XML,Ini等文件格式，并且更容易理解和维护。

• Lua由标准C编写而成，代码简洁优美，几乎在所有操作系统和平台上都可以编译，运行。一个完整的Lua解释器不过200k，在目前所有脚本引擎中，Lua的速度是最快的。这一切都决定了Lua是作为嵌入式脚本的最佳选择。

五．OpenResty的安装

上面我门对OpenResty进行了简单的介绍，运行原理的说明，还有Nginx、Lua优点的介绍，是为了更好的让大家理解。让大家知道用这个的好处，接下来我简单的介绍一下OpenResty的安装和搭建一个简单的限流的例子，这是为了让大家明白，除了上面说的好处，它到底能够做什么。

OpenResty的安装：

(1) 需要事先安装一下所需的插件

1	yum install readline-devel pcre-devel openssl-devel

(2) 下载ngx_openresty-1.7.7.2.tar.gz并解压

1	wget http://openresty.org/download/ngx_openresty-1.7.7.2.tar.gz

(3) 安装LuaJIT

1 2 3

cd bundle/LuaJIT-2.1-20150120/ make clean && make && make install ln -sf luajit-2.1.0-alpha /usr/local/bin/luajit

(4) 下载ngx_cache_purge模块，该模块用于清理nginx缓存

1	wget https://github.com/FRiCKLE/ngx_cache_purge/archive/2.3.tar.gz

(5) 下载nginx_upstream_check_module模块，该模块用于ustream健康检查

1	wget https://github.com/yaoweibin/nginx_upstream_check_module/archive/v0.3.0.tar.gz

(6) 安装ngx_openresty

1 2 3 4 5 6 7 8 9

cd /usr/servers/ngx_openresty-1.7.7.2 ./configure  --prefix=/usr/servers  --with-http_realip_module   --with-pcre   --with-luajit  --add-module=./bundle/ngx_cache_purge-2.3/  --add-module=./bundle/nginx_upstream_check_module-0.3.0/ -j2 make && make install

(7) 到/usr/servers目录下，会发现多出来了如下目录，说明安装成功

(8) 启动nginx：/usr/servers/nginx/sbin/nginx（其实我们可以配置好系统的环境变量，配置好后就可以直接数据nginx命令了）

六．防刷（黑白名单）简单例子的搭建

1. 首先我们先可以在/usr/servers/nginx/conf/ 目录下创建我们自己的一个简单的lua文件，就叫做example.lua好了。

输入如下命令，我们就可以创建一个example.conf文件，或者我们可以cp nginx.conf  example.conf 或者mkdir example.conf

2. 接下来我们需要编辑nginx.conf这个启动配置的文件了

ok,我们进入到编辑界面，接下来我们需要将我们的example.conf文件给引入进来，在nginx.conf的http体里添加一下命令：include example.conf

nginx.conf 的具体内容如下：

其中大家可以看到用红线框框的是自己项目文件的引入和lua模块的引入。

3. 接下来我们可以在example.conf文件中写我们的逻辑实现了

4. 我们可以看到，在example.conf中的server里面配置多个location，而location中嵌入了content_by_lua_file  /usr/example/lua/redis_black_limit.lua，从这可以看出在content阶段嵌入了lua脚本，进行了内容的响应，在这里，我们进去看看相应的代码是如何来处理的：

这是一个防刷的demo,从中我们可以看出，我是更具ip，从redis里面取值，然后通过请求ip的匹配，来做到防刷的功能，除此之外，这里有一个语句，我们的注意到，那就是require，这就相当于我们的类加载器，class.forname,从而做到加载进来lua的模块。

5. 除此之外，还简单的做了一个设置黑名单和取消黑名单的功能，用来充当我们以后的管理中心，具体逻辑写在set_black.lua和cancel.lua中，然后在lua.conf中配置好url，具体如下图所示:

在lua.conf中server体里加入一下代码：

接下来我们需要写set_black.lua和cancel.lua文件，文件内容如下：

1 2 3 4 5 6 7 8 9 10 11 12

v  set_black.lua: local redis =require "resty.redis" local cache =redis.new() cache:set_timeout(6000) local ok,err=cache.connect(cache,'192.168.150.61',6379) if not ok then         ngx.say("failed to connect:",err)         return end local ip = ngx.var.remote_addr cache:set("user:"..ip..":block",1) ngx.say("user:"..ip..":block".."设置黑名单成功")

1 2 3 4 5 6 7 8 9 10 11 12

v  cancel_black.lua: local redis =require "resty.redis" local cache =redis.new() cache:set_timeout(6000) local ok,err=cache.connect(cache,'192.168.150.61',6379) if not ok then         ngx.say("failed to connect:",err)         return end local ip = ngx.var.remote_addr cache:expire("user:"..ip..":block",0) ngx.say("user:"..ip..":block".."移除黑名单")

7. 效果

做好了以上配置，我们可以开始先设置好黑名单，然后访问请求，返回的结果是被黑名单了，然后再取消黑名单，再访问请求，显示访问成功，具体结果如下图。

七．总结

上文简单的介绍一些OpenResty，以及搭建了一个简单的应用，目的是想让大家对这个框架有一个大体的了解。随着架构的升级，我们会慢慢的把一些不太复杂的业务可以移到nginx层，从而提高我们的吞吐量，解决一些性能上的瓶颈。例如在nginx这一层做简单的限流、黑白名单，缓存之类的业务复杂性不是太强的工作，从而增加我们的吞吐率，也可以再nginx这一层过滤掉一些垃圾流量，从而让tomcat层只需要更加专注于业务。（以上是我简单粗略的一些理解，如果有什么问题，欢迎大家一起讨论）