haproxy反向代理

haproxy是个高性能的tcp和http的反向代理。它就是个代理。不像nginx还做web服务器

官网地址为www.haproxy.org

nginx的优点和缺点

优点：
1、web服务器，应用比较广泛，大家都会
2、可以作为7层负载均衡，location设置复杂的基于HTTP的负载均衡
3、性能强大，网络依赖小
4、安装配置简单

缺点：
1、健康检查单一，不支持基于url的健康检查（可以使用第三方插件实现）
2、负载均衡算法少
3、不能动态管理，比如踢出某个web节点，需要reload配置
4、没有集群upstream的状态页面

　　

haproxy的优点和缺点

优点：
1、专门做反向代理负载均衡
2、负载均衡算法比较多，大于等于8种，比nginx丰富
3、性能不低于nginx，大于等于nginx
4、支持动态管理，通过和haproxy的sock进行通信，可以进行管理
5、有比较丰富的Dashboard的页面，监控方便。有管理页面
6、比较强大的7层反向代理功能，在7层方便，功能强大
7、会话保持比nginx丰富。可以基于cookie和源IP（nginx也能做到基于IP和cookie）

缺点：
配置没有Nginx简单（相对熟悉）

　　

先杀掉原先的nginx进程，防止80端口被占用，导致haproxy无法启动

[root@linux-node1 conf]# pkill nginx
[root@linux-node1 conf]# ps aux | grep nginx
root      27201  0.0  0.0 112664   972 pts/0    S+   05:39   0:00 grep --colour=auto nginx
[root@linux-node1 conf]#

部署haproxy，这里是编译安装，版本是1.6.3，执行命令如下

cd /usr/local/src/
wget http://www.haproxy.org/download/1.6/src/haproxy-1.6.3.tar.gz
tar xfz haproxy-1.6.3.tar.gz
cd haproxy-1.6.3
make TARGET=linux2628  PREFIX=/usr/local/haproxy-1.6.3
make install
cp /usr/local/sbin/haproxy /usr/sbin/
haproxy -v

 

显示版本如下

[root@linux-node1 haproxy-1.6.3]# haproxy -v
HA-Proxy version 1.6.3 2015/12/25
Copyright 2000-2015 Willy Tarreau <willy@haproxy.org>

[root@linux-node1 haproxy-1.6.3]#

源码包里有启动脚本，拷贝大init.d目录下

[root@linux-node1 haproxy-1.6.3]# pwd
/usr/local/src/haproxy-1.6.3
[root@linux-node1 haproxy-1.6.3]# cd examples/
[root@linux-node1 examples]# ls haproxy.init
haproxy.init
[root@linux-node1 examples]# cp haproxy.init /etc/init.d/haproxy
[root@linux-node1 examples]# chmod +x /etc/init.d/haproxy
[root@linux-node1 examples]#

创建haproxy用户和相关目录
useradd -r表示创建系统账号

[root@linux-node1 examples]# useradd -r haproxy
[root@linux-node1 examples]#
[root@linux-node1 examples]# mkdir /etc/haproxy -p
[root@linux-node1 examples]# mkdir /var/lib/haproxy -p
[root@linux-node1 examples]#

 

先配置下机器的rsyslog（centos6之后就是rsyslog了），15行去掉下面2行注释

重启rsyslog

[root@linux-node1 ~]# vim /etc/rsyslog.conf
[root@linux-node1 ~]# systemctl restart rsyslog
[root@linux-node1 ~]# netstat -lnup | grep 514
udp        0      0 0.0.0.0:514             0.0.0.0:*                           27509/rsyslogd
udp6       0      0 :::514                  :::*                                27509/rsyslogd
[root@linux-node1 ~]#

 

 

写配置文件,defaults里面默认参数可以被前端和后端继承

关于mode http 你如果不写，默认继承defaults里面的
defaults默认不写好像也是http。
tcp的需要注明。
mode tcp

[root@linux-node1 ~]# cd /etc/haproxy/
[root@linux-node1 haproxy]# vim haproxy.cfg
[root@linux-node1 haproxy]# cat haproxy.cfg
global
    chroot  /var/lib/haproxy
    daemon
    group  haproxy
    user  haproxy
    log  127.0.0.1:514  local3  info
defaults
    log	global             #使用全局的日志配置
    mode	http
   option	httplog
   option  dontlognull   #日志中不记录空连接，比如不记录健康检查的连接
   timeout  client	50000
   timeout  server	50000
   timeout	connect	5000

frontend http_front
   bind    *:80
   stats	uri	/haproxy?stats
   default_backend http_back
backend http_back
   balance  roundrobin
   server	linux-node1	10.0.1.105:8080    check
   server	linux-node2	10.0.1.106:8080	   check
[root@linux-node1 haproxy]#

　

启动haproxy

[root@linux-node1 ~]# /etc/init.d/haproxy start
Reloading systemd:                                         [  确定  ]
Starting haproxy (via systemctl):                          [  确定  ]
[root@linux-node1 ~]#
[root@linux-node1 ~]# netstat -lntp | grep 80
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      27556/haproxy
tcp6       0      0 :::8080                 :::*                    LISTEN      20130/httpd
[root@linux-node1 ~]#

　　

现在还没有日志，因为没配置local3

配置如下，配置完毕重启rsyslog

[root@linux-node1 ~]# grep local3 /etc/rsyslog.conf
local3.*                                                /var/log/haproxy.log
[root@linux-node1 ~]#
[root@linux-node1 ~]# systemctl restart rsyslog
[root@linux-node1 ~]#

再次重启haproxy服务，就可以看到haproxy的日志文件生成了。可以看到启动过程

[root@linux-node1 ~]# /etc/init.d/haproxy restart
Restarting haproxy (via systemctl):                        [  确定  ]
[root@linux-node1 ~]# tail -f /var/log/haproxy.log
Feb 27 06:33:43 localhost haproxy[27648]: Stopping frontend http_front in 0 ms.
Feb 27 06:33:43 localhost haproxy[27648]: Stopping backend http_back in 0 ms.
Feb 27 06:33:43 localhost haproxy[27648]: Proxy http_front stopped (FE: 0 conns, BE: 0 conns).
Feb 27 06:33:43 localhost haproxy[27648]: Proxy http_back stopped (FE: 0 conns, BE: 0 conns).
Feb 27 06:33:43 localhost haproxy[27687]: Proxy http_front started.
Feb 27 06:33:43 localhost haproxy[27687]: Proxy http_back started.

继续优化更改下配置
haproxy可以自定义健康检查的url，这是nginx不具备的
check：启用健康检测
inter：健康检测间隔
rise：检测服务可用的连续次数
fall：检测服务不可用的连续次数

[root@linux-node1 ~]# cd /etc/haproxy/
[root@linux-node1 haproxy]# vim haproxy.cfg
[root@linux-node1 haproxy]# cat haproxy.cfg
global
    chroot  /var/lib/haproxy
    daemon
    group  haproxy
    user  haproxy
    log  127.0.0.1:514  local3  info
defaults
    log	global
    mode	http
   option	httplog
   option  dontlognull
   timeout  client	50000
   timeout  server	50000
   timeout	connect	5000

frontend http_front
   mode  http
   bind    *:80
   stats	uri	/haproxy?stats
   default_backend http_back
backend http_back
   option httpchk  GET /index.html
   balance  roundrobin
   server	linux-node1	10.0.1.105:8080    check inter 2000 rise 3 fall 3 weight 1
   server	linux-node2	10.0.1.106:8080	   check inter 2000 rise 3 fall 3 weight 1
[root@linux-node1 haproxy]#

重启服务

[root@linux-node1 haproxy]# /etc/init.d/haproxy restart
Restarting haproxy (via systemctl):                        [  确定  ]
[root@linux-node1 haproxy]# netstat -lntp | grep 80
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      27849/haproxy
tcp6       0      0 :::8080                 :::*                    LISTEN      20130/httpd
[root@linux-node1 haproxy]#

打开监控页面

页面测试，目前也是轮询的

多访问几次，健康页面有新的数据变化

sessions这里可以看到有没有失败的访问

L7 OK 表示7层检测OK

　　

结合haproxy的acl配置反向代理功能，先备份原先配置文件

设置acl
这样能支持多个域名，让不同的域名，访问不同的backend上面去

[root@linux-node1 conf]# cp /etc/haproxy/haproxy.cfg /etc/haproxy/haproxy.cfg.ori
[root@linux-node1 conf]# vim /etc/haproxy/haproxy.cfg

修改配置文件为如下

注意，配置文件中，前端和后端不要用特殊符号以及点。它对这些敏感。推荐使用下划线

[root@linux-node1 conf]# vim /etc/haproxy/haproxy.cfg
[root@linux-node1 conf]# cat /etc/haproxy/haproxy.cfg
global
    chroot  /var/lib/haproxy
    daemon
    group  haproxy
    user  haproxy
    log  127.0.0.1:514  local3  info
    stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin
    stats timeout 2m
defaults
    log	global
    mode	http
   option	httplog
   option  dontlognull
   timeout  client	50000
   timeout  server	50000
   timeout	connect	5000

frontend www_nmap_com
   mode  http
   bind    *:80
   stats	uri	/haproxy?stats
   default_backend www_nmap_com_backend
   acl is_other_nmap_com hdr_end(host) other.nmap-blog.com
   use_backend other_nmap_com_backend if is_other_nmap_com
backend www_nmap_com_backend
   option forwardfor header X-REAL-IP
   option httpchk  GET /index.html
   balance  roundrobin
   server	linux-node1	10.0.1.105:8080    check inter 2000 rise 3 fall 3 weight 1
backend other_nmap_com_backend
   option forwardfor header X-REAL-IP
   option httpchk  GET /index.html
   balance  roundrobin
   server	linux-node2	10.0.1.106:8080	   check inter 2000 rise 3 fall 3 weight 1
[root@linux-node1 conf]#

重启haproxy

[root@linux-node1 conf]# /etc/init.d/haproxy restart
Restarting haproxy (via systemctl):                        [  确定  ]

windows客户端配置host文件

10.0.1.105  www.nmap-blog.com  other.nmap-blog.com

　　

这样也实现了haproxy的多域名反向代理

haproxy的acl，也可以根据正则，和后缀设置，下面2种方法。推荐第一种，正则方式匹配

   acl is_static_reg  url_reg /*.(css|jpg|png|js|jpeg|gif)$
   acl is_static_path path_end  .gif .png .js

修改配置文件做基于正则的acl

[root@linux-node1 conf]# cp  /etc/haproxy/haproxy.cfg /etc/haproxy/haproxy.cfg.2
[root@linux-node1 conf]# vim /etc/haproxy/haproxy.cfg
[root@linux-node1 conf]# cat /etc/haproxy/haproxy.cfg
global
    chroot  /var/lib/haproxy
    daemon
    group  haproxy
    user  haproxy
    log  127.0.0.1:514  local3  info
    stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin
    stats timeout 2m
defaults
    log	global
    mode	http
   option	httplog
   option  dontlognull
   timeout  client	50000
   timeout  server	50000
   timeout	connect	5000

frontend www_nmap_com
   mode  http
   bind    *:80
   stats	uri	/haproxy?stats
   default_backend www_nmap_com_backend
   acl is_static_reg  url_reg /*.(css|jpg|png|js|jpeg|gif)$
   use_backend other_nmap_com_backend if is_static_reg
   #acl is_static_path path_end  .gif .png .js
   #acl is_other_nmap_com hdr_end(host) other.nmap-blog.com
   #use_backend other_nmap_com_backend if is_other_nmap_com
backend www_nmap_com_backend
   option forwardfor header X-REAL-IP
   option httpchk  GET /index.html
   balance  roundrobin
   server	linux-node1	10.0.1.105:8080    check inter 2000 rise 3 fall 3 weight 1
backend other_nmap_com_backend
   option forwardfor header X-REAL-IP
   option httpchk  GET /index.html
   balance  roundrobin
   server	linux-node2	10.0.1.106:8080	   check inter 2000 rise 3 fall 3 weight 1
[root@linux-node1 conf]#

重启服务

[root@linux-node1 conf]# /etc/init.d/haproxy restart
Restarting haproxy (via systemctl):                        [  确定  ]
[root@linux-node1 conf]# lsof -i:80
COMMAND   PID    USER   FD   TYPE  DEVICE SIZE/OFF NODE NAME
haproxy 48521 haproxy    5u  IPv4 1371377      0t0  TCP *:http (LISTEN)
[root@linux-node1 conf]#

　　

因为匹配后会连接到node2，这里就在node2上设置一个js文件，node1不做任何设置。

[root@linux-node2 ~]# echo 'test111' >/var/www/html/test.js
[root@linux-node2 ~]#

测试成功　

关于后端web节点记录检查日志的问题，因为我设置检查check inter 2000  ，也就是2秒发一次检查包。后端节点日志这里也能看到

[root@linux-node2 ~]# tail -f /var/log/httpd/access_log
10.0.1.105 - - [04/Mar/2017:00:35:46 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:48 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:50 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:52 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:54 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:56 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:35:58 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:36:00 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:36:02 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:36:04 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:36:06 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"
10.0.1.105 - - [04/Mar/2017:00:36:08 +0800] "GET /index.html HTTP/1.0" 200 24 "-" "-"

　　

关于怎么让后端apache不记录健康检查日志，以及如何记录真正的客户端IP，这里不做实验。