[网络协议]掌握Haproxy原理并搭建

四层：

• LVS：Linux Virtual Server

• Nginx：1.9版之后

• HAProxy：High Availability Proxy

七层:

• HAProxy

• Nginx

硬件：

• F5 F5 | 多云安全性和应用交付

• Netscaler Citrix ADC - 混合多云应用交付控制器 - Citrix China

• Array 北京华耀科技有限公司

• 深信服 深信服 - 让每个用户的数字化更简单、更安全

• 北京灵州 产品中心 > 链路负载均衡_北京灵州网络技术有限公司

1.HAProxy介绍

HAProxy是法国开发者威利塔罗(Willy Tarreau)在2000年使用C语言开发的一个开源软件，是一款具备高并发(一万以上)、高性能的TCP和HTTP负载均衡器，支持基于cookie的持久性，自动故障切换，支持正则表达式及web状态统计，目前最新TLS版本为2.2。

HAProxy是可提供高可用性、负载均衡以及基于TcP和HTTP应用的代理，是免费、快速并且可靠的一种解决方案。HProxy非常适用于并发大(并发达1w以上) web站点，这些站点通常又需要会话保持或七层处理。HAProxy的运行模式使得它可以很简单安全的整合至当前的架构中，同时可以保护web服务器不被暴露到网络上。

支持功能

• TCP 和 HTTP反向代理

• SSL/TSL服务器

• 可以针对HTTP请求添加cookie，进行路由后端服务器

• 可平衡负载至后端服务器，并支持持久连接

• 支持所有主服务器故障切换至备用服务器

• 支持专用端口实现监控服务

• 支持停止接受新连接请求，而不影响现有连接

• 可以在双向添加，修改或删除HTTP报文首部

• 响应报文压缩

• 支持基于pattern实现连接请求的访问控制

• 通过特定的URI为授权用户提供详细的状态信息

2.HAProxy的主要特性有:

1. 可靠性和稳定性非常好，可以与硬件级的F5负载均衡设备相媲美;

2. 最高可以同时维护40000-50000个并发连接，单位时间内处理的最大请求数为20000个，最大处理能力可达10Git/s;

3. 支持多达8种负载均衡算法,同时也支持会话保持;

4. 支持虚拟机主机功能，从而实现web负载均衡更加灵活;

5. 支持连接拒绝、全透明代理等独特的功能;

6. 拥有强大的ACL支持,用于访问控制;

7. 其独特的弹性二义树数据结构，使数据结构的复杂性上升到了0(1)，即数据的查寻速度不会随着数据条日的增加而速度有所下降;·支持客户端的keepalive功能，减少客户端与haproxy的多次三次握手导致资源浪费，让多个请求在一个tcp连接中完成;

8. 支持TCP加速,零复制功能,类似于mmap机制;

9. 支持响应池(response buffering) ;

10. 支持RDP协议;

11. 基于源的粘性，类似nginx的ip hash功能，把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器;·更好统计数据接口，其web接口显示后端集群中各个服务器的接收、发送、拒绝、错误等数据的统计信息;

12. 详细的健康状态检测，web接口中有关于对上游服务器的健康检测状态，并提供了一定的管理功能;

13. 基于流量的健康评估机制;

14. 基于http认证;

15. 基于命令行的管理接口;

16. 日志分析器,可对日志进行分析。

3.HAProxy负载均衡策略非常多,常见的有如下8种:

(1) roundrobin，表示简单的轮询

(2) static-rr，表示根据权重

(3)leastconn，表示最少连接者先处理

(4) source，表示根据请求源IP

(5) uri，表示根据请求的URI,做cdn需使用;

(6) url param，表示根据请求的URl参数' balance url param’requires an URL parameter name

(7) hdr(name)，表示根据HTTP请求头来锁定每一次HTTP请求;

(8)rdp-cookie (name)，表示根据据cookie(name)来锁定并哈希每一次TCP请求。

4.LVS、Nginx、HAproxy的区别:

1. IVS基于Linux操作系统实现软负载均衡，而HAProxy和Nginx是基于第三方应用实现的软负载均衡;

2. LVS是可实现4层的IP负载均衡技术，无法实现基于目录、URL的转发。而HAProxy和Nginx都可以实现4层和7层技术，HAProxy可提供TCP和HTTP应用的负载均衡综合解决方案;

3. LVs因为工作在TCP模型的第四层，其状态监测功能单一，而HAProxy在状态监测方面功能更丰富、强大，可支持端口、URI等多种状态检测方式;

4. HAProxy功能强大,但整体性能低于4层模式的IVS负载均衡。

5. Ngrinx主要用于web服务器或缓存服务器。Nginx的upstream模块虽然也支持群集功能，但是对群集节点健康检查功能不强，性能没有Haproxy好。

5.操作步骤

环境：

1. Haproxy服务器：192.168.241.133
2. Nginx 服务器1：192.168.241.129
3. Nginx 服务器2：192.168.241.136

配置Nginx 服务器1：192.168.59.129

1. #关闭防火墙
systemctl stop firewalld
setenforce 0
 
2. #安装依赖关系包
yum -y install pcre-devel zlib-devel gcc gcc-c++ make
 
3. #新建用户和组便于管理
useradd -M -s /sbin/nologin nginx
 
4. #切换至opt目录，将下载好的压缩包传进来解压
cd /opt
tar -zxf nginx-1.12.0.tar.gz

?

?

5. #切换至解压后的目录下编译
cd nginx-1.12.0
 
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-http_stub_status_module
 
6. #安装
make && make install -j4
 
7. #做软连接，让系统识别nginx的操作命令
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 
8. #将nginx命令加入服务
cd /lib/systemd/system
vim nginx.service
#!/bin.bash
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecReload=/usr/bin/kill -s HUP $MAINPID
ExecStop=/usr/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target

?

9. #创建站点目录
echo "this is 102 web" > /usr/local/nginx/html/index.html 
cat /usr/local/nginx/html/index.html

?

10. #重新加载单元.启动服务
systemctl daemon-reload 
systemctl start nginx
 
11. #查看是否能成功启动
ss -ntap|grep nginx
http://192.168.241.129/

?

?

部署服务器2（192.168.241.133）

1. #关闭防火墙
systemctl stop firewalld
setenforce 0
 
2. #安装依赖关系包
yum -y install pcre-devel zlib-devel gcc gcc-c++ make
 
3. #新建用户和组便于管理
useradd -M -s /sbin/nologin nginx
 
4. #切换至opt目录，将下载好的压缩包传进来解压
cd /opt
tar -zxf nginx-1.12.0.tar.gz

?

?

5. #切换至解压后的目录下编译
cd nginx-1.12.0
 
./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx \
--with-http_stub_status_module
 
6. #安装
make && make install -j4
 
7. #做软连接，让系统识别nginx的操作命令
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 
8. #将nginx命令加入服务
cd /lib/systemd/system
vim nginx.service
#!/bin.bash
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecReload=/usr/bin/kill -s HUP $MAINPID
ExecStop=/usr/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target

?

?

9. #创建站点目录
echo "this is wx666 web" > /usr/local/nginx/html/index.html 
cat /usr/local/nginx/html/index.html

11. #查看是否能成功启动
ss -ntap|grep nginx
http://192.168.241.133/

?

?

部署haproxy服务器（192.168.241.136）

1. #关闭防火墙，将安装Haproxy所需软件包传到/opt目录下
systemctl stop firewalld
setenforce 0
 
 
2. #安装依赖软件
yum install -y pcre-devel bzip2-devel gcc gcc-c++ make
 
3. #解压安装包，并切换至该软件包
cd /opt
tar zxf haproxy-1.4.24.tar.gz 
cd haproxy-1.4.24/

??

4. #编译安装Haproxy
make TARGET=linux2628 ARCH=x86_64
make install
####################参数说明###################
TARGET=linux26 #内核版本，
#使用uname -r查看内核，如：2.6.18-371.el5，此时该参数用TARGET=linux26；kernel大于2.6.28的用TARGET=linux2628
ARCH=x86_64 #系统位数，64位系统
 
5. #Haproxy服务器配置
mkdir /etc/haproxy
cp examples/haproxy.cfg /etc/haproxy/
 
cd /etc/haproxy/
vim haproxy.cfg
global
--4~5行--修改，配置日志记录，local0为日志设备，默认存放到系统日志
        log /dev/log ? local0 info      
 ? ? ?  log /dev/log ? local0 notice
 ? ? ?  #log loghost ?  local0 info
 ? ? ?  maxconn 4096                    #最大连接数，需考虑ulimit -n限制
--8行--注释，chroot运行路径，为该服务自设置的根目录，一般需将此行注释掉
 ? ? ?  #chroot /usr/share/haproxy
 ? ? ?  uid 99                          #用户UID
 ? ? ?  gid 99                          #用户GID
 ? ? ?  daemon                          #守护进程模式
 
defaults ? ? ? ?
        log ? ? global                  #定义日志为global配置中的日志定义
 ? ? ?  mode ?  http                    #模式为http
 ? ? ?  option  httplog                 #采用http日志格式记录日志
 ? ? ?  option  dontlognull             #不记录健康检查日志信息
 ? ? ?  retries 3                       #检查节点服务器失败次数，连续达到三次失败，则认为节点不可用
 ? ? ?  redispatch                      #当服务器负载很高时，自动结束当前队列处理比较久的连接
 ? ? ?  maxconn 2000                    #最大连接数
 ? ? ?  contimeout ? ?  5000            #连接超时时间
 ? ? ?  clitimeout ? ?  50000           #客户端超时时间
 ? ? ?  srvtimeout ? ?  50000           #服务器超时时间
 
--删除下面所有listen项--，添加
listen  webcluster 0.0.0.0:80           #定义一个名为webcluster的应用
 ? ? ?  option httpchk GET /index.html  #检查服务器的index.html文件
 ? ? ?  balance roundrobin              #负载均衡调度算法使用轮询算法roundrobin
 ? ? ?  server inst1 192.168.241.129:80 check inter 2000 fall 3     #定义在线节点
 ? ? ?  server inst2 192.168.241.133:80 check inter 2000 fall 3
        
        
        
##########################参数说明########################
balance roundrobin #负载均衡调度算法
#轮询算法：roundrobin；最小连接数算法：leastconn；来源访问调度算法：source，类似于nginx的ip_hash
 
check inter 2000 #表示haproxy服务器和节点之间的一个心跳频率
fall3 #表示连续三次检测不到心跳频率则认为该节点失效
若节点配置后带有“backup”表示该节点只是个备份节点，只有主节点失效该节点才会上。不携带“backup”，表示为主节点，和其它主节点共同提供服务。

6. #添加haproxy系统服务
cp /opt/haproxy-1.5.18/examples/haproxy.init /etc/init.d/haproxy
cd /etc/init.d/
chmod +x haproxy 
chkconfig --add /etc/init.d/haproxy 
ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy
service haproxy start
 
7. #在客户端测试
在客户端使用浏览器打开 http://192.168.241.136/test.html ，不断刷新浏览器测试负载均衡效果

?

?

6.日志问题

HAproxy本身不记录客户端的访问日志.此外为减少服务器负载,一般生产中HAProxy不记录日志.

也可以配置HAProxy利用rsyslog服务记录日志到指定日志文件中

#在global配置项定义：
log 127.0.0.1 local{1-7} info #基于syslog记录日志到指定设备，级别有(err、warning、
info、debug)
listen web_port
 bind 127.0.0.1:80
 mode http
 log global #开启当前web_port的日志功能，默认不记录日
志
 server web1 ?127.0.0.1:8080 check inter 3000 fall 2 rise 5
 ?
# systemctl restart haproxy

vim /etc/rsyslog.conf 
$ModLoad imudp
$UDPServerRun 514
......
local3.* ? /var/log/haproxy.log
......
# systemctl restart rsyslog

[root@localhost ~]#vim /etc/rsyslog.conf
14 # Provides UDP syslog reception
15 $ModLoad imudp
16 $UDPServerRun 514
# systemctl restart rsyslog
service haproxy restart