目录
一、LVS-DR数据包流向分析
二、LVS-DR中的ARP问题
三、DR模式、LVS负载均衡群集
(一)、数据包流向分析
(二)、DR模式的特点
四、LVS-DR负载均衡集群部署步骤
?总结
一、LVS-DR数据包流向分析
Director Server作为群集的访问入口,但不作为网关使用,后端服务器池中的Real Server与Director Server在同一个物理网络中,发送给客户机的数据包不需要经过Director Server。为了响应对整个群集的访问,DS与RS都需要配置有VIP地址。
每个Real Server上都有两个IP:VIP和RIP,但是VIP是隐藏的,就是不能提供解析等功能,只是用来做请求回复的源IP的,Director上只需要一个网卡,然后利用别名来配置两个IP:VIP和DIP,在DIR接收到客户端的请求后,DIR根据负载算法选择一台rs sever的网卡mac作为客户端请求包中的目标mac,通过arp转交给后端RS serve处理,后端再通过自己的路由网关回复给客户端。
1、Client 向目标 VIP 发出请求,Director(负载均衡器)接收。此时源MAC 地址为Client MAC地址,目标MAC地址为 调度器Director 的MAC地址。
2、Director 根据负载均衡算法选择 RealServer_1,不修改也不封装IP报文,而是将数据帧的MAC地址改为RealServer_1的MAC地址,然后在局域网上发送。此时源MAC地址为Director的MAC地址,目的MAC地址为RealServer_1的MAC地址。
3、RealServer_1收到这个帧,解封装后发现目标IP与本机匹配(RealServer事先绑定了VIP),于是处理这个报文。随后重新封装报文,将响应报文通过 lo 接口传送给物理网卡然后向外发出。此时源MAC地址为RealServer_1的MAC地址,目的MAC地址为Client的MAC地址。
4、Client将收到回复的报文。Client 认为得到正常的服务,而不会知道是哪一台服务器处理的。 注意:如果跨网段,则报文通过路由器经由Internet返回给用户。
二、LVS-DR中的ARP问题
? ??1、在LVS-DR负载均衡集群中,负载均衡与节点服务器都要配置相同的VIP地址。
? ? 2、在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱。
- 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同网络上,它们都会接收到ARP广播。
- 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。
3、对节点服务器进行处理,使其不响应针对VIP的ARP请求。 - 使用虚接口lo:0承载VIP地址
- 设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求
4、RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。 5、发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口的IP地址 6、路由器收到ARP请求后,将更新ARP表项 7、原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址 8、路由器根据ARP表项,会将新来的请求报文转发给RealServer,导致Director的VIP失效 解决方法: 对节点服务器进行处理,设置内核参数arp_announce=2:系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址。 9、解决ARP的两个问题的设置方法 修改 /etc/sysctl.conf 文件 net.ipv4.conf.lo.arp_ignore=1
net.ipv4.conf.lo.arp_announce=2
net.ipv4.conf.all.arp_ignore=1
net.ipv4.conf.all.arp_announce=2
三、DR模式、LVS负载均衡群集 (一)、数据包流向分析
(1)、客户端发送请求到Director Server (负载均衡器),请求的数据报文(源IP是CIP, 目标IP是VIP)到达内核空间。 (2)、Director Server和Real Server在同一个网络中,数据通过二层数据链路层来传输。 (3)、内核空间判断数据包的目标IP是本机VIP,此时IPVS (IP虚拟服务器) 比对数据包请求的服务是否是集群服务,是集群服务就重新封装数据包。修改源MAC地址为Director Server 的MAC地址,修改目标MAC地址为Real Server 的MAC地址,源IP地址与目标IP地址没有改变,然后将数据包发送给Real Server。 (4)、到达Real Server 的请求报文的MAC 地址是自身的MAC地址,就接收此报文。数据包重新封装报文 (源IP地址为VIP,目标IP为CIP),将响应报文通过 lo 接口传送给物理网卡然后向外发出。 (5) 、Real Server 直接将响应报文传送到客户端。
(二)、DR模式的特点
(1)、 Director Server 和Real Server 必须在同一-个物理网络中。 (2)、Real Server可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对RIP进行直接访问。 (3)、Director Server作为群集的访问入口,但不作为网关使用。 (4)、所有的请求报文经由Director Server, 但回复响应报文不能经过Director Server。 (5)、Real Server 的网关不允许指向Director Server IP,即 Real Server 发送的数据包不允许经过Director Server。 (6)、Real Server 上的 lo 接口配置 VIP的IP地址。
四、LVS-DR负载均衡集群部署步骤
环境准备
服务器??? ??????????????? IP地址配置??? ???????????? 需要的工具
主负载调度器(Director1) ens33:192.168.174.9?? ?? ipvsadm、keepalived(热备)
??????????????????????? ens33:0? 192.168.174.100
备负载调度器(Director2) ens33:192.168.174.17 ipvsadm、keepalived
??????????????????????? ens33:0? 192.168.174.100
web服务器1 ens33??????????????????????? 192.168.174.9
???????? ??? lo:0 (VIP):?????????????????????? 192.168.174.100 ?? ????httpd
web服务器2 ens33??????????????????????? 192.168.174.10
???????? ?? lo:0 (VIP):???????????????????????? 192.168.174.100???? ??? httpd
centos客户端????????????????????????????? 宿主机web浏览器
1、主备负载均衡器关闭防火墙和增强,ipvsadm、keepalived工具下载
2、主备负载均衡器修改网卡信息,修改内核参数
主
调整proc响应参数
由于LVS负载均衡器和各节点需要共用vip地址,应该关闭linux内核的重定向响应参数,不充当路由器(转发、重定向)
备用同理 但是重启网卡要用 systemctl restart network
3? 配置负载分配策略
主
备
启动脚本? 按主备顺序启动
赋权在启动
4? web站点服务器配置
route add -host 192.168.126.100 dev lo:0?? #禁锢路由
route -n??? #查看路由
主备同操作
安装httpd服务
?
调整内核的ARP响应参数以阻止更新VIP的MAC地址,避免冲突
?
?
?修改页面内容,并启动httpd服务
?配置keepalived? ??
cd /etc/keepalived/
cp keepalived.conf keepalived.conf.bak
vim keepalived.conf
global_defs {
router_id lvs_01
}
vrrp_instance vi_1 {
state MASTER
interface ens33
virtual_router_id 51
priority 110
advert_int 1
authentication {
auth_type PASS
auth_pass 6666
}
virtual_ipaddress {
192.168.174.100
}
}
virtual_server 192.168.174.100 80 {
lb_algo rr
lb_kind DR
persistence_timeout 6
protocol TCP
real_server 192.168.174.10 80 {
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 192.168.174.10 80 {
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
?备只用更改 mater 为 slave
?验证
?
关闭主??
?
?总结
keepalived作用
1、支持故障自动切换(Failover) 2、支持节点健康状态检查(Health Checking)
keepalived采用VRRP热备份协议实现Linux 服务器的多机热备功能 VRRP(虚拟路由冗余协议)是针对路由器的一种备份解决方案。
由多台路由器组成一个热备份组,通过共用的虚拟IP地址对外提供服务 每个热备组内同时只有一台主路由器提供服务,其他路由器处于冗余状态 若当前在线的路由器失效,则其他路由器会根据设置的优先级自动接替虚拟IP地址,继续提供服务 ?
|