部署负载均衡：LVS-DR群集（直连路由模式）

文章目录

部署负载均衡：LVS-DR群集（直连路由模式）
- 一、LVS-DR数据包流向分析
- 二、LVS-DR中的ARP问题
- 三、LVS 负载均衡群集-DR模式
- - 1.数据包流量分析
  - 2.DR 模式的特点
- 四、LVS-DR负载均衡集群部署步骤
- - 1、配置负载调度器(192.168.171.7)
  - - （1）配置虚拟 IP 地址)（VIP:192.168.171.199）
    - （2）调整proc响应参数
    - （3）配置负载分配策略
  - 2、部署共享存储（NFS服务器：192.168.171.14）
  - 3、配置节点服务器（192.168.171.4、192.168.171.17）
  - - （1）配置虚拟 IP 地址（VIP：192.168.171.199）两个服务器都要配置
    - （2）调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突
    - （3）测试LVS群集

一、LVS-DR数据包流向分析

为方便进行原理分析，将Client与群集机器放在同一网络中，数据包流经的路线为1-2-3-4

1、Client 向目标 VIP 发出请求，Director（负载均衡器）接收。
此时源MAC 地址为Client MAC地址，目标MAC地址为调度器Director 的MAC地址。

2、Director 根据负载均衡算法选择 RealServer_1，不修改也不封装IP报文，而是将数据帧的MAC地址改为RealServer_1的MAC地址，然后在局域网上发送。
此时源MAC地址为Director的MAC地址，目的MAC地址为RealServer_1的MAC地址。

3、RealServer_1收到这个帧，解封装后发现目标IP与本机匹配（RealServer事先绑定了VIP），于是处理这个报文。随后重新封装报文，将响应报文通过 lo 接口传送给物理网卡然后向外发出。
此时源MAC地址为RealServer_1的MAC地址，目的MAC地址为Client的MAC地址。

4、Client将收到回复的报文。Client 认为得到正常的服务，而不会知道是哪一台服务器处理的。
注意：如果跨网段，则报文通过路由器经由Internet返回给用户。

二、LVS-DR中的ARP问题

1、在LVS-DR负载均衡集群中，负载均衡与节点服务器都要配置相同的VIP地址。

2、在局域网中具有相同的IP地址，势必会造成各服务器ARP通信的紊乱。

当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同网络上，它们都会接收到ARP广播。
只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播。

3、对节点服务器进行处理，使其不响应针对VIP的ARP请求。

使用虚接口lo:0承载VIP地址
设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求

4、RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址。

5、发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址

如：ens33

6、路由器收到ARP请求后，将更新ARP表项

7、原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址

8、路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效
解决方法：

对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址。

9、解决ARP的两个问题的设置方法

修改 /etc/sysctl.conf 文件

添加

net.ipv4.conf.lo.arp_ignore=1

net.ipv4.conf.lo.arp_announce=2

net.ipv4.conf.all.arp_ignore=1

net.ipv4.conf.all.arp_announce=2

三、LVS 负载均衡群集-DR模式

1.数据包流量分析

客户端发送请求到 Director Server (负载均衡器)，请求的数据报文(源 IP 是 CIP, 目标IP是 VIP)到达内核空间
Director Server和Real Server 在同一个网络中，数据通过二层数据链路层来传输
内核空间判断数据包的目标 IP 是本机 VIP，此时 IPVS (IP 虚拟服务器)比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源 MAC 地址为 Director Server 的 MAC 地址，修改目标 MAC 地址为 Real Server 的 MAC 地址，源 IP 地址与目标 IP 地址没有改变，然后将数据包发送给 Real Server
到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址，就接收此报文；数据包重新封装报文(源 IP 地址为 VIP，目标 IP 为 CIP)，将响应报文通过 lo 接口传送给物理网卡然后向外发出
Real Server 直接将响应报文传送到客户端

2.DR 模式的特点

Director Server 和 Real Server 必须在同一个物理网络中
Real Server 可以使用私有地址，也可以使用公网地址；如果使用公网地址，可以通过互联网对 RIP 进行直接访问
Director Server 作为群集的访问入口，但不作为网关使用
所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server
Real Server 的网关不允许指向 Director Server IP，即 Real Server 发送的数据包不允许经过 Director Server
Real Server 上的 lo 接口配置 VIP 的 IP 地址

四、LVS-DR负载均衡集群部署步骤

搭建环境：
DR 服务器（负载调度器）（centos7-1）：192.168.171.7
Web 服务器1（centos7-2）：192.168.171.4
Web 服务器2（centos7-3）：192.168.171.17
NFS服务器（server1）：192.168.171.14
VIP：192.168.171.199
Windows10客户端：192.168.171.100

1、配置负载调度器(192.168.171.7)

准备环境

systemctl stop firewalld.service

systemctl disable firewalld.service

setenforce 0

modprobe ip_vs         #加载ip_vs模块

cat /proc/net/ip_vs    #查看ip_vs版本信息

yum install -y ipvsadm

（1）配置虚拟 IP 地址)（VIP:192.168.171.199）

为网卡绑定VIP地址

cd /etc/sysconfig/network-scripts/

cp ifcfg-ens33 ifcfg-ens33:0

vim ifcfg-ens33:0

#清空原有配置，添加以下内容

DEVICE=ens33:0

ONBOOT=yes

IPADDR=192.168.171.199

NETMASK=255.255.255.255

ifup ens33:0

#开启虚拟 ip

ifconfig ens33:0

#查看虚拟 ip

（2）调整proc响应参数

#由于 LVS 负载调度器和各节点需要共用 VIP 地址，应该关闭Linux 内核的重定向参数响应，不充当路由器，

vim /etc/sysctl.conf

添加

net.ipv4.ip_forward = 0

net.ipv4.conf.all.send_redirects = 0

net.ipv4.conf.default.send_redirects = 0

net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

（3）配置负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm

或

ipvsadm --save > /etc/sysconfig/ipvsadm

systemctl start ipvsadm

ipvsadm -C

#清除原有策略

ipvsadm -A -t 192.168.171.199:80 -s rr

ipvsadm -a -t 192.168.171.199:80 -r 192.168.171.4:80 -g

ipvsadm -a -t 192.168.171.199:80 -r 192.168.171.17:80 -g

#若使用隧道模式，则结尾处 -g 替换为 -i

ipvsadm

ipvsadm -ln

#查看节点状态，Route代表 DR模式

2、部署共享存储（NFS服务器：192.168.171.14）

systemctl stop firewalld.service

systemctl disable firewalld.service

setenforce 0

yum install -y nfs-utils rpcbind

systemctl start nfs.service

systemctl start rpcbind.service

systemctl enable nfs.service

systemctl enable rpcbind.service

mkdir /opt/ypy /opt/555

chmod 777 /opt/ypy/ /opt/555/

vim /etc/exports

/usr/share *(ro,sync)

/opt/xcf 192.168.126.0/24(rw,sync)

/opt/zxc 192.168.126.0/24(rw,sync)

exportfs -rv

showmount -e

3、配置节点服务器（192.168.171.4、192.168.171.17）

systemctl stop firewalld.service

systemctl disable firewalld.service

setenforce 0

#将两个节点服务器的网关和DNS注释掉后重启网卡，如果有网关服务器则指向网关服务器

（1）配置虚拟 IP 地址（VIP：192.168.171.199）两个服务器都要配置

#此地址仅用做发送 Web 响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）

#因此使用虚接口 lo:0 来承载 VIP 地址，并为本机添加一条路有记录，将访问 VIP 的数据限制在本地，以避免通信紊乱

cd /etc/sysconfig/network-scripts/

cp ifcfg-lo ifcfg-lo:0

vim ifcfg-lo:0

更改内容该注释的注释

DEVICE=lo:0

IPADDR=192.168.171.199

NETMASK=255.255.255.255

#注意，此处子网掩码必须全为1

#NETWORK=127.0.0.0

# If you're having problems with gated making 127.0.0.0/8 a martian,

# you can change this to something else (255.255.255.255, for example)

#BROADCAST=127.255.255.255

ONBOOT=yes

#NAME=loopback

ifup lo:0

ifconfig lo:0

route add -host 192.168.171.199 dev lo:0

#禁锢路由

route -n

#查看路由

vim /etc/rc.local

#添加VIP本地访问路由

/sbin/route add -host 192.168.171.199 dev lo:0

chmod +x /etc/rc.d/rc.local

（2）调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突

vim /etc/sysctl.conf

......

net.ipv4.conf.lo.arp_ignore = 1   #系统只响应目的IP为本地IP的ARP请求

net.ipv4.conf.lo.arp_announce = 2  #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

net.ipv4.conf.all.arp_ignore = 1

net.ipv4.conf.all.arp_announce = 2

sysctl -p

或者

echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore

echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce

echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore

echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce

yum install -y nfs-utils rpcbind httpd

systemctl start rpcbind

systemctl start httpd

在节点服务器上挂载相应目录

----------192.168.171.4-----------------

mount.nfs 192.168.171.14:/opt/ypy /var/www/html/

echo 'Hello ypy' > /var/www/html/index.html

#设为自动挂载

vim /etc/fstab

192.168.171.14:/opt/ypy /var/www/html nfs defaults,_netdev 0 0

mount -a

----------192.168.171.17-----------------

mount.nfs 192.168.171.14:/opt/555 /var/www/html/

echo 'hello 555' > /var/www/html/index.html

#设为自动挂载

vim /etc/fstab

192.168.171.14:/opt/555 /var/www/html nfs defaults,_netdev 0 0

mount -a

（3）测试LVS群集

用虚拟机win10作为客户端（网关设置为指向192.168.171.199）

在浏览器中访问http://192.168.171.199

可以看到真正的服务器的网页信息，过一会刷新会变更内容，有冷却时间