lvs+keepalived负载均衡高可用集群的配置

时间:2022-12-22 15:01:34

Keepalive的介绍:KeepalivedLinux下一个轻量级的高可用解决方案,它与HeartBeatRoseHA实现的功能类似,都可以实现服务或者网络的高可用,但是又有差别:HeartBeat是一个专业的、功能完善的高可用软件,它提供了HA软件所需的基本功能,比如心跳检测和资源接管,监测集群中的系统服务,在群集节点间转移共享IP地址的所有者等,HeartBeat功能强大,但是部署和使用相对比较麻烦;与HeartBeat相比,Keepalived主要是通过虚拟路由冗余来实现高可用功能,虽然它没有HeartBeat功能强大,但Keepalived部署和使用非常简单,所有配置只需一个配置文件即可完成。这也是本章重点介绍Keepalived的原因。

 

二、Keepalived是什么:Keepalived起初是为LVS设计的,专门用来监控集群系统中各个服务节点的状态。它根据layer3, 4 & 5交换机制检测每个服务节点的状态,如果某个服务节点出现异常,或工作出现故障,Keepalived将检测到,并将出现故障的服务节点从集群系统中剔除,而在故障节点恢复正常后,Keepalived又可以自动将此服务节点重新加入到服务器集群中,这些工作全部自动完成,不需要人工干涉,需要人工完成的只是修复出现故障的服务节点。  Keepalived后来又加入了VRRP的功能,VRRPVirtual Router Redundancy Protocol(虚拟路由器冗余协议)的缩写,它出现的目的是为了解决静态路由出现的单点故障问题,通过VRRP可以实现网络不间断地、稳定地运行。因此,Keepalived一方面具有服务器状态检测和故障隔离功能,另一方面也具有HA cluster功能.下面详细介绍下VRRP协议的实现过程。

 

三、 VRRP协议与工作原理:在现实的网络环境中,主机之间的通信都是通过配置静态路由(默认网关)完成的,而主机之间的路由器一旦出现故障,通信就会失败,因此,在这种通信模式中,路由器就成了一个单点瓶颈,为了解决这个问题,就引入了VRRP协议。      熟悉网络的读者对VRRP协议应该并不陌生。它是一种主备模式的协议,通过VRRP可以在网络发生故障时透明地进行设备切换而不影响主机间的数据通信,这其中涉及两个概念:物理路由器和虚拟路由器。      VRRP可以将两台或多台物理路由器设备虚拟成一个虚拟路由器,这个虚拟路由器通过虚拟IP(一个或多个)对外提供服务,而在虚拟路由器内部,是多个物理路由器协同工作,同一时间只有一台物理路由器对外提供服务,这台物理路由器被称为主路由器(处于MASTER角色)。一般情况下MASTER由选举算法产生,它拥有对外服务的虚拟IP,提供各种网络功能,如ARP请求、ICMP、数据转发等。而其他物理路由器不拥有对外的虚拟IP,也不提供对外网络功能,仅仅接收MASTERVRRP状态通告信息,这些路由器被统称为备份路由器(处于BACKUP角色)。当主路由器失效时,处于BACKUP角色的备份路由器将重新进行选举,产生一个新的主路由器进入MASTER角色继续提供对外服务,整个切换过程对用户来说完全透明。

每个虚拟路由器都有一个唯一标识,称为VRID,一个VRID与一组IP地址构成了一个虚拟路由器。在VRRP协议中,所有的报文都是通过IP多播形式发送的,而在一个虚拟路由器中,只有处于MASTER角色的路由器会一直发送VRRP数据包,处于BACKUP角色的路由器只接收MASTER发过来的报文信息,用来监控MASTER运行状态,因此,不会发生BACKUP抢占的现象,除非它的优先级更高。而当MASTER不可用时,BACKUP也就无法收到MASTER发过来的报文信息,于是就认定MASTER出现故障,接着多台BACKUP就会进行选举,优先级最高的BACKUP将成为新的MASTER,这种选举并进行角色切换的过程非常快,因而也就保证了服务的持续可用性。

 

四、Keepalived工作原理:上节简单介绍了Keepalived通过VRRP实现高可用功能的工作原理,而Keepalived作为一个高性能集群软件,它还能实现对集群中服务器运行状态的监控及故障隔离。下面继续介绍下Keepalived对服务器运行状态监控和检测的工作原理。  Keepalived工作在TCP/IP参考模型的第三、第四和第五层,也就是网络层、传输层和应用层。根据TCP/IP参考模型各层所能实现的功能,Keepalived运行机制如下。  在网络层,运行着四个重要的协议:互连网协议IP、互连网控制报文协议ICMP、地址转换协议ARP以及反向地址转换协议RARPKeepalived在网络层采用的最常见的工作方式是通过ICMP协议向服务器集群中的每个节点发送一个ICMP的数据包(类似于ping实现的功能),如果某个节点没有返回响应数据包,那么就认为此节点发生了故障,Keepalived将报告此节点失效,并从服务器集群中剔除故障节点。 在传输层,提供了两个主要的协议:传输控制协议TCP和用户数据协议UDP。传输控制协议TCP可以提供可靠的数据传输服务,IP地址和端口,代表一个TCP连接的一个连接端。要获得TCP服务,须在发送机的一个端口上和接收机的一个端口上建立连接,而Keepalived在传输层就是利用TCP协议的端口连接和扫描技术来判断集群节点是否正常的。比如,对于常见的Web服务默认的80端口、SSH服务默认的22端口等,Keepalived一旦在传输层探测到这些端口没有响应数据返回,就认为这些端口发生异常,然后强制将此端口对应的节点从服务器集群组中移除。  在应用层,可以运行FTPTELNETSMTPDNS等各种不同类型的高层协议,Keepalived的运行方式也更加全面化和复杂化,用户可以通过自定义Keepalived的工作方式,例如用户可以通过编写程序来运行Keepalived,而Keepalived将根据用户的设定检测各种程序或服务是否允许正常,如果Keepalived的检测结果与用户设定不一致时,Keepalived将把对应的服务从服务器中移除。

 

server1:172.25.50.100 #keepalive主机master

server2:172.25.50.101 #keepalive主机slave

server3:172.25.50.102 #realserver主机

server4:172.25.50.103 #realserver主机

iptables: off  selinux:disabled

实验所需的软件: keepalived-1.1.20.tar.gz crmsh-1.2.6-0.rc2.2.1.x86_64.rpm pssh-2.3.1-2.1.x86_64.rpm

keepalived的安装 #原码安装

server1上:tar xzf  keepalived-1.1.20.tar.gz

cd keepalived.1.1.20

yum install openssl-devel popt-devel #解决安装时的依赖性

./configure --prefix=/usr/local/keepalived

make && make install  #安装完成

ln -s /usr/local/keepalived/etc/keepalived/rc.d/init.d/keepalived /etc/init.d/

ln -s /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/

ln -s /usr/local/keepalived/etc/keepalived /etc/

ln -s /usr/local/keepalived/sbin/keepalived/ /sbin/

vim /etc/keepalived/keepalived.conf

修改如下:

! Configuration File for keepalived

global_defs {

   notification_email {

   root@localhost #接收警报的 email 地址,可以添加多个

}

   notification_email_from server1.example.com #设置邮件的发送地址

   smtp_server 127.0.0.1 #设置 smtp server 地址

   smtp_connect_timeout 30   #设置连接 smtp 服务器超时时间

   router_id LVS_DEVEL load balancer #的标识 ID,用于 email 警报

   vrrp_check_adv_addr

}

vrrp_instance VI_1 {

    state MASTER #备机改为 BACKUP,此状态是由 priority 的值来决定的,当前priority 的值小于备机的值,那么将会失去 MASTER 状态

    interface eth0 #HA 监测网络接口

 

    virtual_router_id 51  #主、备机的 virtual_router_id 必须相同,取值 0-255

 

    priority 100   主机的优先级,备份机改为 50,主机优先级一定要大于备机

 

    advert_int 1   #主备之间的通告间隔秒数

 

    authentication {

        auth_type PASS   #设置验证类型,主要有 PASS AH 两种

 

        auth_pass 1111  #设置验证密码,在一个 vrrp_instance ,MASTER BACKUP 必须使用相同的密码才能正常通信

 

    }

    virtual_ipaddress {

          172.25.50.100  #设置虚拟 IP 地址,可以设置多个虚拟 IP 地址,每行一个

    }

}

 

virtual_server 172.25.50.100 443 {    定义虚拟服务器

    delay_loop 6   #每隔 6 秒查询 realserver 状态

    lb_algo rr   #lvs 调度算法,这里使用轮叫

    lb_kind DR   LVS 是用 DR 模式

#    persistence_timeout 50    #会话保持时间,单位是秒,这个选项对于动态网页是非常有

用的,为集群系统中 session 共享提供了一个很好的解决方案。有了这个会话保持功能,用户的

请求会被一直分发到某个服务节点,直到超过这个会话保持时间。需要注意的是,这个会话保

持时间,是最大无响应超时时间,也就是说用户在操作动态页面时,如果在 50 秒内没有执行任

何操作,那么接下来的操作会被分发到另外节点,但是如果一直在操作动态页面,则不受 50

的时间限制。

  TCP_CHECK {  #realserve 的状态检测设置部分,单位是秒

            connect_timeout 3  #10 秒无响应超时

            nb_get_retry 3   #重试次数

            delay_before_retry 3  #重试间隔

        }

    }

    real_server 172.25.50.4 80 {

        weight 1

        TCP_CHECK {

            connect_timeout 3

            nb_get_retry 3

            delay_before_retry 3

        }

    }

}

 

server2备机上:执行和server1同样的步骤

在配置文件/etc/keepalived/keepalived.conf

修改 state MASTER  state BACKUP  修改 priority 100 priority 50

server1主机上:yum install rpm-build -y

添加virtual ip:ip addr add 172.25.50.100 dev eth0

ipvsadm -A -t 172.25.50.100:80 -s rr

ipvsadm -a -t 172.25.50.100:80 -r 172.25.50.3:80 -g

ipvsadm -a -t 172.25.50.100:80 -r 172.25.50.4:80 -g

/etc/init.d/ipvsadm save #保存添加的测略

server3 LVS主机上:yum install arptables_jf

                     arptables -A IN -d 172.25.50.100 -j DROP

                     arptables -A OUT -s 172.25.50.100 -j mangle --mangle-ip-s 172.25.50.3

                     /etc/init.d/arptables save #保存添加的策略 使策略生效

                     arptables -nL #查看添加的策略

server4 LVS主机上:yum install arptables_jf -y

                     arptables -A IN -d 172.25.50.100 -j DROP

                     arptables -A OUT -s 172.25.50.100 -j mangle --mangle-ip-s 172.25.50.4

                   /etc/init.d/arptables save

 

 

server2 LVS主机上:ip addr add 172.25.50.100 dev eth0

server3 LVS主机上:ip addr add 172.25.50.100 dev eth0

ip addr show #查看添加的virtual ip

 

 

制作测试页:server3上:echo server3 > /var/www/html    然后重起服务:/etv/init.d/httpd restart

            server4上:echo server4 > /avr/www/html                  /etv/init.d/httpd restart

server1server2上:/etc/init.d/keepalived restart

测试:

访问virtual ip 127.25.50.100   F5会不断刷新server3server4httpd页面

1. 高可用测试:停止 master 上的 keepalived 服务,backup 是否接管。

2. 负载均衡测试:访问 http://172.25.50.100,看到页面在两个 realserver 上切换表示成功!

你也可以通过 ipvsadm -Lnc 查看详细连接情况!

3. 故障切换测试:任意关闭 realserver 上的 httpd 服务,Keepalived 监控模块是否能及时发现,

然后屏蔽故障节点,同时将服务转移到正常节点来执行。