linux cluster—-lvs

一. Linux Cluster：

    

     Cluster：计算机集合，为解决某个特定问题组合起来形成的单个系统；

     Linux Cluster类型：

         LB：Load Balancing，负载均衡；

         HA：High Availiablity，高可用；

             A=MTBF无故障运行时长/（MTBF无故障运行时长+MTTR故障时间）

             衡量指数: (0,1)：90%, 95%, 99%, 99.5%,  99.9%, 99.99%, 99.999%

     HP：High Performance，高性能；

    

     系统扩展方式：

     Scale UP：向上扩展

     Scale Out：向外扩展

    

    

二. LB  Cluster：

     LB Cluster的实现：

     硬件：

         F5 Big-IP

         Citrix Netscaler

         A10 A10

     软件：

         lvs：Linux Virtual Server

         nginx

         haproxy

         ats：apache traffic server (流量调度器)

         perlbal

         pound

    

     基于工作的协议层次划分：

         传输层（通用解决方案）：（DPORT）

             lvs：未涉及套接字,仅在内核中直接转发报文

             nginx：（stream）利用隧道机制,监听在指定端口,并分发流量,最多也仅支持65534个监听套接字

             haproxy：（mode tcp）

    

         应用层（专用解决方案）：（自定义的请求模型分类）

             proxy sferver：

             http：nginx, httpd, haproxy(mode http), …

             fastcgi：nginx, httpd, …

             mysql：mysql-proxy, …

             ..

    站点指标：

             PV：Page View

             UV：Unique Vistor

             IP：独立IP访问量

        

    会话保持：

             (1) session sticky

             Source IP

             Cookie

             (2) session replication;

             session cluster

             (3) session server

            注意: 集群中,全部主机的时间必须一致! 否则会出错,因此建议使用同一的时间服务器

            vim /etc/chrony.conf:

            在开头部分的server pool 中,注释其他时间服务器,添加指定的时间服务器:

            server 10.1.0.1 iburst

            保存后,重启chronyd.service

    三. lvs 简介

       1.

             lvs：Linux Virtual Server

             VS: Virtual Server

             RS: Real Server

             工作机制–l4：四层路由器，四层交换机；

             VS：根据请求报文的目标IP和目标协议及端口将其调度转发至某RealServer，

            根据调度算法来挑选RS；

            

            lvs机制类比:

             iptables/netfilter：

             iptables：用户空间的管理工具；

             netfilter：内核空间上的框架；

             流入：PREROUTING –> INPUT

             流出：OUTPUT –> POSTROUTING

             转发：PREROUTING –> FORWARD –> POSTROUTING

            

             DNAT：目标地址转换； PREROUTING；

        

        

       2. lvs: ipvsadm/ipvs

             ipvsadm：用户空间的命令行工具，规则管理器，用于管理集群服务及RealServer；

             ipvs：工作于内核空间的netfilter的INPUT钩子之上的框架；

            

      3. lvs集群类型中的术语：

                 vs：Virtual Server, Director, Dispatcher, Balancer

                 rs：Real Server, upstream server, backend server

            

                 CIP：Client IP,    VIP: Virtual serve IP,   RIP: Real server IP,    DIP: Director IP

            

      4.   数据报文流向:

             CIP <–> VIP == DIP <–> RIP

        

    四. lvs 集群类型详解

         1. lvs集群的类型：

             lvs-nat：修改请求报文的目标IP

             lvs-dr：操纵封装新的MAC地址；

             lvs-tun：在原请求IP报文之外新加一个IP首部；

             lvs-fullnat：修改请求报文的源和目标IP；

        

         2. lvs-nat：

             多目标IP的DNAT，通过将请求报文中的目标地址和目标端口修改为某挑出的RS的

            RIP和PORT实现转发；

             拓扑示意图:

        

                

            （1）RIP和DIP必须在同一个IP网络，且应该使用私网地址；RS的网关要指向DIP；

             （2）请求报文和响应报文都必须经由Director转发；Director易于成为系统瓶颈；

             （3）支持端口映射，可修改请求报文的目标PORT；

             （4）vs必须是Linux系统，rs可以是任意系统；

        

         3. lvs-dr：

          Direct Routing，直接路由；

           

             通过为请求报文重新封装一个MAC首部进行转发，源MAC是DIP所在的接口的

            MAC，目标MAC是某挑选出的RS的RIP所在接口的MAC地址；

            源IP/PORT，以及目标IP/PORT均保持不变；

            (此时,RS物理网卡地址为RIP, lo 网卡地址设置为VIP)

            

                

                

                vip与dip/rip不在同一网段的实现拓扑:

                         

           

          数据报文流向:

            client –>router–>sw–>DIrector–>RS—>sw–>router–>client

            

           Director和各RS都得配置使用VIP；

             (1) 确保前端路由器将目标IP为VIP的请求报文发往Director：

                实现方法:

                 (a) 在前端网关做静态绑定;

                 (b) 在RS上使用arptables；

                 (c) 在RS上修改内核参数以限制arp通告及应答级别；

                 arp_announce

                 arp_ignore

             (2) RS的RIP可以使用私网地址，也可以是公网地址；RIP与DIP在同一IP网络；

                RIP的网关不能指向DIP，以确保响应报文不会经由Director；

             (3) RS跟Director要在同一个物理网络；

             (4) 请求报文要经由Director，但响应不能经由Director，而是由RS直接发往

                Client；

                RS的响应报文,可以用原路由返回client,也可以从其他网关返回至client

                (注意: 路由转发报文时候,只关注目标IP,忽略源IP,因此RIP,VIP均不影响

                响应报文发送)

             (5) 不支持端口映射；

        

         4.lvs-tun：

             转发方式：不修改请求报文的IP首部（源IP为CIP，目标IP为VIP），而在原IP报

            文之外再封装一个IP首部（源IP是DIP，目标IP是RIP），将报文发往挑选出的目标RS；

            

             (1) DIP, VIP, RIP都应该是公网地址；

             (2) RS的网关不能，也不可能指向DIP；

             (3) 请求报文要经由Director，但响应不能经由Director；

             (4) 不支持端口映射；

             (5) RS的OS得支持隧道功能；

            

               

           5.lvs-fullnat：

             通过同时修改请求报文的源IP地址和目标IP地址进行转发；

             CIP –> DIP

             VIP –> RIP

            

             (1) VIP是公网地址，RIP和DIP是私网地址，且通常不在同一IP网络；

                因此，RIP的网关一般不会指向DIP；

             (2) RS收到的请求报文源地址是DIP，因此，只需响应给DIP；

                但Director还要将其发往Client；

             (3) 请求和响应报文都经由Director；

             (4) 支持端口映射；

            

             注意：此类型默认不支持；

        ————————————————————————————————-

    回顾：

     lvs类型：

     lvs-nat：通过修改请求报文的目标IP地址完成调度并转发；请求和响应报文都经由Director；

     lvs-dr：通过直接封装新的MAC首部完成调度并转发；仅请求报文经由Director；

     lvs-tun：通过在原IP报文首部之外新封装一个IP首部完成调度并转发；仅请求报文经由Director；

     lvs-fullnat：通过修改请求报文的目标IP地址和源IP地址完成调度并转发；请求和响应报文都经由Director；

    

     会话保持：

     session sticky, session replication, session server；

    

     lvs:

     ipvsadm/ipvs

     ————————————————————————————————

   

五.调度算法:

     ipvs scheduler：

     根据其调度时是否考虑各RS当前的负载状态，可分为静态方法和动态方法两种：

    

     静态方法：仅根据算法本身进行调度；

         RR：roundrobin，轮询；

         WRR：Weighted RR，加权轮询；

         SH：Source Hashing，实现session sticy，源IP地址hash；将来自于同一个IP地址的请求始终发往第一次挑中的RS，从而实现会话绑定；

         DH：Destination Hashing；目标地址哈希，将发往同一个目标地址的请求始终转发至第一次挑中的RS；

    

     动态方法：主要根据每RS当前的负载状态及调度算法进行调度；

         Overhead=

        

         LC：least connections

             Overhead=activeconns*256+inactiveconns

         WLC：Weighted LC

             Overhead=(activeconns*256+inactiveconns)/weight

         SED：Shortest Expection Delay

             Overhead=(activeconns+1)*256/weight

         NQ：Never Queue

        

         LBLC：Locality-Based LC，动态的DH算法；

         LBLCR：LBLC with Replication，带复制功能的LBLC；

    

   

六.ipvsadm/ipvs

     ipvsadm/ipvs：

     1. ipvs：内核集成的报文处理模块

         ~]# grep -i -C 10 "ipvs" /boot/config-3.10.0-327.el7.x86_64

        

         支持的协议：TCP， UDP， AH， ESP， AH_ESP, SCTP；

        

         ipvs集群：

         集群服务

         服务上的RS

    

     2. ipvsadm命令：

         ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]] [-M netmask] [–pe persistence_engine] [-b sched-flags]

         ipvsadm -D -t|u|f service-address

         ipvsadm -C

         ipvsadm -R

         ipvsadm -S [-n]

         ipvsadm -a|e -t|u|f service-address -r server-address [options]

         ipvsadm -d -t|u|f service-address -r server-address

         ipvsadm -L|l [options]

         ipvsadm -Z [-t|u|f service-address]

     管理集群服务：增、改、删；

         增、改：

         ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]

        

         删：

         ipvsadm -D -t|u|f service-address

        

         service-address：

         -t|u|f：

         -t: TCP协议的端口，VIP:TCP_PORT

         -u: TCP协议的端口，VIP:UDP_PORT

         -f：firewall MARK，是一个数字；

        

         [-s scheduler]：指定集群的调度算法，默认为wlc；

    

     管理集群上的RS：增、改、删；

         增、改：

         ipvsadm -a|e -t|u|f service-address -r server-address [-g|i|m] [-w weight]

        

         删：

         ipvsadm -d -t|u|f service-address -r server-address

        

         server-address：

         rip[:port]

            

         选项：

             lvs类型：

             -g: gateway, dr类型

             -i: ipip, tun类型

             -m: masquerade, nat类型

            

             -w weight：权重；

        

     清空定义的所有内容：

          ipvsadm -C

    

     查看：

         ipvsadm -L|l [options]

         –numeric, -n：numeric output of addresses and ports

         –exact：expand numbers (display exact values)

        

         –connection， -c：output of current IPVS connections

         –stats：output of statistics information

         –rate ：output of rate information

        

     保存和重载：

         ipvsadm -S = ipvsadm-save

         ipvsadm -R = ipvsadm-restore

        

         保存：建议保存至/etc/sysconfig/ipvsadm

         ipvsadm-save > /PATH/TO/IPVSADM_FILE

         ipvsadm -S > /PATH/TO/IPVSADM_FILE

         systemctl stop ipvsadm.service

        

         重载：

         ipvsadm-restore < /PATH/FROM/IPVSADM_FILE

         ipvsadm -R < /PATH/FROM/IPVSADM_FILE

         systemctl restart ipvsadm.service

七. lvs –nat  模型实例

     1.   负载均衡集群的设计要点：

         (1) 是否需要会话保持；

         (2) 是否需要共享存储；

         共享存储：NAS， SAN， DS（分布式存储）

         数据同步：

         课外作业：rsync+inotify实现数据同步

    

     2. lvs-nat：

    

         设计要点：

         (1) RIP与DIP在同一IP网络, RIP的网关要指向DIP；

         (2) 支持端口映射；

       

    

八. lvs-dr 模式实例

     lvs-dr：

     1. dr模型中，各主机上均需要配置VIP，解决地址冲突的方式有三种：

     (1) 在前端网关做静态绑定；

     (2) 在各RS使用arptables；

     (3) 在各RS修改内核参数，来限制arp响应和通告的级别；

         限制响应级别：arp_ignore

             0：默认值，表示可使用本地任意接口上配置的任意地址进行响应；

             1: 仅在请求的目标IP配置在本地主机的接收到请求报文接口上时，

                才给予响应；

         限制通告级别：arp_announce

             0：默认值，把本机上的所有接口的所有信息向每个接口上的网络进

                行通告；

             1：尽量避免向非直接连接网络进行通告；

             2：必须避免向非本网络通告；

    

    

     2.  RS的预配置脚本：

         #!/bin/bash

         #

         vip=10.1.0.5

         mask='255.255.255.255'

         case $1 in

         start)

         echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore

         echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore

         echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce

         echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce

         ifconfig lo:0 $vip netmask $mask broadcast $vip up

         route add -host $vip dev lo:0

         ;;

         stop)

         ifconfig lo:0 down

         echo 0 > /proc/sys/net/ipv4/conf/all/arp_ignore

         echo 0 > /proc/sys/net/ipv4/conf/lo/arp_ignore

         echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce

         echo 0 > /proc/sys/net/ipv4/conf/lo/arp_announce

         ;;

         *)

         echo "Usage $(basename $0) start|stop"

         exit 1

         ;;

         esac

        

     3.  VS的配置脚本：

         #!/bin/bash

         #

         vip='10.1.0.5'

         iface='eno16777736:0'

         mask='255.255.255.255'

         port='80'

         rs1='10.1.0.7'

         rs2='10.1.0.8'

         scheduler='wrr'

         type='-g'

         case $1 in

         start)

         ifconfig $iface $vip netmask $mask broadcast $vip up

         iptables -F

        

         ipvsadm -A -t ${vip}:${port} -s $scheduler

         ipvsadm -a -t ${vip}:${port} -r ${rs1} $type -w 1

         ipvsadm -a -t ${vip}:${port} -r ${rs2} $type -w 1

         ;;

         stop)

         ipvsadm -C

         ifconfig $iface down

         ;;

         *)

         echo "Usage $(basename $0) start|stop"

         exit 1

         ;;

         esac

    

九.FWM：FireWall Mark

     1. fwm: 借助于防火墙标记来分类报文，而后基于标记定义集群服务；可将多个不同的应用使

        用同一个集群服务进行调度；

    

     2. 打标记方法（在Director主机）：

         # iptables -t mangle -A PREROUTING -d $vip -p $proto –dport $port -j MARK

        –set-mark NUMBER

    

     3. 基于标记定义集群服务：

         # ipvsadm -A -f NUMBER [options]

    

    

十. lvs persistence

    lvs persistence：持久连接  (用于session 绑定)

    

     持久连接模板：实现无论使用任何算法，在一段时间内，实现将来自同一个地址的请求始终

    发往同一个RS；

    

     ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]

    

     5. port Affinity：

         每端口持久：每集群服务单独定义，并定义其持久性；

         每防火墙标记持久：基于防火墙标记定义持久的集群服务；可实现将多个端口上的应用

        统一调度，即所谓的port Affinity；

         每客户端持久：基于0端口定义集群服务，即将客户端对所有应用的请求统统调度至后

        端主机，而且可使用持久连接进行绑定；

    

    考虑：

     (1) Director不可用，整个系统将不可用；SPoF

     解决方案：高可用

     keepalived

     heartbeat/corosync

     (2) 某RS不可用时，Director依然会调度请求至此RS；

     解决方案：对各RS的健康状态做检查，失败时禁用，成功时启用；

     keepalived

     heartbeat/corosync, ldirectord

     检测方式：

     (a) 网络层检测；

     (b) 传输层检测，端口探测；

     (c) 应用层检测，请求某关键资源；

    

     ok –> failure

     failure –> ok