集群与分布式

集群的含义

Cluster，集群、群集,为处理某个特定问题将多台核算机组合起来形成的单个体系
由多台主机构成，但对外只表现为一个全体

问题

互联网运用中，随着站点对硬件性能、呼应速度、服务稳定性、数据可靠性等要求越来越高，单台服务器现已无法满意负载均衡及高可用的要求

处理方法

运用价格昂贵的小型机、大型机
运用多台相对廉价的一般服务器构建服务群集

经过整合多台服务器，运用LVS来到达服务器的高可用和负载均衡，并以同一个IP地址对外供给相同的服务。

在企业中常用的一种群集技能——LVS (Linux Virtual Server，Linux虚拟服务器)

企业群集分类

负载均衡群集
高可用群集
高性能运算群集。

负载均衡群集(Load Balance cluster)

LB： Load Balancing，负载均衡，多个主机组成，每个主机只承担一部分拜访恳求

进步运用体系的呼应才能、尽可能处理更多的拜访恳求、削减推迟为方针，取得高并发、高负载（LB）的全体性能
Lb的负载分配依赖于主节点的分流算法，将来自客户机的拜访恳求分担给多个服务器节点，然后缓解整个体系的负载压力.例如，“dns轮询”“反向署理”等“

高可用群集

HA： High Availiablity，高可用，防止 SPOF（single Point Of failure）

进步运用体系的可靠性、尽可能地削减中断时刻为方针，保证服务的连续性，到达高可用（HA）的容错效果
HA的作业方法包含双工和主从两种方法

高性能运算群集

HPC： High-performance computing，高性能

进步运用体系的CPU运算速度、扩展硬件资源和剖析才能为方针，取得相当于大型、超级核算机的高性能运算（HPC）才能
高性能依赖于“分布式运算”、“并行核算”，经过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，完成只有大型、超级核算机才具有的核算才能

负载均衡集群架构

第一层，负载调度器（Load Balancer或Director）

拜访整个群集体系的仅有进口，对外运用一切服务器共有的VIP地址，也称为群集IP地址。通常会装备主、备两台调度器完成热备份，当主调度器失效以后能够滑润替换至备用调度器，保证高可用性。

第二层，服务器池（Server Pool）

群集所供给的运用服务、由服务器池承担，其中每个节点具有独立的RIP地址（实在IP），只处理调度器分发过来的客户机恳求。当某个节点暂时失效时，负载调度器的容错机制会将其隔离，等待过错排除以后再重新纳入服务器池。

第三层，同享存储（Share Storage）

为服务器池中的一切节点供给稳定、共同的文件存取服务，保证整个群集的统一性。同享存储能够运用NAS设备，或许供给NFS同享服务(一种协议)的专用服务器。

LVS作业方法和相关命令

Linux Virtual Server

针对Linux内核开发的负载均衡处理方
1998年5月，由我国的章文嵩博士创立
官方网站: www.linuxvirtualserver.org/
LVS 实际上相当于依据IP地址的虚拟化运用，为依据IP地址和内容恳求分发的负载均衡提出了一种高效的处理方法

LVS现在已成为Linux内核的一部分，默许编译为ip_vs模块，必要时能够主动调用。在CentOS 7体系中，以下操作能够手动加载ip_vs模块，并检查当前体系中ip_vs模块的版别信息

 [root@localhost ~]# modprobe ip_vs     #加载ip_vs模块
 [root@localhost ~]# cat /proc/net/ip_vs  #检查ip_vs信息
 IP Virtual Server version 1.2.1 (size=4096)
 Prot LocalAddress:Port Scheduler Flags
   -> RemoteAddress:Port Forward Weight ActiveConn InActConn

检查ip_vs模块的子模块

 [root@localhost ~]# cd /usr/lib/modules/3.10.0-693.el7.x86_64/kernel/net/netfilter/ipvs/
 [root@localhost ipvs]# ls
 ip_vs_dh.ko.xz  ip_vs.ko.xz    ip_vs_lblcr.ko.xz  ip_vs_nq.ko.xz    ip_vs_rr.ko.xz  ip_vs_sh.ko.xz  ip_vs_wrr.ko.xz
 ip_vs_ftp.ko.xz  ip_vs_lblc.ko.xz  ip_vs_lc.ko.xz   ip_vs_pe_sip.ko.xz  ip_vs_sed.ko.xz  ip_vs_wlc.ko.xz

留意：lvs只能做4层署理，也便是ip:端口进行转发

LVS的负载调度算法

轮询(Round Robin)

将收到的拜访恳求按照次序轮流分配给群会集的各节点（实在服务器），均等地对待每一台服务器，而不管服务器实际的衔接数和体系负载

加权轮询(Weighted Round Robin)

依据调度器设置的权重值来分发恳求，权重值高的节点优先取得使命，分配的恳求数越多
保证性能强的服务器承担更多的拜访流量

最少衔接(Least Connections)

依据实在服务器已树立的衔接数进行分配，将收到的拜访恳求优先分配给衔接数最少的节点

加权最少衔接(WeightedLeastConnections)

在服务器节点的性能差异较大时，能够为实在服务器主动调整权重
性能较高的节点将承担更大比例的活动衔接负载

IP_Hash

依据恳求来源的IP地址进行Hash核算，得到后端服务器
这样来自同一个IP的恳求总是会落到同一台服务器上处理，以致于能够将恳求上下文信息存储在这个服务器上

url_hash

按拜访url的hash结果来分配恳求，使每个url定向到同一个后端服务器
后端服务器为缓存时比较有用

fair

选用的不是内建负载均衡运用的轮换的均衡算法
而是能够依据页面大小、加载时刻长短智能的进行负载均衡
也便是依据后端服务器时刻来分配用户恳求，呼应时刻短的优先分配

ipvsadm功用与选项阐明

ipvsadm是LVS的管理工具

选项	功用
-A	增加虚拟服务器
-D	删除整个虚拟服务器
-s	指定负载调度算法（轮询：rr、加权轮询：wrr、最少衔接：lc、加权最少衔接：wlc）
-a	表明增加实在服务器（节点服务器）
-d	删除某一个节点
-t	指定 VIP地址及 TCP端口
-r	指定 RIP地址及 TCP端口
-m	表明运用 NAT群集方法
-g	表明运用 DR方法
-i	表明运用 TUN方法
-w	设置权重（权重为 0 时表明暂停节点）
-p 60	表明坚持长衔接60秒
-l	列表检查 LVS 虚拟服务器（默许为检查一切）
-n	以数字方法显示地址、端口等信息，常与“-l”选项组合运用。ipvsadm -ln

负载均衡群集作业方法剖析

负载均衡群集是目前企业用得最多的群集类型

群集的负载调度技能有三种作业方法

地址转化（NAT方法）
IP地道（TUN方法）
直接路由（DR方法）

1. 地址转化（NAT方法）

类似于防火墙的私有网络结构，负载调度器作为一切服务器节点的网关，即作为客户机的拜访进口，也是各节点回应客户机的拜访出口
服务器节点运用私有iP地址，与调度器坐落同一个物理网络，安全性要优于其他两种方法
长处：集群中的服务器能够运用任何支撑TCP/IP的操作体系，只需负载均衡器有一个合法的IP地址。
缺陷：扩展性有限，当服务器节点增加过多时，因为一切的恳求和应对都需求经过负载均衡器，因此负载均衡器将成为整个体系的瓶颈。

IP地道（TUN方法）

选用开放式的网络结构，负载调度器仅作为客户机的访向进口，各节点经过各自的Internet衔接直接回应客户机，而不再经过负载调度器
服务器节点涣散在互联网中的不同位置，具有独立的公网IP地址，经过专用IP地道与负载调度器彼此通信
长处：负载均衡器只担任将恳求包分发给后端节点服务器，而RS将应对包直接发给用户。所以，削减了负载均衡器的很多数据活动，负载均衡器不再是体系的瓶颈，也能处理很巨大的恳求量。
缺陷：地道方法的RS节点需求合法IP，这种方法需求一切的服务器支撑“IP Tunneling”。

直接路由（DR方法）

选用半开放式的网络结构，与TUN方法的结构类似，但各节点并不是涣散在各地，而是与调度器坐落同一个物理网络
负载调度器与各节点服务器经过本地网络衔接，不需求树立专用的IP地道
长处：负载均衡器只担任将恳求包分发给后端节点服务器，而RS将应对包直接发给用户。所以，削减了负载均衡器的很多数据活动，负载均衡器不再是体系的瓶颈，也能处理很巨大的恳求量。
缺陷：需求负载均衡器与实在服务器RS都有一块网卡衔接到同一物理网段上，有必要在同一个局域网环境。

LVS-nat群集布置

LVS调度器作为Web服务器池的网关，LVS两块网卡，别离衔接内外网，运用轮询(rr)调度算法

布置过程

1．加载ip_vs模块，装置ipvsadm工
2．开启路由转发
3．新建LVS虚拟服务器并增加节点服务器
4．装备节点服务器树立
- 测试网站
- 挂载NFS同享存储
- 树立测试网页
5．保存规则并测试

环境

LVS负载调度器：ens33：192.168.1.12 ens37：10.0.0.1
Web1 节点服务器1：192.168.1.10
Web2 节点服务器2：192.168.1.11
NFS服务器：192.168.1.128
客户端（win10）：10.0.0.12

布置nfs同享存储

ip：192.168.1.128

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install -y nfs-utils rpcbind
#装置nfs-utils、rpcbind软件包

systemctl start rpcbind.service
systemctl start nfs.service 
systemctl enable rpcbind.service 
systemctl enable nfs.service 
#开启nfs和rpcbind

mkdir /opt/lwx /opt/wyn                              #创立两个文件夹
echo '<h1>This is lwx <h1>' >/opt/lwx/index.html     #写入lwx
echo '<h1>This is wyn <h1>' >/opt/wyn/index.html     #写入wyn
chmod 777 /opt/lwx /opt/wyn                          #授权
#创立两个文件夹放置两个html测试文件

vim /etc/exports        #设置nfs同享战略，写入以下内容
/usr/share *(ro,sync) 
/opt/lwx 192.168.1.0/24(rw,sync) 
/opt/wyn 192.168.1.0/24(rw,sync)
exportfs -rv 
showmount -e  
#发布同享

etc/exprot参数阐明：

Rw ：该主机对该同享目录有读写权限
No_root_squash：客户机用root拜访该同享文件夹时，不映射root用户
Sync：资料同步写入到内存与硬盘中

布置节点服务器web1

ip:192.168.1.10

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

showmount -e 192.168.1.128
#检查nfs服务
mount 192.168.1.128:/opt/lwx /var/www/html/
#挂载站点，将NFS服务器的同享目录/opt/lwx/，挂载到httpd服务的根目录
systemctl start httpd
#开启httpd服务

vim /etc/sysconfig/network-scripts/ifcfg-ens33
GATEWAY=192.168.159.100     
#指定网关为lvs的ip地址                  
#DNS1=8.8.8.8               
#DNS2=114.114.114.114      
 #注释掉
systemctl restart network
#重启网络服务

布置节点服务器web2

ip:192.168.1.11

布置方法和web1一样

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙
yum install httpd -y
#装置httpd服务

showmount -e 192.168.1.128
#检查nfs服务
mount 192.168.1.128:/opt/wyn /var/www/html/
#挂载站点，将NFS服务器的同享目录/opt/wyn/，挂载到httpd服务的根目录
systemctl start httpd
#开启httpd服务

vim /etc/sysconfig/network-scripts/ifcfg-ens33
GATEWAY=192.168.159.100     
#指定网关为lvs的ip地址                  
#DNS1=8.8.8.8               
#DNS2=114.114.114.114      
 #注释掉
systemctl restart network
#重启网络服务

布置LVS负载调度器

内网网卡：192.168.1.12（ens33），外网网卡：10.0.0.1（ens36）

增加一块网卡
    ifconfig #检查网卡信息，每台增加的网卡不一定都是ens36，依据自己的虚拟机来装备

vim   /etc/sysconfig/network-scripts/ifcfg-ens33
#GATEWAY=192.168.1.2
#DNS1=8.8.8.8
#DNS2=114.114.114.114
#网关和DNS注释掉

cp  /etc/sysconfig/network-scripts/ifcfg-ens33    /etc/sysconfig/network-scripts/ifcfg-ens36
#复制ens33到ens36
vim   /etc/sysconfig/network-scripts/ifcfg-ens36
NAME=ens36  
DEVICE=ens36
#ens33改为36，注释掉uuid
IPADDR=10.0.0.1     
NETMASK=255.255.255.0 
#设置IP地址
#GATEWAY=192.168.1.2 
#DNS1=8.8.8.8
#DNS2=114.114.114.114
#网关和DNS注释掉
systemctl restart network 
#重启网络

systemctl stop firewalld.service
systemctl disable firewalld.service 
setenforce 0
#封闭防火墙

vim /etc/sysctl.conf 
net.ipv4.ip_forward = 1       #增加这一行 
sysctl -p                  #读取修改后的装备 
net.ipv4.ip_forward = 1

装备SNAT战略（假如内网想主动衔接外网的话，需求装备SNAT战略）
iptables -t nat -F
iptables -t nat -A POSTROUTING -s 192.168.1.0/24 -o ens36 -j SNAT --to 10.0.0.1
#增加snat规则
iptables -nL POSTROUTING -t nat
#检查nat战略

加载LVS内核模块
modprobe ip_vs     #加载ip_vs模块
cat /proc/net/ip_vs   #检查ip_vs模块的版别

装置ipvsadm管理工具，开启服务
yum install -y ipvsadm
#开启服务前有必要保存负载分配战略，生成/etc/sysconfig/ipvsadm文件。假如该文件不存在，服务无法发动。
ipvsadm-save > /etc/sysconfig/ipvsadm 
或许 
ipvsadm --save > /etc/sysconfig/ipvsadm 
或许 
touch /etc/sysconfig/ipvsadm
systemctl start ipvsadm.service   
#开启服务

装备负载分配战略（NAT方法只需求在负载器上装备，节点服务器不需求特殊装备）
ipvsadm -C  
#清空原有规则
ipvsadm -A -t 10.0.0.1:80 -s rr 
#指定指定VIP地址及TCP端口，-s rr 指定负载调度战略为轮询

ipvsadm -a -t 10.0.0.1:80 -r 192.168.1.10:80 -m -w 1
ipvsadm -a -t 10.0.0.1:80 -r 192.168.1.11:80 -m -w 1
#先指定虚拟服务器再增加实在服务器地址，
-r指定实在服务器地址
-m指定nat方法
-w指定权重值
权重为1时可省略不写
ipvsadm
#检查战略
ipvsadm-save >/etc/sysconfig/ipvsadm
#保存负载分配战略
ipvsadm -ln 
#以数字方法检查战略，Masq表明NAT方法

客户机拜访测试

win10客户机，网关地址设置为负载调度器的外网IP：10.0.0.1

浏览器多次拜访负载调度器的外网IP地址10.0.0.1。

LVS负载均衡群集-NAT模式

集群与分布式

集群的含义

问题

处理方法

企业群集分类

负载均衡群集(Load Balance cluster)

高可用群集

高性能运算群集

负载均衡集群架构

LVS作业方法和相关命令

LVS的负载调度算法

ipvsadm功用与选项阐明

负载均衡群集作业方法剖析

1. 地址转化（NAT方法）

IP地道（TUN方法）

直接路由（DR方法）

LVS-nat群集布置

布置过程

环境

布置nfs同享存储

布置节点服务器web1

布置节点服务器web2

布置LVS负载调度器

客户机拜访测试

作者信息

LVS负载均衡群集-NAT模式

集群与分布式

集群的含义

问题

处理方法

企业群集分类

负载均衡群集(Load Balance cluster)

高可用群集

高性能运算群集

负载均衡集群架构

LVS作业方法和相关命令

LVS的负载调度算法

ipvsadm功用与选项阐明

负载均衡群集作业方法剖析

1. 地址转化（NAT方法）

IP地道（TUN方法）

直接路由（DR方法）

LVS-nat群集布置

布置过程

环境

布置nfs同享存储

布置节点服务器web1

布置节点服务器web2

布置LVS负载调度器

客户机拜访测试

相关文章

随机森林算法

详解支持向量机-二分类SVC中的样本不均衡问题：重要参数class_weight【菜菜的sklearn课堂笔记】

『Go』gRPC + Protocol Buffers 简易上手指南 ｜ 青训营笔记

基于条件纹理和结构并行生成的图像修复【ICCV 2021 翻译】

作者信息

『Go』gRPC + Protocol Buffers 简易上手指南｜青训营笔记