DevOps之负载均衡

唠叨话

关于德语噢屁事的知识点，仅提供专业性的精华汇总，具体知识点细节，参考教程网址，如需帮助，请留言。

《负载均衡LB（Load Balance）》

关于负载均衡器：知识与技能的层次（知道、理解、运用、分析），理论与实践的方面（原理、技术）。

概念Concept：将流量分发到多台主机设备的网络服务。
按常规划分：DNS负载均衡、IP负载均衡、Proxy负载均衡。
按技术划分：软件负载均衡SLB、硬件负载均衡HLB、全局负载均衡GLB、本地负载均衡LLB。
《工作流程》
实例Instance：前端客户机->负载均衡器->监听检查器->后端服务器。
《规划及架构》
器件Ware：硬件和软件。
硬件Hardware（A10、F5、Redware、Nescaler）
软件Software（NLB、LVS、HAproxy、Nginx、Varnish、Squid、Ats）
《装卸和部署》
步骤Step：接入、硬件、操作系统、软件、送出。

《负载均衡-工作流程（四步骤）》
《前端客户机 Frontend Client》
从局域网LAN（私网Private、内网Inner）到广域网WAN（公网Public、外网Outer）。

《负载均衡器 Load Balancer》
1、地域Region
国内Native，国外Foreign。
动态Dynamic BGP，静态Static BGP。
2、地区Zone
公网Public IP，私网Private IP。
3、数据中心DataCenter
带宽Bandwidth，流量Traffic。
主从式（Master-Slave），本异地（Local|Remote），多备份（Multi）。

每个负载均衡器支持多个监听器。
类型（BGP），连接数，（启用|禁用）公网IP地址，（某）私有网络，防火墙；监听器数，服务器数。

备注：
中国BGP线路：中国电信，中国联通，中国网通，中国铁通，中国卫通，中国移动，中国教研。

《监听检查器 Listener Checker》
一、网络监听配置
前端协议及端口：类型，四层协议（TCP/22、UDP/53）七层协议（HTTP/80、HTTPS/443）。
后端协议及端口：类型，四层协议（TCP/22、UDP/53）七层协议（HTTP/80、HTTPS/443）。
带宽流量：宽带值，流量值。
转发规则：RR轮询，LC连接数，IP源地址。
会话保持：Source_IP，HTTP Cookie，APP Cookie。
转发策略：全部匹配、任意匹配。

备注：
TCP、UDP是传输层协议，HTTP、HTTPS是应用层协议。
TCP可靠性相对高的文件、邮件的收发传输；UDP可靠性相对低的视频通讯、金融信息的传输。
HTTP需要数据内容识别的WEB程序传输；HTTPS需要数据加密、统一的证书管理服务的WEB程序传输。
权重（Weight）：权重轮询（WRR），权重连接数（WLC），权重IP地址（WIP）。
轮询（Round Robin）：加权轮询（WRR，Weight RR）、差额轮询（DRR，Defict RR）、紧急轮询（URR，Urgency RR）。

二、健康检查配置
协议及端口：类型，四层协议（TCP/22、UDP/53）七层协议（HTTP/80、HTTPS/443）。
间隔时间：范围1~50秒，UDP默认值5秒，HTTP/HTTPS/TCP默认值2秒。
超时时间：范围1-100秒，UDP默认值10秒，HTTP/HTTPS/TCP默认值5秒。
正常健康阈值：可选值2-10，默认值3次。
异常不健康阈值：可选值2-10，默认值3次。

备注：
七层（HTTP，HTTPS）基于请求做调度。
四层（TCP，UDP）基于连接做流量做调度。
间隔时间（秒），每次健康检查响应的最大间隔时间。
超时时间（秒），每次健康检查响应的最大超时时间。
健康阈值，判定健康检查结果正常的阈值。即健康检查连续成功多少次后，将后端云服务器的健康检查结果由不正常改为正常。
不健康阈值，判定健康检查结果为不正常的阈值。即健康检查连续失败多少次后，将后端云服务器的健康检查状态由正常改为不正常。

每个监听器支持建立多个后端服务器。

《后端服务器 Backend Server》
从广域网WAN（公网Public、外网Outer）到局域网LAN（私网Private、内网Inner）。

《负载均衡-监控知识点》
1、范围指标
四层监听器级别的从外网进入的流量、流向外网的流量、实例数量、网络流量、网络数据包、活跃连接数；
七层监听器级别的从外网进入的流量、流向外网的流量、实例数量、网络流量、网络数据包、活跃连接数、请求数。
新建连接数（连接/秒），并发连接数（连接/秒），活跃或非活跃连接数（连接/秒），流入或流出数据包数（包/秒），网络流入或流出速率（字节/秒），异常或正常主机数（个）。
最大连接数 Max Connection，当实例上的连接超过规格定义的最大连接数时，新建连接请求将被丢弃。
每秒连接数 Connection Per Second (CPS)，当新建连接的速率超过规格定义的每秒连接数时，新建连接请求将被丢弃。
每秒查询数 Query Per Second (QPS)，当请求速率超过规格所定义的每秒查询数时，新建连接请求将被丢弃。
2、调度转发
根本不同调度算法进行流量分发，根据不同域名地址进行流量调度。
3、协议证书
监听器支持4层（TCP、UDP协议）和7层（HTTP、HTTPS协议）四种监听器类型。
监听器选择HTTPS协议，需提供证书（客户端证书、服务器证书、CA证书），再配置HTTPS监听。
TCP监听器类型的后端服务器，自动获得前端客户机真实IP。
UDP监听器类型的后端服务器，无法获取前端客户机真实IP。
HTTP/HTTPS监听器类型的后端服务器，手动获得前端客户机真实IP。
4、健康检查
负载均衡器和服务器的机房位置，采用相同地域；本地和异地的容灾策略，采用现用和备用的多向部署。
TCP监听器向服务监听配置的后端服务器端口发起TCP请求。如果端口访问正常则视为后端服务器正常，否则即为异常。
UDP监听器向服务器监听配置的后端服务器端口发送UDP包。如果后端接收请求并返回UDP包则视为后端服务器正常，否则即为异常。
HTTP/HTTPS监听器向服务监听配置的后端服务器端口发起HTTP GET请求，如果返回状态码则判断后端云服务器运行正常，否则即为异常。
5、会话保持
会话保持状态（开启，关闭）
会话保持时间（时间值）
负载均衡器协议为TCP/UDP时，会话保持时间为1～5分钟。
负载均衡器协议为HTTP或者HTTPS时，会话保持时间为1～1440分钟。
四层（TCP、UDP协议）通过源IP转发规则实现会话保持；
七层（HTTP、HTTPS协议）通过植入/重写cookie实现会话保持。

《负载均衡-知识库》
一、
硬件负载均衡的安装及配置。
F5：https://f5.com/zh/
A10：http://www.a10networks.com.cn/

二、
软件负载均衡的安装及配置。
Windows：NLB。
https://technet.microsoft.com/zh-cn/library/cc770558.aspx
Linux：LVS+Keepalived。
LVS（网络四层，不支持正则操作和动静分离）
调度算法：RR(轮询)，WRR(带权轮询)、LC(连接)、WLC(带权连接)。
工作模式：NAT地址转换，DR直接路由，TUN隧道。
Windows/Linux：Nginx+Keepalived，HAproxy+Keepalived。
Nginx（网络七层，不支持Session，性能高）
HAProxy（网络四层七层，支持Session，算法策略多，性能低）

三、
负载均衡映像实例：负载均衡集群提供的虚拟服务。
负载均衡监听器：先把前端客户机请求转发至后端服务器，再把后端服务器的响应返回给前端客户机。
负载均衡服务地址：负载均衡集群提供的服务地址。

四、
宽带网络（传输网、交换网、接入网）、宽带技术（传输技术、交换技术、接入技术）
子网（Subnet）、安全组（Security Group）、对等连接（Peer Connection）
ACL访问控制列表（Access Control List）、VPN虚拟专用网络（Virtual Private Network）、NAT网络地址转换（Network Address Translation）

五、
NE（Network Environment，网络环境）、IP（Internet Protocol，因特网协议）
QPS（Query Per Second，秒查询数)、TPS（Transaction Per Second，秒事务数）
ARQT（Average Request Time，平均请求时间）、ARST（Average Response Time，平均响应时间）
PV（Page View，页面视图量）、VV（Visit View，访问视图量）、UV（Unique Visitor，独立访客数）
CPC（Cost Per Click，单次点击费用）、CPA（Cost Per Action，单次行动费用）
CPM（Cost Per Mille，千次展示支出）、RPM（Revenue Per Mille 千次展示收入）
CTR（Click-Through Rate，点进率）

六、
SSL证书类型：增强型（EV）、企业型（OV）、域名型（DV）。
在IIS服务器上部署SSL证书。
在Apache服务器上部署SSL证书。
在Nginx服务器上部署SSL证书。
在Tomcat服务器上部署SSL证书。

七、
架构：RESTful API
方法：GET、PUT、POST、DELETE、PATCH。
认证：Token，AK/SK。

八、
检查日志、使用netstat –an等命令分析访问频率和访客IP地址来源，通过结果，判断正常或异常。

九、

负载均衡-文档

微软 https://docs.azure.cn/zh-cn/load-balancer/
百度 https://cloud.baidu.com/doc/BLB/index.html
青云 https://docs.qingcloud.com/guide/compute_network/loadbalancer.html

参考资料：A10负载均衡-配置手册.pdf   A10负载均衡-运维手册.pdf   F5负载均衡-配置手册.rar   F5负载均衡-运维手册.rar

《负载均衡-相关图谱》