高并发…1、负载均衡

尽力将网络流量平均分发到多个服务器上以提高系统整体的响应速度和可用性。

高并发负载均衡通过算法调整负载尽力均匀的分配应用集群中各节点的工作量以此提高应用集群的并发处理能力吞吐量。

伸缩性添加或减少服务器数量然后由负载均衡进行分发控制。

这使得应用集群具备伸缩性。

高可用负载均衡器可以监控候选服务器当服务器不可用时自动跳过将请求分发给可用的服务器。

这使得应用集群具备高可用的特性。

安全防护有些负载均衡软件或硬件提供了安全性功能如黑白名单处理、防火墙防

DDos

然后加四层的端口号来决定哪些流量需要做负载均衡对需要处理的流量进行NAT

处理转发至后台服务器并记录下这个

的流量是由哪台服务器处理的后续这个连接的所有流量都同样转发到同一台服务器处理。

七层的负载均衡就是在四层的基础上没有四层是绝对不可能有七层的再考虑应用层的特征比如同一个Web

VIP

四层负载均衡架构无需解析报文消息内容在网络吞吐量与处理能力上较高

Cookie

haproxy是一款开源、高性能的负载均衡器和代理服务器专为TCP和HTTP应用而设计。

它可以将客户端的请求分发到多台后端服务器从而提高应用的可用性和性能。

HAProxy支持多种负载均衡算法和健康检查机制是构建高可用性系统的理想选择。

监听器Listener在前端监听特定的IP和端口等待客户端的连接请求。

配置文件haproxy.HAProxy的核心配置文件定义了前端、后端和监听器等组件。

统计报告Statistics

日志LogHAProxy支持详细的日志记录帮助分析和诊断问题。

详细配置

webserver2.zf.org在2个webserver上安装nginx

[rootwebserver1

”的内容输出并重定向到“/usr/share/nginx/html/index.html”并重启nginx服务

[rootwebserver1

/usr/share/nginx/html/index.html

[rootwebserver1

/etc/systemd/system/multi-user.target.wants/nginx.service

/usr/lib/systemd/system/nginx.service.[rootwebserver2

~]#

/usr/share/nginx/html/index.html

[rootwebserver2

/etc/systemd/system/multi-user.target.wants/nginx.service

/usr/lib/systemd/system/nginx.service.

环境检测

[address]:port_range[,.][param*]

haproxy

方法1使用frontend和backend2个参数配置proxies

*:80

web2172.25.254.20:80这两个服务器当用户发起请求访问时haproxy

web1

在系统进程树的显示结果中查找与“haproxy”相关的进程信息为单进程

[roothaproxy

再次在系统进程树的显示结果中查找与“haproxy”相关的进程信息

[roothaproxy

[address]:port_range[,...][param*]

server配置参数

①利用check、inter、fall、rise、weight进行后端健康检测

[roothaproxy

172.25.254.20:80检查间隔、故障阈值、恢复阈值与

web1

②利用socat工具动态调整haproxy中的参数-----针对单进程

[roothaproxy

与轮询类似但可以为服务器设置权重。

权重高的服务器会获得更多的请求分配机会。

比如S1

个。

测试结果关闭多进程并测试注意Static-RR不支持局部修改权重

2、First

这种算法适用于某些特殊情况比如已知某个服务器性能特别优越希望优先使用它。

在多台主机中执行死循环测试结果

动态算法

这种算法简单直观适用于后端服务器性能相当且无需考虑请求特征的情况。

动态修改权重

地址计算哈希值然后基于该哈希值将请求始终分配到同一台后端服务器。

例如假设有三个后端服务器

对于需要保持会话一致性的应用非常有用。

比如用户登录后的一系列操作都能在同一台服务器上处理避免了会话数据在不同服务器之间传递导致的问题。

当后端服务器数量发生变化时可能会导致哈希结果的重新分布影响负载均衡的效果。

测试结果

2、map-base

此方法是静态的不支持在线调整权重和慢启动可实现后端服务器均衡调度。

缺点是服务器总权重变化有服务器上线或下线会导致调度结果整体改变hash-type

3、一致性哈希

当服务器总权重变化时对调度结果的影响是局部的不会引起大的变动。

该

hash

/usr/share/nginx/html/index1.html

[rootwebserver2

/usr/share/nginx/html/index1.html

uri一致性hash基于对用户请求的URI的左半部分或整个uri做hash再将hash结果对总权重进行取模后根据最终结果将请求转发到后端指定服务器

适用于后端是缓存服务器场景。

默认是静态算法也可以通过hash-type指定map-based和consistent来定义使用取模法还是一致性hash。

params

部分中的一个参数key对应的value值作hash计算并由服务器总权重相除以后派发至某挑出的服务器,后端搜索同一个数据会被调度到同一个服务器多用与电商通常用于追踪用户以确保来自同一个用户的请求始终发往同一个real

server

hdr针对用户每个http头部(header)请求中的指定信息做hash此处由

name

指定的http首部将会被取出并做hash计算然后由服务器总权重取模以后派发至某挑出的服务器如果无有效值则会使用默认的轮询调度。

使用curl

设置监听端口为9999每隔3秒刷新状态页使用用户名zf,密码zf登陆该状态页。

浏览器测试

/etc/systemd/system/multi-user.target.wants/nginx.service.

[rootwebserver1

curl/7.76.110、haproxy的访问控制列表ACL

ACL相关参数示例

[occ]]域匹配header中的domhost,hdr_dom(host)

命令行测试

[occ]]后缀匹配header中指定匹配内容end,hdr_end(host)

编辑C:\Windows\System32\drivers\etc的内容

测试结果

[occ]]前缀匹配header中指定匹配内容的beginhdr_beg(host)

访问测试

返回第一个主机头和请求的路径部分的连接该请求从主机名开始并在问号之前结束

对虚拟主机有用

scheme://user:password#host:port/path;params#?query#frag

下面使用base_sub

scheme://user:passwordhost:port#/path;params#?query#frag

path_sub

/wp-includes/js/jquery/jquery.js

domain

/usr/share/nginx/html/zf/index.html测试

与隐式默认使用

/usr/share/nginx/html/static/index.html

[rootwebserver2

/etc/haproxy/errorpage/503.http[roothaproxy

~]#

/etc/my.cnf.d/mariadb-server.cnf

[rootwebserver1

/etc/my.cnf.d/mariadb-server.cnf

[rootwebserver2

zf.org.key#重定向到/etc/haproxy/certs/zf.pem下

[roothaproxy

MIIEvwIBADANBgkqhkiG9w0BAQEFAASCBKkwggSlAgEAAoIBAQDP6x8izC/lhiLU

Rf4XJGGmVV/IT5ABPqibNsBkHmv92Nfd6Z/MUva6FFs23IjONO3ecK94YLeUgkw

V7SU99/1QbXvIGuZINQbWO/XGH9CKSALlOmxV/q/eBpz4L9uVv6Fnd1ABYHeBt

WJnmPZDD4ZdPgUgVcTSPsY7ohFTAmh/pXQEMaYgHUr2JD4kBRTcJpY8e1lzMGsy

caGXQXk4SNg1Rl7mPzSQbvxSXPTgsgPqkiwXJe2EptUO1S5oKBWgHmFP/rhThjk2

xjQEB0ZavnZaAIXkk4AWE06TMahbwRsfDS/r4ofkC7br5RLyg00890H6tNA8Qp6

Z08k3xMVAgMBAAECggEABe0EBk4DOSuZYs2u8geYhQ9H57WCSeeKk0ud/5Q1MSa

Y5Kc4XfKJdYeZ2jh9wIDd0SHNRYgmbry1GHAHbCEmR9NCbgihHDoE30s8C9vJ4Uz

954jijVqwbdjgUmqWs0uo3td3s0WhyXK145pDH0AbWTIu6eA6SgcHGTk/PRk7Q6

e2Q8zxVZOeoMYOEPtYZgRobUjVw9ZdkotTr4mbMo5BGL10oxGV7ErbsTZMYoqm

U3HV//d7BQ44KkdaAeXSpkB1eKhrIKBccrKj7mpggQ8IrG5o1eSCXU78dQvxMzF

LHf4bWSbWQvVLSptVtnKBJNt5ccrOdbAul2dqBZAQKBgQDRTQOcE8yQCNn2nug

XpOSxn36SYNYNNqHrDER/b74E9TErjr9ramcW6gW/xcQzl0KqEdtDIi1xg2hOhZZ

pTdfv9ZkGVKLtXsRjd38BTdmLdM7XXQ1lx8v2WisKNgI9rCQohYrxK6l/KAhbGj

XrPR3uHsWWQon9rvUzxiC6N1QKBgQDTyWoasxE56THIW3FrsTEbsn10Q6Pe6Yd

BIp5BQEtZBQh/HUMTBMPZwIlH/vHeEFPv58ZCmUFC0v2kP7Qdnel1dDS7AwaQ

KpNgV49rov9B9Fqc0uPmFQ0bznm5a5ExCwTK7FRKaX0Clvt0PjpiWmgZ8DkK1U

QubrHpDQQQKBgQCox7MefLTcfdbVdnh1JW9Z0Cks2XVKfyyudcQIXxhN0ygkBuBZ

S17YUO1mxgRisBdFjdgzbwUbmH/LQR1e4yWZWAjaJbV0Jj/9MusM3WQESPXrDHy2

7oveuTJ4imNULyLJL3wzhWLVRbgX2V7IwFdP5/uSVPWUpHwXvIaYBgylQKBgQCS

aTjSDKKL7R1F84CCMuKGAq4NmLon6RaELcx8/UtTCOHI26xbWXgYOPoiJ99SLP

UHipfrT7u3wxko2q2W42Ourkz0FohaZqq8hriB2vJ4l0DF16ukOw/FuqaVje9V

8ec6JkaQ5rx/ktNCA3rXfplgknHdGJdh0p6lsNRIwQKBgQDJCj9wDcW12sS5Ul/m

8c0zxDVBvmhmVB4sE2lh6OkIufC9xpO8MvPfvgtXzoDn0C48zct53m8Nj7bvvQ

Yhy7PPSh1du1mQmLxodbENEpIt0UgABHuDi1SzhM6N4MGdGpd9PnSb/VvNgbox2C

-----END

MIID7TCCAtWgAwIBAgIUZ7AYtUUbXy1gNTj8y1PBy8avbKEwDQYJKoZIhvcNAQEL

BQAwgYUxCzAJBgNVBAYTAkNOMRIwEAYDVQQIDAlDaG9uZ3FpbmcxDzANBgNVBAcM

Bld1c2hhbjELMAkGA1UECgwCemYxEjAQBgNVBAsMCXdlYnNlcnZlcjETMBEGA1UE

AwwKd3d3LnpmLm9yZzEbMBkGCSqGSIb3DQEJARYMYWRtaW5AemYub3JnMB4XDTI0

MDgxMTA0NTExM1oXDTI1MDgxMTA0NTExM1owgYUxCzAJBgNVBAYTAkNOMRIwEAYD

VQQIDAlDaG9uZ3FpbmcxDzANBgNVBAcMBld1c2hhbjELMAkGA1UECgwCemYxEjAQ

BgNVBAsMCXdlYnNlcnZlcjETMBEGA1UEAwwKd3d3LnpmLm9yZzEbMBkGCSqGSIb3

DQEJARYMYWRtaW5AemYub3JnMIIBIjANBgkqhkiG9w0BAQEFAAOCAQ8AMIIBCgKC

AQEAzsfIswv5YYi1EXFyRhplVfyEQAT6omzbAZB5r/djX3emfzFL2uhRbNtyI

zjTt3nCvfuGC3lIJMFe0lPff9UG17yBvrmSDUG1jv1xh/QikgC5TpsVf6v3gacC

/blbhZ3dQAfmB3gbViZ5j2QwGXT4FIFXE0j7GO6IRUwJof6V0BDGmIB1K9iQP

pAUU3CaWPHtZczBrMnGhl0F5OEjYNUZe5j80kG78Ulz04LID6pIsFyXthKbVDtUu

aCgVoB5hT/64U4Y5Nsfo0BAdGWr52WgCF5JOAFhNOkzGoW8EbHw0v6KH5Au26U

S8oNNPPdBrTQPEKemdPJN8TFQIDAQABo1MwUTAdBgNVHQ4EFgQUwmQsD5Tmz4EB

vglvFu31w3iyCSwwHwYDVR0jBBgwFoAUwmQsD5Tmz4EBvglvFu31w3iyCSwwDwYD

VR0TAQH/BAUwAwEB/zANBgkqhkiG9w0BAQsFAAOCAQEAH73/InMrHEl7yEjxTEAC

I7BA7ZKI5p5G1hmvhnh1xR5osW44C/hrBk29wZ2G1bWsOOHNiOenLyhym6V9EA7r

iy423szXc1rqz0KINcRAa5b7El8id3tpNXjpybUlQYrxblM2ErEb1nHD1a6Xac

rDnWWiJzyEdHV7rkzh3rKUyN2g3/OBB7Rw8qDgmfFiFjhrXs1tZ3fsklWfYxcKf

KvT/tByeVnTZWJBdjiNJXbeWVy1gukU3MgklaOeyzAdv7RZ4YOnxUfjfqVMthql

K1v1VFdfSotKfEDpcCARUWlx7KXVaH0vrae2rY9714c/J7zA8rYBABk/kCu2

-----END