是面向分布式服务架构的流量控制组件#xff0c;主要以流量为切入点#xff0c;从限流、流量整形、熔断降级、系统负载保护、热点防护等多个维度来…Sentinel服务熔断和流控

Sentinel

随着微服务的流行服务和服务之间的稳定性变得越来越重要。

Sentinel

是面向分布式服务架构的流量控制组件主要以流量为切入点从限流、流量整形、熔断降级、系统负载保护、热点防护等多个维度来帮助开发者保障微服务的稳定性。

源码地址https://github.com/alibaba/Sentinel

官方文档https://github.com/alibaba/Sentinel/wiki

https://sentinelguard.io/zh-cn/docs/circuit-breaking.html

Spring

制在系统容量可以承受的范围、消息削峰填谷、实时熔断下游不可用应用等。

Sentinel

同时提供实时的监控功能。

您可以在控制台中看到接入应用的单台机器秒级数据甚至

500

扩展点。

您可以通过实现扩展点快速的定制逻辑。

例如定制规则管理、适配数据源等。

Spring的spi是通过ClassLoader去META-INF/spring.factories加载class然后反射实例化返回。

像SpringBoot用这种方式去加载一些自动配置类即引入xx-starter就能够自动向spring容器中注入许多配置好的组件。

Sentinel

https://github.com/alibaba/Sentinel/wiki/Sentinel-%E4%B8%8E-Hystrix-%E7%9A%84%E5%AF%B9%E6%AF%94

SentinelHystrix隔离策略信号量隔离线程池隔离/信号量隔离熔断降级策略基于响应时间或失败比率基于失败比率实时指标实现滑动窗口滑动窗口基于

RxJava规则配置支持多种数据源支持多种数据源扩展性多个扩展点插件的形式基于注解的支持支持支持限流基于

QPS支持基于调用关系的限流有限的支持流量整形支持慢启动、匀速器模式不支持系统负载保护支持不支持控制台开箱即用可配置规则、查看秒级监控、机器发现等不完善常见框架的适配Servlet、Spring

Cloud、Dubbo、gRPC

微服务架构的系统通常会包含多个微服务各个微服务可能部署在不同的机器上并通过网络进行通信那么就不可避免会遇到

“网络请求超时”

等问题这就会进一步引起依赖它的微服务不可用这样不断引发服务故障的现象称为『雪崩效应』最终的结果是整个应用系统瘫痪。

使用熔断器模式如果请求出现异常所有请求都会直接返回而不会等待或阻塞这样可以减少资源的浪费。

Sentinel类似于过滤器、拦截器的效果在收到请求后拒绝请求的放行至

Controller乃至

熔断和限流的区别在于熔断是确确实实发生了错误而限流是人为根据设置强行让一部分请求被打回。

sentinel安装

控制台不仅能展示服务流控、熔断降级相关的数据还可以通过配置的方式动态的为

Sentinel

下载地址https://github.com/alibaba/Sentinel/releases

注意启动

-Dproject.namesentinel-dashboard

-jar

sentinel-dashboard-1.8.1.jar-Dserver.port8840

用于指定

-Dproject.namesentinel-dashboard

Sentinel

如果你有多张网卡的话你还需要指定使用哪张网卡IP来接受各个微服务上报的信息

-Dcsp.sentinel.heartbeat.client.ip192.168.xxx.xxx访问网址[http://127.0.0.1:8840]

1.6.0

-Dsentinel.dashboard.auth.usernamesentinel

sentinel

-Dsentinel.dashboard.auth.password123456

sentinel

-Dserver.servlet.session.timeout7200

用于指定

这样以来功能上就出现了重叠冗余因此在实际使用中我们是这样安排的

在服务发起方Sentinel

dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-sentinel/artifactId

/dependency

spring:cloud:sentinel:transport:dashboard:

127.0.0.1:8080port:

只需要完成上述的配置代码不需要有任何的调整我们就可以通过实时监控查看服务内的流量

QPS每秒查询率

代表调用链路上下文。

是一个根节点在整个调用链路的开始处Sentinel

会创建上下文

资源名表示我们针对哪个接口资源进行流控规则配置如/test2/{id}

针对来源表示针对哪一个服务访问当前接口资源的时候进行限流default

xxx-service

访问前接口资源的时候进行限流其他服务访问该接口资源的时候不限流一般就是默认为default即可。

阈值类型/单机阈值QPS每秒钟请求数量。

上图配置表示每秒钟超过2次请求的时候进行限流当然我们可以设置线程数表示开启

是否集群默认情况下我们的限流策略都是针对单个服务的当然sentinel

除非你的微服务规模特别大一般不要使用集群模式。

集群模式需要各节点与

token

交互才可以会增加网络交互次数一定程度上会拖慢你的服务响应时间。

BlockException

直接当前资源达到限流标准时就直接限流默认值关联/important接口的重要程度要高于

/normal接口如果/important接口的访问压力很大那么可以『牺牲』掉

/normal

}先访问http://localhost:9527/add和http://localhost:9527/query

我们对/query接口进行限流这个配置的意思就是当每秒对/add接口的请求超过2次时就对/query接口进行限流要注意这样是优先保证/add不限流牺牲的是/query接口。

10s内对/add接口超过20次请求那么就对/query接口限流

链路限流和关联限流的思路很像假设我们要去请求某个微服务该微服务有2个接口/query和/add而这两个接口又调用了同一个service层的方法(如doSomething方法)那么我们可以『站在

sentinel

resttemplate-acloud:nacos:discovery:server-addr:

localhost:8848sentinel:transport:dashboard:

localhost:8840web-context-unify:

false

#默认是开启上下文整合所有链路在根节点下链路监控就是将请求分开统计2.代码设计

controller层

{SentinelResource(doSomething)public

String

http://localhost:9527/query和http://localhost:9527/add然后sentinel配置

链路配置

4.测试在jmeter对/add测试时不限流如10秒钟对/add请求80次但是同时在浏览器对/query测试时每秒只能是2次请求。

2.流控效果

快速失败很简单的说就是达到限流标准后请求就被拦截直接失败。

HTTP状态码429

too

up预热模式也有叫冷启动主要是为系统启动时设置预热时间底层有预热因子是3在系统刚启动时使用的阈值不再是每秒多少个请求而是设置的阈值除以预热因子在预热的时间内逐渐提升阈值最后达到设置的阈值也就是每秒多少个请求好处是预防系统刚启动时突发大量的请求服务容易宕机。

1.代码设计

排队等待也叫流量整形它让请求以均匀的速度通过单机阈值为每秒通过数量其余的在队列排队等待一段时间即我们设置的时间单位是毫秒没有超过这个时间都能被及时处理如果超过了这个等待时间针对请求的接口没有线程来处理则抛出异常

测试每秒50个请求

afterCompletion(HttpServletRequest

request,

收尾工作曾经创建的资源该回收的回收该清除的清除}自定义限流异常信息返回

Sentinel

limiting)如果你对默认响应信息不满意你可以自定义限流返回信息。

Sentinel

状态码response.setStatus(500);response.setCharacterEncoding(utf-8);response.setHeader(Content-Type,

application/json;charsetutf-8);response.setContentType(application/json;charsetutf-8);new

ObjectMapper().writeValue(response.getWriter(),

msg);}

方法的执行还有其它的原因也会调用这个handler方法因此需要对

handle

dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-sentinel/artifactId

/dependency

dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-nacos-discovery/artifactId

/dependency

dependencygroupIdorg.springframework.cloud/groupIdartifactIdspring-cloud-starter-openfeign/artifactId

/dependency2.添加配置连接到

spring:cloud:sentinel:transport:dashboard:

127.0.0.1:8840

整合适配器3.代码实现spring-service-a-feign微服务调用spring-service-b微服务

FeignClient(value

Perms();perms.setName(服务器忙请稍后再试);return

perms;}

permFeignClient;GetMapping(/perm)public

Perms

permFeignClient.getPermsById(id);return

perms;}

如下配置在一秒内发5次请求如果每次请求的响应时间超过500毫秒这种比例达到0.550%就进行熔断熔断时长就是10秒。

如1秒内有5次请求其中有3次请求响应时间超过了500毫秒那么这个比例就是60%大于50%此时就熔断然后降级。

用jmeter测试程序中当id1时每次响应都是800毫秒。

所以每次的请求都大于500毫秒失败率100%这个时候去请求id4的资源也是无法请求的因为熔断了所以也是直接降级。

10s后再次请求id4的就正常了。

异常数

如下配置一秒内发送5次请求如果有3次失败异常则直接熔断然后降级

测试localhost:9527/perm?id2结果5次都失败了此时熔断时长是9秒在这9秒内如果去请求id4的依然是降级9s之后试着去发送id4的请求如果通过则进入闭合正常状态。

异常比例

如下配置1秒钟发送5次请求如果调用接口最终失败的比例超过了20%则熔断9s。

#配置

降级规则它指的就是『**设置当满足什么条件时对服务进行降级**』[外链图片转存中...(img-QwfGPW1A-1694490781354)]####

慢调用比例如下配置在一秒内发5次请求如果每次请求的响应时间超过500毫秒这种比例达到0.550%就进行熔断熔断时长就是10秒。

如1秒内有5次请求其中有3次请求响应时间超过了500毫秒那么这个比例就是60%大于50%此时就熔断然后降级。

[外链图片转存中...(img-d74m5bKk-1694490781357)]

用jmeter测试程序中当id1时每次响应都是800毫秒。

所以每次的请求都大于500毫秒失败率100%这个时候去请求id4的资源也是无法请求的因为熔断了所以也是直接降级。

10s后再次请求id4的就正常了。

####

异常数如下配置一秒内发送5次请求如果有3次失败异常则直接熔断然后降级[外链图片转存中...(img-URgCSfH7-1694490781358)]

测试localhost:9527/perm?id2结果5次都失败了此时熔断时长是9秒在这9秒内如果去请求id4的依然是降级9s之后试着去发送id4的请求如果通过则进入闭合正常状态。

####

异常比例如下配置1秒钟发送5次请求如果调用接口最终失败的比例超过了20%则熔断9s。

[外链图片转存中...(img-bYCdjt00-1694490781358)]

yaml