从零开始 Spring Cloud 12:Sentinel
从零开始 Spring Cloud 12:Sentinel
1.初识 Sentinel
1.1雪崩问题
1.1.1什么是雪崩问题
微服务中,服务间调用关系错综复杂,一个微服务往往依赖于多个其它微服务。
如图,如果服务提供者I发生了故障,当前的应用的部分业务因为依赖于服务I,因此也会被阻塞。此时,其它不依赖于服务I的业务似乎不受影响。
但是,依赖服务I的业务请求被阻塞,用户不会得到响应,则tomcat的这个线程不会释放,于是越来越多的用户请求到来,越来越多的线程会阻塞:
服务器支持的线程和并发数有限,请求一直阻塞,会导致服务器资源耗尽,从而导致所有其它服务都不可用,那么当前服务也就不可用了。
那么,依赖于当前服务的其它服务随着时间的推移,最终也都会变的不可用,形成级联失败,雪崩就发生了:
简单来说,雪崩就是当调用链上的某个微服务出现故障,导致整个调用链上的微服务不可访问。
1.1.2.超时处理
可以在访问服务时设置请求的响应超时时长,超过响应时长的请求中断并返回错误信息,这样可以缓解雪崩发生的概率。
如果请求产生的速度快于响应等待超时并关闭连接的速度,依然会可能发生雪崩。
1.1.3.舱壁模式
仓壁模式来源于船舱的设计:
船舱都会被隔板分离为多个独立空间,当船体破损时,只会导致部分空间进入,将故障控制在一定范围内,避免整个船体都被淹没。
于此类似,我们可以限定每个业务能使用的线程数,避免耗尽整个tomcat的资源,因此也叫线程隔离。
1.1.4.降级熔断
断路器模式:由断路器统计业务执行的异常比例,如果超出阈值则会熔断该业务,拦截访问该业务的一切请求。
断路器会统计访问某个服务的请求数量,异常比例:
当发现访问服务D的请求异常比例过高时,认为服务D有导致雪崩的风险,会拦截访问服务D的一切请求,形成熔断:
1.1.5.限流
流量控制:限制业务访问的QPS,避免服务因流量的突增而故障。
限流只能避免因请求过多导致的服务故障以及因此产生的雪崩,但现实中服务产生故障的原因是多种多样的。
1.1.6.总结
限流是对服务的保护,避免因瞬间高并发流量而导致服务故障,进而避免雪崩。是一种预防措施。
超时处理、线程隔离、降级熔断是在部分服务故障时,将故障控制在一定范围,避免雪崩。是一种补救措施。
关于以上内容的详细说明,可以观看这个视频。
1.2.服务保护技术对比
在SpringCloud当中支持多种服务保护技术:
- Netfix Hystrix
- Sentinel
- Resilience4J
早期比较流行的是Hystrix框架,但目前国内实用最广泛的还是阿里巴巴的Sentinel框架,这里我们做下对比:
Sentinel | Hystrix | |
---|---|---|
隔离策略 | 信号量隔离 | 线程池隔离/信号量隔离 |
熔断降级策略 | 基于慢调用比例或异常比例 | 基于失败比率 |
实时指标实现 | 滑动窗口 | 滑动窗口(基于 RxJava) |
规则配置 | 支持多种数据源 | 支持多种数据源 |
扩展性 | 多个扩展点 | 插件的形式 |
基于注解的支持 | 支持 | 支持 |
限流 | 基于 QPS,支持基于调用关系的限流 | 有限的支持 |
流量整形 | 支持慢启动、匀速排队模式 | 不支持 |
系统自适应保护 | 支持 | 不支持 |
控制台 | 开箱即用,可配置规则、查看秒级监控、机器发现等 | 不完善 |
常见框架的适配 | Servlet、Spring Cloud、Dubbo、gRPC 等 | Servlet、Spring Cloud Netflix |
1.3.Sentinel 介绍和安装
1.3.1.初识 Sentinel
Sentinel是阿里巴巴开源的一款微服务流量控制组件。
Sentinel 具有以下特征:
•丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
•完备的实时监控:Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。
•广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
•完善的 SPI 扩展点:Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
1.3.2.安装
可以从 Github 的 Release 页面下载。
这里提供一个百度云的下载。
程序本体是一个基于 Spring Boot 开发的 jar 包,通过相关 java 命令即可运行:
java -jar sentinel-dashboard-1.8.1.jar
如果要修改Sentinel的默认端口、账户、密码,可以通过下列配置:
配置项 | 默认值 | 说明 |
---|---|---|
server.port | 8080 | 服务端口 |
sentinel.dashboard.auth.username | sentinel | 默认用户名 |
sentinel.dashboard.auth.password | sentinel | 默认密码 |
例如,修改端口:
java -Dserver.port=8090 -jar sentinel-dashboard-1.8.1.jar
启动后访问对应的端口就能看到 Sentinel 的控制台(我这里是 http://localhost:8080/),默认账户和密码都是sentinel
。
1.4.微服务整合 Sentinel
这里我们使用之前学习创建的示例项目 cloud-demo 进行学习和演示。
加载项目并运行。
- 可能需要修改项目关联的 MySQL 信息以及 Nacos 信息。
- 该项目使用 Nacos 用于服务发现,需要提前运行 Nacos。
启动项目中的两个微服务 order-service 和 user-service,成功启动后访问接口 http://localhost:8088/order/101,会看到返回内容。
为需要整合 Sentinel 的微服务(这里是 order-service)添加依赖:
<dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
在微服务的配置文件中添加 Sentinel 控制台的相关配置信息:
spring:cloud:sentinel:transport:dashboard: localhost:8080
添加好后重启微服务。
再次请求微服务的接口(这里是 http://localhost:8088/order/101),然后观察 Sentinel 的控制台:
可以看到微服务接口的访问状况。
2.流量控制
可以通过控制对微服务的访问流量来预防雪崩的发生。
2.1.簇点链路
当请求进入微服务时,首先会访问DispatcherServlet,然后进入Controller、Service、Mapper,这样的一个调用链就叫做簇点链路。簇点链路中被监控的每一个接口就是一个资源。
默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint,也就是controller中的方法),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。
如果要对簇点链路上的其它节点进行监控,就需要使用 Sentinel 的注解。
例如,我们刚才访问的order-service中的OrderController中的端点:/order/{orderId}
流控、熔断等都是针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:
- 流控:流量控制
- 降级:降级熔断
- 热点:热点参数限流,是限流的一种
- 授权:请求的权限控制
2.2.1.示例
这里通过示例说明如何用 Sentinel 对微服务接口实现限流。
首先对要限流的接口对应的资源设置流控规则:
针对来源default
说明对任意来源施加限制,阈值设置为QPS=5
说明对接口施加的限制是每秒访问次数不能超过5次。
可以使用测试工具 Jmeter 模拟对接口的访问。
打开 Jmeter,加载测试样例:
选择流控入门,这个方案在2秒内会请求接口20次,即QPS=10。右键启动以执行该测试方案。
可以在结果中看到对接口请求5次成功后出现5次失败。
对示例步骤有疑惑的可以查看这个视频
2.2.流控模式
在添加限流规则时,点击高级选项,可以选择三种流控模式:
- 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
- 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
- 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流
之前演示的就是直接模式。
2.2.1.关联模式
关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
关联模式的应用场景是,如果有2个资源存在竞争关系,其中一个存在大量请求时会影响另一个的性能,且这两个资源有优先级区别,我们需要在某一个高优先级的资源存在大量访问时确保其不会请求失败,此时就可以创建一个关联模式,在高优先级资源的 QPS 超过某个阈值时通过限制另一个关联资源的访问来确保高优先级资源的可用性。
下面用具体案例来说明。
假设项目中存在两个接口,一个用于更新订单,另一个用于查询订单。显然这两个接口都会访问数据库中的订单表,如果访问的是同一个订单数据,就会触发表级锁,对数据的修改会影响到数据的读取,反之亦然。
显然这两个接口存在优先级关系,相比之下我们要尽可能让更新订单的接口不要失败。因此在这里可以使用关联模式对读取订单的接口进行限制。
先创建两个用于模拟的接口:
// ...
@RestController
@RequestMapping("order")
public class OrderController {// ...@GetMapping("/query")public String getOrderInfo(){return "订单内容";}@GetMapping("/update")public String updateOrder(){return "订单已修改";}
}
重启微服务 order-service。
访问新添加的两个接口以使 Sentinel 有相应的资源信息:
为资源/order/query
添加流控规则:
这里添加的规则,意味着如果每秒内访问/order/update
接口的次数超过5,/order/query
接口就无法被访问。
可以用导入的测试案例中的 流控模式-关联 进行测试,该测试会在100秒内请求/order/update
接口1000次,即每秒10次。理论上因为关联模式的限制,在这10秒内/order/query
接口会不可用。
实际执行后和理论结果相符,在执行测试案例的过程中,请求/order/query
接口会返回Blocked by Sentinel (flow limiting)
。
2.2.2.链路模式
链路模式:只针对从指定链路访问到本资源的请求做统计,判断是否超过阈值。如果超过,对请求来源限制访问。
下面用实际案例进行说明。
假设有两个接口,查询订单和创建订单,它们都需要调用查询商品的 Service 方法。
// ...
public class OrderService {// ...@SentinelResource("/service/order/query-goods")public String queryGoods(){return "商品信息";}
}
// ...
public class OrderController {// ...@GetMapping("/query")public String getOrderInfo(){orderService.queryGoods();return "订单内容";}// ...@GetMapping("/save")public String saveOrder(){orderService.queryGoods();return "订单已保存";}
}
注意,默认情况下 Sentinel 只会监控 Controller 中的资源,所以 Service 中的方法是不会出现在簇点链路中的资源列表里的。要将 Service 中的方法注册为资源,需要使用@SentinelResource
注解。
只这样做还不够,默认情况下 Sentinel 会自动将资源整合到sentinel_spring_web_context
这个默认链路下,在这里我们需要创建两个链路,并对其中的一个进行限制,所以必须关闭这种默认行为。
修改配置:
spring:cloud:sentinel:web-context-unify: false # 关闭context整合
重启子模块并访问两个接口。
Sentinel 控制台已经可以看到两个链路:
- /order/save -> /service/order/query-goods
- /order/query -> /service/order/query-goods
选择任意一个/service/order/query-goods
资源添加规则:
现在 Sentinel 会统计从 /order/query
到 /service/order/query-goods
的这条链路,如果其 QPS 大于2,就会限制对/order/query
的请求。
执行测试案例中的 流控模式-链路 进行验证,这个案例会分别对两个接口请求,QPS 都是 4,可以看到其中对/order/query
的请求在每秒中只有2次成功,另外2次会失败,说明链路模式生效。而对/order/save
的请求则都成功。
2.3.流控效果
在流控的高级选项中,还有一个流控效果选项:
流控效果是指请求达到流控阈值时应该采取的措施,包括三种:
- 快速失败:达到阈值后,新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
- warm up:预热模式,对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值。
- 排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长
2.3.1.warm up
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 maxThreshold / coldFactor,持续指定时长后,逐渐提高到maxThreshold值。而coldFactor的默认值是3.
下面用实际案例说明。
需求:给/order/{orderId}这个资源设置限流,最大QPS为10,利用warm up效果,预热时长为5秒。
流控规则设置如下:
运行测试案例 流控效果,warm up,该测试的 QPS 是10,执行时长是20秒。可以看到一开始每秒只有3条请求成功,随着时间推移成功的请求会主逐渐增多。
查看 Sentinel 的实时监控,会看到类似下面的图形:
可以看到通过的 QPS 主键增多,直到最大值(10),而被拒绝的 QPS 逐渐减少。
使用 warm up 这种流控效果,可以让服务器的负载逐渐上升,起到一个“预热"的效果,以避免突然的高负载导致服务器宕机。
2.3.2.排队等待
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。
而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
工作原理
例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待时长超过2000ms的请求会被拒绝并抛出异常。
那什么叫做预期等待时长呢?
比如现在一下子来了12 个请求,因为每200ms执行一个请求,那么:
- 第6个请求的预期等待时长 = 200 * (6 - 1) = 1000ms
- 第12个请求的预期等待时长 = 200 * (12-1) = 2200ms
现在,第1秒同时接收到10个请求,但第2秒只有1个请求,此时QPS的曲线这样的:
如果使用队列模式做流控,所有进入的请求都要排队,以固定的200ms的间隔执行,QPS会变的很平滑:
这种流控效果可以起到”流量整形“的效果,即将一个波动的 QPS 曲线整形成平滑的 QPS 曲线。而平滑的QPS曲线,对于服务器来说是更友好的。
下面用实际案例说明。
需求:给/order/{orderId}这个资源设置限流,最大QPS为10,利用排队的流控效果,超时时长设置为5s。
编辑流控规则:
启动测试案例 流控效果,队列 进行测试,这个测试的 QPS 是15,持续20秒,可以看到实时监控图形如下:
可以看到,一开始的几秒内是没有请求失败的 QPS 的,因为接口会处理 QPS=10 的请求,并将多余的请求放入队列,只有队列被填满(预期处理时长超过5秒),新的请求才会被丢弃(即出现请求失败的 QPS)。
2.4.热点参数限流
如果需要对同一个资源的不同参数进行限流,就需要使用热点参数限流。
比如对/goods/{id}
接口的请求按照不同的参数进行 QPS 统计:
我们就可以根据不同 id 值的 QPS 进行分别统计和限流。
下面用实际案例说明。
案例需求:给/order/{orderId}这个资源添加热点参数限流,规则如下:
•默认的热点参数规则是每1秒请求量不超过2
•给102这个参数设置例外:每1秒请求量不超过4
•给103这个参数设置例外:每1秒请求量不超过10
需要注意的是,Sentinel 的热点参数限流对默认添加的 SpringMVC 资源无效,所以这里需要先对资源使用@SentinelResource
注解,以添加 Sentinel 资源:
// ...
public class OrderController {// ...@SentinelResource("hot")@GetMapping("{orderId}")public Order queryOrderByUserId(@PathVariable("orderId") Long orderId) {// 根据id查询订单并返回return orderService.queryOrderById(orderId);}// ...
}
重启微服务。
请求接口(http://localhost:8088/order/101)让资源注册。
在 热点规则 菜单页面中新增 热点规则限流:
这里的参数索引指所要添加限制的参数位于接口路径上的参数位置(从0开始)。单机阈值设置为2,统计窗口时长设置为1,实际上就是 QPS=2。
这里为资源 hot 设置的默认参数限流的 QPS 是2,另外添加了2个参数例外,其中参数值是 102 时 QPS 上限是4,参数值是 103 时 QPS 上限是10。
从簇点链路菜单页面添加热点规则无法使用高级选项(参数例外)。
执行测试案例中的 热点参数限流 QPS1 进行测试。该案例的 QPS=5,且使用不同的参数值分别请求接口:
/order/101
/order/102
/order/103
参数值是101时,受热点规则中的默认设置限制,即最大QPS 是2,所以每秒只有2个请求成功。参数值是102时,受例外规则限制,最大QPS是4,所以每秒有4个请求成功。参数值是103时,最大 QPS 是10,所以所有请求都成功。
3.隔离和降级
可以用 Sentinel 对分布式架构中接口的调用方进行保护,具体包含两种方式:
线程隔离之前讲到过:调用者在调用服务提供者时,给每个调用的请求分配独立线程池,出现故障时,最多消耗这个线程池内资源,避免把调用者的所有资源耗尽。
熔断降级:是在调用方这边加入断路器,统计对服务提供者的调用,如果调用的失败比例过高,则熔断该业务,不允许访问该服务的提供者了。
3.1.FeignClient 整合 Sentinel
因为目前我们 Spring Cloud 中微服务之间的远程调用都是用 Feign 实现的,所以要想实现上边的功能,就必须在服务调用方的 Feign 客户端中整合 Sentinel。
下面具体说明如何实现 Feign 客户端和 Sentinel 的整合。
3.1.1.开启 Sentinel 功能
首先需要修改配置,以启用 Feign 对 Sentinel 的支持:
feign:sentinel:enabled: true # 开启feign对sentinel的支持
这里的示例中我们需要保护的是微服务 order-service,它的订单信息接口会远程调用 user-service,所以对 order-service 中的 Feign 客户端整合 Sentinel,也就是要修改 order-service 的配置文件。
实际上完成上边的步骤后 Sentinel 已经会将通过 Feign 进行的远程调用纳入资源监控,可以在 Sentinel 控制台看到相应的资源:
但如果直接设置降级熔断或者隔离,触发限制后远程调用会直接报错,这样对调用方的感知不会太好,因此一般我们需要添加失败降级后的处理逻辑。
3.1.2.添加失败降级逻辑
可以利用两个接口实现 Feign 客户端调用失败后的降级逻辑:
-
FallbackClass,无法对远程调用的异常做处理
-
FallbackFactory,可以对远程调用的异常做处理,我们选择这种
一般使用 FallbackFactory
。
package cn.itcast.feign.clients.fallbackfactory;
// ...
@Log4j2
public class UserClientFallbackFactory implements FallbackFactory<UserClient> {@Overridepublic UserClient create(Throwable throwable) {return new UserClient() {@Overridepublic User findById(Long id) {//将错误信息打印到日志log.error("Feign 远程调用出错", throwable);//远程调用失败时返回一个空的用户对象return new User();}};}
}
FallbackFactory
要写在 FeignClient 定义的地方,在这个示例项目中,就是子模块 feign-api。
FallbackFactory
是一个泛型接口,在实现时,泛型参数应当指定为要定义错误处理的 FeignClient。
FallbackFactory
的实现类必须定义为 Spring Bean:
package cn.itcast.feign.config;
// ...
public class DefaultFeignConfiguration {// ...@Beanpublic UserClientFallbackFactory userClientFallbackFactory(){return new UserClientFallbackFactory();}
}
feign-api 只是一个用于定义 Feign 客户端的子模块,并不会真正运行。所以要让配置类DefaultFeignConfiguration
生效,还需要在使用 feign-api 的微服务中添加:
package cn.itcast.order;
// ...
@SpringBootApplication
@EnableFeignClients(clients = UserClient.class,defaultConfiguration = DefaultFeignConfiguration.class)
public class OrderApplication {// ...
}
要让定义的FallbackFactory
生效,还需要在@FeignClient
注解中添加fallbackFactory
属性:
@FeignClient(value = "userservice", fallbackFactory = UserClientFallbackFactory.class)
public interface UserClient {// ...
}
在实际使用中,失败降级逻辑通常可以用两种思路实现以保证用户友好:
- 返回特定的错误信息。
- 返回特定的业务数据,比如一些特定的商品信息等。
3.2.线程隔离
3.2.1.线程隔离的实现方式
线程隔离有两种方式实现:
- 线程池隔离
- 信号量隔离(Sentinel默认采用)
线程池隔离:给每个服务调用业务分配一个线程池,利用线程池本身实现隔离效果
信号量隔离:不创建线程池,而是计数器模式,记录业务使用的线程数量,达到信号量上限时,禁止新的请求。
两者的优缺点:
3.2.2.Sentinel 的线程隔离
这里用示例进行说明如何用 Sentinel 实现线程隔离。
为资源GET:http://userservice/user/{id}
添加线程隔离:
现在/order/{orderId}
-> /userservice/user/{id}
这个调用链被设置了信号量隔离,阈值为2。也就是说同时只能有2个并发的线程被允许访问接口/userservice/user/{id}
,其它的并发线程会被拒绝(执行定义好的失败降级逻辑,如果有的话)。
可以执行 JMeter 中的 阈值类型-线程数<2 来进行测试。该测试会模拟同时请求10次接口。
可以观察到虽然10次请求都成功了,但有8次返回的结果中用户信息是null
,这符合我们实现的失败处理逻辑。
3.3.熔断降级
熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。
断路器控制熔断和放行是通过状态机来完成的:
状态机包括三个状态:
- closed:关闭状态,断路器放行所有请求,并开始统计异常比例、慢请求比例。超过阈值则切换到open状态
- open:打开状态,服务调用被熔断,访问被熔断服务的请求会被拒绝,快速失败,直接走降级逻辑。Open状态5秒后会进入half-open状态
- half-open:半开状态,放行一次请求,根据执行结果来判断接下来的操作。
- 请求成功:则切换到closed状态
- 请求失败:则切换到open状态
关于断路器状态的详细讲解,可以观看这个视频(相关内容位于 24:00)
3.3.1.慢调用
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。
例如:
解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
下面用实际示例进行说明。
需求:给 UserClient的查询用户接口设置降级规则,慢调用的RT阈值为50ms,统计时间为1秒,最小请求数量为5,失败阈值比例为0.4,熔断时长为5
为了模拟接口调用超过 50ms,在接口中添加休眠代码:
package cn.itcast.user.web;
// ...
public class UserController {// ...@GetMapping("/{id}")public User queryById(@PathVariable("id") Long id,@RequestHeader(value = "Truth", required = false) String truth) throws InterruptedException {if (id.equals(1L)) {Thread.sleep(60);}return userService.queryById(id);}
}
给资源GET:http://userservice/user/{id}
添加降级规则:
也就是说,上面配置的规则只要在1秒内有至少5次请求发生,且其中2次以上调用时长超过50ms,就会熔断5s。
请求接口 http://localhost:8088/order/101 5次后,发生熔断:
{"id": 101,"price": 699900,"name": "Apple 苹果 iPhone 12 ","num": 1,"userId": 1,"user": {"id": null,"username": null,"address": null}
}
此时请求接口 http://localhost:8088/order/102 同样无法获取正确的用户信息:
{"id": 102,"price": 209900,"name": "雅迪 yadea 新国标电动车","num": 1,"userId": 2,"user": {"id": null,"username": null,"address": null}
}
等待5秒后两个接口都恢复为正常访问。
- 如果熔断降级规则配置后进行测试发现没有生效,可以等一会,实际测试发现规则没有立即生效。
- 可以手动刷新浏览器进行测试,也可以选择使用 JMeter。
3.3.2.异常比例、异常数
异常比例或异常数:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值(或超过指定异常数),则触发熔断。
例如,一个异常比例设置:
解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于0.4,则触发熔断。
一个异常数设置:
解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于2次,则触发熔断。
这里同样用实际示例进行说明。
目标:给 UserClient的查询用户接口设置降级规则,统计时间为1秒,最小请求数量为5,失败阈值比例为0.4,熔断时长为5s。
为了模拟接口调用出现异常,在接口中抛出一个异常:
@GetMapping("/{id}")
public User queryById(@PathVariable("id") Long id,@RequestHeader(value = "Truth", required = false) String truth) throws InterruptedException {if (id.equals(1L)) {System.out.println("程序休眠,以满足降级要求");Thread.sleep(60);}else if (id.equals(2L)){throw new RuntimeException("模拟调用出现异常");}return userService.queryById(id);
}
重启微服务。
修改之前添加的降级熔断规则:
和之前类似,只要在1s内至少请求5次,且其中有2个异常请求出现异常,就会触发熔断。
测试过程与之前类似,不再赘述。
除了按照异常比例熔断以外,还可以按照异常数进行统计和熔断,比如:
这个设置和上边的设置效果是类似的。
4.授权规则
授权规则可以对请求方来源做判断和控制。
4.1.授权规则
授权规则可以对调用方的来源做控制,有白名单和黑名单两种方式。
-
白名单:来源(origin)在白名单内的调用者允许访问
-
黑名单:来源(origin)在黑名单内的调用者不允许访问
点击左侧菜单的授权,可以看到授权规则:
-
资源名:就是受保护的资源,例如/order/{orderId}
-
流控应用:是来源者的名单,
- 如果是勾选白名单,则名单中的来源被许可访问。
- 如果是勾选黑名单,则名单中的来源被禁止访问。
比如:
我们允许请求从gateway到order-service,不允许浏览器访问order-service,那么白名单中就要填写网关的来源名称(origin)。
Sentinel是通过RequestOriginParser这个接口的parseOrigin来获取请求的来源的。
public interface RequestOriginParser {/*** 从请求request对象中获取origin,获取方式自定义*/String parseOrigin(HttpServletRequest request);
}
这个方法的作用就是从request对象中,获取请求者的origin值并返回。
默认情况下,sentinel不管请求者从哪里来,返回值永远是default,也就是说一切请求的来源都被认为是一样的值default。
换言之,我们需要添加一个自定义 bean 并实现该接口,来定义一个我们自己的区分 origin 的规则。
作为示例,我们这里定义一个 HTTP 请求头 origin 来进行区分:
package cn.itcast.order.sentinel;
// ...
@Component
public class HeaderOriginParser implements RequestOriginParser {@Overridepublic String parseOrigin(HttpServletRequest httpServletRequest) {String origin = httpServletRequest.getHeader("origin");if (StringUtils.isEmpty(origin)) {origin = "blank";}return origin;}
}
修改 gateway 中的配置,让所有经过 gateway 过来的 HTTP 请求都添加一个 origin 请求头:
spring:cloud:gateway:default-filters:- AddRequestHeader=origin,gateway
重启 gateway 和 order-service。
新增一个授权规则:
现在直接请求接口 http://localhost:8088/order/101 会返回:
Blocked by Sentinel (flow limiting)
但经过 gateway 进行请求:http://localhost:10010/order/101?authorization=admin,可以成功返回:
{"id": 101,"price": 699900,"name": "Apple 苹果 iPhone 12 ","num": 1,"userId": 1,"user": {"id": 1,"username": "柳岩","address": "湖南省衡阳市"}
}
4.2.自定义异常结果
上面的示例存在一个问题,虽然触发的是授权规则进行的熔断,但实际上返回的错误信息却是限流(Flow Limiting)。实际上默认情况下,Sentinel 发生限流、降级、授权拦截时,都会抛出异常(BlockException)到调用方。异常结果都是flow limmiting(限流)。
可以实现一个接口BlockExceptionHandler
来改变这种默认行为:
public interface BlockExceptionHandler {/*** 处理请求被限流、降级、授权拦截时抛出的异常:BlockException*/void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception;
}
这个方法有三个参数:
- HttpServletRequest request:request对象
- HttpServletResponse response:response对象
- BlockException e:被sentinel拦截时抛出的异常
可以在实现方法中根据 Sentinel 抛出异常的具体类型来分别处理(通常是在 Response 中返回不同的错误提示)。
BlockException
的子类有:
异常 | 说明 |
---|---|
FlowException | 限流异常 |
ParamFlowException | 热点参数限流的异常 |
DegradeException | 降级异常 |
AuthorityException | 授权规则异常 |
SystemBlockException | 系统规则异常 |
下面是一个 BlockExceptionHandler
的实现示例:
package cn.itcast.order.sentinel;
// ...
@Component
public class MyBlockExceptionHandler implements BlockExceptionHandler {@Overridepublic void handle(HttpServletRequest httpServletRequest, HttpServletResponse httpServletResponse, BlockException e) throws Exception {String msg = "未知异常";int status = 429;if (e instanceof FlowException) {msg = "请求被限流了";} else if (e instanceof ParamFlowException) {msg = "请求被热点参数限流";} else if (e instanceof DegradeException) {msg = "请求被降级了";} else if (e instanceof AuthorityException) {msg = "没有权限访问";status = 401;}httpServletResponse.setContentType("application/json;charset=utf-8");httpServletResponse.setStatus(status);httpServletResponse.getWriter().println("{\"msg\": " + msg + ", \"status\": " + status + "}");}
}
重启微服务后添加限流规则并访问接口(比如 http://localhost:8088/order/101),将会显示自定义的错误信息:
{"msg": 请求被限流了, "status": 429}
5.规则持久化
现在,sentinel的所有规则都是内存存储,重启后所有规则都会丢失。在生产环境下,我们必须确保这些规则的持久化,避免丢失。
5.1.规则管理模式
规则是否能持久化,取决于规则管理模式,sentinel支持三种规则管理模式:
- 原始模式:Sentinel的默认模式,将规则保存在内存,重启服务会丢失。
- pull模式
- push模式
5.1.1.pull模式
pull模式:控制台将配置的规则推送到Sentinel客户端,而客户端会将配置规则保存在本地文件或数据库中。以后会定时去本地文件或数据库中查询,更新本地规则。
5.1.2.push模式
push模式:控制台将配置规则推送到远程配置中心,例如Nacos。Sentinel客户端监听Nacos,获取配置变更的推送消息,完成本地配置更新。
5.2.实现push模式
Sentinel 可以借助 Nacos 的远程配置功能实现规则的持久化,但阿里开源的 Sentinel 不支持该功能,只有收费版本支持。要让开源的免费版本支持,需要修改 Sentinel-dashboard 的源码后重新打包运行。
具体方式可以参考这篇文章。
源码的修改过程倒不是很复杂,但是该项目引用的依赖非常多,下载依赖要花费很长时间(大概一天左右),所以这里提供一个我修改好的 jar 包。
运行的时候只要指定 Nacos 服务的地址就行:
java -jar -Dnacos.addr=192.168.0.88:8848 sentinel-dashboard.jar
The End,谢谢阅读。
参考资料
- https://www.bilibili.com/video/BV1LQ4y127n4?p=143
相关文章:
从零开始 Spring Cloud 12:Sentinel
从零开始 Spring Cloud 12:Sentinel 1.初识 Sentinel 1.1雪崩问题 1.1.1什么是雪崩问题 微服务中,服务间调用关系错综复杂,一个微服务往往依赖于多个其它微服务。 如图,如果服务提供者I发生了故障,当前的应用的部分…...
@Resurce和@Autowired的区别
Resource 和 Autowired 是 Java 中常用的两个注解,用于自动装配依赖对象。它们的主要区别如下: 来源不同: Resource 是 Java EE 提供的注解,属于 J2EE 的一部分,它由 JSR-250 规范定义。 Autowired 是 Spring 框架提供…...
ResNet简介
ResNet (Residual Network) 此网络于2015年,国人何先生提出,用于解决随着深度学习的层数加深造成的网络退化现象和梯度消失、梯度爆炸。 问题1 退化现象 当深度学习的各项指标能够随着训练轮数收敛的情况下,网络的层数增强未能像理论一样&…...
了解单例模式,工厂模式(简单易懂)
文章目录 单例模式饿汉模式懒汉模式对比 工厂模式简单工厂模式(Simple Factory Pattern)工厂方法模式(Factory Method Pattern)抽象工厂模式(Abstract Factory Pattern)对比 单例模式 什么是单例ÿ…...
【中危】 Apache NiFi 连接 URL 验证绕过漏洞 (CVE-2023-40037)
漏洞描述 Apache NiFi 是一个开源的数据流处理和自动化工具。 在受影响版本中,由于多个Processors和Controller Services在配置JDBC和JNDI JMS连接时对URL参数过滤不完全。使用startsWith方法过滤用户输入URL,导致过滤可以被绕过。攻击者可以通过构造特…...
【Git版本控制工具使用---讲解一】
Git版本控制工具使用 安装设置用户名签名和邮箱Git常用的命令 初始化本地库查看本地状态Git 命令添加暂存区提交本地库查看版本信息修改文件版本穿梭 安装 首先根据自身电脑的配置选择性的安装是32位的还是64位的Git版本控制工具 我这边安装的是64位的 以下是我安装的时候的过…...
NLP | 基于LLMs的文本分类任务
比赛链接:讯飞开放平台 来源:DataWhale AI夏令营3(NLP) Roberta-base(BERT的改进) ①Roberta在预训练的阶段中没有对下一句话进行预测(NSP) ②采用了动态掩码 ③使用字符级和词级…...
攻防世界-base÷4
原题 解题思路 base644,莫不是base16,base16解码网站: 千千秀字...
【Java转Go】快速上手学习笔记(三)之基础篇二
【Java转Go】快速上手学习笔记(二)之基础篇一 了解了基本语法、基本数据类型这些使用,接下来我们来讲数组、切片、值传递、引用传递、指针类型、函数、map、结构体。 目录 数组和切片值传递、引用传递指针类型defer延迟执行函数map结构体匿名…...
【vue 引入pinia与pinia的详细使用】
vue引入pinia与使用 安装引入使用定义 store在组件中使用 store在插件中使用 store配置 store 总结 Pinia 是一个用于 Vue 3 的状态管理库,其设计目标是提供一个简单、一致的 API 和强类型支持。下面介绍如何引入 Pinia 并使用它。 安装 npm install pinia引入 在…...
USACO18DEC Fine Dining G
P5122 [USACO18DEC] Fine Dining G 题目大意 有一个由 n n n个点 m m m条边构成的无向连通图,这 n n n个点的编号为 1 1 1到 n n n。前 n − 1 n-1 n−1个点上都有一头奶牛,这些奶牛都要前往 n n n号点。第 i i i条边连接 a i a_i ai和 b i b_i bi…...
fckeditor编辑器的两种使用方法
需要的资源包我放我资源里了,不要积分 https://download.csdn.net/download/wybshyy/88245895 首先把FredCK.FCKeditorV2.dll添加到引用 具体方法如下,一个是客户端版本,一个是服务器端版本 客户端版本: <% Page Language…...
数据结构,查找算法(二分,分块,哈希)
一、查找算法 1、二分查找:(前提条件: 必须有序的序列) #include <stdio.h> //二分查找 value代表的是被查找的值 int findByHalf(int *p, int n, int value) {int low = 0;//low低int high = n-1;//high高int middle;//用来保存中间位置的下标while(low <= high…...
C++(Qt)软件调试---gdb调试入门用法(12)
gdb调试—入门用法(1) 文章目录 gdb调试---入门用法(1)1、前言1.1 什么是GDB1.2 为什么要学习GDB1.3 主要内容1.4 GDB资料 2、C/C开发调试环境准备3、gdb启动调试1.1 启动调试并传入参数1.2 附加到进程1.3 过程执行1.4 退出调试 4…...
shell和Python 两种方法分别画 iostat的监控图
在服务器存储的测试中,经常需要看performance的性能曲线,这样最能直接观察HDD或者SSD的性能曲线。 如下这是一个针对HDD跑Fio读写的iostat监控log,下面介绍一下分别用shell 和Python3 写画iostat图的方法 1 shell脚本 环境:linux OS gnuplot工具 第一步 :解析iosta…...
设计模式(9)建造者模式
一、 1、概念:将一个复杂对象的构造与它的表示分离,使得同样的构造过程可以创建不同的表示。建造者模式主要用于创建一些复杂的对象,这些对象内部构建间的顺序通常是稳定的,但对象内部的构建通常面临着复杂的变化;建造…...
PHP 创业感悟交流平台系统mysql数据库web结构apache计算机软件工程网页wamp
一、源码特点 PHP 创业感悟交流平台系统(含论坛)是一套完善的web设计系统,对理解php编程开发语言有帮助,系统具有完整的源代码和数据库,系统主要采用B/S模式开发。 源码下载: https://download.csdn.…...
工作流程引擎之flowable(集成springboot)
0、背景 现状:公司各部门业务系统有各自的工作流引擎,也有cross function的业务在不同系统或OA系统流转,没有统一的去规划布局统一的BPM解决方案,近期由于一个项目引发朝着整合统一的BPM方案,特了解一下市面上比较主流…...
leetcode54. 螺旋矩阵(java)
螺旋矩阵 题目描述解题 收缩法 上期经典算法 题目描述 难度 - 中等 原题链接 - leecode 54 螺旋矩阵 给你一个 m 行 n 列的矩阵 matrix ,请按照 顺时针螺旋顺序 ,返回矩阵中的所有元素。 示例1: 输入:matrix [[1,2,3],[4,5,6],[7…...
go gorm 查询
定义model package mysqltestimport ("errors""fmt""gorm.io/gorm" )type Product struct {gorm.ModelID uint gorm:"primarykey"Name string gorm:"column:name"Price float64 gorm:"column:price_value&quo…...
Flutter GetXController 动态Tabbar 报错问题
场景: 1.Tabbar的内容是接口获取的 2. TabController? tabController;; 在onInit 方法中初始化tabbarController tabController TabController(initialIndex: 0, length: titleDataList.length, vsync: this); 这时候会报一个错误 Controllers l…...
Redis(缓存预热,缓存雪崩,缓存击穿,缓存穿透)
目录 一、缓存预热 二、缓存雪崩 三、缓存击穿 四、缓存穿透 一、缓存预热 开过车的都知道,冬天的时候启动我们的小汽车之后不要直接驾驶,先让车子发动机预热一段时间再启动。缓存预热是一样的道理。 缓存预热就是系统启动前,提前将相关的…...
UE4/5Niagara粒子特效学习(使用UE5.1,适合新手)
目录 创建空模板 创建粒子 粒子的基础属性 粒子的生命周期 颜色 大小设置 生成的位置 Skeletal Mesh Location的效果: Shape Location 添加速度 添加Noise力场 在生成中添加: 效果: 编辑 在更新中添加: 效果&…...
from moduleA import * 语句 和import moduleA 的区别
from moduleA import * 语句和import moduleA 的区别是: from moduleA import * 语句会将moduleA模块中的所有内容(函数、变量、类等)直接导入到当前模块的命名空间中,这样就可以直接使用它们,而不需要加上模块名的限…...
【leetcode 力扣刷题】交换链表中的节点
24. 两两交换链表中的节点 24. 两两交换链表中的节点两两节点分组,反转两个节点连接递归求解 24. 两两交换链表中的节点 题目链接:24. 两两交换链表中的节点 题目内容: 题目中强调不能修改节点内部值,是因为如果不加这个限制的话…...
学会Mybatis框架:让你的代码更具灵活性、可维护性、安全性和高效性【二.动态SQL】
🥳🥳Welcome Huihuis Code World ! !🥳🥳 接下来看看由辉辉所写的关于Mybatis的相关操作吧 目录 🥳🥳Welcome Huihuis Code World ! !🥳🥳 一.Mybatis动态SQL如何应用 1.需求 2.…...
Oracle 中 ROWNUM 使用问题记录
ROWNUM 使用问题记录(2023-08-17) Oracle 版本: 19.0.0.0.0 Enterprise现象:今天在项目遇到一个问题,测试人员反馈前一天能看到的数据今天看不到了 用表格举例,这是前一天看到的数据,有9、7、1 这几个数量信息 日期…...
MySQL数据库:内置函数
日期函数 规定:日期:年月日 时间:时分秒 函数名称作用描述current_date()当前日期current_time()当前时间current_timestamp()当前时间戳date(datetime)返回datetime参数的日期部分date_add(date,interval d_value_type)在date中添加…...
【C++杂货铺】探索string的底层实现
文章目录 一、成员变量二、成员函数2.1 默认构造函数2.2 拷贝构造函数2.3 operator2.4 c_str()2.5 size()2.6 operator[ ]2.7 iterator2.8 reserve2.9 resize2.10 push_back2.11 append2.12 operator2.13 insert2.14 erase2.15 find2.16 substr2.17 operator<<2.18 opera…...
c++ day1
定义一个命名空间Myspace,包含以下函数:将一个字符串中的所有单词进行反转,并输出反转后的结果。例如,输入字符串为"Hello World",输出结果为"olleH dlroW",并在主函数内测试该函数。 …...
网站建设的发展目标/营销推广方案
声明第三方字体 font-face {font-family: myFirstFont;src: url(Sansation_Light.ttf),url(Sansation_Light.eot); /* IE9 */ } 使用font-face指定字体的名称和资源地址。 使用第三方字体 示例 <div> 使用 CSS3,网站终于可以使用字体以外的预先选择“合法”字体 <…...
郑州网站制作天强科技/站长之家 seo查询
转自:MongoDB常用28条查询语句 1、查询所有记录 db.userInfo.find(); 相当于: select* from userInfo; 默认每页显示20条记录,当显示不下的情况下,可以用it迭代命令查询下一页数据。注意:键入it命令不能带“࿱…...
创建自己的网站/怎么设计网站
这段时间泡论坛,听到了很多跳槽程序员的困惑和迷茫。“工作太无聊了,每天没有成就感,想换却找不到方向……”“35岁了,曾经的同学都年薪百万了,自己还是不上不下的……”“晋升好难,看不到上升空间了……”…...
成都网站建设外包公司/百度搜索关键词规则
在WordPress中,尽管你把固定链接设置成 /%postname%.html这种形式,也只能给文章的URL添加 .html 后缀,其余页面的URL都是没有 .html 后缀的。这次我们讲讲如何给WordPress博客的页面URL添加.html后缀。使用插件:如果想给页面URL添…...
建个简单的网站/网站推广策略有哪些
参考: 技术解析|Doris Connector 结合 Flink CDC 实现 MySQL 分库分表 Exactly Once 精准接入-阿里云开发者社区 逻辑图: 1. Flink环境: https://flink.apache.org/zh/ 下载flink-1.15.1 wget https://dlcdn.apache.org/flink…...
做网站用哪个服务器好/seo推广网络
《读懂一本书:樊登读书法》_精选读后感500字我们为何要读书?这个问题好回答,也不好回答!我们读书带着目的?或者不带目的?都不重要!重要的是能够使自己成长和进步,只有这样才能积累“…...