Spring Cloud Alibaba实践 --Sentinel

sentinel介绍

Sentinel的官方标题是：分布式系统的流量防卫兵。从名字上来看，很容易就能猜到它是用来作服务稳定性保障的。对于服务稳定性保障组件，如果熟悉Spring Cloud的用户，第一反应应该就是Hystrix。但是比较可惜的是Netflix已经宣布对Hystrix停止更新。那么，在未来我们还有什么更好的选择呢？除了Spring Cloud官方推荐的resilience4j之外，目前Spring Cloud Alibaba下整合的Sentinel也是用户可以重点考察和选型的目标。

如果某一个服务不可用或者宕机了，就会出现线程池里所有线程都因等待响应而被阻塞, 从而造成服务雪崩。解决雪崩问题的常见方式，也是微服务常见的治理策略：

• 服务超时：设定超时时间，请求超过一定的时间没有响应就返回错误信息，不会无休止等待。
• 资源隔离：将系统按照一定的规则划分为若干个服务模块，各个模块之间相对独立，无强依赖。常见的隔离方式有：线程池隔离和信号量隔离。
• 流量控制：限制业务访问的QPS,避免服务因流量的突增而故障。
• 服务熔断：有断路器统计业务执行的异常比例，如果超出阈值则会熔断业务，拦截访问该业务的一切请求，直到该业务错误率降到阈值以下。
• 服务降级：当某个服务熔断之后，服务将不再被调用，此时客户端可以自己准备一个本地的fallback（回退）回调，返回一个缺省值。例如，在商品详情页一般都会展示商品的介绍信息，一旦商品详情页系统出现故障无法调用时，会直接获取缓存中的商品介绍信息返回给前端页面。

Sentinel 基本概念：

资源
资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容，例如，由应用程序提供的服务，或由应用程序调用的其它应用提供的服务，甚至可以是一段代码。在接下来的文档中，我们都会用资源来描述代码块。

只要通过 Sentinel API 定义的代码，就是资源，能够被 Sentinel 保护起来。大部分情况下，可以使用方法签名，URL，甚至服务名称作为资源名来标示资源。

规则
围绕资源的实时状态设定的规则，可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

流量控制
Sentinel 作为一个调配器，可以根据需要把随机的请求调整成合适的形状。

流量控制有以下几个角度:

• 资源的调用关系，例如资源的调用链路，资源和资源之间的关系；
• 运行指标，例如 QPS、线程池、系统负载等；
• 控制的效果，例如直接限流、冷启动、排队等。

熔断降级

• 通过并发线程数进行限制
  Sentinel 通过限制资源并发线程的数量，来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗，也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下，例如响应时间变长，对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后，对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。

• 通过响应时间对资源进行降级
  除了对并发线程数进行控制以外，Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后，所有对该资源的访问都会被直接拒绝，直到过了指定的时间窗口之后才重新恢复。

Sentinel 的主要工作机制如下：

• 对主流框架提供适配或者显示的 API，来定义需要保护的资源，并提供设施对资源进行实时统计和调用链路分析。
• 根据预设的规则，结合对资源的实时统计信息，对流量进行控制。同时，Sentinel 提供开放的接口，方便您定义及改变规则。
• Sentinel 提供实时的监控系统，方便您快速了解目前系统的状态。

Sentiner与hystrix的区别：

安装并整合sentinel客户端

Sentinel的使用分为两部分：

• sentinel-dashboard：与hystrix-dashboard类似，但是它更为强大一些。除了与hystrix-dashboard一样提供实时监控之外，还提供了流控规则、熔断规则的在线维护等功能。
• 客户端整合：每个微服务客户端都需要整合sentinel的客户端封装与配置，才能将监控信息上报给dashboard展示以及实时的更改限流或熔断规则等。

（1）启动sentinel-dashboard

下载地址：sentinel-dashboard-1.6.0.jar
其他版本：Sentinel/releases

通过命令启动：

java -jar sentinel-dashboard-1.6.0.jar

默认情况下，sentinel-dashboard以8080端口启动。由于sentinel-dashboard是一个标准的spring boot应用，所以如果要自定义端口号等内容的话，可以通过在启动命令中增加参数来调整，比如：

java -jar sentinel-dashboard-1.6.0.jar --server.port=8888

所以可以通过访问：localhost:8888 来验证是否已经启动成功，如果一切顺利的话，可以看到登录页面（默认用户名和密码都是sentinel）。

（2）整合Sentinel

依赖：

    <dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId></dependency>

配置：

spring.application.name=alibaba-sentinel-rate-limiting
server.port=8002# sentinel dashboard
spring.cloud.sentinel.transport.dashboard=localhost:8888

主类：

package com.example.demospringboot;import lombok.extern.slf4j.Slf4j;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;@SpringBootApplication
@Slf4j
public class DemospringbootApplication {public static void main(String[] args) {SpringApplication.run(DemospringbootApplication.class, args);}@Slf4j@RestControllerstatic class TestController {@GetMapping("/hello")public String hello() {return "Hello World";}}
}

启动应用，并执行curl命令：

此时，在上面启动的Sentinel Dashboard中就可以当前我们启动的alibaba-sentinel-rate-limiting这个服务以及接口调用的实时监控了。具体如下图所示：

流控限流

配置接口限流规则

在完成了上面的两节之后，我们在alibaba-sentinel-rate-limiting服务下，点击簇点链路菜单，可以看到如下界面：

通过点击流控按钮，来为该接口设置限流规则，比如：

流控模式：

• 直接：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认模式。
• 关联：统计与当前相关的另一个资源，触发阈值时，对当前资源限流。
• 链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流，即只限流从指定接口进来的

流控效果：

• 快速失效：达到阈值后，新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。

• warm up：预热模式，对超出阈值的请求同样是拒绝，并抛出异常。但这种模式阈值会动态变化，从一个较小的值逐渐增加到最大值。请求阈值初始值是 threshold/coldFactor（默认值是3），持续指定时长后，逐渐提高到threshould值。例如，我设置QPS的threshold的为10，预热时间为5秒，那么初始阈值就是10/3，也就是3，然后在5秒后逐渐增长到10.

• 排队等待：让所有请求按照先后次序进入一个队列中排队执行，两个请求的间隔不能小于指定时长。例如：QPS = 5，意味着每200ms处理一个队列中的请求；timeout =2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常。

参考案例

点击新增按钮之后，可以看到如下界面：

其实就是左侧菜单中流控规则的界面，这里可以看到当前设置的所有限流策略。在完成了上面所有内容之后，我们可以尝试一下快速的调用这个接口，看看是否会触发限流控制，比如：

可以看到，快速的调用/hello接口之后，调用被限流了。
在 sentinel-dashboard界面，也可以看到对应统计：

Sentinel使用Nacos存储规则

Dashboard中设置的限流规则在应用重启之后就丢失了。Sentinel自身就支持了多种不同的数据源来持久化规则配置，目前包括以下几种方式：

• 文件配置
• Nacos配置
• ZooKeeper配置
• Apollo配置

本文我们使用Spring Cloud Alibaba的中整合的配置中心Nacos存储限流规则。前置条件，启动Nacos，详见 Spring Cloud Alibaba实践 --Nacos

默认配置下启动后，它们的访问地址为：

• Nacos：http://localhost:8848/nacos
• Sentinel Dashboard：http://localhost:8080/

（1）在Spring Cloud应用的pom.xml中引入Spring Cloud Alibaba的Sentinel模块和Nacos存储扩展：

    <dependency><groupId>com.alibaba.csp</groupId><artifactId>sentinel-datasource-nacos</artifactId><version>1.5.2</version></dependency>

（2）在Spring Cloud应用中添加配置信息

spring.application.name=alibaba-sentinel-rate-limiting
server.port=8002
# sentinel dashboard
spring.cloud.sentinel.transport.dashboard=localhost:8888# ds-sentinel-nacos-datasource
spring.cloud.sentinel.datasource.ds.nacos.server-addr=localhost:8848
spring.cloud.sentinel.datasource.ds.nacos.dataId=${spring.application.name}-sentinel
spring.cloud.sentinel.datasource.ds.nacos.groupId=DEFAULT_GROUP
spring.cloud.sentinel.datasource.ds.nacos.rule-type=flow

（3）Nacos中创建限流规则的配置

注：Data ID、Group就是上面第二步中配置的内容。配置格式选择JSON，并在配置内容中填入下面的内容：

[{"resource": "/hello","limitApp": "default","grade": 1,"count": 5,"strategy": 0,"controlBehavior": 0,"clusterMode": false}
]

配置规则是一个数组类型，数组中的每个对象是针对每一个保护资源的配置对象，每个对象中的属性解释如下：

• resource：资源名，即限流规则的作用对象
• limitApp：流控针对的调用来源，若为 default 则不区分调用来源
• grade：限流阈值类型（QPS 或并发线程数）；0代表根据并发数量来限流，1代表根据QPS来进行流量控制
• count：限流阈值
• strategy：调用关系限流策略
• controlBehavior：流量控制效果（直接拒绝、Warm Up、匀速排队）
• clusterMode：是否为集群模式

（4）启动应用，curl localhost:8002/hello测试

如果一些顺利，可以看到类似下面的日志，代表已经成功从Nacos加载了一条限流规则：

2023-12-09 19:00:04.887  INFO 13800 --- [           main] o.s.c.a.s.c.SentinelDataSourceHandler    : [Sentinel Starter] DataSource ds-sentinel-nacos-datasource load 1 FlowRule

在Sentinel Dashboard中就可以看到当前我们启动的alibaba-sentinel-rate-limiting
服务。点击左侧菜单中的流控规则，可以看到已经存在一条记录了，具体如下：

注：在完成了上面的整合之后，对于接口流控规则的修改就存在两个地方了：Sentinel控制台、Nacos控制台。

这个时候，需要注意当前版本的Sentinel控制台不具备同步修改Nacos配置的能力，而Nacos由于可以通过在客户端中使用Listener来实现自动更新。所以，在整合了Nacos做规则存储之后，需要知道在下面两个地方修改存在不同的效果：

• Sentinel控制台中修改规则：仅存在于服务的内存中，不会修改Nacos中的配置值，重启后恢复原来的值。
• Nacos控制台中修改规则：服务的内存中规则会更新，Nacos中持久化规则也会更新，重启后依然保持。

@SentinelResource对某个方法资源调用限流

在实际应用过程中，我们可能需要限流的层面不仅限于接口，而是对于某个方法的调用限流，对于某个外部资源的调用限流等都希望做到控制。这个时候我们就不得不手工定义需要限流的资源点，并配置相关的限流策略等内容了。使用@SentinelResource注解可以灵活的定义控制资源以及如何配置控制策略。

主启动类：
在应用主类中增加注解支持的配置Bean

package com.example.demospringboot;import com.alibaba.csp.sentinel.annotation.aspectj.SentinelResourceAspect;
import lombok.extern.slf4j.Slf4j;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;@SpringBootApplication
@Slf4j
public class DemospringbootApplication {public static void main(String[] args) {SpringApplication.run(DemospringbootApplication.class, args);}// 注解支持的配置Bean@Beanpublic SentinelResourceAspect sentinelResourceAspect() {return new SentinelResourceAspect();}}

Service：
在需要通过Sentinel来控制流量的地方使用@SentinelResource注解，自定义资源点;
并通过@SentinelResource注解的blockHandler属性实现限流的异常处理

package com.example.demospringboot;import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;@Slf4j
@Service
public class TestService {@SentinelResource(value = "doSomeThing", blockHandler = "exceptionHandler")public void doSomeThing(String str) {log.info(str);}// 限流与阻塞处理public void exceptionHandler(String str, BlockException ex) {log.error( "blockHandler-> " + str, ex);}
}

Controller:
在Web层调用这个被保护的方法

package com.example.demospringboot;import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;import java.util.Date;@RestController
public class TestController {@Autowiredprivate TestService testService;@GetMapping("/hello")public String hello() {testService.doSomeThing("hello " + new Date());return "Hello World";}
}

启动测试应用，启动Sentinel-Dashboard。 curl localhost:8002/hello发一个请求到/hello接口上，使得Sentinel-Dashboard上可以看到如下图所示的几个控制点：

可以看到，多了一个doSomeThing资源点。可以通过界面为这个资源点设置限流规则，比如将其QPS设置为2。由于/hello资源不设置限流规则，所以只要请求/hello接口，就可以直接模拟调用doSomeThing资源，来观察限流规则是否生效。只要QPS超过2，那么就会出现如下的错误返回，代表限流策略生效了。

2023-12-09 12:45:58.015  INFO 11368 --- [nio-8002-exec-7] com.example.demospringboot.TestService   : hello Sat Dec 09 12:45:58 CST 2023
2023-12-09 12:45:58.378 TRACE 11368 --- [nio-8002-exec-8] s.w.s.m.m.a.RequestMappingHandlerMapping : Mapped to com.example.demospringboot.TestController#hello()
2023-12-09 12:45:58.401 ERROR 11368 --- [nio-8002-exec-8] com.example.demospringboot.TestService   : blockHandler-> hello Sat Dec 09 12:45:58 CST 2023com.alibaba.csp.sentinel.slots.block.flow.FlowException: null

熔断降级

@SentinelResource注解除了可以用来做限流控制之外，还能实现与Hystrix类似的熔断降级策略。

这里只需对TestService类改造，让doSomeThing方法持续抛出异常，触发fallback属性指定的具体方法名进行降级处理。

package com.example.demospringboot;import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;@Slf4j
@Service
public class TestService {@SentinelResource(value = "doSomeThing", fallback = "fallbackHandler")public void doSomeThing(String str) {log.info(str);throw new RuntimeException("发生异常");}public void fallbackHandler(String str) {log.error("fallbackHandler-> " + str);}
}

在Sentinel-Dashboard名为doSomeThing的资源点上，点击”降级“按钮，为该资源设置降级规则。这里使用异常比例策略，比例设置为0.1（即：10%的异常率），时间窗口设置为2（秒）：

验证熔断降级，根据上面的降级策略配置，当doSomeThing方法的调用QPS >= 5时，如果异常率超过10%，那么后续2秒内的调用将直接触发熔断降级：

2023-12-09 13:30:21.332 TRACE 4248 --- [io-8002-exec-10] s.w.s.m.m.a.RequestMappingHandlerMapping : Mapped to com.example.demospringboot.TestController#hello()
2023-12-09 13:30:21.333 ERROR 4248 --- [io-8002-exec-10] com.example.demospringboot.TestService   : fallbackHandler-> hello Sat Dec 09 13:30:21 CST 2023
2023-12-09 13:30:21.678 TRACE 4248 --- [nio-8002-exec-2] s.w.s.m.m.a.RequestMappingHandlerMapping : Mapped to com.example.demospringboot.TestController#hello()
2023-12-09 13:30:21.678 ERROR 4248 --- [nio-8002-exec-2] com.example.demospringboot.TestService   : fallbackHandler-> hello Sat Dec 09 13:30:21 CST 2023

参考：
https://www.didispace.com/spring-cloud/spring-cloud-alibaba-sentinel-2-5.html
https://zhuanlan.zhihu.com/p/565074363?utm_id=0