← 返回学习路线

SYSTEM

Sentinel 控流熔断

Java基础Sentinelsystem
src/content/notes/system/Sentinel.md

Sentinel

基本介绍

Sentinel 是面向分布式、多语言异构化服务架构的流量治理组件

Sentinel 分为两个部分:

  • 核心库(Java 客户端)不依赖任何框架/库,能够运行于 Java 8 及以上的版本的运行时环境
  • 控制台(Dashboard)主要负责管理推送规则、监控、管理机器信息等

下载到本地,运行命令:java -jar sentinel-dashboard-1.8.2.jar (要求 Java8,且 8080 端口不能被占用),访问 http://localhost:8080/,账号密码均为 sentinel

官网:https://sentinelguard.io

下载地址:https://github.com/alibaba/Sentinel/releases


基本使用

构建演示工程:

  • 引入 pom 依赖:

    <dependency>
        <groupId>com.alibaba.cloud</groupId>
        <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
    </dependency>
  • application.yml:sentinel.transport.port 端口配置会在应用对应的机器上启动一个 HTTP Server,该 Server 与 Sentinel 控制台做交互。比如 Sentinel 控制台添加了 1 个限流规则,会把规则数据 Push 给 Server 接收,Server 再将规则注册到 Sentinel 中

    server:
      port: 8401
    
    spring:
      application:
        name: cloudalibaba-sentinel-service
      cloud:
        nacos:
          discovery:
            server-addr: localhost:8848 # Nacos 服务注册中心地址【需要启动Nacos8848】
        sentinel:
          transport:
            # 配置Sentinel dashboard地址
            dashboard: localhost:8080
            # 默认8719端口,假如被占用会自动从8719开始依次+1扫描,直至找到未被占用的端口
            port: 8719
    
    management:
      endpoints:
        web:
          exposure:
            include: '*'
  • 主启动类:

    @EnableDiscoveryClient
    @SpringBootApplication
    public class SentinelMainApp8401 {
        public static void main(String[] args) {
            SpringApplication.run(SentinelMainApp8401.class, args);
        }
    }
  • 流量控制 Controller:

    @RestController
    @Slf4j
    public class FlowLimitController {
        @GetMapping("/testA")
        public String testA() {
            return "------testA";
        }
    
        @GetMapping("/testB")
        public String testB() {
            return "------testB";
        }
    }
  • Sentinel 采用懒加载机制,需要先访问 http://localhost:8401/testA,控制台才能看到


流控规则

流量控制规则 FlowRule:同一个资源可以同时有多个限流规则

  • 资源名 resource:限流规则的作用对象,Demo 中为 testA
  • 针对资源 limitApp:针对调用者进行限流,默认为 default 代表不区分调用来源
  • 阈值类型 grade:QPS 或线程数模式
  • 单机阈值 count:限流阈值
  • 流控模式 strategy:调用关系限流策略
    • 直接:资源本身达到限流条件直接限流
    • 关联:当关联的资源达到阈值时,限流自身
    • 链路:只记录指定链路上的流量,从入口资源进来的流量
  • 流控效果 controlBehavior:
    • 快速失败:直接失败,抛出异常
    • Warm Up:冷启动,根据 codeFactory(冷加载因子,默认 3)的值,从 count/codeFactory 开始缓慢增加,给系统预热时间
    • 排队等待:匀速排队,让请求以匀速的方式通过,阈值类型必须设置为 QPS,否则无效
Cloud-Sentinel增加流控规则

通过调用 SystemRuleManager.loadRules() 方法来用硬编码的方式定义流量控制规则:

private void initSystemProtectionRule() {
  List<SystemRule> rules = new ArrayList<>();
  SystemRule rule = new SystemRule();
  rule.setHighestSystemLoad(10);
  rules.add(rule);
  SystemRuleManager.loadRules(rules);
}

详细内容参考文档:https://sentinelguard.io/zh-cn/docs/flow-control.html


降级熔断

Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时,对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联错误。当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出 DegradeException)

Sentinel 提供以下几种熔断策略:

  • 资源名 resource:限流规则的作用对象,Demo 中为 testA
  • 熔断策略 grade:
    • 慢调用比例(SLOW_REQUEST_RATIO):以慢调用比例作为阈值,需要设置允许的慢调用 RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断,若大于设置的慢调用 RT 则会再次被熔断
    • 异常比例(ERROR_RATIO):当单位统计时长内请求数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态,若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0],代表 0% - 100%
    • 异常数 (ERROR_COUNT):当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态,若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断
  • 单机阈值 count:慢调用比例模式下为慢调用临界 RT;异常比例/异常数模式下为对应的阈值
  • 熔断时长 timeWindow:单位为 s
  • 最小请求数 minRequestAmount:熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断,默认 5
  • 统计时长 statIntervalMs:单位统计时长
  • 慢调用比例阈值 slowRatioThreshold:仅慢调用比例模式有效
Cloud-Sentinel增加熔断规则

注意异常降级仅针对业务异常,对 Sentinel 限流降级本身的异常 BlockException 不生效,为了统计异常比例或异常数,需要通过 Tracer.trace(ex) 记录业务异常或者通过@SentinelResource 注解会自动统计业务异常

Entry entry = null;
try {
  entry = SphU.entry(resource);

  // Write your biz code here.
  // <<BIZ CODE>>
} catch (Throwable t) {
  if (!BlockException.isBlockException(t)) {
    Tracer.trace(t);
  }
} finally {
  if (entry != null) {
    entry.exit();
  }
}

详细内容参考文档:https://sentinelguard.io/zh-cn/docs/circuit-breaking.html


热点限流

热点参数限流会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流,Sentinel 利用 LRU 策略统计最近最常访问的热点参数,结合令牌桶算法来进行参数级别的流控

Cloud-Sentinel热点参数限流

引入 @SentinelResource 注解:https://sentinelguard.io/zh-cn/docs/annotation-support.html

  • value:Sentinel 资源名,默认为请求路径,这里 value 的值可以任意写,但是约定与 Restful 地址一致

  • blockHandler:表示触发了 Sentinel 中配置的流控规则,就会调用兜底方法 del_testHotKey

  • blockHandlerClass:如果设置了该值,就会去该类中寻找 blockHandler 方法

  • fallback:用于在抛出异常的时候提供 fallback 处理逻辑

    说明:fallback 对应服务降级(服务出错了需要有个兜底方法),blockHandler 对应服务熔断(服务不可用的兜底方法)

@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey", blockHandler = "del_testHotKey")
public String testHotkey(@RequestParam(value = "p1", required = false) String p1,
                         @RequestParam(value = "p1", required = false) String p2) {
    return "------testHotkey";
}

// 自定义的兜底方法,必须是 BlockException
public String del_testHotKey(String p1, String p2, BlockException e) {
    return "不用默认的兜底提示 Blocked by Sentinel(flow limiting),自定义提示:del_testHotKeyo.";
}

图示设置 p1 参数限流,规则是 1s 访问 1 次,当 p1=5 时 QPS > 100,只访问 p2 不会出现限流 http://localhost:8401/testHotKey?p2=b

Cloud-Sentinel增加热点规则
  • 参数索引 paramIdx:热点参数的索引,图中索引 0 对应方法中的 p1 参数
  • 参数例外项 paramFlowItemList:针对指定的参数值单独设置限流阈值,不受 count 阈值的限制,仅支持基本类型和字符串类型

说明:@SentinelResource 只管控制台配置规则问题,出现运行时异常依然会报错

详细内容参考文档:https://sentinelguard.io/zh-cn/docs/parameter-flow-control.html


系统规则

Sentinel 系统自适应保护从整体维度对应用入口流量进行控制,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性

系统规则支持以下的阈值类型:

  • Load(仅对 Linux/Unix-like 机器生效):当系统 load1 超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护,系统容量由系统的 maxQps * minRt 计算得出,设定参考值一般是 CPU cores * 2.5
  • RT:当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒
  • 线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护
  • 入口 QPS:当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护
  • CPU usage:当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0)
Cloud-Sentinel增加系统规则

详细内容参考文档:https://sentinelguard.io/zh-cn/docs/system-adaptive-protection.html


服务调用

消费者需要进行服务调用

  • 引入 pom 依赖:

    <dependency>
      <groupId>org.springframework.cloud</groupId>
      <artifactId>spring-cloud-starter-openfeign</artifactId>
    </dependency>
  • application.yml:激活 Sentinel 对 Feign 的支持

    feign:
      sentinel:
        enabled: true
  • 主启动类:加上 @EnableFeignClient 注解开启 OpenFeign

  • 业务类:

    // 指明调用失败的兜底方法在PaymentFallbackService,使用 fallback 方式是无法获取异常信息的,
    // 如果想要获取异常信息,可以使用 fallbackFactory 参数
    @FeignClient(value = "nacos-payment-provider", fallback = PaymentFallbackService.class)
    public interface PaymentFeignService {
        // 去生产则服务中找相应的接口,方法签名一定要和生产者中 controller 的一致
        @GetMapping(value = "/paymentSQL/{id}")
        public CommonResult<Payment> paymentSQL(@PathVariable("id") Long id);
    }
    
    @Component   //不要忘记注解,降级方法
    public class PaymentFallbackService implements PaymentFeignService {
        @Override
        public CommonResult<Payment> paymentSQL(Long id) {
            return new CommonResult<>(444,"服务降级返回,没有该流水信息-------PaymentFallbackSe

持久化

配置持久化:

  • 引入 pom 依赖:

    <!--SpringCloud ailibaba sentinel-datasource-nacos 后续做持久化用到-->
    <dependency>
        <groupId>com.alibaba.csp</groupId>
        <artifactId>sentinel-datasource-nacos</artifactId>
    </dependency>
  • 添加 Nacos 数据源配置:

    server:
      port: 8401
    
    spring:
      application:
        name: cloudalibaba-sentinel-service
      cloud:
        nacos:
          discovery:
            server-addr: localhost:8848 #Nacos服务注册中心地址
        sentinel:
          transport:
            dashboard: localhost:8080
            port: 8719
          # 关闭默认收敛所有URL的入口context,不然链路限流不生效
          web-context-unify: false
          # filter:
            # enabled: false  # 关闭自动收敛
    
          #持久化配置
          datasource:
            ds1:
              nacos:
                server-addr: localhost:8848
                dataId: cloudalibaba-sentinel-service
                groupId: DEFAULT_GROUP
                data-type: json
                rule-type: flow