SYSTEM
Sentinel 控流熔断
src/content/notes/system/Sentinel.md Sentinel
基本介绍
Sentinel 是面向分布式、多语言异构化服务架构的流量治理组件
Sentinel 分为两个部分:
- 核心库(Java 客户端)不依赖任何框架/库,能够运行于 Java 8 及以上的版本的运行时环境
- 控制台(Dashboard)主要负责管理推送规则、监控、管理机器信息等
下载到本地,运行命令:java -jar sentinel-dashboard-1.8.2.jar (要求 Java8,且 8080 端口不能被占用),访问 http://localhost:8080/,账号密码均为 sentinel
下载地址:https://github.com/alibaba/Sentinel/releases
基本使用
构建演示工程:
-
引入 pom 依赖:
<dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId> </dependency> -
application.yml:sentinel.transport.port 端口配置会在应用对应的机器上启动一个 HTTP Server,该 Server 与 Sentinel 控制台做交互。比如 Sentinel 控制台添加了 1 个限流规则,会把规则数据 Push 给 Server 接收,Server 再将规则注册到 Sentinel 中
server: port: 8401 spring: application: name: cloudalibaba-sentinel-service cloud: nacos: discovery: server-addr: localhost:8848 # Nacos 服务注册中心地址【需要启动Nacos8848】 sentinel: transport: # 配置Sentinel dashboard地址 dashboard: localhost:8080 # 默认8719端口,假如被占用会自动从8719开始依次+1扫描,直至找到未被占用的端口 port: 8719 management: endpoints: web: exposure: include: '*' -
主启动类:
@EnableDiscoveryClient @SpringBootApplication public class SentinelMainApp8401 { public static void main(String[] args) { SpringApplication.run(SentinelMainApp8401.class, args); } } -
流量控制 Controller:
@RestController @Slf4j public class FlowLimitController { @GetMapping("/testA") public String testA() { return "------testA"; } @GetMapping("/testB") public String testB() { return "------testB"; } } -
Sentinel 采用懒加载机制,需要先访问 http://localhost:8401/testA,控制台才能看到
流控规则
流量控制规则 FlowRule:同一个资源可以同时有多个限流规则
- 资源名 resource:限流规则的作用对象,Demo 中为 testA
- 针对资源 limitApp:针对调用者进行限流,默认为 default 代表不区分调用来源
- 阈值类型 grade:QPS 或线程数模式
- 单机阈值 count:限流阈值
- 流控模式 strategy:调用关系限流策略
- 直接:资源本身达到限流条件直接限流
- 关联:当关联的资源达到阈值时,限流自身
- 链路:只记录指定链路上的流量,从入口资源进来的流量
- 流控效果 controlBehavior:
- 快速失败:直接失败,抛出异常
- Warm Up:冷启动,根据 codeFactory(冷加载因子,默认 3)的值,从 count/codeFactory 开始缓慢增加,给系统预热时间
- 排队等待:匀速排队,让请求以匀速的方式通过,阈值类型必须设置为 QPS,否则无效
通过调用 SystemRuleManager.loadRules() 方法来用硬编码的方式定义流量控制规则:
private void initSystemProtectionRule() {
List<SystemRule> rules = new ArrayList<>();
SystemRule rule = new SystemRule();
rule.setHighestSystemLoad(10);
rules.add(rule);
SystemRuleManager.loadRules(rules);
}
详细内容参考文档:https://sentinelguard.io/zh-cn/docs/flow-control.html
降级熔断
Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时,对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联错误。当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出 DegradeException)
Sentinel 提供以下几种熔断策略:
- 资源名 resource:限流规则的作用对象,Demo 中为 testA
- 熔断策略 grade:
- 慢调用比例(SLOW_REQUEST_RATIO):以慢调用比例作为阈值,需要设置允许的慢调用 RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断,若大于设置的慢调用 RT 则会再次被熔断
- 异常比例(ERROR_RATIO):当单位统计时长内请求数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态,若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。异常比率的阈值范围是
[0.0, 1.0],代表 0% - 100% - 异常数 (ERROR_COUNT):当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态,若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断
- 单机阈值 count:慢调用比例模式下为慢调用临界 RT;异常比例/异常数模式下为对应的阈值
- 熔断时长 timeWindow:单位为 s
- 最小请求数 minRequestAmount:熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断,默认 5
- 统计时长 statIntervalMs:单位统计时长
- 慢调用比例阈值 slowRatioThreshold:仅慢调用比例模式有效
注意异常降级仅针对业务异常,对 Sentinel 限流降级本身的异常 BlockException 不生效,为了统计异常比例或异常数,需要通过 Tracer.trace(ex) 记录业务异常或者通过@SentinelResource 注解会自动统计业务异常
Entry entry = null;
try {
entry = SphU.entry(resource);
// Write your biz code here.
// <<BIZ CODE>>
} catch (Throwable t) {
if (!BlockException.isBlockException(t)) {
Tracer.trace(t);
}
} finally {
if (entry != null) {
entry.exit();
}
}
详细内容参考文档:https://sentinelguard.io/zh-cn/docs/circuit-breaking.html
热点限流
热点参数限流会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流,Sentinel 利用 LRU 策略统计最近最常访问的热点参数,结合令牌桶算法来进行参数级别的流控
引入 @SentinelResource 注解:https://sentinelguard.io/zh-cn/docs/annotation-support.html
-
value:Sentinel 资源名,默认为请求路径,这里 value 的值可以任意写,但是约定与 Restful 地址一致
-
blockHandler:表示触发了 Sentinel 中配置的流控规则,就会调用兜底方法
del_testHotKey -
blockHandlerClass:如果设置了该值,就会去该类中寻找 blockHandler 方法
-
fallback:用于在抛出异常的时候提供 fallback 处理逻辑
说明:fallback 对应服务降级(服务出错了需要有个兜底方法),blockHandler 对应服务熔断(服务不可用的兜底方法)
@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey", blockHandler = "del_testHotKey")
public String testHotkey(@RequestParam(value = "p1", required = false) String p1,
@RequestParam(value = "p1", required = false) String p2) {
return "------testHotkey";
}
// 自定义的兜底方法,必须是 BlockException
public String del_testHotKey(String p1, String p2, BlockException e) {
return "不用默认的兜底提示 Blocked by Sentinel(flow limiting),自定义提示:del_testHotKeyo.";
}
图示设置 p1 参数限流,规则是 1s 访问 1 次,当 p1=5 时 QPS > 100,只访问 p2 不会出现限流 http://localhost:8401/testHotKey?p2=b
- 参数索引 paramIdx:热点参数的索引,图中索引 0 对应方法中的 p1 参数
- 参数例外项 paramFlowItemList:针对指定的参数值单独设置限流阈值,不受 count 阈值的限制,仅支持基本类型和字符串类型
说明:@SentinelResource 只管控制台配置规则问题,出现运行时异常依然会报错
详细内容参考文档:https://sentinelguard.io/zh-cn/docs/parameter-flow-control.html
系统规则
Sentinel 系统自适应保护从整体维度对应用入口流量进行控制,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性
系统规则支持以下的阈值类型:
- Load(仅对 Linux/Unix-like 机器生效):当系统 load1 超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护,系统容量由系统的
maxQps * minRt计算得出,设定参考值一般是CPU cores * 2.5 - RT:当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒
- 线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护
- 入口 QPS:当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护
- CPU usage:当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0)
详细内容参考文档:https://sentinelguard.io/zh-cn/docs/system-adaptive-protection.html
服务调用
消费者需要进行服务调用
-
引入 pom 依赖:
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-openfeign</artifactId> </dependency> -
application.yml:激活 Sentinel 对 Feign 的支持
feign: sentinel: enabled: true -
主启动类:加上 @EnableFeignClient 注解开启 OpenFeign
-
业务类:
// 指明调用失败的兜底方法在PaymentFallbackService,使用 fallback 方式是无法获取异常信息的, // 如果想要获取异常信息,可以使用 fallbackFactory 参数 @FeignClient(value = "nacos-payment-provider", fallback = PaymentFallbackService.class) public interface PaymentFeignService { // 去生产则服务中找相应的接口,方法签名一定要和生产者中 controller 的一致 @GetMapping(value = "/paymentSQL/{id}") public CommonResult<Payment> paymentSQL(@PathVariable("id") Long id); }@Component //不要忘记注解,降级方法 public class PaymentFallbackService implements PaymentFeignService { @Override public CommonResult<Payment> paymentSQL(Long id) { return new CommonResult<>(444,"服务降级返回,没有该流水信息-------PaymentFallbackSe
持久化
配置持久化:
-
引入 pom 依赖:
<!--SpringCloud ailibaba sentinel-datasource-nacos 后续做持久化用到--> <dependency> <groupId>com.alibaba.csp</groupId> <artifactId>sentinel-datasource-nacos</artifactId> </dependency> -
添加 Nacos 数据源配置:
server: port: 8401 spring: application: name: cloudalibaba-sentinel-service cloud: nacos: discovery: server-addr: localhost:8848 #Nacos服务注册中心地址 sentinel: transport: dashboard: localhost:8080 port: 8719 # 关闭默认收敛所有URL的入口context,不然链路限流不生效 web-context-unify: false # filter: # enabled: false # 关闭自动收敛 #持久化配置 datasource: ds1: nacos: server-addr: localhost:8848 dataId: cloudalibaba-sentinel-service groupId: DEFAULT_GROUP data-type: json rule-type: flow