← 返回学习路线

SYSTEM

服务调用与负载均衡

Java基础服务调用system
src/content/notes/system/服务调用.md

服务调用

Ribbon

基本介绍

SpringCloud Ribbon 是基于 Netflix Ribbon 实现的一套负载均衡工具,提供客户端的软件负载均衡算法和服务调用,Ribbon 客户端组件提供一系列完善的配置项如连接超时,重试等

官网: https://github.com/Netflix/ribbon/wiki/Getting-Started (已进入维护模式,未来替换为 Load Banlancer)

负载均衡 Load Balance (LB) 就是将用户的请求平摊的分配到多个服务上,从而达到系统的 HA(高可用)

常见的负载均衡算法:

  • 轮询:为请求选择健康池中的第一个后端服务器,然后按顺序往后依次选择

  • 最小连接:优先选择连接数最少,即压力最小的后端服务器,在会话较长的情况下可以采取这种方式

  • 散列:根据请求源的 IP 的散列(hash)来选择要转发的服务器,可以一定程度上保证特定用户能连接到相同的服务器,如果应用需要处理状态而要求用户能连接到和之前相同的服务器,可以采取这种方式

Ribbon 本地负载均衡客户端与 Nginx 服务端负载均衡区别:

  • Nginx 是服务器负载均衡,客户端所有请求都会交给 Nginx,然后由 Nginx 实现转发请求,即负载均衡是由服务端实现的
  • Ribbon 本地负载均衡,在调用微服务接口时会在注册中心上获取注册信息服务列表,然后缓存到 JVM 本地,从而在本地实现 RPC 远程服务调用技术

集中式 LB 和进程内 LB 的对比:

  • 集中式 LB:在服务的消费方和提供方之间使用独立的 LB 设施(如 Nginx),由该设施把访问请求通过某种策略转发至服务的提供方
  • 进程内 LB:将 LB 逻辑集成到消费方,消费方从服务注册中心获知有哪些服务可用,然后从中选择出一个服务器,Ribbon 属于该类

工作流程

Ribbon 是一个软负载均衡的客户端组件

Cloud-Ribbon架构原理

  • 第一步先选择 EurekaServer,优先选择在同一个区域内负载较少的 Server
  • 第二步根据用户指定的策略,再从 Server 取到的服务注册列表中选择一个地址

核心组件

Ribbon 核心组件 IRule 接口,主要实现类:

  • RoundRobinRule:轮询
  • RandomRule:随机
  • RetryRule:先按照 RoundRobinRule 的策略获取服务,如果获取服务失败则在指定时间内会进行重试
  • WeightedResponseTimeRule:对 RoundRobinRule 的扩展,响应速度越快的实例选择权重越大,越容易被选择
  • BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
  • AvailabilityFilteringRule:先过滤掉故障实例,再选择并发较小的实例
  • ZoneAvoidanceRule:默认规则,复合判断 Server 所在区域的性能和 Server 的可用性选择服务器

Cloud-IRule类图

注意:官方文档明确给出了警告,自定义负载均衡配置类不能放在 @ComponentScan 所扫描的当前包下以及子包下

更换负载均衡算法方式:

  • 自定义负载均衡配置类 MySelfRule:

    @Configuration
    public class MySelfRule {
        @Bean
        public IRule myRule() {
            return new RandomRule();//定义为随机负载均衡算法
        }
    }
  • 主启动类添加 @RibbonCilent 注解

    @SpringBootApplication
    @EnableEurekaClient
    // 指明访问的服务CLOUD-PAYMENT-SERVICE,以及指定负载均衡策略
    @RibbonClient(name = "CLOUD-PAYMENT-SERVICE", configuration= MySelfRule.class)
    public class OrderMain80 {
        public static void main(String[] args) {
            SpringApplication.run(OrderMain80.class, args);
        }
    }

OpenFeign

基本介绍

Feign 是一个声明式 WebService 客户端,能让编写 Web 客户端更加简单,只要创建一个接口并添加注解 @Feign 即可,可以与 Eureka 和 Ribbon 组合使用支持负载均衡,所以一般用在消费者端

OpenFeign 在 Feign 的基础上支持了 SpringMVC 注解,并且 @FeignClient 注解可以解析 @RequestMapping 注解下的接口,并通过动态代理的方式产生实现类,在实现类中做负载均衡和服务调用

优点:利用 RestTemplate 对 HTTP 请求的封装处理,形成了一套模版化的调用方法。但是对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以一个微服务接口上面标注一个 @Feign 注解,就可以完成包装依赖服务的调用


基本使用

@FeignClient(“provider name”) 注解使用规则:

  • 声明的方法签名必须和 provider 微服务中的 controller 中的方法签名一致
  • 如果需要传递参数,那么 @RequestParam 、@RequestBody 、@PathVariable 也需要加上

改造消费者服务

  • 引入 pom 依赖:OpenFeign 整合了 Ribbon,具有负载均衡的功能

    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-openfeign</artifactId>
    </dependency>
  • application.yml:不将其注册到 Eureka 作为微服务

    server:
      port: 80
    
    eureka:
      client:
        # 表示不将其注入Eureka作为微服务,不作为Eureak客户端了,而是作为Feign客户端
        register-with-eureka: false
        service-url:
          # 集群版
          defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka
  • 主启动类:开启 Feign

    @SpringBootApplication
    @EnableFeignClients //不作为Eureak客户端了,而是作为Feign客户端
    public class OrderOpenFeignMain80 {
        public static void main(String[] args) {
            SpringApplication.run(OrderOpenFeignMain80.class, args);
        }
    
    }
  • 新建 Service 接口:PaymentFeignService 接口和 @FeignClient 注解,完成 Feign 的包装调用

    @Component
    @FeignClient(value = "CLOUD-PAYMENT-SERVICE") // 作为一个Feign功能绑定的的接口
    public interface PaymentFeignService {
        @GetMapping(value = "/payment/get/{id}")
        public CommonResult<Payment> getPaymentById(@PathVariable("id") long id);
        
        @GetMapping("/payment/feign/timeout")
        public String paymentFeignTimeout();
    }
  • Controller:

    @RestController
    @Slf4j
    public class OrderFeignController {
        @Autowired
        private PaymentFeignService paymentFeignService;
    
        @GetMapping("/consumer/payment/get/{id}")
        public CommonResult<Payment> getPayment(@PathVariable("id") long id) {
            // 返回对象为响应体中数据转化成的对象,基本上可以理解为JSON
            return paymentFeignService.getPaymentById(id);
        }
        
        @GetMapping("/consumer/payment/feign/timeout")
        public String paymentFeignTimeout() {
            // openfeign-ribbon,客户端一般默认等待1s
            return paymentFeignService.paymentFeignTimeout();
        }
    }
    

超时问题

Feign 默认是支持 Ribbon,Feign 客户端的负载均衡和超时控制都由 Ribbon 控制

设置 Feign 客户端的超时等待时间:

ribbon:
  #指的是建立连接后从服务器读取到可用资源所用的时间
  ReadTimeout: 5000
  #指的是建立连接所用的时间,适用于网络状况正常的情况下,两端连接所用的时间
  ConnectTimeout: 5000

演示超时现象:OpenFeign 默认等待时间为 1 秒钟,超过后会报错

  • 服务提供方 Controller:

    @GetMapping("/payment/feign/timeout")
    public String paymentFeignTimeout() {
        try {
            TimeUnit.SECONDS.sleep(3);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        return serverPort;
    }
  • 消费者 PaymentFeignService 和 OrderFeignController 参考上一小节代码

  • 测试报错:

    Cloud-OpenFeign超时错误!]([本地路径])


日志级别

Feign 提供了日志打印功能,可以通过配置来调整日志级别,从而了解 Feign 中 HTTP 请求的细节

NONE 默认的,不显示任何日志
BASIC 仅记录请求方法、URL、响应状态码及执行时间
HEADERS 除了 BASIC 中定义的信息之外,还有请求和响应的头信息
FULL 除了 HEADERS 中定义的信息外,还有请求和响应的正文及元数据

配置在消费者端

  • 新建 config.FeignConfig 文件:配置日志 Bean

    @Configuration
    public class FeignConfig {
        @Bean
        Logger.Level feignLoggerLevel() {
            return Logger.Level.FULL;
        }
    }
  • application.yml:

    logging:
      level:
        # feign 日志以什么级别监控哪个接口
        com.atguigu.springcloud.service.PaymentFeignService: debug
  • Debug 后查看后台日志