SYSTEM
服务调用与负载均衡
src/content/notes/system/服务调用.md 服务调用
Ribbon
基本介绍
SpringCloud Ribbon 是基于 Netflix Ribbon 实现的一套负载均衡工具,提供客户端的软件负载均衡算法和服务调用,Ribbon 客户端组件提供一系列完善的配置项如连接超时,重试等
官网: https://github.com/Netflix/ribbon/wiki/Getting-Started (已进入维护模式,未来替换为 Load Banlancer)
负载均衡 Load Balance (LB) 就是将用户的请求平摊的分配到多个服务上,从而达到系统的 HA(高可用)
常见的负载均衡算法:
-
轮询:为请求选择健康池中的第一个后端服务器,然后按顺序往后依次选择
-
最小连接:优先选择连接数最少,即压力最小的后端服务器,在会话较长的情况下可以采取这种方式
-
散列:根据请求源的 IP 的散列(hash)来选择要转发的服务器,可以一定程度上保证特定用户能连接到相同的服务器,如果应用需要处理状态而要求用户能连接到和之前相同的服务器,可以采取这种方式
Ribbon 本地负载均衡客户端与 Nginx 服务端负载均衡区别:
- Nginx 是服务器负载均衡,客户端所有请求都会交给 Nginx,然后由 Nginx 实现转发请求,即负载均衡是由服务端实现的
- Ribbon 本地负载均衡,在调用微服务接口时会在注册中心上获取注册信息服务列表,然后缓存到 JVM 本地,从而在本地实现 RPC 远程服务调用技术
集中式 LB 和进程内 LB 的对比:
- 集中式 LB:在服务的消费方和提供方之间使用独立的 LB 设施(如 Nginx),由该设施把访问请求通过某种策略转发至服务的提供方
- 进程内 LB:将 LB 逻辑集成到消费方,消费方从服务注册中心获知有哪些服务可用,然后从中选择出一个服务器,Ribbon 属于该类
工作流程
Ribbon 是一个软负载均衡的客户端组件

- 第一步先选择 EurekaServer,优先选择在同一个区域内负载较少的 Server
- 第二步根据用户指定的策略,再从 Server 取到的服务注册列表中选择一个地址
核心组件
Ribbon 核心组件 IRule 接口,主要实现类:
- RoundRobinRule:轮询
- RandomRule:随机
- RetryRule:先按照 RoundRobinRule 的策略获取服务,如果获取服务失败则在指定时间内会进行重试
- WeightedResponseTimeRule:对 RoundRobinRule 的扩展,响应速度越快的实例选择权重越大,越容易被选择
- BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
- AvailabilityFilteringRule:先过滤掉故障实例,再选择并发较小的实例
- ZoneAvoidanceRule:默认规则,复合判断 Server 所在区域的性能和 Server 的可用性选择服务器

注意:官方文档明确给出了警告,自定义负载均衡配置类不能放在 @ComponentScan 所扫描的当前包下以及子包下
更换负载均衡算法方式:
-
自定义负载均衡配置类 MySelfRule:
@Configuration public class MySelfRule { @Bean public IRule myRule() { return new RandomRule();//定义为随机负载均衡算法 } } -
主启动类添加 @RibbonCilent 注解
@SpringBootApplication @EnableEurekaClient // 指明访问的服务CLOUD-PAYMENT-SERVICE,以及指定负载均衡策略 @RibbonClient(name = "CLOUD-PAYMENT-SERVICE", configuration= MySelfRule.class) public class OrderMain80 { public static void main(String[] args) { SpringApplication.run(OrderMain80.class, args); } }
OpenFeign
基本介绍
Feign 是一个声明式 WebService 客户端,能让编写 Web 客户端更加简单,只要创建一个接口并添加注解 @Feign 即可,可以与 Eureka 和 Ribbon 组合使用支持负载均衡,所以一般用在消费者端
OpenFeign 在 Feign 的基础上支持了 SpringMVC 注解,并且 @FeignClient 注解可以解析 @RequestMapping 注解下的接口,并通过动态代理的方式产生实现类,在实现类中做负载均衡和服务调用
优点:利用 RestTemplate 对 HTTP 请求的封装处理,形成了一套模版化的调用方法。但是对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以一个微服务接口上面标注一个 @Feign 注解,就可以完成包装依赖服务的调用
基本使用
@FeignClient(“provider name”) 注解使用规则:
- 声明的方法签名必须和 provider 微服务中的 controller 中的方法签名一致
- 如果需要传递参数,那么
@RequestParam、@RequestBody、@PathVariable也需要加上
改造消费者服务
-
引入 pom 依赖:OpenFeign 整合了 Ribbon,具有负载均衡的功能
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-openfeign</artifactId> </dependency> -
application.yml:不将其注册到 Eureka 作为微服务
server: port: 80 eureka: client: # 表示不将其注入Eureka作为微服务,不作为Eureak客户端了,而是作为Feign客户端 register-with-eureka: false service-url: # 集群版 defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka -
主启动类:开启 Feign
@SpringBootApplication @EnableFeignClients //不作为Eureak客户端了,而是作为Feign客户端 public class OrderOpenFeignMain80 { public static void main(String[] args) { SpringApplication.run(OrderOpenFeignMain80.class, args); } } -
新建 Service 接口:PaymentFeignService 接口和 @FeignClient 注解,完成 Feign 的包装调用
@Component @FeignClient(value = "CLOUD-PAYMENT-SERVICE") // 作为一个Feign功能绑定的的接口 public interface PaymentFeignService { @GetMapping(value = "/payment/get/{id}") public CommonResult<Payment> getPaymentById(@PathVariable("id") long id); @GetMapping("/payment/feign/timeout") public String paymentFeignTimeout(); } -
Controller:
@RestController @Slf4j public class OrderFeignController { @Autowired private PaymentFeignService paymentFeignService; @GetMapping("/consumer/payment/get/{id}") public CommonResult<Payment> getPayment(@PathVariable("id") long id) { // 返回对象为响应体中数据转化成的对象,基本上可以理解为JSON return paymentFeignService.getPaymentById(id); } @GetMapping("/consumer/payment/feign/timeout") public String paymentFeignTimeout() { // openfeign-ribbon,客户端一般默认等待1s return paymentFeignService.paymentFeignTimeout(); } }
超时问题
Feign 默认是支持 Ribbon,Feign 客户端的负载均衡和超时控制都由 Ribbon 控制
设置 Feign 客户端的超时等待时间:
ribbon:
#指的是建立连接后从服务器读取到可用资源所用的时间
ReadTimeout: 5000
#指的是建立连接所用的时间,适用于网络状况正常的情况下,两端连接所用的时间
ConnectTimeout: 5000
演示超时现象:OpenFeign 默认等待时间为 1 秒钟,超过后会报错
-
服务提供方 Controller:
@GetMapping("/payment/feign/timeout") public String paymentFeignTimeout() { try { TimeUnit.SECONDS.sleep(3); } catch (InterruptedException e) { e.printStackTrace(); } return serverPort; } -
消费者 PaymentFeignService 和 OrderFeignController 参考上一小节代码
-
测试报错:
!]([本地路径])
日志级别
Feign 提供了日志打印功能,可以通过配置来调整日志级别,从而了解 Feign 中 HTTP 请求的细节
| NONE | 默认的,不显示任何日志 |
|---|---|
| BASIC | 仅记录请求方法、URL、响应状态码及执行时间 |
| HEADERS | 除了 BASIC 中定义的信息之外,还有请求和响应的头信息 |
| FULL | 除了 HEADERS 中定义的信息外,还有请求和响应的正文及元数据 |
配置在消费者端
-
新建 config.FeignConfig 文件:配置日志 Bean
@Configuration public class FeignConfig { @Bean Logger.Level feignLoggerLevel() { return Logger.Level.FULL; } } -
application.yml:
logging: level: # feign 日志以什么级别监控哪个接口 com.atguigu.springcloud.service.PaymentFeignService: debug -
Debug 后查看后台日志