前言

前情回顾

上一讲深入的讲解了Ribbon的初始化过程及Ribbon与Eureka的整合代码,与Eureka整合的类就是DiscoveryEnableNIWSServerList,同时在DynamicServerListLoadBalancer中会调用PollingServerListUpdater 进行定时更新Eureka注册表信息到BaseLoadBalancer中,默认30s调度一次。

本讲目录

我们知道Ribbon主要是由3个组件组成的:

  1. ILoadBalancer
  2. IRule
  3. IPing

其中ILoadBalancer前面我们已经分析过了,接下来我们一起看看IRuleIPing中的具体实现。

目录如下:

  1. 负载均衡默认Server选择逻辑
  2. Ribbon实际执行http请求逻辑
  3. Ribbon中ping机制原理
  4. Ribbon中其他IRule负载算法初探

说明

原创不易,如若转载 请标明来源!

博客地址:一枝花算不算浪漫

微信公众号:壹枝花算不算浪漫

源码分析

负载均衡默认Server选择逻辑

还记得我们上一讲说过,在Ribbon初始化过程中,默认的IRuleZoneAvoidanceRule,这里我们可以通过debug看看,从RibbonLoadBalancerClient.getServer() 一路往下跟,这里直接看debug结果:

然后我们继续跟ZoneAvoidanceRule.choose() 方法:

  1. public abstract class PredicateBasedRule extends ClientConfigEnabledRoundRobinRule {
  2. /**
  3. * Method that provides an instance of {@link AbstractServerPredicate} to be used by this class.
  4. *
  5. */
  6. public abstract AbstractServerPredicate getPredicate();
  7. /**
  8. * Get a server by calling {@link AbstractServerPredicate#chooseRandomlyAfterFiltering(java.util.List, Object)}.
  9. * The performance for this method is O(n) where n is number of servers to be filtered.
  10. */
  11. @Override
  12. public Server choose(Object key) {
  13. ILoadBalancer lb = getLoadBalancer();
  14. Optional<Server> server = getPredicate().chooseRoundRobinAfterFiltering(lb.getAllServers(), key);
  15. if (server.isPresent()) {
  16. return server.get();
  17. } else {
  18. return null;
  19. }
  20. }
  21. }

这里是调用的ZoneAvoidanceRule的父类中的choose()方法,首先是拿到对应的ILoadBalancer,然后拿到对应的serverList数据,接着调用chooseRoundRobinAfterFiltering()方法,继续往后跟:

  1. public abstract class AbstractServerPredicate implements Predicate<PredicateKey> {
  2. public Optional<Server> chooseRoundRobinAfterFiltering(List<Server> servers, Object loadBalancerKey) {
  3. List<Server> eligible = getEligibleServers(servers, loadBalancerKey);
  4. if (eligible.size() == 0) {
  5. return Optional.absent();
  6. }
  7. return Optional.of(eligible.get(incrementAndGetModulo(eligible.size())));
  8. }
  9. private int incrementAndGetModulo(int modulo) {
  10. for (;;) {
  11. int current = nextIndex.get();
  12. int next = (current + 1) % modulo;
  13. if (nextIndex.compareAndSet(current, next) && current < modulo)
  14. return current;
  15. }
  16. }
  17. }

到了这里可以看到incrementAndGetModulo()方法就是处理serverList轮询的算法,这个和RoudRobinRule中采用的是一样的算法,这个算法大家可以品一品,我这里也会画个图来说明下:

看了图=中的例子估计大家都会明白了,这个算法就是依次轮询。这个算法写的很精简。

Ribbon实际执行http请求逻辑

我们上面知道,我们按照轮询的方式从serverList取到一个server后,那么怎么把之前原有的类似于:http://ServerA/sayHello/wangmeng中的ServerA给替换成请求的ip数据呢?

接着我们继续看RibbonLoadBalancerClient.execute()方法,这个里面request.apply()会做一个serverName的替换逻辑。

最后可以一步步跟到RibbonLoadBalancerClient.reconstructURI(),这个方法是把请求自带的getURI方法给替换了,我们最后查看context.reconstructURIWithServer() 方法,debug结果如图,这个里面会一步步把对应的请求url给拼接起来:

Ribbon中ping机制原理

我们知道 Ribbon还有一个重要的组件就是ping机制,通过上一讲Ribbon的初始化我们知道,默认的IPing实现类为:NIWSDiscoveryPing,我们可以查看其中的isAlive()方法:

  1. public class NIWSDiscoveryPing extends AbstractLoadBalancerPing {
  2. BaseLoadBalancer lb = null;
  3. public NIWSDiscoveryPing() {
  4. }
  5. public BaseLoadBalancer getLb() {
  6. return lb;
  7. }
  8. /**
  9. * Non IPing interface method - only set this if you care about the "newServers Feature"
  10. * @param lb
  11. */
  12. public void setLb(BaseLoadBalancer lb) {
  13. this.lb = lb;
  14. }
  15. public boolean isAlive(Server server) {
  16. boolean isAlive = true;
  17. if (server!=null && server instanceof DiscoveryEnabledServer){
  18. DiscoveryEnabledServer dServer = (DiscoveryEnabledServer)server;
  19. InstanceInfo instanceInfo = dServer.getInstanceInfo();
  20. if (instanceInfo!=null){
  21. InstanceStatus status = instanceInfo.getStatus();
  22. if (status!=null){
  23. isAlive = status.equals(InstanceStatus.UP);
  24. }
  25. }
  26. }
  27. return isAlive;
  28. }
  29. @Override
  30. public void initWithNiwsConfig(
  31. IClientConfig clientConfig) {
  32. }
  33. }

这里就是获取到DiscoveryEnabledServer对应的注册信息是否为UP状态。那么 既然有个ping的方法,肯定会有方法进行调度的。

我们可以查看isAlive()调用即可以找到调度的地方。

BaseLoadBalancer构造函数中会调用setupPingTask()方法,进行调度:

  1. protected int pingIntervalSeconds = 10;
  2. void setupPingTask() {
  3. if (canSkipPing()) {
  4. return;
  5. }
  6. if (lbTimer != null) {
  7. lbTimer.cancel();
  8. }
  9. lbTimer = new ShutdownEnabledTimer("NFLoadBalancer-PingTimer-" + name,
  10. true);
  11. lbTimer.schedule(new PingTask(), 0, pingIntervalSeconds * 1000);
  12. forceQuickPing();
  13. }

这里pingIntervalSecondsBaseLoadBalancer中定义的是10s,但是在initWithConfig()方法中,通过传入的时间覆盖了原本的10s,这里实际的默认时间是30s。如下代码:

我们也可以通过debug来看看:

可能大家好奇为什么要单独截图来说这个事,其实是因为网上好多博客讲解都是错的,都写的是ping默认调度时间为10s,想必他们都是没有真正debug过吧。

还是那句话,源码出真知。

Ribbon中其他IRule负载算法初探

  1. RoundRobinRule:系统内置的默认负载均衡规范,直接round robin轮询,从一堆server list中,不断的轮询选择出来一个server,每个server平摊到的这个请求,基本上是平均的

    这个算法,说白了是轮询,就是一台接着一台去请求,是按照顺序来的

  2. AvailabilityFilteringRule:这个rule就是会考察服务器的可用性

    如果3次连接失败,就会等待30秒后再次访问;如果不断失败,那么等待时间会不断变长

    如果某个服务器的并发请求太高了,那么会绕过去,不再访问

    这里先用round robin算法,轮询依次选择一台server,如果判断这个server是存活的可用的,如果这台server是不可以访问的,那么就用round robin算法再次选择下一台server,依次循环往复,10次。

  3. WeightedResponseTimeRule:带着权重的,每个服务器可以有权重,权重越高优先访问,如果某个服务器响应时间比较长,那么权重就会降低,减少访问

  4. ZoneAvoidanceRule:根据机房和服务器来进行负载均衡,说白了,就是机房的意思,看了源码就是知道了,这个就是所谓的spring cloud ribbon环境中的默认的Rule

  5. BestAvailableRule:忽略那些请求失败的服务器,然后尽量找并发比较低的服务器来请求

总结

到了这里 Ribbon相关的就结束了,对于Ribbon注册表拉取及更新逻辑这里也梳理下,这里如果Ribbon保存的注册表信息有宕机的情况,这里最多4分钟才能感知到,所以spring cloud还有一个服务熔断的机制,这个后面也会讲到。

申明

本文章首发自本人博客:https://www.cnblogs.com/wang-meng 和公众号:壹枝花算不算浪漫,如若转载请标明来源!

感兴趣的小伙伴可关注个人公众号:壹枝花算不算浪漫

【一起学源码-微服务】Ribbon 源码四:进一步探究Ribbon的IRule和IPing的更多相关文章

  1. 【一起学源码-微服务】Ribbon源码五:Ribbon源码解读汇总篇~

    前言 想说的话 [一起学源码-微服务-Ribbon]专栏到这里就已经全部结束了,共更新四篇文章. Ribbon比较小巧,这里是直接 读的spring cloud 内嵌封装的版本,里面的各种config ...

  2. 【一起学源码-微服务】Eureka+Ribbon+Feign阶段性总结

    前言 想说的话 这里已经梳理完Eureka.Ribbon.Feign三大组件的基本原理了,今天做一个总结,里面会有一个比较详细的调用关系流程图. 说明 原创不易,如若转载 请标明来源! 博客地址:一枝 ...

  3. 【一起学源码-微服务】Nexflix Eureka 源码十:服务下线及实例摘除,一个client下线到底多久才会被其他实例感知?

    前言 前情回顾 上一讲我们讲了 client端向server端发送心跳检查,也是默认每30钟发送一次,server端接收后会更新注册表的一个时间戳属性,然后一次心跳(续约)也就完成了. 本讲目录 这一 ...

  4. 【一起学源码-微服务】Nexflix Eureka 源码十三:Eureka源码解读完结撒花篇~!

    前言 想说的话 [一起学源码-微服务-Netflix Eureka]专栏到这里就已经全部结束了. 实话实说,从最开始Eureka Server和Eureka Client初始化的流程还是一脸闷逼,到现 ...

  5. 通过Dapr实现一个简单的基于.net的微服务电商系统(四)——一步一步教你如何撸Dapr之订阅发布

    之前的章节我们介绍了如何通过dapr发起一个服务调用,相信看过前几章的小伙伴已经对dapr有一个基本的了解了,今天我们来聊一聊dapr的另外一个功能--订阅发布 目录:一.通过Dapr实现一个简单的基 ...

  6. 【一起学源码-微服务】Ribbon 源码一:Ribbon概念理解及Demo调试

    前言 前情回顾 前面文章已经梳理清楚了Eureka相关的概念及源码,接下来开始研究下Ribbon的实现原理. 我们都知道Ribbon在spring cloud中担当负载均衡的角色, 当两个Eureka ...

  7. 【一起学源码-微服务】Ribbon 源码三:Ribbon与Eureka整合原理分析

    前言 前情回顾 上一篇讲了Ribbon的初始化过程,从LoadBalancerAutoConfiguration 到RibbonAutoConfiguration 再到RibbonClientConf ...

  8. 【一起学源码-微服务】Feign 源码一:源码初探,通过Demo Debug Feign源码

    前言 前情回顾 上一讲深入的讲解了Ribbon的初始化过程及Ribbon与Eureka的整合代码,与Eureka整合的类就是DiscoveryEnableNIWSServerList,同时在Dynam ...

  9. 【一起学源码-微服务】Nexflix Eureka 源码二:EurekaServer启动之配置文件加载以及面向接口的配置项读取

    前言 上篇文章已经介绍了 为何要读netflix eureka源码了,这里就不再概述,下面开始正式源码解读的内容. 如若转载 请标明来源:一枝花算不算浪漫 代码总览 还记得上文中,我们通过web.xm ...

随机推荐

  1. 2018-2-13-win10-uwp-获得Slider拖动结束的值

    title author date CreateTime categories win10 uwp 获得Slider拖动结束的值 lindexi 2018-2-13 17:23:3 +0800 201 ...

  2. 解决margin塌陷和margin合并

    <!doctype html> <html> <head> <meta charset="UTF-8"> <title> ...

  3. css超出盒子隐藏

    效果如图1-1. 效果图1-1 css代码: white-space: nowrap;overflow: hidden; text-overflow: ellipsis; display: inlin ...

  4. POI 导入、导出Excel

    POI,全称Apache POI,是Apache软件基金会的开放源码函式库,POI提供API给Java程序对Microsoft Office格式档案读和写的功能.项目地址:Apache POI - t ...

  5. git学习六:git提交忽略不必要的文件或文件夹

    创建maven项目,使用git提交,有时需要忽略不必要的文件或文件夹,只保留一些基本. 例如如下截图,实际开发中我们只需提交:src,.gitignore,pom.xml 而自己项目文件一般都保留,但 ...

  6. linux 延后执行

    设备驱动常常需要延后一段时间执行一个特定片段的代码, 常常允许硬件完成某个任务. 在这一节我们涉及许多不同的技术来获得延后. 每种情况的环境决定了使用哪种技术最好; 我们全都仔细检查它们, 并且指出每 ...

  7. 2018.10.26 浪在ACM 集训队第二次测试赛

    2018.10.26 浪在ACM 集训队第二次测试赛 整理人:苗学林 A海港 参考博客:[1]:李继朋https://www.cnblogs.com/violet-acmer/p/9859006.ht ...

  8. classpath*与classpath

    classpath*:的出现是为了从多个jar文件中加载相同的文件. classpath:只能加载找到的第一个文件.

  9. es6笔记 day1---let和const的应用

    ES6 -> ECMA标准 ES7  ES8 最早是由ECMA-262版本实现的 ---------------------------------------- ES6 也称为ES2015,2 ...

  10. C#面试题整理(带答案)

    1.维护数据库的完整性.一致性.你喜欢用触发器还是自写业务逻辑?为什么? 答:尽可能用约束(包括CHECK.主键.唯一键.外键.非空字段)实现,这种方式的效率最好:其次用触发器,这种方式可以保证无论何 ...