背景描述

如下图所示,负载均衡做为反向代理,将请求方的请求转发至后端的服务节点,实现服务的请求。

在nginx中可以通过upstream配置server时,设置weight表示对应server的权重。

若存在多个服务节点时,负载均衡如何通过服务节点的权重进行转发。

如下详细说明权重转发算法的实现。

用三个后端服务节点为例说明

设置三个后端服务ServerA,ServerB和ServerC,它们的权重分布是 5,3,1

按照加权负载均衡算法,在一轮(5+3+1=9次)中ServerA占5次,ServerB占3次,ServerC占1次,从而实现均衡。

如下图所示:

为了实现这个功能,可以给每一个后端设置对应的权重5,3,1

变量1:后端服务的权重 Weight

变量2:均衡器累计的总的有效权重 EffectiveWeight

变量3:实时统计后端服务的当前权重 CurrentWeight

算法设计

第一步,向均衡器中增加后端服务标识

  • 将三个后端服务标识和权重Weight增加到负载均衡器列表中。
  • 每次增加后端服务时,累计总的有效权重EffectiveWeight。

第二步,每次获取一个后端服务标识

  • 对均衡器中的所有后端服务增加自己的权重Weight,即(5,3,1),计算ABC三个服务的当前权重。
  • 选择当前权重CurrentWeight最大的服务,做为本次期望的后端服务。
  • 将期望的后端服务的当前权重CurrentWeight减小总的权重EffectiveWeight,供下一轮使用。

如下是一个一轮(5+3+1=9次)获取的权重变化表:

从这个表中可以看到后端服务轮询的顺序是 A B A C A B A B A,其中A出现了5次,B出现了3次,C出现了1次,满足三个服务的权重Weight设置。

完成9次获取后,ABC三个服务的权重都归0,因此下一轮的9次获取也是均衡的,

算法实现

按照如上算法说明,使用Golang实现这个算法如下

package weightroundrobin

import (
"fmt"
"strings"
) // 每一个后端服务定义
type BackendServer struct {
// 实例权重
Weight int
// 当前的权重,初始为Weight
currentWeight int
// 后端服务名称
ServerName string
} // 通过权重实现调用轮询的定义
type WeightServerRoundRobin struct {
// 所有有效的权重总和
effectiveWeight int
// 后端服务列表
backendServerList []*BackendServer
} // 创建一个负载轮询器
func NewWeightServerRoundRobin() *WeightServerRoundRobin {
return &WeightServerRoundRobin{
effectiveWeight: 0,
}
} // 增加后端服务名称和权重
func (r *WeightServerRoundRobin) AddBackendServer(backendServer *BackendServer) {
r.effectiveWeight += backendServer.Weight
r.backendServerList = append(r.backendServerList, backendServer)
} // 更具权重获取一个后端服务名称
func (r *WeightServerRoundRobin) GetBackendServer() *BackendServer {
var expectBackendServer *BackendServer
for _, backendServer := range r.backendServerList {
// 给每个后端服务增加自身权重
backendServer.currentWeight += backendServer.Weight
if expectBackendServer == nil {
expectBackendServer = backendServer
}
if backendServer.currentWeight > expectBackendServer.currentWeight {
expectBackendServer = backendServer
}
}
r.VisitBackendServerCurrentWeight()
// 把选择的后端服务权重减掉总权重
expectBackendServer.currentWeight -= r.effectiveWeight
return expectBackendServer
} // 打印后端服务的当前权重变化
func (r *WeightServerRoundRobin) VisitBackendServerCurrentWeight() {
var serverListForLog []string
for _, backendServer := range r.backendServerList {
serverListForLog = append(serverListForLog,
fmt.Sprintf("%v", backendServer.currentWeight))
}
fmt.Printf("(%v)\n", strings.Join(serverListForLog, ", "))
}

写一个单测进行验证

package weightroundrobin

import (
"fmt"
"testing"
) func TestNewWeightServerRoundRobin(t *testing.T) {
weightServerRoundRobin := NewWeightServerRoundRobin()
weightServerRoundRobin.AddBackendServer(&BackendServer{
ServerName: "ServerA",
Weight: 5,
})
weightServerRoundRobin.AddBackendServer(&BackendServer{
ServerName: "ServerB",
Weight: 3,
})
weightServerRoundRobin.AddBackendServer(&BackendServer{
ServerName: "ServerC",
Weight: 1,
}) expectServerNameList := []string{
"ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA",
//"ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA",
}
fmt.Printf("(A, B, C)\n")
for ii, expectServerName := range expectServerNameList {
weightServerRoundRobin.VisitBackendServerCurrentWeight()
backendServer := weightServerRoundRobin.GetBackendServer()
if backendServer.ServerName != expectServerName {
t.Errorf("%v.%v.expect:%v, actual:%v", t.Name(), ii, expectServerName, backendServer.ServerName)
return
}
}
}

运行单元测试,观察运行结果是否符合算法设计的预期

=== RUN   TestNewWeightServerRoundRobin
(A, B, C)
(0, 0, 0)
(5, 3, 1)
(-4, 3, 1)
(1, 6, 2)
(1, -3, 2)
(6, 0, 3)
(-3, 0, 3)
(2, 3, 4)
(2, 3, -5)
(7, 6, -4)
(-2, 6, -4)
(3, 9, -3)
(3, 0, -3)
(8, 3, -2)
(-1, 3, -2)
(4, 6, -1)
(4, -3, -1)
(9, 0, 0)
--- PASS: TestNewWeightServerRoundRobin (0.00s)
PASS

参考材料:

https://github.com/phusion/nginx/commit/27e94984486058d73157038f7950a0a36ecc6e35

done.

祝玩的开心~

【算法】使用Golang实现加权负载均衡算法的更多相关文章

  1. Load Balancing with NGINX 负载均衡算法

    Using nginx as HTTP load balancer Using nginx as HTTP load balancer http://nginx.org/en/docs/http/lo ...

  2. 几种简单的负载均衡算法及其Java代码实现

    什么是负载均衡 负载均衡,英文名称为Load Balance,指由多台服务器以对称的方式组成一个服务器集合,每台服务器都具有等价的地位,都可以单独对外提供服务而无须其他服务器的辅助.通过某种负载分担技 ...

  3. RabbitMQ客户端负载均衡算法

    负载均衡(Load balance)是一种计算机网络技术,用于在多个计算机(计算机集群).网络连接.CPU.磁盘驱动器或其他资源中分配负载,以达到最佳资源使用.最大化吞吐率.最小响应时间以及避免过载的 ...

  4. Ribbon,主要提供客户侧的软件负载均衡算法。

    Ribbon Ribbon,主要提供客户侧的软件负载均衡算法.Ribbon客户端组件提供一系列完善的配置选项,比如连接超时.重试.重试算法等.Ribbon内置可插拔.可定制的负载均衡组件.下面是用到的 ...

  5. Citrix Netscaler负载均衡算法

    Citrix Netscaler负载均衡算法 http://blog.51cto.com/caojin/1926308 众所周知,作为新一代应用交付产品的Citrix Netscaler具有业内领先的 ...

  6. spring-cloud-starter-ribbon提供客户端的软件负载均衡算法

    Ribbon是什么? Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起.Ribbon客户端组件提供一系列完善的配置项如连接超时 ...

  7. Ribbon核心组件IRule及配置指定的负载均衡算法

    Ribbon在工作时分为两步: 第一步:先选择 EurekaServer,它优先选择在同一个区域内负载较少的Server: 第二步:再根据用户指定的策略,在从Server取到的服务注册列表中选择一个地 ...

  8. QPS 提升60%,揭秘阿里巴巴轻量级开源 Web 服务器 Tengine 负载均衡算法

    前言 在阿里七层流量入口接入层(Application Gateway)场景下, Nginx 官方的Smooth Weighted Round-Robin( SWRR )负载均衡算法已经无法再完美施展 ...

  9. 负载均衡算法WRR介绍

    一.负载均衡 负载均衡是一个很大的概念,既有从硬件层面来解决问题的,又有从软件层面解决的,有关负载均衡的介绍,推荐阅读: http://os.51cto.com/art/201108/285359.h ...

随机推荐

  1. react native踩坑记录

    一 .安装 1.Python2 和Java SE Development Kit (JDK)可以直接通过腾讯电脑关键安装, Android SDK安装的时候路径里不能有中文和空格 2.配置java环境 ...

  2. 大数据学习(07)——Hadoop3.3高可用环境搭建

    前面用了五篇文章来介绍Hadoop的相关模块,理论学完还得操作一把才能加深理解.这一篇我会花相当长的时间从环境搭建开始,到怎么在使用Hadoop,逐步介绍Hadoop的使用. 本篇分这么几段内容: 规 ...

  3. 【剑指offer】53 - II. 0~n-1中缺失的数字

    剑指 Offer 53 - II. 0-n-1中缺失的数字 知识点:数组,二分查找: 题目描述 统计一个数字在排序数组中出现的次数. 示例 输入: nums = [5,7,7,8,8,10], tar ...

  4. 资源适配【eg: values-sw600dp的命名和drawable-400dpi的命名】

    通过getResources().getConfiguration().smallestScreenWidthDp获取即可 这篇文章讲了values-sw的适配: https://blog.csdn. ...

  5. 我快被Framework源码烦死了!

    前言 这段时间,忙到没时间学新东西,都有点心有余而力不足,想着抽空补补课,于是重读了Framework源码. 因为Framework源码太重要了,像掉帧监控.函数插装.慢函数检测.ANR 监控.启动监 ...

  6. RedisTemplate连接不释放、Redis断线不重连问题、Redis连接数高飙升

    使用RedisTemplate操作Redis数据,但遇到网络断线后不会重新连接 毫无头绪 一顿捣鼓 最终解决 整理如下 帮助更多的人 1.起因 使用RedisTemplate 配置 开启了事务 ena ...

  7. 使用各类BeanUtils的时候,切记注意这个坑!

    在日常开发中,我们经常需要给对象进行赋值,通常会调用其set/get方法,有些时候,如果我们要转换的两个对象之间属性大致相同,会考虑使用属性拷贝工具进行. 如我们经常在代码中会对一个数据结构封装成DO ...

  8. Linux中的DNS主从解析

    目录 一.主服务器配置(紧接着正反解析实验) 1.1.修改区域配置文件 二.从服务器配置(启动另一台虚拟机) 2.1.安装服务 2.2.修改主配置文件 2.3.修改区域配置文件 2.4.修改dns服务 ...

  9. 遇到的JDBC的一些简单错误

    遇到的JDBC的一些简单错误 复习java swing的使用的时候,把东西都写好了,但是在进行数据库连接的时候,出现了错误 java.lang.ClassNotFoundException: com. ...

  10. NOIP 模拟 6 模板

    题目 题解 这道题是一道启发式合并的题目,每次合并完重构一下线段树就可以,不用线段树合并. 以操作时间为下标,建立一颗线段树,维护小球的个数与小球的颜色数,最后线段树上二分查找. 我们先不用考虑每个节 ...