客户端负载均衡Ribbon
客户端负载均衡Ribbon
相关内容原文地址:
CSDN:Coding Farmer:Spring Cloud快速开发入门第四篇—客户端负载均衡Ribbon
一、Ribbon是什么
Ribbon是一个基于HTTP和TCP的客户端负载均衡器,当使用Ribbon对服务进行访问的时候,他会扩展Eureka客户端的服务发现功能,实现从Eureka注册中心获取服务端列表,并通过Eureka客户端来确定服务端是否已经启动。Ribbon在Eureka客户端服务发现的基础上,实现对服务实例的选择策略,从而实现对服务的负载均衡消费。负载均衡在系统架构中是一个非常重要的内容,因为负载均衡是对系统的高可用、网络的压力的缓冲和处理能力扩容的重要手段之一,我们通常说的负载均衡都是指的是服务端的负载均衡,其中分为硬件负载均衡和软件负载均衡。
- 硬件负载均衡:主要通过服务器节点之间安装专门用于负载均衡的设备,比如F5,深信服,Array等。
- 软件负载均衡:则是通过服务器上安装一些具有负载功能或模块的软件来完成请求分发工作,比如Nginx、LVS、HAProxy等。
硬件负载均衡的设备或是软件负载均衡的软件模块都会维护一个下挂可用的服务端清单,通过心跳检测来剔除故障的服务端节点保证清单中都是可以正常访问的服务端节点。当客户端发送请求到负载均衡的设备时候,该设备按某种算法(比如线性轮询、按权重负载、按流量负载等)从维护的可用服务端清单中取出一台服务端地址,然后进行转发。
Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,是一个基于HTTP和TCP的客户端负载均衡工具。Spring Cloud对Ribbon做了二次封装,可以让我们使用 RestTemplate的服务请求,自动转换成客户端负载均衡的服务调用。Ribbon支持多种负载均衡算法,还支持自定义的负载均衡算法。Ribbon只是一个工具类框架,比较小巧, Spring Cloud对它封装后使用也非 常方便,它不像服务注册中心、配置中心、AP网关那样需要独立部署, Ribbon 只需要在代码直接使用即可。
Ribbon与 Nginx的区别:
- 都是软负载
- Ribbon是客户端负载均衡
- Nginx是服务器段负载均衡
服务清单所存储的位置不同,在客户端负载均衡中,所有客户端节点下的服务端清单,需要自己从服务注册中心上获取,比如Eureka服务注册中心。同服务端负载均衡的架构类似,在客户端负载均衡中也需要心跳去维护服务端清单的健康性,只是这个步骤需要与服务注册中心配合完成,在SpringCloud实现的服务治理框架中,默认会创建针对各个服务治理框架到的Ribbon自动化整合配置,比如Eureka中的org.springframework.cloud.netflix.ribbon.eureka.RibbonEurekaAutoConfiguration,在实际使用的时候,我们可以通过查看这个类的实现,以找到他们的配置详情来帮助我们更好的使用它。
通过Spring Cloud Ribbon的封装,我们在微服务架构中使用客户端负载均衡调用非常的简单,只需要如下两步:
- 服务提供者只需要启动多个服务实例并注册到一个注册中心或是多个相关联的服务注册中心上
- 服务消费者直接通过调用被@LoadBalanced注解修饰过的RestTemplate来实现面向服务的接口调用。
- 服务端的负载均衡是提前配置好的:Nginx
- 客户端的负载均衡是从注册中心找的:Ribbon
在SpringCloud中,Ribbon主要与RestTemplate对象配合使用,Ribbon会自动化配置RestTemplate对象,通过@LoadBalance开启RestTemplate对象调用时的负载均衡,Ribbon所处的作用如图:
二、Ribbon实现客户端负载均衡
在微服务架构中使用客户端负载均衡调用:
- 服务提供者只需要启动多个服务实例并注册到一个注册中心或是多个相关联的服务注册中心上
- 服务消费者直接通过调用被@LoadBalanced注解修饰过的RestTemplate来实现面向服务的接口调用。
复制服务提供者(springcloud-service-provider)并且命名为springcloud-service-provider-02,修改controlle响应结果内容,区别一服务提供者(springcloud-service-provider)内容。修改服务提供者(springcloud-service-provider-02)端口为8081
在消费者的RestTemplate中添加如下代码:
//使用Ribbon实现负载均衡调用,默认是轮询
@LoadBalanced //加入ribbon的支持,那么在调用时,即可改为使用服务名称来访问
@Bean
public RestTemplate restTemplate(){
return new RestTemplate();
}
查看Eureka的web页面显示提供者两个实例:
启动消费者,进行访问如图:
provider-01和provider-02交替出现,可以看出默认是轮询策略。
三、Ribbon负载均衡策略
Ribbon的负载均衡策略是由IRule接口定义,该接口由如下实现:
IRule实现类的负载策略含义
属性 | 含义 |
---|---|
RandomRule | 随机 |
RoundRobinRule | 轮询 |
AvailabilityFilteringRule | 先过滤掉由于多次访问故障的服务,以及并发连接数超过阀值的服务,然后对剩下的服务按照轮询策略进行访问 |
WeightedResponseTimeRule | 根据平均响应时间计算所有服务的权重,响应时间越快服务权重就越大被选中的概率即越高,如果服务刚启动时间统计信息不足,,则使用RoundRobinRule策略,待统计信息足够,会切换到该WeightedResponseTimeRule策略 |
RetryRule | 先按照RoundRobinRule策略分发,如果分发到的服务不能访问,则在指定的时间内重试,如果不行的话,则分发到其他可用的服务 |
BestAvailableRule | 先过滤掉由于多次访问的故障的服务,然后选择一个并发量最小的服务 |
ZoneAvoidanceRule | 综合判断服务节点所在区域的性能和服务节点的可用性,来决定选择哪个服务 |
结合Ribbon负载均衡,默认的是轮询,重新注入IRule可以实现负载均衡的其他策略。
四、Rest请求模板类解读
当我们从服务消费端去调用服务提供者的服务的时候,使用了一个极其方便的对 象叫 RestTemplate,当时我们只使用了 Rest Template中最简单的一个功能 getForEntity发起了一个get请求去调用服务端的数据,同时,我们还通过配置@ Loadbalanced注解开启客户端负载均衡, RestTemplate的功能非常强大, 那么接下来就来详细的看一下 RestTemplate中几种常见请求方法的使用。 在日常操作中,基于Rest的方式通常是四种情况,它们分表是
- GET请求-查询数据
- POST请求-添加数据
- PUT请求-修改数据
- DELETE-删除数据
4.1 RestTemplate的GET请求
Get请求可以有两种方式:
第一种:getForEntity(…)
该方法返回一个ResponseEntity对象,ResponseEntity是Spring对HTTP请求响应的封装,包括了几个重要的元素,比如响应码,contentType,contentLength,响应消息体等。
ResponseEntity<String> forEntity = restTemplate.getForEntity("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/hello", String.class);
String body = forEntity.getBody();
HttpStatus statusCode = forEntity.getStatusCode();
int statusCodeValue = forEntity.getStatusCodeValue();
HttpHeaders headers = forEntity.getHeaders();
System.out.println(body);
System.out.println(statusCode);
System.out.println(statusCodeValue);
System.out.println(headers);
getForEntity方法第—个参数为要调用的服务的地址,即服务提供者提供的http://SPRINGCLOUD-SERVICE-PROVIDER/provider/hello接口地址,注意这里是通过服务名调用而不是服务地址,如果改为服务地址就无法使用 Ribbon实现客户端负载均衡了。 getForEntity方法第二个参数 String.class表示希望返回的body类型是 String 类型,如果希望返回一个对象,也是可以的,比如User对象。
/**
* 调用get请求,返回一个User对象
* @return
*/
@RequestMapping("/user")
public User user(){
//逻辑判断省略
ResponseEntity<User> forEntity = restTemplate.getForEntity("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/user", User.class);
System.out.println(forEntity.getBody().getId()+""+forEntity.getBody().getName()+""+forEntity.getBody().getPhone());
return forEntity.getBody();
}
另外两个重载方法:
第一个重载方法:
@Override
public <T> ResponseEntity<T> getForEntity(String url, Class<T> responseType, Object... uriVariables)
throws RestClientException {
RequestCallback requestCallback = acceptHeaderRequestCallback(responseType);
ResponseExtractor<ResponseEntity<T>> responseExtractor = responseEntityExtractor(responseType);
return nonNull(execute(url, HttpMethod.GET, requestCallback, responseExtractor, uriVariables));
}
@Override
public <T> ResponseEntity<T> getForEntity(String url, Class<T> responseType, Map<String, ?> uriVariables)
throws RestClientException {
RequestCallback requestCallback = acceptHeaderRequestCallback(responseType);
ResponseExtractor<ResponseEntity<T>> responseExtractor = responseEntityExtractor(responseType);
return nonNull(execute(url, HttpMethod.GET, requestCallback, responseExtractor, uriVariables));
}
比如:
/**
* 给服务传参数Get请求
* @return
*/
@RequestMapping("/getUser")
public User getUser(){
//逻辑判断省略
String [] arr={"2","xxx","4545645456"};
Map<String,Object> map=new HashMap<>();
map.put("id",1);
map.put("name","wwwwww");
map.put("phone","1213213213123");
//ResponseEntity<User> forEntity = restTemplate.getForEntity("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/getUser?id={0}&name={1}&phone={2}", User.class,arr);
//ResponseEntity<User> forEntity = restTemplate.getForEntity("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/getUser?id={id}&name={name}&phone={phone}", User.class,map);
/*
* restTemplate.getForObject在getForObject在getForEntity在次封装,直接获取返回值类型,相当于ResponseEntity中的getBody
*/
User user1 = restTemplate.getForObject("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/getUser?id={id}&name={name}&phone={phone}", User.class, map);
//System.out.println(forEntity.getBody().getId()+""+forEntity.getBody().getName()+""+forEntity.getBody().getPhone());
System.out.println(user1.getId()+""+user1.getName()+""+user1.getPhone());
return user1;
}
可以用一个数字做占位符,最后是一个可变长度的参数,来来替换前面的占位符
也可以前面使用name={name}这种形式,最后一个参数是一个map,map的key即为前边占位符的名字,map的value为参数值
第二种:getForObject(…)
与 getForEntity使用类似,只不过 getForobject是在 getForEntity基础上进行了再次封装,可以将http的响应体body 信息转化成指定的对象,方便我们的代码开发: 当你不需要返回响应中的其他信息,只需要body体信息的时候,可以使用这个更方便; 它也有两个重载的方法,和 getForEntity相似。
@Override
@Nullable
public <T> T getForObject(String url, Class<T> responseType, Object... uriVariables) throws RestClientException {
RequestCallback requestCallback = acceptHeaderRequestCallback(responseType);
HttpMessageConverterExtractor<T> responseExtractor =
new HttpMessageConverterExtractor<>(responseType, getMessageConverters(), logger);
return execute(url, HttpMethod.GET, requestCallback, responseExtractor, uriVariables);
}
@Override
@Nullable
public <T> T getForObject(String url, Class<T> responseType, Map<String, ?> uriVariables) throws RestClientException {
RequestCallback requestCallback = acceptHeaderRequestCallback(responseType);
HttpMessageConverterExtractor<T> responseExtractor =
new HttpMessageConverterExtractor<>(responseType, getMessageConverters(), logger);
return execute(url, HttpMethod.GET, requestCallback, responseExtractor, uriVariables);
}
@Override
@Nullable
public <T> T getForObject(URI url, Class<T> responseType) throws RestClientException {
RequestCallback requestCallback = acceptHeaderRequestCallback(responseType);
HttpMessageConverterExtractor<T> responseExtractor =
new HttpMessageConverterExtractor<>(responseType, getMessageConverters(), logger);
return execute(url, HttpMethod.GET, requestCallback, responseExtractor);
}
4.2 RestTemplate的POST请求
restTemplate.postForEntity();
restTemplate.postForObject();
restTemplate.postForLocation();
比如:
/**
* 调用POST请求
* @return
*/
@RequestMapping("/addUser")
public User addUser(){
//逻辑判断省略
String [] arr={"2","xxx","4545645456"};
//不能使用map传递参数
Map<String,Object> map=new HashMap<>();
map.put("id",1);
map.put("name","wwwwww");
map.put("phone","1213213213123");
/**
*要传的表单信息,参数数据(很坑人)
*/
MultiValueMap<String,Object> multiValueMap=new LinkedMultiValueMap<>();
multiValueMap.add("id",1);
multiValueMap.add("name","xxxxx");
multiValueMap.add("phone","000000000");
//使用jdk中的map传参数,接收不到
ResponseEntity<User> userResponseEntity = restTemplate.postForEntity(
"http://SPRINGCLOUD-SERVICE-PROVIDER/provider/addUser", multiValueMap, User.class);
System.out.println(userResponseEntity.getBody().getId()+""+userResponseEntity.getBody().getName()+""+userResponseEntity.getBody().getPhone());
return userResponseEntity.getBody();
}
4.3 RestTemplate的PUT请求
restTemplate.put();
比如:
/**
* 调用PUT请求
* @return
*/
@RequestMapping("/updateUser")
public String updateUser(){
//逻辑判断省略
String [] arr={"2","xxx","4545645456"};
//不能使用map传递参数
Map<String,Object> map=new HashMap<>();
map.put("id",1);
map.put("name","wwwwww");
map.put("phone","1213213213123");
/**
*要传的表单信息,参数数据(很坑人)
*/
MultiValueMap<String,Object> multiValueMap=new LinkedMultiValueMap<>();
multiValueMap.add("id",1);
multiValueMap.add("name","xxxxx");
multiValueMap.add("phone","000000000");
//使用jdk中的map传参数,接收不到
restTemplate.put("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/updateUser", multiValueMap);
return "SUCCESS";
}
4.4 RestTemplate的DELETE请求
restTemplate.delete();
/**
* 调用DELETE请求
* @return
*/
@RequestMapping("/deleteUser")
public String deleteUser(){
//逻辑判断省略
String [] arr={"2","xxx","4545645456"};
Map<String,Object> map=new HashMap<>();
map.put("id",1);
map.put("name","wwwwww");
map.put("phone","1213213213123");
/**
*要传的表单信息,参数数据(很坑人),只有post,PUT请求采用这种map传参数
*/
/* MultiValueMap<String,Object> multiValueMap=new LinkedMultiValueMap<>();
multiValueMap.add("id",1);
multiValueMap.add("name","xxxxx");
multiValueMap.add("phone","000000000"); */
//使用jdk中的map传参数,接收不到,不能使用MultiValueMap,接收不到参数
restTemplate.delete("http://SPRINGCLOUD-SERVICE-PROVIDER/provider/deleteUser?id={id}&name={name}&phone={phone}", map);
return "SUCCESS";
}
客户端负载均衡Ribbon的更多相关文章
- 【Dalston】【第二章】客户端负载均衡(Ribbon)
对于大型应用系统负载均衡(LB:Load Balancing)是首要被解决一个问题.在微服务之前LB方案主要是集中式负载均衡方案,在服务消费者和服务提供者之间又一个独立的LB,LB通常是专门的硬件,如 ...
- 客户端负载均衡Ribbon之二:Loadbalance的源码
Load Balance负载均衡是用于解决一台机器(一个进程)无法解决所有请求而产生的一种算法. 像nginx可以使用负载均衡分配流量,ribbon为客户端提供负载均衡,dubbo服务调用里的负载均衡 ...
- 客户端负载均衡Ribbon之一:Spring Cloud Netflix负载均衡组件Ribbon介绍
Netflix:['netfliːks] ribbon:英[ˈrɪbən]美[ˈrɪbən]n. 带; 绶带; (打印机的) 色带; 带状物;v. 把…撕成条带; 用缎带装饰; 形成带状; L ...
- Spring Cloud入门教程(二):客户端负载均衡(Ribbon)
对于大型应用系统负载均衡(LB:Load Balancing)是首要被解决一个问题.在微服务之前LB方案主要是集中式负载均衡方案,在服务消费者和服务提供者之间又一个独立的LB,LB通常是专门的硬件,如 ...
- 服务注册发现Eureka之三:Spring Cloud Ribbon实现客户端负载均衡(客户端负载均衡Ribbon之三:使用Ribbon实现客户端的均衡负载)
在使用RestTemplate来消费spring boot的Restful服务示例中,我们提到,调用spring boot服务的时候,需要将服务的URL写死或者是写在配置文件中,但这两种方式,无论哪一 ...
- 五、springcloud之客户端负载均衡Ribbon
一.简介 在微服务架构中,业务都会被拆分成一个独立的服务,服务与服务的通讯是基于http restful的.Spring cloud有两种服务调用方式: 一种是ribbon+restTemplate, ...
- 003客户端负载均衡Ribbon & 短路器Hystrix
1.POM配置 和普通Spring Boot工程相比,仅仅添加了Eureka.Ribbon.Hystrix依赖和Spring Cloud依赖管理 <dependencies> <!- ...
- spring cloud 之 客户端负载均衡 Ribbon
一.负载均衡 负载均衡(Load Balance): 建立在现有网络结构之上,它提供了一种廉价有效透明的方法扩展网络设备和服务器的带宽.增加吞吐量.加强网络数据处理能力.提高网络的灵活性和可用性.其意 ...
- 0403-服务注册与发现-客户端负载均衡-Ribbon的基本使用
一.概述 问题1.上一篇文章已说明如何注册微服务,但是调用方如何调用,以及如何防止硬编码.即电影微服务调用用户微服务 问题2.用户微服务多个节点,调用服务方如何负载均衡 二.实现负载均衡方式 2.1. ...
随机推荐
- java内部类对象使用.this,.new
public class InnerClass { class Content { private int i; public int getVlaue() { return i; } } class ...
- python函数----名称空间和作用域
一 名称空间 名称空间即存放名字与对象映射/绑定关系的地方. 对于x=3,Python会申请内存空间存放对象3,然后将名字x与3的绑定关系存放于名称空间中,del x表示清除该绑定关系. 在程序执行 ...
- tf.lin_space
.lin_spae{ start, stop, num, name=None } start:张量(float32,或者float64类型) stop:张量(和start相同) num:张量(int3 ...
- 【JDBC核心】数据库事务
数据库事务 概述 事务是逻辑上的一组操作,或者说一个独立的工作单元.事务内的语句,要么全部执行成功,要么全部执行失败. 事务处理 数据一旦提交,就不可回滚.数据意味着提交的情况: 当一个连接对象被创建 ...
- IO软件层次结构与假脱机技术
IO软件层次结构 用户层软件->设备独立性软件->设备驱动软件->中断处理程序->硬件 用户层软件实现与用户交互的接口,用户可直接使用该层提供的,与IO操作相关的库函数对设备进 ...
- selenium爬虫 | 爬取疫情实时动态
import csvimport selenium.webdriverfrom selenium.webdriver.chrome.options import Optionsclass spider ...
- (十三)利用BASE_DIR来import模板
实际工程的组织架构一般是这样的: bin包下的bin.py是实际的执行文件,my_mould包下的是业务逻辑的实现模板 bin.py需要import my_mould下的py文件,而bin和my_mo ...
- 【RAC】打完补丁后,发现只有一台rac可以启动,另一台无法启动
安装11Gr2单机asm后,打完11.2.0.3.7的psu后,发现启动不起来数据库,alert日志内容如下: Errors in file /u01/app/oracle/diag/rdbms/bd ...
- ctfshow—web—web2
打开靶机,根据提示是SQL注入 打开后看到登录窗口 方法一.手工注入 抓取数据包 开始SQL注入测试 利用万能密码,登录成功 查看回显位置 查询数据库 查询数据库内数据表 如果想整齐一点显示可以添加g ...
- Oracle备份审计表SYS.AUD$和SYS.FGA_LOG$
ORACLE的审计表不可以使用expdp和impdp导出和导入,如果使用,会报如下错误: 需要使用exp和imp进行导出和导出 导出语句: exp " '/ as sysdba' " ...