Hystrix熔断器(六）

一、分布式面临的问题

复杂的分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免地失败雪崩效应多个微服务之间调用的时候,假设服务A调用微服务B和微服务C,

微服务B和微服务C又调用其他的微服务,这就是所谓的"扇出".如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会越来越多的系统资源,进而引起系统崩溃,所谓的"雪崩效应".

如果下图所示：A作为服务提供者，B为A的服务消费者，C和D是B的服务消费者。A不可用引起了B的不可用，并将不可用像滚雪球一样放大到C和D时，雪崩效应就形成了。

二、熔断器定义

Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务的失败,避免故障,以提高分布式系统的弹性

"断路器"本身是一种开关装置,当某个服务单元发送故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方向返回一个符合预期的,可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法处理的异常,这样的保证了服务调用方的线程不会被长时间,不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩

三、服务熔断

1、熔断定义

熔断机制是应对雪崩效应的一种微服务链路保护机制,当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回"错误"的响应信息.

当检测到该节点微服务调用响应正常后恢复调用链路.在spring cloud框架里熔断机制通过Hystrix实现.Hystrix会监控微服务调用的状况,当失败的调用到一定的阈值,

缺省是5s内20次调用失败就会启动熔断机制.熔断机制的注解就是@HystrixCommand

2、新建microservicecloud-provider-dept-hystrix-8001

参考microservicecloud-provider-dept-8001

pom文件

 <dependencies>
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
        </dependency>
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>druid</artifactId>
        </dependency>
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-core</artifactId>
        </dependency>
        <dependency>
            <groupId>org.mybatis.spring.boot</groupId>
            <artifactId>mybatis-spring-boot-starter</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-jetty</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
        </dependency>
        <!-- 将微服务provider侧注册进eureka -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
        </dependency>
        <!-- 引入自己定义的api通用包，可以使用Dept部门Entity -->
        <dependency>
            <groupId>com.yehui</groupId>
            <artifactId>microservicecloud-api</artifactId>
            <version>${project.version}</version>
            <scope>compile</scope>
        </dependency>
        <!-- hystrix -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <!-- actuator监控信息完善 -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
    </dependencies>

yml文件

server:
  port: 8008

mybatis:
  config-location: classpath:mybatis/mybatis.cfg.xml        # mybatis配置文件所在路径
  type-aliases-package: com.yehui.entity    # 所有Entity别名类所在包
  mapper-locations: classpath:mybatis/mapper/**/*.xml                       # mapper映射文件

spring:
   application:
    name: microservicecloud-dept
   datasource:
    type: com.alibaba.druid.pool.DruidDataSource            # 当前数据源操作类型
    driver-class-name: org.gjt.mm.mysql.Driver              # mysql驱动包
    url: jdbc:mysql://localhost:3306/clouddb01             # 数据库名称
    username: root
    password: root
    dbcp2:
      min-idle: 5                                           # 数据库连接池的最小维持连接数
      initial-size: 5                                       # 初始化连接数
      max-total: 5                                          # 最大连接数
      max-wait-millis: 200       # 等待连接获取的最大超时时间

eureka:
  client: #客户端注册进eureka服务列表内
    service-url:
      defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7001.com:7001/eureka/
  instance:
    instance-id: providerdept_hystrix_8001 #自定义服务名称
    prefer-ip-address: true  #访问路径可以显示IP地址
#信息的描述
info:
  app.name: atguigu-microservicecloud
  company.name: www.atguigu.com
  build.artifactId: $project.artifactId$
  build.version: $project.version$

四、服务降级

1、定义

整体资源快不够了,忍痛将某些服务先关掉,待读过难关,在开启回来.服务降级处理是在客户端实现完成的,与服务端没有关系

在高并发情况下，防止用户一直等待，使用服务降级方式(直接返回一个友好的提示给客户端，调用fallBack方法)

2、修改microservicecloud-api工程

创建一个接口并实现DeptClientService接口

@Component//不忘记打上这个注解
public class KittyProducerHystrix implements DeptClientService {
    @Override
    public List<Dept> findAll() {
        return null;
    }

    @Override
    public Dept findById(Long id) {
        return new Dept().setDeptno(id).setDname("该ID：" + id + "没有没有对应的信息,null--@HystrixCommand")
                .setDb_source("no this database in MySQL");
    }
}

修改microservicecloud-api,DeptClientService在注解@FeignClient

@FeignClient(name = "MICROSERVICECLOUD-DEPT",fallback = KittyProducerHystrix.class)//name是一个服务名称,在注册中上面
public interface DeptClientService {
    @RequestMapping(value = "/dept/findAll",method = RequestMethod.GET)
    public List<Dept> findAll();
    @RequestMapping("/dept/findById/{id}")
    public Dept findById(@PathVariable("id") Long id);
}

microservicecloud-consumer-dept-feign工程yml修改

feign:
  hystrix:
    enabled: true

microservicecloud-consumer-dept-feign工程pom文件添加依赖

  <!-- hystrix -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>

 主启动类修改

新增@EnableCircuitBreaker //开启熔断机制

@SpringBootApplication
@EnableFeignClients(basePackages = "com.yehui.feign")//扫描feignClient提供接口的包
@EnableCircuitBreaker //开启熔断机制
public class ConSumeAppStartDeptfeign {
    public static void main(String[] args) {
        SpringApplication.run(ConSumeAppStartDeptfeign.class);
    }
}

测试

3个eureka先启动

微服务microservicecloud-provider-dept-8001启动

microservicecloud-consumer-dept-feign启动

正常测试

故意关闭微服务microservicecloud-provider-dept-8001

客户端自己调用提示信息

五、服务隔离

因为默认情况下，只有一个线程池会维护所有的服务接口，如果大量的请求访问同一个接口，达到tomcat 线程池默认极限，可能会导致其他服务无法访问。

解决服务雪崩效应:使用服务隔离机制(线程池方式和信号量)，使用线程池方式实現隔离的原理:  相当于每个接口(服务)都有自己独立的线程池，因为每个线程池互不影响，这样的话就可以解决服务雪崩效应。

线程池隔离:

每个服务接口，都有自己独立的线程池，每个线程池互不影响。

信号量隔离:

使用一个原子计数器（或信号量）来记录当前有多少个线程在运行，当请求进来时先判断计数器的数值，若超过设置的最大线程个数则拒绝该请求，若不超过则通行，这时候计数器+1，请求返 回成功后计数器-1。

六·、服务监控HystrixDashboard

1、定义

除了隔离依赖服务的调用以外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录所有通过Hystrix发起请求的执行信息,

并以统计报表和图形的形式展示给用户,包括美妙执行多少请求多少成功,多少失败等.

Nextflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控.spring cloud 也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面

2、 搭建环境步骤

新建工程microservicecloud-provider-dept-hystrix-dashboard

pom文件

<dependencies>
        <!-- hystrix -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
        </dependency>
        <!-- actuator监控信息完善 -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <!-- 引入自己定义的api通用包，可以使用Dept部门Entity -->
        <dependency>
            <artifactId>microservicecloud-api</artifactId>
            <groupId>com.yehui</groupId>
            <version>${project.version}</version>
            <scope>compile</scope>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <!--客户端依赖-->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <!-- feign相关 -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-openfeign</artifactId>
        </dependency>
    </dependencies>

 yml文件

server:
  port: 9001

启动类

@SpringBootApplication
@EnableHystrixDashboard
public class DeptConsumer_DashBoard_App {
    public static void main(String[] args) {
        SpringApplication.run(DeptConsumer_DashBoard_App.class);
    }
}

 所有的provider微服务提供类(8001/8002/8003)都需要监控依赖配置

<!-- actuator监控信息完善 -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>

 microservicecloud-provider-dept-hystrix-8001新增监控地址配置类

@Configuration
public class HyStrixConfig  {

    // 此配置是为了服务监控而配置，与服务容错本身无关，
// ServletRegistrationBean因为springboot的默认路径不是"/hystrix.stream"，
// 只要在自己的项目里配置上下面的servlet就可以了
    @Bean
    public ServletRegistrationBean getServlet() {
        HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
        ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
        registrationBean.setLoadOnStartup(1);
        registrationBean.setServlet(streamServlet);
        registrationBean.addUrlMappings("/hystrix.stream");
        registrationBean.setName("HystrixMetricsStreamServlet");
        return registrationBean;
    }
} 

启动microservicecloud-provider-dept-hystrix-dashboard该微服务监控

http://localhost:9001/hystrix

成功:

启动3个eureka集群

启动microservicecloud-provider-dept-hystrix-8001

http://localhost:8008/dept/findById/1

访问http://localhost:8008/hystrix.stream

效果:

启动相关的微服务工程

观察监控窗口

填写监控地址

参数详解:

Depay:该参数用来监控服务器上的轮询监控信息的延迟时间,默认为2000毫秒,可以通过配置该属性来降低客户端网络和CPU的消耗

Title:该参数对应了头部标题Hystrix Stream之后的内容,默认会使用具体监控实例的

URL,可以通过配置该信息来展示更合适的标题

监控结果

如何看

七色

1圈

实心圆:共有2种含义.它通过颜色变化代表了实例的健康程度,它的健康度从绿色<黄色<橙色<红色递减.

该实心圆除了颜色的变化之外,它的大小会根据实例的请求流量发生变化,流量越大实心圆就越大.所以通过该实心圆

的展示,就可以在大量的实例中快速发现故障实例和高压力实例

1线

曲线:用来记录2分钟内流量的相对变化,可以通过它来观察到流量的上升和下降趋势

整体说明

复杂的: