1.概述
1.1 分布式系统面临的问题
复杂分布式体系结构中的应用程序，有数十个依赖关系，每个依赖关系在某些时候将不可避免的失败
1.2 Hystrix是什么
- Hystrix是一个用于处理分布式系统的延迟和容错的开源库, 在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等。
- Hystrix能够保证在一个依赖出问题的情况下， 不会导致整体服务失败,避免级联故障，以提高分布式系统的弹性。
- “断路器” 本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控(类似熔断保险丝) .向调用方返回一个符合预期的、可处理的备选响应(FallBack) ，而不是长时间的等待或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。
- 官网：https://github.com/Netflix/hystrix/wiki
1.3 能干什么
- 服务降级
- 服务熔断
- 接近实时的监控
1.4概念补充
（1）服务降级（fallback）
服务器忙,请稍后再试,不让客户端等待并立刻返回一个友好提示
哪些情况会出现降级：程序运行异常，超时，服务熔断出发服务降级，线程池/信号量也会导致服务降级
（2）服务熔断（break）
类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示
（3）服务限流（flowlimit）
秒杀高并发等操作,严禁一窝蜂的过来拥挤,大家排队,一秒钟N个,有序进行
2 案例
2.1 构建cloud-provider-hystrix-payment8001
（1）新建cloud-provider-hystrix-payment8001
（2）POM
<dependencies>
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
<dependency>
<groupId>com.wang.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
（3）YML
server:
port: 8001
spring:
application:
name: cloud-provider-hystrix-payment
eureka:
client:
register-with-eureka: true
fetch-registry: true
service-url:
defaultZone: http://eureka7001.com:7001/eureka
（4）主启动和业务类
service
@Service
public class PaymentService {
// 正常访问
public String paymentInfo_OK(Integer id){
return "线程池："+Thread.currentThread().getName()+"paymentInfo_OK,id:"+id+"正常访问";
}
// 超时访问
public String paymentInfo_TimeOut(Integer id){
int timeNumber=3;
try{
//暂停3秒钟
TimeUnit.SECONDS.sleep(timeNumber);
}catch (InterruptedException e){
e.printStackTrace();
}
return "线程池："+Thread.currentThread().getName()+"paymentInfo_OK,id:"+id+"耗时"+timeNumber;
}
}
controller
@RestController
@Slf4j
public class PaymentController {
@Resource
private PaymentService paymentService;
@Value("${server.port}")
private String servicePort;
/**
* 正常访问
*/
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id) {
String result = paymentService.paymentInfo_OK(id);
log.info("*****result:" + result);
return result;
}
/**
* 超时访问
*/
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
String result = paymentService.paymentInfo_TimeOut(id);
log.info("*****result:" + result);
return result;
}
}
（5）测试
正常访问ok，超时访问等待3秒ok
使用jmeter压力测试，使用2万个请求都去访问paymentInfo_TimeOut服务，结果是访问正常的或延时的都在转圈圈
2.2 构建cloud-consumer-feign-hystrix-order80
（1）新建cloud-consumer-feign-hystrix-order80
（2) pom
<dependencies>
<!--openfeign-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
<dependency>
<groupId>com.wang.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
（3）YML
server:
port: 80
eureka:
client:
register-with-eureka: false
fetch-registry: true
service-url:
defaultZone: http://eureka7001.com:7001/eureka
（4）主启动和业务类
PaymentHystrixService
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) ;
}
OrderHystrixController
@RestController
@Slf4j
public class OrderHystrixController {
@Resource
private PaymentHystrixService paymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id) {
String result = paymentHystrixService.paymentInfo_OK(id);
log.info("*****result:" + result);
return result;
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
String result = paymentHystrixService.paymentInfo_TimeOut(id);
log.info("*****result:" + result);
return result;
}
}
@SpringBootApplication
@EnableEurekaClient
@EnableFeignClients
public class OrderHystrixMain80 {
public static void main(String[] args) {
SpringApplication.run(OrderHystrixMain80.class,args);
}
}
（5）压力测试
8001同一层次的其他接口被困死,因为tomcat线程池里面的工作线程已经被挤占完毕
80此时调用8001,客户端访问响应缓慢,转圈圈
有时还会直接报错
3.测试遇到的问题及解决方法
3.1 超时导致服务器变慢（转圈）
解决：超时不再等待
3.2 出错（宕机或程序运行出错）
解决：出错要有兜底，程序有出口
3.3 解决
- 对方服务(8001)超时了,调用者(80)不能一直卡死等待,必须有服务降级
- 对方服务(8001)宕机了,调用者(80)不能一直卡死等待,必须有服务降级
- 对方服务(8001)ok,调用者(80)自己有故障或有自我要求(自己的等待时间小于服务提供者)
4.服务降级
4.1改造payment8001
先从8001自身找问题
设置自身调用超时时间的峰值，峰值内可以正常访问，超过了需要有兜底的方法处理，做服务降级fallback
改造paymentservice
@Service
public class PaymentService {
// 正常访问
public String paymentInfo_OK(Integer id){
return "线程池："+Thread.currentThread().getName()+"paymentInfo_OK,id:"+id+"正常访问";
}
// 超时访问 3秒以内就是正常的业务逻辑
@HystrixCommand(fallbackMethod = "paymentInfo_TimeOutHandler", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")
})
public String paymentInfo_TimeOut(Integer id){
int timeNumber=5;
// try{
// TimeUnit.SECONDS.sleep(timeNumber);
// }catch (InterruptedException e){
// e.printStackTrace();
// }
int i=10/0;
return "线程池："+Thread.currentThread().getName()+"paymentInfo_OK,id:"+id+"耗时"+timeNumber;
}
public String paymentInfo_TimeOutHandler(Integer id){
return "线程池："+Thread.currentThread().getName()+"paymentInfo_TimeOutHandler,id:"+id+"payment正忙";
}
}
当睡眠时间设置为5秒时，等3秒后访问结果
当程序异常时，直接展示一下结果
4.2改造order80
（1）添加pom
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
（2）yml
server:
port: 80
eureka:
client:
register-with-eureka: false
fetch-registry: true
service-url:
defaultZone: http://eureka7001.com:7001/eureka
feign:
hystrix:
enabled: true
（3) 主启动添加@EnableHystrix注解
（4) 业务类添加兜底解决方法
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
@HystrixCommand(fallbackMethod = "paymentTimeOutFallbackMethod", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1500")
})
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
String result = paymentHystrixService.paymentInfo_TimeOut(id);
log.info("*****result:" + result);
return result;
}
public String paymentTimeOutFallbackMethod(@PathVariable("id") Integer id) {
return "我是消费者80,对方支付系统繁忙请10秒种后再试或者自己运行出错请检查自己,o(╥﹏╥)o";
}
（5）测试调用
因为消费者order80之等待1.5秒，而支付payment睡眠5秒
如果payment 10、0报错，结果如下：打印payment的兜底处理方法
4.3目前问题
（1）每个业务方法对应一个兜底的方法，代码膨胀
（2）统一和自定义的分开
4.4 解决方法
（1）每个方法配置一个？？膨胀
@DefaultProperties(defaultFallback="")
如果不加@HystrixCommand就默认没有降级处理，超时就超时报错就报错
（2）和业务逻辑混在一起？？混乱
案例：服务降级，客户端80掉用8001服务器，碰上服务器宕机或者关闭
本案例服务降级处理是在客户端80实现完成，与服务器8001没有关系，只需要为Feign客户端定义的接口上添加一个服务降级处理的实现类即可实现解耦
常见异常：运行，超时和宕机
修改修改cloud-consumer-feign-hystrix-order80
（1）新建PaymentFallbackService 实现PaymentHystrixService接口
当服务器宕机或者关闭时实现里面的方法
@Component
public class PaymentFallbackService implements PaymentHystrixService{
@Override
public String paymentInfo_OK(Integer id) {
return "paymentInfo_OK--------服务器宕机";
}
@Override
public String paymentInfo_TimeOut(Integer id) {
return "paymentInfo_TimeOut----------服务器宕机";
}
}
（2）yml
feign:
hystrix:
enabled: true
（3）在PaymentHystrixService添加fallback
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackService.class)
public interface PaymentHystrixService {
（4）测试
服务器正常，正常访问
服务器关闭，实现PaymentFallbackService 的方法
5.服务熔断
5.1 熔断器
一句话就是家里的保险丝
5.2熔断是什么
- 熔断机制概述
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用，快速返回错误的响应信息。当检测到该节点微服务调用响应正常后，恢复调用链路。 - 在Spring Cloud框架里,熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,
当失败的调用到一定阈值,缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是@HystrixCommand.
5.3案例
修改修改cloud-provider-hystrix-payment8001
（1）修改PaymentService，添加以下内容
// 服务熔断
@HystrixCommand(fallbackMethod ="paymentCircuitBreaker_fallback",commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled" ,value = "true"),//正确断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold" ,value = "10"),//请求次数超过了峰值，熔断器将会从关闭到打开
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds" ,value = "10000"),//时间范围
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage" ,value = "60"),//失败率达到多少后跳闸
})
public String paymentCircuitBreaker(@PathVariable("id") Integer id){
if(id<0){
throw new RuntimeException("**************id 不能为负数");
}
String number= IdUtil.simpleUUID();
return Thread.currentThread().getName()+"调用成功"+number;
}
public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id){
return "id 不能为负数，请稍后再试"+id;
}
（2）服务熔断
//服务熔断
@GetMapping("/payment/circuit/{id}")
public String paymentCiruitBreak(@PathVariable ("id") Integer id){
return paymentService.paymentCircuitBreaker(id);
}
（3）测试
先输入正数
输入负数，异常，服务降级
在一段时间内多次使用负数，导致服务熔断，再次输入正数后，程序也不能正常访问，慢慢正确后，恢复，又可以访问
5.4 原理/总结
（1）熔断类型
- 熔断打开：请求不再调用当前服务,内部设置一般为MTTR(平均故障处理时间),当打开长达导所设时钟则进入半熔断状态
- 熔断关闭：熔断关闭后不会对服务进行熔断
- 熔断半开：部分请求根据规则调用当前服务,如果请求成功且符合规则则认为当前服务恢复正常,关闭熔断
（2）官方步骤
（3）熔断器在什么情况下开始起作用
（4）熔断器开启或关闭的条件
- 当满足一定的阈值的时候(默认10秒钟超过20个请求次数) 开启
- 当失败率达到一定的时候(默认10秒内超过50%的请求次数) 开启
- 当开启的时候,所有请求都不会进行转发
- 一段时间之后(默认5秒),这个时候断路器是半开状态,会让其他一个请求进行转发. 如果成功,断路器会关闭,若失败,继续开启.重复4和5
（5）熔断器打开之后
- 再有请求调用的时候，将不会调用主逻辑，而是直接调用降级fallback.通过断路器,实现了自动地发现错误并将降级逻辑切换为主逻辑,减少响应延迟的效果。
- 原来的主逻辑要如何恢复呢?
对于这一问题, hystrix也为我们实现了 自动恢复功能。
当断路器打开，对主逻辑进行熔断之后，hystrix会启动一个休眠时间窗,在这个时间窗内,降级逻辑是临时的成为主逻辑
当休眠时间窗到期，断路器将进入半开状态,释放一次请求到原来的主逻辑上,如果此次请求正常返回,那么断路器将继续闭合,主逻辑恢复，如果这次请求依然有问题，断路器继续进入打开状态,休眠时间窗重新计时。
（6）所有的配置
6. Hystrix工作流
官网图例
7.服务监控hystrixDashboard
除了隔离依赖服务的调用以外, Hystrix还提供了准实时的调用监控(Hystrix Dashboard)，Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户，包括每秒执行多少请求多少成功，多少失败等。Netflix通过hystrix- metrics-event-stream项目实现了对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面。
7.1 仪表盘9001搭建
(1) 新建cloud-consumer-hystrix-dashboard9001模块
(2) POM
<dependencies>
<!--hystrix dashboard-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
(3) YML
server:
port: 9001
(4) 主启动
@SpringBootApplication
@EnableHystrixDashboard
public class HystrixDashboardMain9001 {
public static void main(String[] args) {
SpringApplication.run(HystrixDashboardMain9001.class,args);
}
}
(5)启动
http://localhost:9001/hystrix
7.2 修改cloud-provider-hystrix-payment8001
(1) 在PaymentHystrixMain8001添加一下代码
/**
* 此配置是为了服务监控而配置，与服务容错本身无观，springCloud 升级之后的坑
* ServletRegistrationBean因为springboot的默认路径不是/hystrix.stream
* 只要在自己的项目中配置上下面的servlet即可
* @return
*/
@Bean
public ServletRegistrationBean getServlet(){
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean<HystrixMetricsStreamServlet> registrationBean = new ServletRegistrationBean<>(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
(2) 启动
启动eureka，payment8001，HystrixDashboardMain9001
测试访问：
http://localhost:8001/payment/circuit/1 正常
http://localhost:8001/payment/circuit/-1正常
监控地址：http://localhost:8001/hystrix.stream
测试结果
7.3 如何看仪表盘
（1）7色
（2）1圈
实心圆:共有两种含义。它通过颜色的变化代表了实例的健康程度
它的健康度从绿色<黄色<橙色<红色递减。
该实心圆除了颜色的变化之外,它的大小也会根据实例的请求流量发生变化，流量越大该实心圆就越大。所以通过该实心圆的展示，就可以在大量的实例中快速的发现故障实例和高压力实例。
（3）1线
曲线：用来记录2分钟内流量的相对变化，可以通过它来观察到流量的上升和下降趋势
（4） 整图说明
（5）一张搞懂都懂
