【Hystrix技术指南】（7）故障切换的运作流程原理分析（含源码）

背景介绍

目前对于一些非核心操作，如增减库存后保存操作日志发送异步消息时（具体业务流程），一旦出现MQ服务异常时，会导致接口响应超时，因此可以考虑对非核心操作引入服务降级、服务隔离。

Hystrix说明

官方文档

Hystrix是Netflix开源的一个容灾框架，解决当外部依赖故障时拖垮业务系统、甚至引起雪崩的问题。

为什么需要Hystrix?

  • 在大中型分布式系统中，通常系统很多依赖(HTTP,hession,Netty,Dubbo等)，在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题：如网络连接缓慢，资源繁忙，暂时不可用，服务脱机等。
  • *当依赖阻塞时,大多数服务器的线程池就出现阻塞(BLOCK),影响整个线上服务的稳定性，在复杂的分布式架构的应用程序有很多的依赖，都会不可避免地在某些时候失败。高并发的依赖失败时如果没有隔离措施，当前应用服务就有被拖垮的风险。
例如:一个依赖30个SOA服务的系统,每个服务99.9999.990.3换算成时间大约每月有2个小时服务不稳定.随着服务依赖数量的变多，服务不稳定的概率会成指数性提高.解决问题方案：对依赖做隔离。
复制代码

Hystrix设计理念

想要知道如何使用，必须先明白其核心设计理念，Hystrix基于命令模式，通过UML图先直观的认识一下这一设计模式。

  • 可见，Command是在 Receiver和 Invoker之间添加的中间层， Command实现了对Receiver的封装。
  • API既可以是Invoker又可以是reciever，通过继承Hystrix核心类HystrixCommand来封装这些API（例如，远程接口调用，数据库查询之类可能会产生延时的操作）。
  • *就可以为API提供弹性保护了。

Hystrix如何解决依赖隔离

  1. Hystrix使用命令模式HystrixCommand(Command)包装依赖调用逻辑，每个命令在单独线程中/信号授权下执行。
  2. 可配置依赖调用超时时间，超时时间一般设为比99.5%平均时间略高即可。当调用超时时，直接返回或执行fallback逻辑。
  3. 为每个依赖提供一个小的线程池（或信号），如果线程池已满调用将被立即拒绝，默认不采用排队，加速失败判定时间。
  4. 依赖调用结果分，成功，失败（抛出异常），超时，线程拒绝，短路。 请求失败(异常，拒绝，超时，短路)时执行fallback(降级)逻辑。
  5. 提供熔断器组件，可以自动运行或手动调用，停止当前依赖一段时间(10秒)，熔断器默认错误率阈值为50%，超过将自动运行。
  6. 提供近实时依赖的统计和监控

Hystrix流程结构解析

、

流程说明:

  1. 每次调用构建HystrixCommand或者HystrixObservableCommand对象，把依赖调用封装在run()方法中.
  2. 结果是否有缓存如果没有执行execute()/queue做sync或async调用，对应真正的run()/construct()
  3. 判断熔断器(circuit-breaker)是否打开，如果打开跳到步骤8，进行降级策略，如果关闭进入步骤.
  4. 判断线程池/队列/信号量是否跑满，如果跑满进入降级步骤8，否则继续后续步骤.
  5. 使用HystrixObservableCommand.construct()还是HystrixCommand.run()，运行依赖逻辑
  6. 依赖逻辑调用超时，进入步骤8
  7. 判断逻辑是否调用成功
  • 6a 返回成功调用结果
  • 6b 调用出错，进入步骤8.
  1. 计算熔断器状态,所有的运行状态(成功, 失败, 拒绝,超时)上报给熔断器，用于统计从而判断熔断器状态.
  2. getFallback()降级逻辑. a. 没有实现getFallback的Command将直接抛出异常 b. fallback降级逻辑调用成功直接返回 c. 降级逻辑调用失败抛出异常
  3. 返回执行成功结果

以下四种情况将触发getFallback调用：

  1. run()方法抛出非HystrixBadRequestException异常。
  2. run()方法调用超时
  3. 熔断器开启短路调用
  4. 线程池/队列/信号量是否跑满

熔断器:Circuit Breaker

每个熔断器默认维护10个bucket，每秒一个bucket，每个bucket记录成功，失败,超时,拒绝的状态，默认错误超过50%且10秒内超过20个请求进行中断短路。

Hystrix隔离分析

Hystrix隔离方式采用线程/信号的方式,通过隔离限制依赖的并发量和阻塞扩散.

线程隔离

  • 执行依赖代码的线程与请求线程(如:jetty线程)分离，请求线程可以自由控制离开的时间(异步过程)。
  • 通过线程池大小可以控制并发量，当线程池饱和时可以提前拒绝服务,防止依赖问题扩散。
  • *线上建议线程池不要设置过大，否则大量堵塞线程有可能会拖慢服务器。
实际案例：

Netflix公司内部认为线程隔离开销足够小，不会造成重大的成本或性能的影响。Netflix 内部API 每天100亿的HystrixCommand依赖请求使用线程隔，每个应用大约40多个线程池，每个线程池大约5-20个线程。

信号隔离

信号隔离也可以用于限制并发访问，防止阻塞扩散, 与线程隔离最大不同在于执行依赖代码的线程依然是请求线程（该线程需要通过信号申请）,如果客户端是可信的且可以快速返回，可以使用信号隔离替换线程隔离,降低开销。

信号量的大小可以动态调整, 线程池大小不可以。

线程隔离与信号隔离区别如下图:

fallback故障切换降级机制

有兴趣的小伙伴可以看看：官方参考文档

源码分析

hystrix-core-1.5.12-sources.jar!/com/netflix/hystrix/AbstractCommand.java

executeCommandAndObserve
private Observable executeCommandAndObserve(final AbstractCommand _cmd) {final Func1> handleFallback = new Func1>() {public Observable call(Throwable t) {circuitBreaker.markNonSuccess();Exception e = getExceptionFromThrowable(t);executionResult = executionResult.setExecutionException(e);if (e instanceof RejectedExecutionException) {return handleThreadPoolRejectionViaFallback(e);} else if (t instanceof HystrixTimeoutException) {return handleTimeoutViaFallback();} else if (t instanceof HystrixBadRequestException) {return handleBadRequestByEmittingError(e);} else {if (e instanceof HystrixBadRequestException) {eventNotifier.markEvent(HystrixEventType.BAD_REQUEST, commandKey);return Observable.error(e);}return handleFailureViaFallback(e);}}};Observable execution;if (properties.executionTimeoutEnabled().get()) {execution = executeCommandWithSpecifiedIsolation(_cmd).lift(new HystrixObservableTimeoutOperator(_cmd));} else {execution = executeCommandWithSpecifiedIsolation(_cmd);}return execution.doOnNext(markEmits).doOnCompleted(markOnCompleted).onErrorResumeNext(handleFallback).doOnEach(setRequestContext);}
复制代码

使用Observable的onErrorResumeNext，里头调用了handleFallback，handleFallback中区分不同的异常来调用不同的fallback。

  • RejectedExecutionException调用handleThreadPoolRejectionViaFallback
  • HystrixTimeoutException调用handleTimeoutViaFallback
  • *非HystrixBadRequestException的调用handleFailureViaFallback
applyHystrixSemantics
    private Observable applyHystrixSemantics(final AbstractCommand _cmd) {executionHook.onStart(_cmd);if (circuitBreaker.attemptExecution()) {final TryableSemaphore executionSemaphore = getExecutionSemaphore();final AtomicBoolean semaphoreHasBeenReleased = new AtomicBoolean(false);final Action0 singleSemaphoreRelease = new Action0() {public void call() {if (semaphoreHasBeenReleased.compareAndSet(false, true)) {executionSemaphore.release();}}};final Action1 markExceptionThrown = new Action1() {public void call(Throwable t) {eventNotifier.markEvent(HystrixEventType.EXCEPTION_THROWN, commandKey);}};if (executionSemaphore.tryAcquire()) {try {executionResult = executionResult.setInvocationStartTime(System.currentTimeMillis());return executeCommandAndObserve(_cmd).doOnError(markExceptionThrown).doOnTerminate(singleSemaphoreRelease).doOnUnsubscribe(singleSemaphoreRelease);} catch (RuntimeException e) {return Observable.error(e);}} else {return handleSemaphoreRejectionViaFallback();}} else {return handleShortCircuitViaFallback();}}
复制代码
  • applyHystrixSemantics方法针对executionSemaphore.tryAcquire()没通过的调用
  • handleSemaphoreRejectionViaFallback
  • applyHystrixSemantics方法针对circuitBreaker.attemptExecution()没通过的调用handleShortCircuitViaFallback()
ViaFallback方法
    private Observable handleSemaphoreRejectionViaFallback() {Exception semaphoreRejectionException = new RuntimeException("could not acquire a semaphore for execution");executionResult = executionResult.setExecutionException(semaphoreRejectionException);eventNotifier.markEvent(HystrixEventType.SEMAPHORE_REJECTED, commandKey);logger.debug("HystrixCommand Execution Rejection by Semaphore.");return getFallbackOrThrowException(this, HystrixEventType.SEMAPHORE_REJECTED, FailureType.REJECTED_SEMAPHORE_EXECUTION,"could not acquire a semaphore for execution", semaphoreRejectionException);}private Observable handleShortCircuitViaFallback() {eventNotifier.markEvent(HystrixEventType.SHORT_CIRCUITED, commandKey);Exception shortCircuitException = new RuntimeException("Hystrix circuit short-circuited and is OPEN");executionResult = executionResult.setExecutionException(shortCircuitException);try {return getFallbackOrThrowException(this, HystrixEventType.SHORT_CIRCUITED, FailureType.SHORTCIRCUIT,"short-circuited", shortCircuitException);} catch (Exception e) {return Observable.error(e);}}private Observable handleThreadPoolRejectionViaFallback(Exception underlying) {eventNotifier.markEvent(HystrixEventType.THREAD_POOL_REJECTED, commandKey);threadPool.markThreadRejection();return getFallbackOrThrowException(this, HystrixEventType.THREAD_POOL_REJECTED, FailureType.REJECTED_THREAD_EXECUTION, "could not be queued for execution", underlying);}private Observable handleTimeoutViaFallback() {return getFallbackOrThrowException(this, HystrixEventType.TIMEOUT, FailureType.TIMEOUT, "timed-out", new TimeoutException());}private Observable handleFailureViaFallback(Exception underlying) {logger.debug("Error executing HystrixCommand.run(). Proceeding to fallback logic ...", underlying);eventNotifier.markEvent(HystrixEventType.FAILURE, commandKey);executionResult = executionResult.setException(underlying);return getFallbackOrThrowException(this, HystrixEventType.FAILURE, FailureType.COMMAND_EXCEPTION, "failed", underlying);}
复制代码
  • handleSemaphoreRejectionViaFallback、handleShortCircuitViaFallback、handleThreadPoolRejectionViaFallback、handleTimeoutViaFallback、handleFailureViaFallback这几个方法调用了getFallbackOrThrowException
  • 其eventType分别是SEMAPHORE_REJECTED、SHORT_CIRCUITED、THREAD_POOL_REJECTED、TIMEOUT、FAILURE
  • AbstractCommand.getFallbackOrThrowException

hystrix-core-1.5.12-sources.jar!/com/netflix/hystrix/AbstractCommand.java

private Observable getFallbackOrThrowException(final AbstractCommand _cmd, final HystrixEventType eventType, final FailureType failureType, final String message, final Exception originalException) {final HystrixRequestContext requestContext = HystrixRequestContext.getContextForCurrentThread();long latency = System.currentTimeMillis() - executionResult.getStartTimestamp();executionResult = executionResult.addEvent((int) latency, eventType);if (isUnrecoverable(originalException)) {logger.error("Unrecoverable Error for HystrixCommand so will throw HystrixRuntimeException and not apply fallback. ", originalException);Exception e = wrapWithOnErrorHook(failureType, originalException);return Observable.error(new HystrixRuntimeException(failureType, this.getClass(), getLogMessagePrefix() + " " + message + " and encountered unrecoverable error.", e, null));} else {if (isRecoverableError(originalException)) {logger.warn("Recovered from java.lang.Error by serving Hystrix fallback", originalException);}if (properties.fallbackEnabled().get()) {final Action1super R>> setRequestContext = new Action1super R>>() {public void call(Notificationsuper R> rNotification) {setRequestContextIfNeeded(requestContext);}};final Action1 markFallbackEmit = new Action1() {public void call(R r) {if (shouldOutputOnNextEvents()) {executionResult = executionResult.addEvent(HystrixEventType.FALLBACK_EMIT);eventNotifier.markEvent(HystrixEventType.FALLBACK_EMIT, commandKey);}}};final Action0 markFallbackCompleted = new Action0() {public void call() {long latency = System.currentTimeMillis() - executionResult.getStartTimestamp();eventNotifier.markEvent(HystrixEventType.FALLBACK_SUCCESS, commandKey);executionResult = executionResult.addEvent((int) latency,HystrixEventType.FALLBACK_SUCCESS);}};final Func1> handleFallbackError = new Func1>() {public Observable call(Throwable t) {Exception e = wrapWithOnErrorHook(failureType, originalException);Exception fe = getExceptionFromThrowable(t);long latency = System.currentTimeMillis() - executionResult.getStartTimestamp();Exception toEmit;if (fe instanceof UnsupportedOperationException) {logger.debug("No fallback for HystrixCommand. ", fe);eventNotifier.markEvent(HystrixEventType.FALLBACK_MISSING, commandKey);executionResult = executionResult.addEvent((int) latency, HystrixEventType.FALLBACK_MISSING);toEmit = new HystrixRuntimeException(failureType, _cmd.getClass(), getLogMessagePrefix() + " " + message + " and no fallback available.", e, fe);} else {logger.debug("HystrixCommand execution " + failureType.name() + " and fallback failed.", fe);eventNotifier.markEvent(HystrixEventType.FALLBACK_FAILURE, commandKey);executionResult = executionResult.addEvent((int) latency, HystrixEventType.FALLBACK_FAILURE);toEmit = new HystrixRuntimeException(failureType, _cmd.getClass(), getLogMessagePrefix() + " " + message + " and fallback failed.", e, fe);}if (shouldNotBeWrapped(originalException)) {return Observable.error(e);}return Observable.error(toEmit);}};final TryableSemaphore fallbackSemaphore = getFallbackSemaphore();final AtomicBoolean semaphoreHasBeenReleased = new AtomicBoolean(false);final Action0 singleSemaphoreRelease = new Action0() {public void call() {if (semaphoreHasBeenReleased.compareAndSet(false, true)) {fallbackSemaphore.release();}}};Observable fallbackExecutionChain;if (fallbackSemaphore.tryAcquire()) {try {if (isFallbackUserDefined()) {executionHook.onFallbackStart(this);fallbackExecutionChain = getFallbackObservable();} else {fallbackExecutionChain = getFallbackObservable();}} catch (Throwable ex) {fallbackExecutionChain = Observable.error(ex);}return fallbackExecutionChain.doOnEach(setRequestContext).lift(new FallbackHookApplication(_cmd)).lift(new DeprecatedOnFallbackHookApplication(_cmd)).doOnNext(markFallbackEmit).doOnCompleted(markFallbackCompleted).onErrorResumeNext(handleFallbackError).doOnTerminate(singleSemaphoreRelease).doOnUnsubscribe(singleSemaphoreRelease);} else {return handleFallbackRejectionByEmittingError();}} else {return handleFallbackDisabledByEmittingError(originalException, failureType, message);}}}
复制代码
  • fallbackExecutionChain的onErrorResumeNext，调用了handleFallbackError
  • fallbackExecutionChain的doOnCompleted，调用了markFallbackCompleted
  • AbstractCommand.getFallbackSemaphore

hystrix-core-1.5.12-sources.jar!/com/netflix/hystrix/AbstractCommand.java

protected TryableSemaphore getFallbackSemaphore() {if (fallbackSemaphoreOverride == null) {TryableSemaphore _s = fallbackSemaphorePerCircuit.get(commandKey.name());if (_s == null) {fallbackSemaphorePerCircuit.putIfAbsent(commandKey.name(), new TryableSemaphoreActual(properties.fallbackIsolationSemaphoreMaxConcurrentRequests()));return fallbackSemaphorePerCircuit.get(commandKey.name());} else {return _s;}} else {return fallbackSemaphoreOverride;}}
复制代码

针对每个commandKey获取或创建TryableSemaphoreActual

fallback源码分析小结

hystrix的fallback主要分为5种类型：

  • SEMAPHORE_REJECTED对应handleSemaphoreRejectionViaFallback
  • SHORT_CIRCUITED对应handleShortCircuitViaFallback
  • THREAD_POOL_REJECTED对应handleThreadPoolRejectionViaFallback
  • TIMEOUT对应handleTimeoutViaFallback
  • FAILURE对应handleFailureViaFallback
  • 这几个方法最后都调用了getFallbackOrThrowException方法。

分享资源

资源分享
获取以上资源请访问开源项目 点击跳转

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/63432.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

使用 Python 和 Flask 构建简单的 Restful API 第 1 部分

使用 Python 和 Flask 构建简单的 Restful API 第 1 部分

一、说明 我将把这个系列分成 3 或 4 篇文章。在本系列的最后，您将了解使用flask构建 restful API 是多么容易。在本文中，我们将设置环境并创建将显示“Hello World”的终结点。 我假设你的电脑上安装了python 2.7和pip。我已经在python 2.7上测试了本文…
阅读更多...
C语言属刷题训练【第八天】

C语言属刷题训练【第八天】

文章目录 🪗1、如下程序的运行结果是（ ）💻2、若有定义： int a[2][3]; ，以下选项中对 a 数组元素正确引用的是（ ）🧿3、在下面的字符数组定义中，哪一个有语法错…
阅读更多...
大厂容器云实践之路（一）

大厂容器云实践之路（一）

1-华为CCE容器云实践 华为企业云 | CCE容器引擎实践 ——从IaaS到PaaS到容器集群 容器部署时代的来临 IaaS服务如日中天 2014-2015年，大家都在安逸的使用IaaS服务； 亚马逊AWS的部署能力方面比所有竞争对手…
阅读更多...
从零构建深度学习推理框架-7 计算图的表达式

从零构建深度学习推理框架-7 计算图的表达式

什么是表达式 表达式就是一个计算过程,类似于如下： output_mid input1 input2 output output_mid * input3用图形来表达就是这样的。 但是在PNNX的表达式（Experssion Layer）中不是这个样子，而是以一种抽象得方式，…
阅读更多...
Active Directory安全和风险状况管理

Active Directory安全和风险状况管理

风险评估和管理 风险评估和管理是主动安全性和合规性管理不可或缺的一部分。 发现关键基础设施组件中的风险行为和配置对于阻止网络入侵和预防网络攻击至关重要。帐户泄露和配置错误漏洞是用于破坏网络的常见技术。当评估、监控和降低 Active Directory 基础架构的风险时&…
阅读更多...
HCIP 链路聚合技术

HCIP 链路聚合技术

1、链路聚合概述 为了保证网络的稳定性，仅仅是设备进行备份还不够，我们需要针对我们的链路进行备份，同时也增加了链路的利用率，提高带宽。避免一条链路出现故障，导致网络无法正常通信。这就可以使用链路聚合技术。 以…
阅读更多...
图片预览插件vue-photo-preview的使用

图片预览插件vue-photo-preview的使用

移动端项目中需要图片预览的功能，但本身使用mintui，vantui中虽然也有，但是为了一个组件安装这个有点儿多余，就选用了vue-photo-preview插件实现（其实偷懒也不想自己写）。 1、安装 npm i vue-photo-preview…
阅读更多...
计算机竞赛 LSTM的预测算法 - 股票预测 天气预测 房价预测

计算机竞赛 LSTM的预测算法 - 股票预测 天气预测 房价预测

0 简介 今天学长向大家介绍LSTM基础 基于LSTM的预测算法 - 股票预测 天气预测 房价预测 这是一个较为新颖的竞赛课题方向，学长非常推荐！ 🧿 更多资料, 项目分享： https://gitee.com/dancheng-senior/postgraduate 1 基于 Ke…
阅读更多...
怎么做Tik Tok海外娱乐公会呢？新加坡市场怎么样？

怎么做Tik Tok海外娱乐公会呢？新加坡市场怎么样？

一、为什么选择TikTok直播 1. 海外市场潜力巨大 • 自2016年始，多家直播平台陆续拓展至东南亚、中东、俄罗斯、日韩、欧美、拉美等地区。 • 海外市场作为直播发展新蓝海，2021年直播行业整申请cmxyci体规模达百亿美元，并维持高速增长。 &a…
阅读更多...
新一代构建工具 maven-mvnd

新一代构建工具 maven-mvnd

新一代构建工具 maven-mvnd mvnd的前世今生下载安装 mvndIDEA集成 mvnd的前世今生 maven 作为一代经典的构建工具，流行了很多年，知道现在依然是大部分Java项目的构建工具的首选；但随着项目复杂度提高，代码量及依赖库的增多使得ma…
阅读更多...
接口测试自动化：简化测试流程，提升效率

接口测试自动化：简化测试流程，提升效率

接口测试自动化：简化测试流程，提升效率 什么是接口测试自动化？ 接口测试自动化是指使用特定的工具和技术来自动化执行接口测试的过程。通过编写脚本，自动化工具可以模拟用户与软件系统的交互，验证接口的功能和性能。…
阅读更多...
树莓派RP2040 用Arduino IDE安装和编译

树莓派RP2040 用Arduino IDE安装和编译

目录 1 Arduino IDE 1.1 IDE下载 1.2 安装 arduino mbed os rp2040 boards 2 编程-烧录固件 2.1 打开点灯示例程序 2.2 选择Raspberry Pi Pico开发板 2.3 编译程序 2.4 烧录程序 2.4.1 Raspberry Pi Pico开发板首次烧录提示失败 2.4.2 解决首次下载失败问题 2.4.2.1…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023