mirror of
https://gitee.com/shishan100/Java-Interview-Advanced
synced 2024-12-01 02:28:54 +00:00
48 lines
3.9 KiB
Markdown
48 lines
3.9 KiB
Markdown
|
## 用 Hystrix 构建高可用服务架构
|
|||
|
|
参考 [Hystrix Home](https://github.com/Netflix/Hystrix/wiki#what)。
|
|||
|
|
|
|||
|
|
### Hystrix 是什么？
|
|||
|
|
在分布式系统中，每个服务都可能会调用很多其他服务，被调用的那些服务就是**依赖服务**，有的时候某些依赖服务出现故障也是很正常的。
|
|||
|
|
|
|||
|
|
Hystrix 可以让我们在分布式系统中对服务间的调用进行控制，加入一些**调用延迟**或者**依赖故障**的**容错机制**。
|
|||
|
|
|
|||
|
|
Hystrix 通过将依赖服务进行**资源隔离**，进而阻止某个依赖服务出现故障时在整个系统所有的依赖服务调用中进行蔓延；同时Hystrix 还提供故障时的 fallback 降级机制。
|
|||
|
|
|
|||
|
|
总而言之，Hystrix 通过这些方法帮助我们提升分布式系统的可用性和稳定性。
|
|||
|
|
|
|||
|
|
### Hystrix 的历史
|
|||
|
|
Hystrix 是高可用性保障的一个框架。Netflix（可以认为是国外的优酷或者爱奇艺之类的视频网站）的 API 团队从 2011 年开始做一些提升系统可用性和稳定性的工作，Hystrix 就是从那时候开始发展出来的。
|
|||
|
|
|
|||
|
|
在 2012 年的时候，Hystrix 就变得比较成熟和稳定了，Netflix 中，除了 API 团队以外，很多其他的团队都开始使用 Hystrix。
|
|||
|
|
|
|||
|
|
时至今日，Netflix 中每天都有数十亿次的服务间调用，通过 Hystrix 框架在进行，而 Hystrix 也帮助 Netflix 网站提升了整体的可用性和稳定性。
|
|||
|
|
|
|||
|
|
[2018 年 11 月，Hystrix 在其 Github 主页宣布，不再开放新功能，推荐开发者使用其他仍然活跃的开源项目](https://github.com/Netflix/Hystrix/blob/master/README.md#hystrix-status)。维护模式的转变绝不意味着 Hystrix 不再有价值。相反，Hystrix 激发了很多伟大的想法和项目，我们高可用的这一块知识还是会针对 Hystrix 进行讲解。
|
|||
|
|
|
|||
|
|
### Hystrix 的设计原则
|
|||
|
|
- 对依赖服务调用时出现的调用延迟和调用失败进行**控制和容错保护**。
|
|||
|
|
- 在复杂的分布式系统中，阻止某一个依赖服务的故障在整个系统中蔓延。比如某一个服务故障了，导致其它服务也跟着故障。
|
|||
|
|
- 提供 `fail-fast`（快速失败）和快速恢复的支持。
|
|||
|
|
- 提供 fallback 优雅降级的支持。
|
|||
|
|
- 支持近实时的监控、报警以及运维操作。
|
|||
|
|
|
|||
|
|
|
|||
|
|
举个栗子。
|
|||
|
|
|
|||
|
|
有这样一个分布式系统，服务 A 依赖于服务 B，服务 B 依赖于服务 C/D/E。在这样一个成熟的系统内，比如说最多可能只有 100 个线程资源。正常情况下，40 个线程并发调用服务 C，各 30 个线程并发调用 D/E。
|
|||
|
|
|
|||
|
|
调用服务 C，只需要 20ms，现在因为服务 C 故障了，比如延迟，或者挂了，此时线程会 hang 住 2s 左右。40 个线程全部被卡住，由于请求不断涌入，其它的线程也用来调用服务 C，同样也会被卡住。这样导致服务 B 的线程资源被耗尽，无法接收新的请求，甚至可能因为大量线程不断的运转，导致自己宕机。服务 A 也挂。
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
Hystrix 可以对其进行资源隔离，比如限制服务 B 只有 40 个线程调用服务 C。当此 40 个线程被 hang 住时，其它 60 个线程依然能正常调用工作。从而确保整个系统不会被拖垮。
|
|||
|
|
|
|||
|
|
|
|||
|
|
### Hystrix 更加细节的设计原则
|
|||
|
|
- 阻止任何一个依赖服务耗尽所有的资源，比如 tomcat 中的所有线程资源。
|
|||
|
|
- 避免请求排队和积压，采用限流和 `fail fast` 来控制故障。
|
|||
|
|
- 提供 fallback 降级机制来应对故障。
|
|||
|
|
- 使用资源隔离技术，比如 `bulkhead`（舱壁隔离技术）、`swimlane`（泳道技术）、`circuit breaker`（断路技术）来限制任何一个依赖服务的故障的影响。
|
|||
|
|
- 通过近实时的统计/监控/报警功能，来提高故障发现的速度。
|
|||
|
|
- 通过近实时的属性和配置**热修改**功能，来提高故障处理和恢复的速度。
|
|||
|
|
- 保护依赖服务调用的所有故障情况，而不仅仅只是网络故障情况。
|