• UID20909
  • 登录2018-02-12
  • 粉丝1
  • 关注0
  • 发帖63
  • 主页
  • 金币191枚
qq_FesfJyH15113 发布于2018-02-08 11:06
0/48

Spring Cloud Spring Boot mybatis 企业分布式微服务云(八)服务容错保护(Hystrix依赖隔离)【Dalston版】

楼层直达


依赖隔离

舱壁模式”对于熟悉Docker的读者一定不陌生,Docker通过“舱壁模式”实现进程的隔离,使得容器与容器之间不会互相影响。而Hystrix则使用该模式实现线程池的隔离,它会为每一个Hystrix命令创建一个独立的线程池,这样就算某个在Hystrix命令包装下的依赖服务出现延迟过高的情况,也只是对该依赖服务的调用产生影响,而不会拖慢其他的服务。
通过对依赖服务的线程池隔离实现,可以带来如下优势:
  • 应用自身得到完全的保护,不会受不可控的依赖服务影响。即便给依赖服务分配的线程池被填满,也不会影响应用自身的额其余部分。
  • 可以有效的降低接入新服务的风险。如果新服务接入后运行不稳定或存在问题,完全不会影响到应用其他的请求。
  • 当依赖的服务从失效恢复正常后,它的线程池会被清理并且能够马上恢复健康的服务,相比之下容器级别的清理恢复速度要慢得多。
  • 当依赖的服务出现配置错误的时候,线程池会快速的反应出此问题(通过失败次数、延迟、超时、拒绝等指标的增加情况)。同时,我们可以在不影响应用功能的情况下通过实时的动态属性刷新(后续会通过Spring Cloud Config与Spring Cloud Bus的联合使用来介绍)来处理它。
  • 当依赖的服务因实现机制调整等原因造成其性能出现很大变化的时候,此时线程池的监控指标信息会反映出这样的变化。同时,我们也可以通过实时动态刷新自身应用对依赖服务的阈值进行调整以适应依赖方的改变。
  • 除了上面通过线程池隔离服务发挥的优点之外,每个专有线程池都提供了内置的并发实现,可以利用它为同步的依赖服务构建异步的访问。
总之,通过对依赖服务实现线程池隔离,让我们的应用更加健壮,不会因为个别依赖服务出现问题而引起非相关服务的异常。同时,也使得我们的应用变得更加灵活,可以在不停止服务的情况下,配合动态配置刷新实现性能配置上的调整。
虽然线程池隔离的方案带了如此多的好处,但是很多使用者可能会担心为每一个依赖服务都分配一个线程池是否会过多地增加系统的负载和开销。对于这一点,使用者不用过于担心,因为这些顾虑也是大部分工程师们会考虑到的,Netflix在设计Hystrix的时候,认为线程池上的开销相对于隔离所带来的好处是无法比拟的。同时,Netflix也针对线程池的开销做了相关的测试,以证明和打消Hystrix实现对性能影响的顾虑。
下图是Netflix Hystrix官方提供的一个Hystrix命令的性能监控,该命令以每秒60个请求的速度(QPS)向一个单服务实例进行访问,该服务实例每秒运行的线程数峰值为350个。

从图中的统计我们可以看到,使用线程池隔离与不使用线程池隔离的耗时差异如下表所示:
比较情况未使用线程池隔离使用了线程池隔离耗时差距
中位数2ms2ms2ms
90百分位5ms8ms3ms
99百分位28ms37ms9ms
在99%的情况下,使用线程池隔离的延迟有9ms,对于大多数需求来说这样的消耗是微乎其微的,更何况为系统在稳定性和灵活性上所带来的巨大提升。虽然对于大部分的请求我们可以忽略线程池的额外开销,而对于小部分延迟本身就非常小的请求(可能只需要1ms),那么9ms的延迟开销还是非常昂贵的。实际上Hystrix也为此设计了另外的一个解决方案:信号量。
Hystrix中除了使用线程池之外,还可以使用信号量来控制单个依赖服务的并发度,信号量的开销要远比线程池的开销小得多,但是它不能设置超时和实现异步访问。所以,只有在依赖服务是足够可靠的情况下才使用信号量。在HystrixCommand和HystrixObservableCommand中2处支持信号量的使用:
  • 命令执行:如果隔离策略参数execution.isolation.strategy设置为SEMAPHORE,Hystrix会使用信号量替代线程池来控制依赖服务的并发控制。
  • 降级逻辑:当Hystrix尝试降级逻辑时候,它会在调用线程中使用信号量。
信号量的默认值为10,我们也可以通过动态刷新配置的方式来控制并发线程的数量。对于信号量大小的估算方法与线程池并发度的估算类似。仅访问内存数据的请求一般耗时在1ms以内,性能可以达到5000rps,这样级别的请求我们可以将信号量设置为1或者2,我们可以按此标准并根据实际请求耗时来设置信号量。


如何使用

说了那么多依赖隔离的好处,那么我们如何使用Hystrix来实现依赖隔离呢?其实,我们在上一篇定义服务降级的时候,已经自动的实现了依赖隔离。
在上一篇的示例中,我们使用了@HystrixCommand来将某个函数包装成了Hystrix命令,这里除了定义服务降级之外,Hystrix框架就会自动的为这个函数实现调用的隔离。所以,依赖隔离、服务降级在使用时候都是一体化实现的,这样利用Hystrix来实现服务容错保护在编程模型上就非常方便的,并且考虑更为全面。除了依赖隔离、服务降级之外,还有一个重要元素:断路器。我们将在下一篇做详细的介绍,这三个重要利器构成了Hystrix实现服务容错保护的强力组合拳。
源码来源

0人打赏
您需要登录后才可以回帖
发表回复
极贡献
技术问答
专题荟萃
程序人生
视觉设计
Android开发
iOS开发
编程语言
前端开发
后端开发
服务器架构
软件测试
运维方案
创业路上



最热文章墙

  • 84644/384   【精品推荐】200多种Android动画效果的强悍框架,太全了,不看这个,再有动画的问题,不理你了^@^

  • 48394/191   情人节福利,程序员表白的正确姿势:改几行代码就变成自己的表白了

  • 46909/0   Python爬虫:常用浏览器的useragent

  • 44075/261   【精品推荐】Android版产品级的音乐播放器源码,功能太强大了,最好的产品原型有木有?

  • 40463/145   省时省力的Android组件群来了,非常棒的原型参考

  • 32138/143   2016抢红包软件及源码

  • 30466/71   原创表白APP,以程序员的姿势备战新年后的7夕,持续完善中!

  • 29809/2   超全!整理常用的iOS第三方资源

  • 26210/161   Android版类似UC浏览器:非常赞,产品级的源码

  • 23613/31   麻省理工的一帮疯子,真的实现了随意操控万物!(绝对黑科技)

  • 23370/27   2016程序员跳槽全攻略

  • 23346/26   Android工程师面试题大全

  • 22466/10   GitHub上排名前50的iOS项目:总有一款你用得着

  • 21581/21   码魂:程序员的牛B漫画

  • 20244/74   【持续更新中】Android福利贴(二):资料源码大放送

  • 20018/85   Android小而全的博客源码:非常适合全面掌握开发技巧

  • 19890/43   一个绚丽的loading动效分析与实现!

  • 19430/10   2016年最全的Android面试考题+答案 精编版

  • 19328/3   吐槽那些程序员的搞笑牛逼注释

  • 18859/104   Android带弹幕的视频播放器源码,来自大名鼎鼎的Bilibili弹幕网站

  • 18599/45   惊艳的App引导页:背景图片切换加各个页面动画效果

  • 18562/82   仿京东商城客户端Android最新版,不错的原型和学习资料

  • 18115/1   iOS 动画总结

  • 17999/25   个人收集的Android 各类功能源代码

  • 17765/23   Android福利第三波【Android电子书】

  • 17589/81   【精品推荐】类似360安全卫士安Android源码:非常赞的产品原型

  • 17480/5   新一代Android渠道打包工具:1000个渠道包只需要5秒

  • 17456/1   iOS中文版资源库,非常全

  • 17331/54   基于瀑布流的美女图片浏览App,有注释的源代码

  • 17039/18   用JavaScript 来开发iOS和Android 原生应用:React Native开源框架中文版来啦

  • 16830/10   女程序员的梦,众网友的神回复

  • 16797/23   珍藏多年的素材,灵感搜寻网站

  • 16669/19   65条最常用正则表达式,你要的都在这里了

  • 16659/11   年会上现场review代码是怎么样的体验!

  • 15383/16   基于Android支付宝支付设计和开发方案

  • 15033/18   什么是真正的黑客:收获12200+Stars,人气远超微软开源VS

  • 14903/11   有木有这样一张酷图帮你集齐所有git命令超实用

  • 14871/62   【技巧一】搭配Android Studio,如何实现App远程真机debug?

  • 14817/4   46 个非常有用的 PHP 代码片段

  • 14789/47   在线音乐播放器完整版(商用级的源码):非常赞,可听免费高品质专辑

  • 14187/0   GitHub iOS 库和框架Top100 

  • 14024/7   用程序员的姿势抢过年的火车票

  • 13987/7   一张图搞定iOS学习路线,非常全面

  • 13625/10   成为Java顶尖程序员 ,看这11本书就够了

  • 13593/10   微信支付终于成功了(安卓,iOS),在此分享

  • 13497/18   一张图搞定Android学习路线,非常全面

  • 13439/29   【持续更新中】Android福利贴(一):资料源码

  • 13259/4   基于Node.js的强大爬虫,能直接发布抓取的文章哦

  • 12508/3   即时通信第三方库

  • 12408/1   基于node-webkit跨平台应用案例集之(一)

  • 11988/9   流媒体视频直播方案

  • 11980/18   八个最优秀的Android Studio插件

  • 11746/9   B站建开源工作组:APP想支持炫酷弹幕的看过来

  • 11724/2   【精品推荐】高质量PHP代码的50个实用技巧:非常值得收藏

  • 11457/9   烧了5亿美金,这家神秘的公司即将颠覆人类未来!

  • 11421/12   中国黑客的隐秘江湖:攻守对立,顶尖高手月入千万美元

  • 10841/0   过上惬意生活的精华资源:创业、工作、生活成长

  • 10673/6   开箱即用!Android四款系统架构工具

  • 10570/2   Android性能优化视频,文档以及工具

  • 10468/4   10款GitHub上最火爆的国产开源项目——可以媲美西半球

  • 返回顶部