FeignClient spi 调用 短路异常 & 线程池配置
FeignClient spi 调用 短路异常 & 线程池配置
默认配置见:
HystrixThreadPoolProperties
线程池对象:com.netflix.hystrix.HystrixThreadPool
1. 问题
最近项目中使用FeignClient 调用公共消息服务的spi时候,突然出现了一下错误:
MessageSpi.sendMessage could not be queued for execution and fallback disabled.
然后很快出现了短路错误:
MessageSpi.sendMessage short-circuited and fallback disabled.
2. 依赖接口性能解决
反馈给接口提供方后,他们说是调用方配置的线程池满了,而为什么满,他们怀疑是自己的接口性能慢导致。所以他们去优化接口的性能即可。我们无需关注线程池满的原因。
不过问题很快又找到我了。
接下来的另一个项目是一个类似请求转发&返回值封装的中间层服务,主要请求都是通过SPI的方式调用其他服务。结果在压测时一下子就报错误了,和上面提到的错误是一样的。
这个时候,如果还是找接口性能就不那么靠谱了。因为即使接口性能在100ms的情况下,支持100qps的并发还是很easy。
3. 原因
后面通过本地断点,发现FeignClient使用的线程池是com.netflix.hystrix.HystrixThreadPool,然后内部使用的还是ThreadPoolExecutor,他默认的线程池数量是10(可以从HystrixThreadPoolProperties 这里看到),队列-1,表示同步队列。
而组件里配置的默认线程池大小是30,队列的大小也是30.
假设接口性能在 50ms,那么这个配置,最大的qps 应该是 30 * (1000/50),也就是 600qps。
表面上看这个配置是够用的,但是依赖接口的性能,因为如果是100ms ,那么就瞬间降到300qps。
而按照默认的配置,这个值是200qps,要求低一点就是100qps。
而且可能由于瞬时的流量,导致响应慢后队列就很可能慢,然后导致了以上的错误。
4. 根据你的业务场景来配置
2中的问题不一样,他是一个流量转发的任务,在本地耗时的时间短,基本都是spi耗时,所以它的线程池的配置应该是和该服务容器线程差不多才行。
所以我们线程池的配置如下:
hystrix:
threadpool:
default:
coreSize: 200 #并发执行的最大线程数,默认10
maxinumPoolSize: 300 # 最大线程数
maxQueueSize: 100 #BlockingQueue的最大队列数,默认值-1
queueSizeRejectionThreshold: 80 #即使maxQueueSize没有达到,达到queueSizeRejectionThreshold该值后,请求也会被拒绝,默认值5
另外,default是 默认的配置,从com.netflix.hystrix.HystrixThreadPool.Factory#threadPools这里我们可以看到,线程池的配置还可以按照不同的FeignClient
配置不同的线程池,依据你自己的场景去配置就好
hystrix:
threadpool:
message-server: # 对应 message-sever 对应的 FeignClient SPI
coreSize: 200
maxinumPoolSize: 300 # 最大线程数
maxQueueSize: 100 #BlockingQueue的最大队列数,默认值-1
queueSizeRejectionThreshold: 80
5. 参考
https://www.cnblogs.com/seifon/p/9921774.html
FeignClient spi 调用 短路异常 & 线程池配置的更多相关文章
- Hystrix线程池配置
Hystrix配置文件配置 断路器: hystrix.command.default.circuitBreaker.requestVolumeThreshold(当在配置时间窗口内达到此数量的失败后, ...
- SpringBoot 线程池配置 实现AsyncConfigurer接口方法
目的是: 通过实现AsyncConfigurer自定义线程池,包含异常处理 实现AsyncConfigurer接口对异常线程池更加细粒度的控制 *a) 创建线程自己的线程池 b) 对void ...
- 玩转SpringBoot之定时任务@Scheduled线程池配置
序言 对于定时任务,在SpringBoot中只需要使用@Scheduled 这个注解就能够满足需求,它的出现也给我们带了很大的方便,我们只要加上该注解,并且根据需求设置好就可以使用定时任务了. 但是, ...
- Spring线程池配置模板设计(基于Springboot)
目录 线程池配置模板 基础的注解解释 常用配置参数 配置类设计 线程池使用 ThreadPoolTaskExecutor源码 线程池配置模板 springboot给我们提供了一个线程池的实现,它的底层 ...
- 【Java 并发】Executor框架机制与线程池配置使用
[Java 并发]Executor框架机制与线程池配置使用 一,Executor框架Executor框架便是Java 5中引入的,其内部使用了线程池机制,在java.util.cocurrent 包下 ...
- TestNG的參数化測试、共享线程池配置、參数默认值配置
在使用TestNG进行測试时,常常会使用到一些參数化配置,比方数据库.连接池.线程池数. 使用TestNG的參数@Parameter注解进行自己主动化读取 原创文章,版权全部.同意转载,标明出处:ht ...
- SpringBoot异步及线程池配置
异步方法注解@Async 在SpringBoot中进行异步处理,可以使用异步注解@Async和@EnableAsync. @Async注解表示异步,如:@Async("asyncServic ...
- TestNg线程池配置、执行次数配置、超时配置
使用注解的方式对TestNg线程池配置.执行次数配置.超时配置 注:使用注解来控制测试方法运行的次数和超时时间,timeOut在单线程或者多线程模式下都可用,threadPoolSize设置了线程池的 ...
- 【玩转SpringBoot】异步任务执行与其线程池配置
同步代码写起来简单,但就是怕遇到耗时操作,会影响效率和吞吐量. 此时异步代码才是王者,但涉及多线程和线程池,以及异步结果的获取,写起来颇为麻烦. 不过在遇到SpringBoot异步任务时,这个问题就不 ...
随机推荐
- 【进阶之路】定时任务调用平台xxl-job
大家好,我是练习java两年半时间的南橘,从一名连java有几种数据结构都不懂超级小白,到现在懂了一点点的进阶小白,学到了不少的东西.知识越分享越值钱,我这段时间总结(包括从别的大佬那边学习,引用)了 ...
- Spring Boot 实现看门狗功能 (调用 Shell 脚本)
需要实现看门狗功能,定时检测另外一个程序是否在运行,使用 crontab 仅可以实现检测程序是否正在运行,无法做到扩展,如:手动重启.程序升级(如果只需要实现自动升级功能可以使用 inotify)等功 ...
- day2(APlview+Serializers使用)
1.APIview使用 ModelVIewSet 是对 APIView 封装 ModelSerializer是对Serializeer 1.1 在user/urls.py中添加路由 urlpatte ...
- 因为一个Docker问题,我顺手整理从安装到常用命令操作手册
今天,自己写了一部分业务代码,是常规代码的另外一种方式,不能在公司的服务器上测试,就自己在PC端搭建了一套和公司集群一样的模板,因为公司的业务模块的测试有单独的服务器(这一块还是我很稀罕的),但是,第 ...
- Apache Flink 如何正确处理实时计算场景中的乱序数据
一.流式计算的未来 在谷歌发表了 GFS.BigTable.Google MapReduce 三篇论文后,大数据技术真正有了第一次飞跃,Hadoop 生态系统逐渐发展起来. Hadoop 在处理大批量 ...
- 音视频处理基础知识扫盲:数字视频YUV像素表示法以及视频帧和编解码概念介绍
专栏:Python基础教程目录 专栏:使用PyQt开发图形界面Python应用 专栏:PyQt+moviepy音视频剪辑实战 专栏:PyQt入门学习 老猿Python博文目录 老猿学5G博文目录 一. ...
- PyQt(Python+Qt)学习随笔:Designer中ItemViews类部件frameShape属性
老猿Python博文目录 老猿Python博客地址 frameShape属性是从QFrame继承的属性,对应类型为QFrame.Shape,该属性表示框架样式中的框架形状,有如下取值: 老猿Pytho ...
- javascript (JS组成、书写位置、基本概念、作用域、内存问题、变量)
1 JavaScript的组成和书写位置 Javascript:运行在客户端(浏览器)的脚本语言,JavaScript的解释器被称为JavaScript引擎,为浏览器的一部分,与java没有直接的关系 ...
- python+request+unittest+HTMLTestRunner
https://www.imooc.com/article/details/id/20813 https://www.cnblogs.com/fennudexiaoniao/p/7771931.htm ...
- 打造云原生大型分布式监控系统(四): Kvass+Thanos 监控超大规模容器集群
概述 继上一篇 Thanos 部署与实践 发布半年多之后,随着技术的发展,本系列又迎来了一次更新.本文将介绍如何结合 Kvass 与 Thanos,来更好的实现大规模容器集群场景下的监控. 有 Tha ...