FeignClient spi 调用 短路异常 & 线程池配置

默认配置见:HystrixThreadPoolProperties

线程池对象:com.netflix.hystrix.HystrixThreadPool

1. 问题

最近项目中使用FeignClient 调用公共消息服务的spi时候,突然出现了一下错误:

MessageSpi.sendMessage could not be queued for execution and fallback disabled.

然后很快出现了短路错误:

MessageSpi.sendMessage short-circuited and fallback disabled.

2. 依赖接口性能解决

反馈给接口提供方后,他们说是调用方配置的线程池满了,而为什么满,他们怀疑是自己的接口性能慢导致。所以他们去优化接口的性能即可。我们无需关注线程池满的原因。

不过问题很快又找到我了。

接下来的另一个项目是一个类似请求转发&返回值封装的中间层服务,主要请求都是通过SPI的方式调用其他服务。结果在压测时一下子就报错误了,和上面提到的错误是一样的。

这个时候,如果还是找接口性能就不那么靠谱了。因为即使接口性能在100ms的情况下,支持100qps的并发还是很easy。

3. 原因

后面通过本地断点,发现FeignClient使用的线程池是com.netflix.hystrix.HystrixThreadPool,然后内部使用的还是ThreadPoolExecutor,他默认的线程池数量是10(可以从HystrixThreadPoolProperties 这里看到),队列-1,表示同步队列。

而组件里配置的默认线程池大小是30,队列的大小也是30.

假设接口性能在 50ms,那么这个配置,最大的qps 应该是 30 * (1000/50),也就是 600qps。

表面上看这个配置是够用的,但是依赖接口的性能,因为如果是100ms ,那么就瞬间降到300qps。

而按照默认的配置,这个值是200qps,要求低一点就是100qps。

而且可能由于瞬时的流量,导致响应慢后队列就很可能慢,然后导致了以上的错误。

4. 根据你的业务场景来配置

2中的问题不一样,他是一个流量转发的任务,在本地耗时的时间短,基本都是spi耗时,所以它的线程池的配置应该是和该服务容器线程差不多才行。

所以我们线程池的配置如下:

hystrix:
threadpool:
default:
coreSize: 200 #并发执行的最大线程数,默认10
maxinumPoolSize: 300 # 最大线程数
maxQueueSize: 100 #BlockingQueue的最大队列数,默认值-1
queueSizeRejectionThreshold: 80 #即使maxQueueSize没有达到,达到queueSizeRejectionThreshold该值后,请求也会被拒绝,默认值5

另外,default是 默认的配置,从com.netflix.hystrix.HystrixThreadPool.Factory#threadPools这里我们可以看到,线程池的配置还可以按照不同的FeignClient

配置不同的线程池,依据你自己的场景去配置就好

hystrix:
threadpool:
message-server: # 对应 message-sever 对应的 FeignClient SPI
coreSize: 200
maxinumPoolSize: 300 # 最大线程数
maxQueueSize: 100 #BlockingQueue的最大队列数,默认值-1
queueSizeRejectionThreshold: 80

5. 参考

https://www.cnblogs.com/seifon/p/9921774.html

FeignClient spi 调用 短路异常 & 线程池配置的更多相关文章

  1. Hystrix线程池配置

    Hystrix配置文件配置 断路器: hystrix.command.default.circuitBreaker.requestVolumeThreshold(当在配置时间窗口内达到此数量的失败后, ...

  2. SpringBoot 线程池配置 实现AsyncConfigurer接口方法

      目的是:  通过实现AsyncConfigurer自定义线程池,包含异常处理  实现AsyncConfigurer接口对异常线程池更加细粒度的控制 *a) 创建线程自己的线程池  b) 对void ...

  3. 玩转SpringBoot之定时任务@Scheduled线程池配置

    序言 对于定时任务,在SpringBoot中只需要使用@Scheduled 这个注解就能够满足需求,它的出现也给我们带了很大的方便,我们只要加上该注解,并且根据需求设置好就可以使用定时任务了. 但是, ...

  4. Spring线程池配置模板设计(基于Springboot)

    目录 线程池配置模板 基础的注解解释 常用配置参数 配置类设计 线程池使用 ThreadPoolTaskExecutor源码 线程池配置模板 springboot给我们提供了一个线程池的实现,它的底层 ...

  5. 【Java 并发】Executor框架机制与线程池配置使用

    [Java 并发]Executor框架机制与线程池配置使用 一,Executor框架Executor框架便是Java 5中引入的,其内部使用了线程池机制,在java.util.cocurrent 包下 ...

  6. TestNG的參数化測试、共享线程池配置、參数默认值配置

    在使用TestNG进行測试时,常常会使用到一些參数化配置,比方数据库.连接池.线程池数. 使用TestNG的參数@Parameter注解进行自己主动化读取 原创文章,版权全部.同意转载,标明出处:ht ...

  7. SpringBoot异步及线程池配置

    异步方法注解@Async 在SpringBoot中进行异步处理,可以使用异步注解@Async和@EnableAsync. @Async注解表示异步,如:@Async("asyncServic ...

  8. TestNg线程池配置、执行次数配置、超时配置

    使用注解的方式对TestNg线程池配置.执行次数配置.超时配置 注:使用注解来控制测试方法运行的次数和超时时间,timeOut在单线程或者多线程模式下都可用,threadPoolSize设置了线程池的 ...

  9. 【玩转SpringBoot】异步任务执行与其线程池配置

    同步代码写起来简单,但就是怕遇到耗时操作,会影响效率和吞吐量. 此时异步代码才是王者,但涉及多线程和线程池,以及异步结果的获取,写起来颇为麻烦. 不过在遇到SpringBoot异步任务时,这个问题就不 ...

随机推荐

  1. 【scrum】scrum价值观

    1.每一位成员都承诺实现项目的目标 2.团队成员相互尊重 3.所有人都专注于工作 4.团队着重开放 5.团队成员有勇气全力支持项目

  2. docker 部署 mongodb 并且开启远程连接

    mongodb 使用 docker 部署 mongodb 拉取镜像 docker pull mongo 可以查看镜像是否下载成功 docker images | grep mongo 应该会有如下的显 ...

  3. moviepy音视频开发:使用volumex调节音量大小及其花式用法

    ☞ ░ 前往老猿Python博文目录 ░ 一.概述 音频数据的音量体现为声音的振幅,振幅越大则声音越大,具体到音频帧数据上,体现为声音的绝对值越大则振幅越大音量越大,调节音量大小的本质是调整帧数据的绝 ...

  4. Python中判断字符串是否为数字、字母、标识符、浮点数、大小写、可打印的方法

    1.判断s是否都是大写字母:s.isupper(): 2.判断s是否都是小写字母:s.islower(): 3.判断s中的每个单词首字母是否都是大写字母且其他位置无大写字母:s.istitle(),要 ...

  5. Python正则表达式re.match(r"(..)+", "a1b2c3")匹配结果为什么是”c3”?

    在才开始学习正则表达式处理时,老猿对正则表达式:re.match(r"(-)+", "a1b2c3") 返回的匹配结果为"c3"没有理解,学 ...

  6. PyQt(Python+Qt)学习随笔:QTreeView树形视图的itemsExpandable属性

    老猿Python博文目录 专栏:使用PyQt开发图形界面Python应用 老猿Python博客地址 QTreeView树形视图的itemsExpandable属性用于控制视图中用户是否可以通过操作展开 ...

  7. 几句话说明 .NET MVC中ViewData, ViewBag和TempData的区别

    ViewData和TempData是字典类型,赋值方式用字典方式, ViewData["myName"] ViewBag是动态类型,使用时直接添加属性赋值即可 ViewBag.my ...

  8. P1654 OSU! 题解

    \(x\) 为该位置有 \(1\) 的期望. 统计两个值 : \(suma\) 和 \(sumb\). \(suma\) 表示连续 \(X\) 个 \(1\) , \(X\) 的平方的期望, \(su ...

  9. js中的bind、apply、call、callee、caller的区别

    1.bind.apply与call的区别与使用 相同点:2者是函数原型的一个方法,因此调用者都必须是函数,第1个参数都是对象.作用是,用另一个对象替换当前对象,另一对象也即是你传的第一个参数.通常用于 ...

  10. Element-ui 实现table的合计功能

    Element-UI是饿了么前端团队推出的一款基于Vue.js 2.0 的桌面端UI框架,其功能较为完善,根据其文档与demo学习,非常容易上手,但是我在使用其tabel组件时,发现我的功能 需求并不 ...