[译]Introduction to Concurrency in Spring Boot
当我们使用springboot构建服务的时候需要处理并发。一种错误的观念认为由于使用了Servlets,它对于每个请求都分配一个线程来处理,所以就没有必要考虑并发。在这篇文章中,我将提供一些建议,用于处理springboot中的多线程问题以及如何避免一些可能导致的情况。
spring boot 并发基础
当我们考虑springboot应用的并发的时候需要考虑的关键点有一下几个:
- 最大线程数-也就是应用于处理请求的最大线程数
- 共享外部资源-外部共享资源的调用,比如数据库
- 异步方法调用-当某些调用等待返回的时候会释放线程到线程池中
- 共享内部资源-内部资源的调用,比如说缓存和共享的应用状态
接下来我们会一个一个地解释它们,看看他们是从哪些方面影响我们使用springboot编写应用程序的。
springboot应用中的最大线程数
第一个需要引起注意的就是你正在使用的是有限的线程数量。
如果你使用的是Tomcat作为嵌入式服务器(默认),那么可以使用server.tomcat.max-threads属性来控制允许的线程数。它默认被置为0,这意味着默认使用的是tomcat本身的默认值200。
知道这一点很重要,因为你可能需要增加这个数字以更有效地处理服务提供的资源。在处理外部资源时也会出现问题......
关于共享外部资源的问题
调用数据库和其他REST接口会导致可观的时间开销。
刚刚对于线程数的限制意味着你真的希望避免运行太久的、太慢的、同步的请求。如果你正在等待一些很慢的处理完成而持有线程,那么你很可能没有充分利用服务器。
如果存在很多长时间运行的线程在等待返回,你可能最终会遇到这样一种情况:真正快速、简单的请求等待很长时间,“永远等待”直到被终止。
那么怎么优化这种情况呢?
异步方法调用来拯救
一个通常很有用的方法是在一次请求中请求多个数据。理想情况下,如果你需要调用三个服务:A、B和C;你不会希望用以下方式:
- 调用A
- 等待A的返回
- 调用B
- 等待B的返回
- 调用C
- 等待C的返回
- 把A、B、C的返回组合起来然后结束处理
如果每个服务需要花费3秒钟返回,那么整个处理过程需要9秒。更好的处理方式应该是这样:
- 调用A
- 调用B
- 调用C
- 等待A、B、C三个服务的返回
- 把A、B、C的返回组合起来然后结束处理
这种方式中,请求三个服务的过程中不需要等待某个服务完成。如果假设A、B、C三个服务没有互相依赖的话,等待返回只需要3秒。
异步和响应式微服务的概念本身就十分有趣。我推荐阅读以下文章:
The reactive section of this blog, especially Getting Reactive with Spring
- The reactive manifesto
- Spring Boot 2 and WebFlux
- Project Reactor by Pivotal
- Eclipse Vert.X – reactive microservices
ReactiveX (RxJava)
这些话题都非常引人入胜,但是现在我们继续关注Spring Boot......
在springboot中使用异步调用
你是怎么在springboot中开启异步方法调用的呢?首先可以在标注有@SpringBootApplication注解的应用类上使用@EnableAsync注解。
应用该注解之后,就可以在返回CompletableFuture<>的服务中使用@Async注解。因为使用了@EnableAsync之后,@Async标注的方法将会运行在后台的线程池中。
如果利用好了异步执行,在性能上将可以避免很多不必要的坑,让你的服务更快、更好的响应。
对于这方面在springboot中的详细实现我非常推荐这篇文章the example from the official Spring website
共享内部资源
虽然前面的部分讨论的是我们通常无法控制的外部资源,但是系统的内部资源却是我们能够完全控制的。
知道这一点后,避免共享资源所导致的问题的最佳建议就是——不要共享他们。
Spring的Services层和Controller层默认是单例的,这一点需要尤其关注和小心。一旦在你的服务中涉及到可变状态那么你就需要像处理其他标准应用一样处理它。
其他潜在的共享资源有缓存、自定义的服务器范围组件(通常是监控和安全组件)。
如果你不可避免的需要共享一些状态,我提供如下建议:
- 使用不可变对象。如果你的对象是不可变的这样可以避免很多并发相关的错误。如果需要改变某些状态,直接创建一个新的对象就是了。
- 了解你的集合类。并不是所有的集合类都是线程安全的,一个通常的陷阱就是把HashMap当成线程安全的来使用(如果需要并发访问,那么应该使用ConcurrentHashMap或者HashTable获取其他线程安全的解决方案)
- 不要假设第三方库是线程安全的。大多数代码都不是,并且必须控制对共享状态的访问。
- 如果你打算依赖共享--可以适当的学习一下并发相关的知识。我非常强烈的推荐《Java Concurrency in Practice》。虽然是2006年写的,但是在现在任然很实用。
总结
spring中的并发和多线程是非常重要的话题。在这篇文章中,我想强调一些当你编写springboot应用需要注意的关键领域。如果你想成功地构建高质量、高需求的服务,你需要围绕这个话题做出仔细地考量和权衡。我希望这篇文章能够成为一个很好的入门。
PS:本文翻译自https://www.e4developer.com/2018/03/30/introduction-to-concurrency-in-spring-boot/
[译]Introduction to Concurrency in Spring Boot的更多相关文章
- 1.spring boot起步之Hello World【从零开始学Spring Boot】
[视频&交流平台] àSpringBoot视频 http://study.163.com/course/introduction.htm?courseId=1004329008&utm ...
- 0. 前言【从零开始学Spring Boot】
[视频&交流平台] àSpringBoot视频 http://study.163.com/course/introduction.htm?courseId=1004329008&utm ...
- 0. 资料官网【从零开始学Spring Boot】
[视频&交流平台] àSpringBoot视频 http://study.163.com/course/introduction.htm?courseId=1004329008&utm ...
- 43. Spring Boot动态数据源(多数据源自动切换)【从零开始学Spring Boot】
[视频&交流平台] àSpringBoot视频 http://study.163.com/course/introduction.htm?courseId=1004329008&utm ...
- Spring Boot使用模板freemarker【从零开始学Spring Boot(转)
视频&交流平台: à SpringBoot网易云课堂视频 http://study.163.com/course/introduction.htm?courseId=1004329008 à ...
- 译:Spring Boot 自动伸缩
原文链接:https://dzone.com/articles/spring-boot-autoscaler 作者:Piotr Mińkowski 译者:helloworldtang 自动伸缩是每个人 ...
- 译自如何将Spring Cloud应用程序从Spring Boot 1.2迁移到1.3
前言 笔者第三个Spring Cloud(版本为Spring Boot 1.2)类项目升级最新版本时遇到不少问题,本文内容是作者翻译Spring Cloud官网一位国外友人文章产生. 原文地址: Mi ...
- [译]Spring Boot 构建一个RESTful Web服务
翻译地址:https://spring.io/guides/gs/rest-service/ 构建一个RESTful Web服务 本指南将指导您完成使用spring创建一个“hello world”R ...
- Spring Boot Maven Plugin打包异常及三种解决方法:Unable to find main class
[背景]spring-boot项目,打包成可执行jar,项目内有两个带有main方法的类并且都使用了@SpringBootApplication注解(或者另一种情形:你有两个main方法并且所在类都没 ...
随机推荐
- centos yum 安装 mariadb
1. 在 /etc/yum.repos.d/ 下建立 MariaDB.repo,输入内容 [mariadb] name=MariaDB baseurl=http://yum.mariadb.org/1 ...
- Android使用com.google.android.cameraview.CameraView进行拍照
import android.Manifest;import android.annotation.SuppressLint;import android.content.Context;import ...
- java多线程基础(二)--sleep(),wait,()yield()和join()方法
1.sleep()方法 在指定时间内让当前正在执行的线程暂停执行,但不会释放“锁标志”.不推荐使用. sleep()使当前线程进入阻塞状态,在指定时间内不会执行. 2.wait()方法 在其他线程调用 ...
- 算法与数据结构基础 - 位运算(Bit Manipulation)
位运算基础 说到与(&).或(|).非(~).异或(^).位移等位运算,就得说到位运算的各种奇淫巧技,下面分运算符说明. 1. 与(&) 计算式 a&b,a.b各位中同为 1 ...
- android ——活动的生命周期
在其生命周期内,activity在运行.暂停和停止三种可能的状态间进行转换,不同状态之间互相转换的时候的调用不同的方法,重写这些方法就能在活动切换,被销毁时保存或传输数据,在被启动.被切换出来时接收数 ...
- Elasticsearch Lucene 数据写入原理 | ES 核心篇
前言 最近 TL 分享了下 <Elasticsearch基础整理>https://www.jianshu.com/p/e8226138485d ,蹭着这个机会.写个小文巩固下,本文主要讲 ...
- PKI机制总结
PKI,全称是Public Key Infrastructure,可译为公钥基础设施.它是因特网中节点通信的安全保障机制,HTTPS中的‘S’就来源于PKI. 要去学习一个技术,首先要从它的源头考虑— ...
- SBT安装及命令行打包spark程序
1.从https://www.scala-sbt.org/download.html官网上寻找所需要的安装包 可以直接本地下载完扔进去也可以wget路径,在这里我用的是sbt1.2.8版本的,下载到/ ...
- SIMBOSS:物联网业务如何应用领域驱动设计?
前言 在这个万物互联的时代,物联网业务蓬勃发展,但也瞬息万变,对于开发人员来说,这是一种挑战,但也是一种“折磨”. 在业务发展初期,因为时间有限,我们一般会遵循“小步快跑,迭代试错”的原则进行业务开发 ...
- Django-用户-组-权限
前言 RBAC(Role-Based Access Control,基于角色的访问控制)就是用户通过角色与权限进行关联.简单地说,一个用户拥有若干角色,每一个角色拥有若干权限.这样,就构造成“用户-角 ...