Servlet 3.0异步特性初探
Servlet 是 Java 为了编写服务端程序而定义的一个接口规范,在 Servlet 3.0 以后支持了异步的操作。
最近项目添加了一个代码热部署的功能,在客户端输入信号,信号到达 Web 服务器后,需要 Web 服务器将信号以 UDP 的方式递送给另外一个网关服务器,网关服务器再以同样的通信方式返回信号,最后在返回给客户端。如图。
说到异步,自然会联想到它的对立『同步』。操作系统的知识告诉我们,异步/同步实际上是指的一种消息通信机制。
由于在项目中 Web 服务器接受 UDP 信号是使用的异步线程,所以必须要使用到 Servlet 的异步特性,这是一个原因。
传统的 Servlet 规范中,一个 Web 服务器(即 Servlet 容器)同时会接收到多个 HTTP 请求,其中一个请求对应一个线程处理,这个处理线程会涉及到业务逻辑处理,甚至是数据库查询,这些都是很费时的。
如果使用传统的 Servlet 同步规范,举个极端的例子:一个 Tomcat 服务器最多同时支持 150 个并发请求,假设一个请求加上逻辑处理和数据库操作一次耗时 5s ,如果在 5s 内同时有 150 个人发来了 HTTP 请求,这时 Tomcat 的处理能力正好满足需求,如果这时候需要做代码的热部署,再向 Web 服发送 HTTP 请求的话,那么就会造成等待。
综合上面两个因素,不得不使用到 Servlet 的异步特性。
首先就是异步 Servlet 中最重要的一个接口 AsyncContext,它的源代码如下:
public interface AsyncContext {
// 获得一次请求中的 request 对象
public ServletRequest getRequest();
// 获得一次请求中的 response 对象
public ServletResponse getResponse();
// 检查 AsyncContext 是否由原生的 request 和 response 对象初始化生成
public boolean hasOriginalRequestAndResponse();
//
public void dispatch();
//
public void dispatch(String path);
//
public void dispatch(ServletContext context, String path);
// 将由 request 开启的异步操作设置为完成状态, 并关闭 response
public void complete();
// 调用此方法, Servlet 容器会分发一个线程来执行传进来的 Runnable 任务, 并且会向 Runnable 任务中传入必要的上下文信息, 即开启一个异步周期
public void start(Runnable run);
// 把指定的异步监听 AsyncListner 注册到 AsyncContext 中, 在一个异步周期中任何的 complete, time out, error 事件都会被监听器监听
public void addListener(AsyncListener listener);
public void addListener(AsyncListener listener, ServletRequest servletRequest, ServletResponse servletResponse);
public <T extends AsyncListener> T createListener(Class<T> clazz) throws ServletException;
// 为开启的异步周期设置超时时间, 如果不手动设置, 容器会为我们设置一个默认的超时时间
public void setTimeout(long timeout);
//
public long getTimeout();
}
在上面提到了异步监听器 AsyncListner,下面来看看这个监听器的接口规范是什么样的:
public interface AsyncListener extends EventListener {
public void onComplete(AsyncEvent event) throws IOException;
public void onTimeout(AsyncEvent event) throws IOException;
public void onError(AsyncEvent event) throws IOException;
public void onStartAsync(AsyncEvent event) throws IOException;
}
传入一个 AsyncEvent 异步事件,来完成各种监听。观察 AsyncEvent 源代码知道这个异步事件的构成:
public class AsyncEvent {
private AsyncContext context;
private ServletRequest request;
private ServletResponse response;
private Throwable throwable;
public AsyncEvent(AsyncContext context, ServletRequest request, ServletResponse response, Throwable throwable) {
this.context = context;
this.request = request;
this.response = response;
this.throwable = throwable;
}
}
之所以在异步事件里保管 request 和 response 的引用,是因为需要通过触发的异步事件对客户端进行响应,要进行响应自然要用到 response 对象。
下面通过一个例子来看一看 异步 Servlet 规范到底如何使用:
public class LoadClassServlet extends HttpServlet {
private static final long serialVersionUID = 1L;
@Override
protected void doGet(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException {
doPost(req, resp);
}
@Override
protected void doPost(HttpServletRequest request, HttpServletResponse response)
throws ServletException, IOException { System.out.println(" Start Servlet " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
System.out.println(" doPost() Thread Name : " + Thread.currentThread().getName()); System.out.println( " In doPost " + request);
System.out.println( " In doPost " + response); request.setAttribute("org.apache.catalina.ASYNC_SUPPORTED", true);
// 开启异步周期
AsyncContext asyncContext = request.startAsync();
asyncContext.setTimeout(10*1000);
asyncContext.start(new Runnable() { @Override
public void run() {
try {
System.out.println(" run() Thread Name : " + Thread.currentThread().getName());
// 模拟启用线程异步递送信号, 一般来说是一些耗时的操作
System.out.println(" Before Sleep " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
Thread.sleep(5 * 1000);
System.out.println(" After Sleep " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
asyncContext.complete();
System.out.println(" After complete() " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
} catch (InterruptedException e) {
e.printStackTrace();
}
}
});
System.out.println( " In AsyncContext " + asyncContext.getRequest() );
System.out.println( " In AsyncContext " + asyncContext.getResponse() ); asyncContext.addListener( new AsyncListener() {
@Override
public void onTimeout(AsyncEvent event) throws IOException {
// /////////////////////////////////////
// 这个方法内一般会写一些关于超时的逻辑
// 假设10s还没有收到返回的信号, 就将错误消息
// 在这里通过response对象返回给客户端
// /////////////////////////////////////
System.out.println(" onTimeout() " + DateUtil.getDefaultFormatDate(System.currentTimeMillis())); event.getSuppliedResponse().getWriter().println(" timeout ");
} @Override
public void onStartAsync(AsyncEvent event) throws IOException {
System.out.println(" onStartAsync() ");
} @Override
public void onError(AsyncEvent event) throws IOException {
System.out.println(" onError() ");
} @Override
public void onComplete(AsyncEvent event) throws IOException { // ///////////////////////////
// 这个方法无论怎样都会被调用
// 不管是手动调用complete()方法
// 还是超时, 这个方法都会被执行
// /////////////////////////// System.out.println(" onComplete() " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
System.out.println(" onComplete() Thread Name : " + Thread.currentThread().getName());
System.out.println( " In AsyncEvent "+event.getSuppliedRequest() );
System.out.println( " In AsyncEvent "+event.getSuppliedResponse() ); event.getSuppliedResponse().getWriter().println(" complete ");
}
} );
System.out.println( " End of Servlet " + DateUtil.getDefaultFormatDate(System.currentTimeMillis()));
}
}
首先只打开关于 request 和 response 对象的打印语句,在浏览器请求此 Servlet,截取相关的输出如下:
In doPost org.apache.catalina.connector.RequestFacade@4500c794
In doPost org.apache.catalina.connector.ResponseFacade@307fd18dIn AsyncContext org.apache.catalina.connector.RequestFacade@4500c794
In AsyncContext org.apache.catalina.connector.ResponseFacade@307fd18dIn AsyncEvent org.apache.catalina.connector.RequestFacade@4500c794
In AsyncEvent org.apache.catalina.connector.ResponseFacade@307fd18d
可以看到 3 个地方的打印出来的 request 和 response 对象都是同一个。
为了方便控制台浏览,现在将所有 request 和 response 的打印都注释掉。
为了弄清楚异步 Servlet 的执行流程,观察四种情况下的控制台打印情况。
< 1 > 休眠时间为 5s,休眠结束后立即调用 complete() 方法
请求 Servlet,控制台打印如下:
Start Servlet 2018-10-27 18:57:20
doPost() Thread Name : http-nio-8080-exec-7
run() Thread Name : http-nio-8080-exec-1
Before Sleep 2018-10-27 18:57:20
End of Servlet 2018-10-27 18:57:20
After Sleep 2018-10-27 18:57:25
After complete() 2018-10-27 18:57:25
onComplete() 2018-10-27 18:57:25
onComplete() Thread Name : http-nio-8080-exec-8
浏览器输出为:
异步操作执行 5s 后,手动调用 complete() 方法,onCmplete() 监听方法被执行,并向浏览器输出 complete 字符串,这是一种情况。
< 2 >休眠时间改为 15s,休眠结束后立即调用 complete() 方法
请求 Servlet,控制台打印如下:
Start Servlet 2018-10-27 18:59:09
doPost() Thread Name : http-nio-8080-exec-2
run() Thread Name : http-nio-8080-exec-4
Before Sleep 2018-10-27 18:59:09
End of Servlet 2018-10-27 18:59:09
onTimeout() 2018-10-27 18:59:20
onComplete() 2018-10-27 18:59:20
onComplete() Thread Name : http-nio-8080-exec-5
After Sleep 2018-10-27 18:59:24
浏览器输出为:
< 3 > 休眠时间为 5s,休眠结束后不调用complete()方法
请求 Servlet,控制台打印如下:
Start Servlet 2018-10-27 19:10:42
doPost() Thread Name : http-nio-8080-exec-2
run() Thread Name : http-nio-8080-exec-3
Before Sleep 2018-10-27 19:10:42
End of Servlet 2018-10-27 19:10:42
After Sleep 2018-10-27 19:10:47
onTimeout() 2018-10-27 19:10:53
onComplete() 2018-10-27 19:10:53
onComplete() Thread Name : http-nio-8080-exec-4
浏览器输出为:
< 4 > 休眠时间为 15s,休眠结束后不调用complete()方法
请求 Servlet,控制台打印如下:
Start Servlet 2018-10-27 19:13:11
doPost() Thread Name : http-nio-8080-exec-3
run() Thread Name : http-nio-8080-exec-7
Before Sleep 2018-10-27 19:13:11
End of Servlet 2018-10-27 19:13:11
onTimeout() 2018-10-27 19:13:22
onComplete() 2018-10-27 19:13:22
onComplete() Thread Name : http-nio-8080-exec-5
After Sleep 2018-10-27 19:13:26
浏览器输出为:
分析四种打印结果,得出以下几个结论:
- 监听器的 onComplete 方法无论怎样都会执行,要么是调用 AsyncContext#complete 方法后执行,要么是超时时间到了自动执行。
- 只有在设定的 Timeout 时间内调用 AsyncContext#complete 方法才不会触发 onTimeout 方法,其余情况都会被触发执行。
- 另外有趣的一点是,执行过程中出现了 3 个不同的线程,分别是:处理 HTTP 请求的线程;异步执行模拟递送信号的线程(异步线程也可以使用自己创建的线程);执行回调监听方法的线程
在实际应用中,一般不会像上面例子那样使用 Web 容器为我们分配的线程。从上面的打印就能看出,在 Tomcat 的实现中,调用 AsyncContex#start() 后,默认使用的的异步线程是处理 HTTP 请求的线程,这样虽然能达到异步的目的,但是对于提高请求的并发量没起到作用。
所以一般的做法是,自己维护一个异步处理的线程池,维护的线程数量一般大于 Web 容器用来处理 HTTP 请求的线程数。这样既能实现异步操作,又能提高 HTTP 请求处理的并发量。
(完)
Servlet 3.0异步特性初探的更多相关文章
- [转]Servlet 3.0 新特性详解
原文地址:http://blog.csdn.net/xiazdong/article/details/7208316 Servlet 3.0 新特性概览 1.Servlet.Filter.Listen ...
- atitit.j2ee 1.5 1.6 的不同跟 Servlet 3.0新特性总结
atitit.j2ee 1.5 1.6 的不同跟 Servlet 3.0新特性总结 1. jar比较,j2ee 1.6 添加了许多的jar 1 2. ,Servlet 3.0 2 2.1. 可插性 ...
- Servlet 2.0 && Servlet 3.0 新特性
概念:透传. Callback 在异步线程中是如何使用的.?? Servlet 2.0 && Servlet 3.0 新特性 Servlet 2.0 && Servle ...
- Servlet 3.0 新特性详解
转自:http://www.ibm.com/developerworks/cn/java/j-lo-servlet30/#major3 Servlet 是 Java EE 规范体系的重要组成部分,也是 ...
- 【转帖】Servlet 3.0 新特性详解
http://www.ibm.com/developerworks/cn/java/j-lo-servlet30/ Servlet 3.0 新特性概述 Servlet 3.0 作为 Java EE 6 ...
- Servlet 3.0 新特性详解 (转载)
原文地址:https://www.ibm.com/developerworks/cn/java/j-lo-servlet30/ Servlet 3.0 新特性概述 Servlet 3.0 作为 Jav ...
- Java Servlet 3.0 新特性
Servlet 3.0 新特性概述 Servlet 3.0 作为 Java EE 6 规范体系中一员,随着 Java EE 6 规范一起发布.该版本在前一版本(Servlet 2.5)的基础上提供了若 ...
- Servlet 3.0 新特性概述
Servlet 3.0 新特性概述 Servlet 3.0 作为 Java EE 6 规范体系中一员,随着 Java EE 6 规范一起发布.该版本在前一版本(Servlet 2.5)的基础上提供了若 ...
- atitit.Servlet2.5 Servlet 3.0 新特性 jsp2.0 jsp2.1 jsp2.2新特性
atitit.Servlet2.5 Servlet 3.0 新特性 jsp2.0 jsp2.1 jsp2.2新特性 1.1. Servlet和JSP规范版本对应关系:1 1.2. Servlet2 ...
随机推荐
- VC命令行编译中出现Invalid switch错误的解决办法
作者:朱金灿 来源:http://blog.csdn.net/clever101 使用makefile编译gdal库出现一个错误: cd .. if exist./gdal19_i_D.lib del ...
- Matlab使用鼠标标注图像位置并返回坐标(标注图像ROI)
代码 function ROI=LabelBox(filename) Mat=imread(filename); imshow(Mat); mouse=imrect; pos=getPosition( ...
- UVALive 6531 Go up the ultras 单调栈+RMQ
题目链接:点击打开链接 题意: 给定n座山 以下n个数字表示n座山的高度 若这座山u合法,则要满足: 1.若u的左边存在比u高的山,设v是u左边距离u近期的且严格比u高的山,在[v,u]之间至少有一座 ...
- centos7 Intellij Idea 授权服务器搭建(Jetbrain 家族系列IDE)
centos7 Intellij Idea 授权服务器搭建 1.上传破解文件 我用的是Xshell客户端,有上传功能,但是linux必须先装lrzsz,也可以通过其他方式传到linux上 yum -y ...
- 乞讨 间隔[a,b]在见面p^k*q*^m(k>m)中数号码
标题叙述性说明: 1<=a,b<=10^18,p,q他们是素数 2<=p,q<=10^9; 求在[a,b]内能够表示为 x*p^k*q^m k > m 的数的个 ...
- WPF自定义TextBox及ScrollViewer
原文:WPF自定义TextBox及ScrollViewer 寒假过完,在家真心什么都做不了,可能年龄大了,再想以前那样能专心坐下来已经不行了.回来第一件事就是改了项目的一个bug,最近又新增了一个新的 ...
- Ubuntu安装配置Qt 4.86环境
安装 QT4.8.6库+QT Creator 2.4.1 下载地址公布 QT4.8.6库 http://mirrors.hustunique.com/qt/official_releases/qt/ ...
- html 自制属性
HTML5 允许扩展的(自制的)属性,以 data- 开头 <label id="id0" data-value="0">0</label&g ...
- WPF ScrollViewer(滚动条) 自定义样式表制作 (改良+美化)
原文:WPF ScrollViewer(滚动条) 自定义样式表制作 (改良+美化) 注释直接写在代码里了 不太理解意思的 可以先去看看我上一篇 WPF ScrollViewer(滚动条) 自定 ...
- 没必要看源码。。把文档学通就已经牛逼了(我们大多还是在应用层,还达不到研究的程度。附class与examples大全链接)
[学霸]深圳-鑫 2017/7/11 13:54:07只是学习怎么用QT的话,不用看源码.看帮助文档就很好要学习编码风格与思路,就看看源码 [学神]武汉-朝菌 2017/7/11 13:54:39没必 ...