背景

通过做以下一个小的接口系统gate,了解一下mina和java并发包里的东西。A系统为javaweb项目,B为C语言项目,gate是本篇须要完毕的系统。

需求

1. A为集群系统,并发较高,会批量发送给gate消息,而且接受gate返回的消息;

2. gate独立部署,将从A接受到的消息压入队列,与B建立连接后,将每条消息验证签名等工作后,发送给B,须要保证性能;

3. B负责处理消息,并返回处理结果,B为gate提供提供六个port,一个port可有三个长连接(须由gate发送心跳保持长连接,否则超时切断连接)。

实例

项目中用到了两个框架mina2.0.7和axis2。首先,gate须要接收从A发送过来的消息,为保证消息顺序性,压入队列中,为保证性能,将队列中的消息通过不同的连接发送至B,这让我们非常快就想到了多线程中生产者消费者的那张图,而且这是一个生产者,多个消费者,以下我们来看代码。

首先,gate作为服务端,要为A提供一个接口,使用axis2完毕了,关于webservice就不必多说,可看我前面的博客,配置例如以下:

<serviceGroup>
<service name="sendService" scope="application">
<description>
SendService
</description>
<messageReceivers>
<messageReceiver mep="http://www.w3.org/2004/08/wsdl/in-only" class="org.apache.axis2.rpc.receivers.RPCInOnlyMessageReceiver"/>
<messageReceiver mep="http://www.w3.org/2004/08/wsdl/in-out" class="org.apache.axis2.rpc.receivers.RPCMessageReceiver"/>
</messageReceivers>
<parameter name="ServiceClass">
cn.net.easyway.customer.SendService
</parameter>
</service>
</serviceGroup>

以下是服务实现类:

import java.util.List;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.LinkedBlockingQueue; import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory; import cn.net.easyway.nds.MsgConsumer;
import cn.net.easyway.nds.MsgProducer; /**
* 为用户管理系统提供服务接口
* @author yuanfubiao
*
*/
public class SendService { private static Log logger = LogFactory.getLog(SendService.class); private static int num = 0;
//消息队列
private static LinkedBlockingQueue<String> msgQueue = new LinkedBlockingQueue<String>();
//生产者线程池
private static ExecutorService executorProducer = Executors.newFixedThreadPool(20); //创建20个线程,应对并发较高的情况
//消费者线程池
private static ExecutorService executorCustomer = Executors.newFixedThreadPool(18); //和连接数相应 /**
* 放入消息
* @param list 消息列表
*/
public void putMsg(List<String> list){ //将消息放入队列
executorProducer.execute(new MsgProducer(msgQueue,list)); //取出消息:数据量大,启用全部线程
if(list.size() > 18){
for(int i=0;i<18;i++){
executorCustomer.execute(new MsgConsumer(msgQueue));
}
}else{
executorCustomer.execute(new MsgConsumer(msgQueue));
}
}
}

Java并发包为我们提供了非常多有用的多线程东西,因此没有必要自己去实现一个队列和线程池,如上面代码我们用到的队列是LinkedBlockingQueue,他为线程安全的堵塞队列,多线程操作时不必为了同步而担心,而且会将进出两边自己主动负载,他实现自BlockingQueue接口。

从jdk中能够看到实现BlockingQueue接口的还有ArrayBlockingQueue,DelayQueue,
LinkedBlockingDeque,LinkedBlockingQueue,LinkedTransferQueue,PriorityBlockingQueue,SynchronousQueue;此接口就是提供一个堵塞队列,从api中我们看到例如以下一张图:

Throwsexception:当队列已满,再次加入会抛出错误,取数据也是如此;

Specialvalue:加入或取出时会有一个返回值;

Blocks:是在队列已满或为空时,会一直堵塞;

Time Out:指堵塞到一定时间,线程退出;

当中,另一个并发队列也是作为生产者消费者的首选:ConcurrentLinkedQueue,它是非堵塞队列,肯定就不是出自Blockingqueue接口,而是出自AbstractQueue,因此也就没有put和take方法,使用这个并发队列须要有两点注意:第一,推断是否为空尽量使用isEmpty方法,不要用size(),有人測试过size方法非常耗费时间;第二就是线程问题,尽管ConcurrentLinkedQueue是线程安全的,可是仅仅负责原子性的,就是说当你操作queue.add()
or queue.poll的时候是安全的,当并发量较大时,你在使用queue.isEmpty时还不为空,但就在这空当有可能就运行poll操作,导致队列为空引起异常,可用例如以下代码:

synchronized(queue) {
if(!queue.isEmpty()) {
queue.poll();
}
}

在gate中,我定义了两个线程池,一个是生产者,还有一个是消费者:

//生产者线程池
private static ExecutorService executorProducer = Executors.newFixedThreadPool(20); //创建20个线程,应对并发较高的情况
//消费者线程池
private static ExecutorService executorCustomer = Executors.newFixedThreadPool(18);

Executors提供了一个工厂方法,用来创建线程池,返回的线程池都实现了ExecutorService接口,能够创建例如以下线程池:

newCachedThreadPool():创建一个可缓存的线程池,调用execute将重用曾经构造的线程,假设如今线程没有可用的,则创建一个新线程加入到池中,终止并从缓存中溢出那些已有60秒未被使用的线程;

newFixedThreadPool(intnThreads):创建固定的线程;

newScheduledThreadPool(intcorePoolSize):创建一个支持定时及周期性的任务运行的线程池;

newSingleThreadExecutor():创建一个单线程的Executor;

启动线程,有两个方法,一个是execute(),还有一个是submit(),后者是有返回值的,会将运行的结果Future返回,关于Future可移步这里

以下就是生产者和消费者代码:

生产者:

import java.util.Iterator;
import java.util.List;
import java.util.concurrent.LinkedBlockingQueue; /**
* 向队列加入消息
* @author yuanfubiao
*
*/
public class MsgProducer implements Runnable { private LinkedBlockingQueue<String> msgQueue; private List<String> message; public MsgProducer(LinkedBlockingQueue<String> queue,List<String> msg) {
this.msgQueue = queue;
this.message = msg;
} @Override
public void run() {
Iterator<String> iter = message.iterator();
while(iter.hasNext()){
String msg = iter.next();
try {
msgQueue.put(msg);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}

消费者:

import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.concurrent.LinkedBlockingQueue; import nds.framework.security.NDSMD5; import org.apache.commons.codec.binary.Hex;
import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory;
import org.apache.mina.core.session.IoSession; /**
* 从消息队列取出消息
* @author yuanfubiao
*
*/
public class MsgConsumer implements Runnable{ private static Log logger = LogFactory.getLog(MsgConsumer.class);
private LinkedBlockingQueue<String> msgQueue; public MsgConsumer(LinkedBlockingQueue<String> queue) {
this.msgQueue = queue;
} @Override
public void run() {
while(!msgQueue.isEmpty()){ String msg = null;
try {
msg = msgQueue.take();
} catch (InterruptedException e) {
e.printStackTrace();
} if(null == msg){
return;
} //增加时间
SimpleDateFormat format = new SimpleDateFormat("yyyyMMddHHmmss");
String now = format.format(new Date());
String prefix = msg.substring(0, 19);
String suffix = msg.substring(33, msg.length());
String packet = prefix.trim() + now.trim() + suffix.trim(); //签名部分忽略
//TODO
String newStr = packet // 签名 + signature.toUpperCase().trim();
//关于mina,可见我下篇文章
IoSession session = SessionPool.getSession(newStr.substring(13, 15));
logger.info("发送数据:" + newStr);
session.write(newStr); try {
Thread.sleep(1000); //等待一秒
} catch (InterruptedException e1) {
e1.printStackTrace();
}
}
}
}

源代码下载:http://download.csdn.net/detail/stubbornpotatoes/7438435

项目积累——Blockingqueue,ConcurrentLinkedQueue,Executors的更多相关文章

  1. (转载) android快速搭建项目积累

    android快速搭建项目积累 2016-04-05 20:07 519人阅读 评论(0) 收藏 举报  分类: android优化(8)   Rx技术(5)  版权声明:本文为博主原创文章,未经博主 ...

  2. 【angular5项目积累总结】遇到的一些问题以及解决办法

    1.项目中字符串特别是\r\n,替换成br之后,在页面换行无法生效? 答:绑定元素 innerHTML. <div class="panel-body" [innerHTML ...

  3. 项目积累(三)CSS

    公司不是专门做网站的,偶尔会接到客户让修改前端,有时候和让头疼,自己浏览器兼容问题处理不好. 慢慢积累吧. 先贴出来一些前端代码吧,如下: <div class="test" ...

  4. 项目积累html标签

    今天遇到一个不太常用都标签,网上以后慢慢记下项目中用到都东西. 1.<em> 标签 告诉浏览器把其中的文本表示为强调的内容.对于所有浏览器来说,这意味着要把这段文字用斜体来显示. 在文本中 ...

  5. 项目积累——JAVA知识积累

    调用天气: <iframe src="http://www.thinkpage.cn/weather/weather.aspx?uid=&c=CHXX0008&l=zh ...

  6. 项目积累——js应用

    //解决由前台向后台传值中文乱码的问题 encodeURI($("#xmjhbgFile").val())//前台JS中数据加码 String fjmc = java.net.UR ...

  7. 【angular5项目积累总结】消息订阅服务

    code import { Injectable } from '@angular/core'; import { Subject } from 'rxjs/Subject'; @Injectable ...

  8. 项目积累demo-01

    1 搭建Spring-Boot项目 在这里我使用intellij新建spring boot工程: 点击next; 输入Group以及artifact之后.点击next.之后点击web.接着finish ...

  9. 【项目积累】对JSON数据的处理

    [项目简述]         接触.NET项目非常长一段时间了,前台用的都是MVC框架.不知道大家是否想过一个问题.我们是怎样将数据显示到前台的,换句话说,MVC能够识别怎么样的数据形式?答案非常ea ...

随机推荐

  1. C#多显示器转换的两种方法——SetWindowPos,Screen

    原文 http://blog.csdn.net/hejialin666/article/details/6057551 实现多屏显示目的:一般情况下是一个电脑显示屏,外接一个电视显示屏.在电脑上显示的 ...

  2. 【PAT】1025. PAT Ranking (25)

    题目链接:http://pat.zju.edu.cn/contests/pat-a-practise/1025 题目描述: Programming Ability Test (PAT) is orga ...

  3. 2015第6周三ztree的使用

    今天第一次真正在开发中使用了ztree组件,在实践过程体会了从生到熟的乐趣,从开始看不太懂ztree的api到后面熟悉理解其API布局,学习其中的各demo,感觉很不错,简单记录下使用ztree的经验 ...

  4. 全国计算机等级考试二级教程-C语言程序设计_第3章_顺序结构

    1输入两个整数给变量x和y:然后输出x和y:在交换x和y中的值后,在输出x和y. #include <stdio.h> main() { int x, y, t; printf(" ...

  5. MapReduce工作机制

    MapReduce是什么? MapReduce是一种分布式计算模型,由Google提出,主要用于搜索领域,MapReduce程序本质上是并行运行的,因此可以解决海量数据的计算问题. MapReduce ...

  6. mysql的面试试题

    1, mysql的复制原理以及流程. (1)先问基本原理流程,3个线程以及之间的关联. 答:Mysql复制的三个线程:主库线程,从库I/O线程,从库sql线程: 复制流程:(1)I/O线程向主库发出请 ...

  7. 关于SQL 系统自带存储过程的使用 (一)

    关于SQL,一边恐惧一边前行,战战兢兢,如履薄冰. 1.那些Maggie教我的事 因为脚本老是倒不齐全,QA某次跟我要了三次脚本,于是乎求助公司DBA. 利用SQL server本身的查询,找出最近修 ...

  8. Linux学习3——磁盘文件管理系统与压缩和打包操作

    一.写在前面  本节将对Linux的磁盘文件系统.文件的压缩打包等操作进行简要介绍. 二.完成目标 1.了解磁盘文件系统的接本知识 2.操作文件和目录的相关命令 3.文件系统的简单操作命令 4.Lin ...

  9. Vim 扩展工具 vim-ide (转)

    通过简单的配置文件将 vim 打造成专业 ide,支持 mac linux cygwin.看过数篇 vim 配置文件,必要时去定制vim 的插件,将 vim 的 ide 用户体验尽量做到极致. 使用范 ...

  10. TCP/IP详解之:广播和多播

    第12章 广播和多播 广播是将数据报发送到网络中的所有主机(通常是本地相连的网络): 多播是将数据报发送到网络的一个主机组: 这两个概念的基本点在于当收到送往上一个协议栈的数据帧时采用不同类型的过滤. ...