Java并发专题 带返回结果的批量任务执行
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059
一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable
Callable的call方法可以返回执行的结果;
CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;
优势:
a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)
b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;
1、CompletionService : Executor + BlockingQueue
下面看个例子:
- package com.zhy.concurrency.completionService;
- import java.util.Random;
- import java.util.concurrent.BlockingQueue;
- import java.util.concurrent.Callable;
- import java.util.concurrent.CompletionService;
- import java.util.concurrent.ExecutionException;
- import java.util.concurrent.ExecutorCompletionService;
- import java.util.concurrent.ExecutorService;
- import java.util.concurrent.Executors;
- import java.util.concurrent.Future;
- import java.util.concurrent.LinkedBlockingDeque;
- /**
- * 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果
- *
- * @author zhy
- *
- */
- public class CompletionServiceDemo
- {
- public static void main(String[] args) throws InterruptedException,
- ExecutionException
- {
- /**
- * 内部维护11个线程的线程池
- */
- ExecutorService exec = Executors.newFixedThreadPool(11);
- /**
- * 容量为10的阻塞队列
- */
- final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
- 10);
- //实例化CompletionService
- final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
- exec, queue);
- /**
- * 模拟瞬间产生10个任务,且每个任务执行时间不一致
- */
- for (int i = 0; i < 10; i++)
- {
- completionService.submit(new Callable<Integer>()
- {
- @Override
- public Integer call() throws Exception
- {
- int ran = new Random().nextInt(1000);
- Thread.sleep(ran);
- System.out.println(Thread.currentThread().getName()
- + " 休息了 " + ran);
- return ran;
- }
- });
- }
- /**
- * 立即输出结果
- */
- for (int i = 0; i < 10; i++)
- {
- try
- {
- //谁最先执行完成,直接返回
- Future<Integer> f = completionService.take();
- System.out.println(f.get());
- } catch (InterruptedException e)
- {
- e.printStackTrace();
- } catch (ExecutionException e)
- {
- e.printStackTrace();
- }
- }
- exec.shutdown();
- }
- }
输出结果:
- pool-1-thread-4 休息了 52
- 52
- pool-1-thread-1 休息了 59
- 59
- pool-1-thread-10 休息了 215
- 215
- pool-1-thread-9 休息了 352
- 352
- pool-1-thread-5 休息了 389
- 389
- pool-1-thread-3 休息了 589
- 589
- pool-1-thread-2 休息了 794
- 794
- pool-1-thread-7 休息了 805
- 805
- pool-1-thread-6 休息了 909
- 909
- pool-1-thread-8 休息了 987
- 987
最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!
2、ExecutorService.invokeAll
ExecutorService的invokeAll方法也能批量执行任务,并批量返回结果,但是呢,有个我觉得很致命的缺点,必须等待所有的任务执行完成后统一返回,一方面内存持有的时间长;另一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的执行结果输出,而不是苦苦的等待;
下面看个例子:
- package com.zhy.concurrency.executors;
- import java.util.ArrayList;
- import java.util.List;
- import java.util.Random;
- import java.util.concurrent.Callable;
- import java.util.concurrent.ExecutionException;
- import java.util.concurrent.ExecutorService;
- import java.util.concurrent.Executors;
- import java.util.concurrent.Future;
- public class TestInvokeAll
- {
- public static void main(String[] args) throws InterruptedException,
- ExecutionException
- {
- ExecutorService exec = Executors.newFixedThreadPool(10);
- List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
- Callable<Integer> task = null;
- for (int i = 0; i < 10; i++)
- {
- task = new Callable<Integer>()
- {
- @Override
- public Integer call() throws Exception
- {
- int ran = new Random().nextInt(1000);
- Thread.sleep(ran);
- System.out.println(Thread.currentThread().getName()+" 休息了 " + ran );
- return ran;
- }
- };
- tasks.add(task);
- }
- long s = System.currentTimeMillis();
- List<Future<Integer>> results = exec.invokeAll(tasks);
- System.out.println("执行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");
- for (int i = 0; i < results.size(); i++)
- {
- try
- {
- System.out.println(results.get(i).get());
- } catch (Exception e)
- {
- e.printStackTrace();
- }
- }
- exec.shutdown();
- }
- }
执行结果:
- pool-1-thread-10 休息了 1
- pool-1-thread-5 休息了 59
- pool-1-thread-6 休息了 128
- pool-1-thread-1 休息了 146
- pool-1-thread-3 休息了 158
- pool-1-thread-7 休息了 387
- pool-1-thread-9 休息了 486
- pool-1-thread-8 休息了 606
- pool-1-thread-4 休息了 707
- pool-1-thread-2 休息了 817
- 执行任务消耗了 :819毫秒
- 146
- 817
- 158
- 707
- 59
- 128
- 387
- 606
- 486
- 1
我特意在任务提交完成打印了一个时间,然后invokeAll执行完成后打印了下时间,可以看出invokeAll返回是等待所有线程执行完毕的。这点来说,我觉得可用性不如CompletionService。
嗯,对于批量执行任务,且携带返回结果的案例就到这里~如果有疑问或者代码中存在错误请指出~
Java并发专题 带返回结果的批量任务执行的更多相关文章
- Java并发专题 带返回结果的批量任务执行 CompletionService ExecutorService.invokeAll(转)
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是R ...
- Java并发专题 带返回结果的批量任务运行 CompletionService ExecutorService.invokeAll
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 普通情况下,我们使用Runnable作为主要的任务表示形式,可是R ...
- 带返回结果的批量任务执行 CompletionService
转自 :http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runna ...
- Java 并发专题 :FutureTask 实现预加载数据 在线看电子书、浏览器浏览网页等
继续并发专题~ FutureTask 有点类似Runnable,都可以通过Thread来启动,不过FutureTask可以返回执行完毕的数据,并且FutureTask的get方法支持阻塞. 由于:Fu ...
- Java 并发专题 : CyclicBarrier 打造一个安全的门禁系统
继续并发专题~ 这次介绍CyclicBarrier:看一眼API的注释: /** * A synchronization aid that allows a set of threads to all ...
- Java 并发专题 : Semaphore 实现 互斥 与 连接池
继续并发方面的知识.今天介绍Semaphore,同样在java.util.concurrent包下. 本来准备通过例子,从自己实现到最后使用并发工具实现,但是貌似效果并不是很好,有点太啰嗦的感觉,所有 ...
- Java 并发专题 :闭锁 CountDownLatch 之一家人一起吃个饭
最近一直整并发这块东西,顺便写点Java并发的例子,给大家做个分享,也强化下自己记忆. 每天起早贪黑的上班,父母每天也要上班,话说今天定了个饭店,一家人一起吃个饭,通知大家下班去饭店集合.假设:3个人 ...
- 那些年读过的书《Java并发编程实战》和《Java并发编程的艺术》三、任务执行框架—Executor框架小结
<Java并发编程实战>和<Java并发编程的艺术> Executor框架小结 1.在线程中如何执行任务 (1)任务执行目标: 在正常负载情况下,服务器应用 ...
- java并发编程实战:第六章----任务执行
任务:通常是一些抽象的且离散的工作单元.大多数并发应用程序都是围绕"任务执行"来构造的,把程序的工作分给多个任务,可以简化程序的组织结构便于维护 一.在线程中执行任务 任务的独立性 ...
随机推荐
- IntelliJ IDEA插件-翻译插件
说明:这个翻译插件应该是最好的了. 官网:https://github.com/YiiGuxing/TranslationPlugin 但是这个有个缺点就是使用收费的API,基于有道,截止今天使用的是 ...
- MySQL索引,如何正确创建MySQL索引?
索引可以提高数据的检索效率,也可以降低数据库的IO成本,并且索引还可以降低数据库的排序成本.排序分组操作主要消耗的就是CPU资源和内存,所以能够在排序分组操作中好好的利用索引将会极大地降低CPU资源的 ...
- 死磕 Fragment 的生命周期
死磕 Fragment 的生命周期 本文原创,转载请注明出处.欢迎关注我的 简书 ,关注我的专题 Android Class 我会长期坚持为大家收录简书上高质量的 Android 相关博文.本篇文章已 ...
- Effective C++--经验条款
高效C++ --模板与泛型编程 在C++中模板体现的是编译期多态,virtual体现的是执行期多态. 关于typename的双重含义: 在声明template參数时,不论使用keywordclass或 ...
- EffectiveJava(9)覆盖equals是总要覆盖hashCode
覆盖equals是总要覆盖hashCode 通过散列函数将集合中不相等的实例均匀的分布在所有可能的散列值上 1.把某个非零的常数值保存在一个名为result的int类型变量中 2.对于对象中每个关键域 ...
- JAVA Eclipse中如何简易的实现消息机制
大部分情况下,我们需要实现的消息机制无非是某个类得到了数据,需要传递到某个主界面上去显示,可以把这个消息在类中做成全局变量,主界面的类用一个线程定时扫描,如果这个数据不是空,则说明被类刷新了,那么更新 ...
- dev_queue_xmit()函数返回值问题
函数 dev_queue_xmit()用于直接使用sk_buf发包,此函数有返回值,但是并不能通过 此函数返回值为0来说明包已经发送出去且可以立刻释放sk_buff内存.因为网卡发包是一个异步的过程 ...
- wmi在渗透测试中的运用
Abusing WMI to Build a Persistent, Asynchronous, and Fileless Backdoor 滥用 WMI 打造一个永久.异步.无文件后门 http:/ ...
- 不是书评 :《我是一只IT小小鸟》
本文转自刘未鹏 博客,写的非常的好 就转回来了 设计你自己的进度条 进度条的设计是一个很多人都知道的故事:同样的耗时,如果不给任何进度提示,只是在完成之后才弹出一个完成消息,中间没有任何动态变化,那么 ...
- Oracle基础 触发器
一.触发器 触发器是当特定事件出现时自动执行的代码块.比如,每次对员工表进行增删改的操作时,向日志表中添加一条记录.触发器和存储过程是由区别的:触发器是根据某些条件自动执行的,存储过程是手动条用的. ...