带返回结果的批量任务执行 CompletionService

转自 ：http://blog.csdn.net/lmj623565791/article/details/27250059

一般情况下，我们使用Runnable作为基本的任务表示形式，但是Runnable是一种有很大局限的抽象，run方法中只能记录日志，打印，或者把数据汇总入某个容器（一方面内存消耗大，另一方面需要控制同步，效率很大的限制），总之不能返回执行的结果；比如同时1000个任务去网络上抓取数据，然后将抓取到的数据进行处理（处理方式不定），我觉得最好的方式就是提供回调接口，把处理的方式最为回调传进去；但是现在我们有了更好的方式实现：CompletionService + Callable

Callable的call方法可以返回执行的结果;

CompletionService将Executor（线程池）和BlockingQueue（阻塞队列）结合在一起，同时使用Callable作为任务的基本单元，整个过程就是生产者不断把Callable任务放入阻塞对了，Executor作为消费者不断把任务取出来执行，并返回结果；

优势：

a、阻塞队列防止了内存中排队等待的任务过多，造成内存溢出（毕竟一般生产者速度比较快，比如爬虫准备好网址和规则，就去执行了，执行起来（消费者）还是比较慢的）

b、CompletionService可以实现，哪个任务先执行完成就返回，而不是按顺序返回，这样可以极大的提升效率；

1、CompletionService ： Executor + BlockingQueue

下面看个例子：

1. package com.zhy.concurrency.completionService;
2. import java.util.Random;
3. import java.util.concurrent.BlockingQueue;
4. import java.util.concurrent.Callable;
5. import java.util.concurrent.CompletionService;
6. import java.util.concurrent.ExecutionException;
7. import java.util.concurrent.ExecutorCompletionService;
8. import java.util.concurrent.ExecutorService;
9. import java.util.concurrent.Executors;
10. import java.util.concurrent.Future;
11. import java.util.concurrent.LinkedBlockingDeque;
12. /**
13. * 将Executor和BlockingQueue功能融合在一起，可以将Callable的任务提交给它来执行， 然后使用take()方法获得已经完成的结果
14. *
15. * @author zhy
16. *
17. */
18. public class CompletionServiceDemo
19. {
20. public static void main(String[] args) throws InterruptedException,
21. ExecutionException
22. {
23. /**
24. * 内部维护11个线程的线程池
25. */
26. ExecutorService exec = Executors.newFixedThreadPool(11);
27. /**
28. * 容量为10的阻塞队列
29. */
30. final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(
31. 10);
32. //实例化CompletionService
33. final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(
34. exec, queue);
35. /**
36. * 模拟瞬间产生10个任务，且每个任务执行时间不一致
37. */
38. for (int i = 0; i < 10; i++)
39. {
40. completionService.submit(new Callable<Integer>()
41. {
42. @Override
43. public Integer call() throws Exception
44. {
45. int ran = new Random().nextInt(1000);
46. Thread.sleep(ran);
47. System.out.println(Thread.currentThread().getName()
48. + " 休息了 " + ran);
49. return ran;
50. }
51. });
52. }
53. /**
54. * 立即输出结果
55. */
56. for (int i = 0; i < 10; i++)
57. {
58. try
59. {
60. //谁最先执行完成，直接返回
61. Future<Integer> f = completionService.take();
62. System.out.println(f.get());
63. } catch (InterruptedException e)
64. {
65. e.printStackTrace();
66. } catch (ExecutionException e)
67. {
68. e.printStackTrace();
69. }
70. }
71. exec.shutdown();
72. }
73. }

输出结果：

1. pool-1-thread-4 休息了 52
2. 52
3. pool-1-thread-1 休息了 59
4. 59
5. pool-1-thread-10 休息了 215
6. 215
7. pool-1-thread-9 休息了 352
8. 352
9. pool-1-thread-5 休息了 389
10. 389
11. pool-1-thread-3 休息了 589
12. 589
13. pool-1-thread-2 休息了 794
14. 794
15. pool-1-thread-7 休息了 805
16. 805
17. pool-1-thread-6 休息了 909
18. 909
19. pool-1-thread-8 休息了 987
20. 987

最先执行完成的直接返回，并不需要按任务提交的顺序执行，如果需要写个高并发的程序，且每个任务需要返回执行结果，这是个相当不错的选择！