java并发带返回结果的批量任务执行
转载:http://www.it165.net/pro/html/201405/14551.html
一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable
Callable的call方法可以返回执行的结果;
CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;
优势:
a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)
b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;
1、CompletionService : Executor + BlockingQueue
下面看个例子:
01.
package
com.zhy.concurrency.completionService;
02.
03.
import
java.util.Random;
04.
import
java.util.concurrent.BlockingQueue;
05.
import
java.util.concurrent.Callable;
06.
import
java.util.concurrent.CompletionService;
07.
import
java.util.concurrent.ExecutionException;
08.
import
java.util.concurrent.ExecutorCompletionService;
09.
import
java.util.concurrent.ExecutorService;
10.
import
java.util.concurrent.Executors;
11.
import
java.util.concurrent.Future;
12.
import
java.util.concurrent.LinkedBlockingDeque;
13.
14.
/**
15.
* 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果
16.
*
17.
* @author zhy
18.
*
19.
*/
20.
public
class
CompletionServiceDemo
21.
{
22.
23.
public
static
void
main(String[] args)
throws
InterruptedException,
24.
ExecutionException
25.
{
26.
/**
27.
* 内部维护11个线程的线程池
28.
*/
29.
ExecutorService exec = Executors.newFixedThreadPool(
11
);
30.
/**
31.
* 容量为10的阻塞队列
32.
*/
33.
final
BlockingQueue<Future<Integer>> queue =
new
LinkedBlockingDeque<Future<Integer>>(
34.
10
);
35.
//实例化CompletionService
36.
final
CompletionService<Integer> completionService =
new
ExecutorCompletionService<Integer>(
37.
exec, queue);
38.
39.
/**
40.
* 模拟瞬间产生10个任务,且每个任务执行时间不一致
41.
*/
42.
for
(
int
i =
0
; i <
10
; i++)
43.
{
44.
completionService.submit(
new
Callable<Integer>()
45.
{
46.
@Override
47.
public
Integer call()
throws
Exception
48.
{
49.
int
ran =
new
Random().nextInt(
1000
);
50.
Thread.sleep(ran);
51.
System.out.println(Thread.currentThread().getName()
52.
+
" 休息了 "
+ ran);
53.
return
ran;
54.
}
55.
});
56.
}
57.
58.
/**
59.
* 立即输出结果
60.
*/
61.
for
(
int
i =
0
; i <
10
; i++)
62.
{
63.
try
64.
{
65.
//谁最先执行完成,直接返回
66.
Future<Integer> f = completionService.take();
67.
System.out.println(f.get());
68.
}
catch
(InterruptedException e)
69.
{
70.
e.printStackTrace();
71.
}
catch
(ExecutionException e)
72.
{
73.
e.printStackTrace();
74.
}
75.
}
76.
77.
exec.shutdown();
78.
79.
}
80.
81.
}
输出结果:
01.
pool-
1
-thread-
4
休息了
52
02.
52
03.
pool-
1
-thread-
1
休息了
59
04.
59
05.
pool-
1
-thread-
10
休息了
215
06.
215
07.
pool-
1
-thread-
9
休息了
352
08.
352
09.
pool-
1
-thread-
5
休息了
389
10.
389
11.
pool-
1
-thread-
3
休息了
589
12.
589
13.
pool-
1
-thread-
2
休息了
794
14.
794
15.
pool-
1
-thread-
7
休息了
805
16.
805
17.
pool-
1
-thread-
6
休息了
909
18.
909
19.
pool-
1
-thread-
8
休息了
987
20.
987
最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!
java并发带返回结果的批量任务执行的更多相关文章
- java并发带返回结果的批量任务执行(CompletionService:Executor + BlockingQueue)
转载:http://www.it165.net/pro/html/201405/14551.html 一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的 ...
- Java并发专题 带返回结果的批量任务执行 CompletionService ExecutorService.invokeAll(转)
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是R ...
- Java并发专题 带返回结果的批量任务执行
转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是R ...
- 带返回结果的批量任务执行 CompletionService
转自 :http://blog.csdn.net/lmj623565791/article/details/27250059 一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runna ...
- Android JNI之调用JAVA方法的返回类型签名
从http://blog.csdn.net/lonelyroamer/article/details/7932787截取的 如何签名: 下面看看Sign签名如何写,来表示要取得的属性或方法的类型. 1 ...
- 在Java 线程中返回值的用法
http://icgemu.iteye.com/blog/467848 在Java 线程中返回值的用法 博客分类: Java Javathread 有时在执行线程中需要在线程中返回一个值:常规中我们 ...
- java 异常处理与返回
try{ // 1. return ++x; }catch(){ }finally{ //2. x++; } 实际返回值还是 ++x后的结果,因为 ++x 后 x 的值会入栈,作为返回结果: 以上代码 ...
- java 代码执行cmd 返回值异常 (关于JAVA Project.waitfor()返回值是1)
关于JAVA Project.waitfor()返回值是1 0条评论 Project.waitfor()返回值是1,找了很久从网上没有发现关于1的说明. 这时对源代码调试了一下,发现Project ...
- Java多线程带返回值的Callable接口
Java多线程带返回值的Callable接口 在面试的时候,有时候是不是会遇到面试会问你,Java中实现多线程的方式有几种?你知道吗?你知道Java中有可以返回值的线程吗?在具体的用法你知道吗?如果两 ...
随机推荐
- python_way day13 sqlalchemy
sqlalchemy 一对多 多对多 1.一对多 一.#创建表结构 class Host(Base): #所有的子类都继承这个基类 #创建表结构 __tablename__ = 'hosts' id ...
- JavaScript算法题之–随机数的生成
JavaScript算法题之–随机数的生成 需求描述:从一组有序的数据中生成一组随机并且不重复的数,类似于简单的抽奖程序的实现. 先来生成一个有序的数组: 1 var arr = [], 2 ...
- linux软件下载及安装
1.jdk安装以及下载地址 rpm.tar.gz格式下载 | bin格式下载 官方bin格式下载 | 安装 2.centos安装phpstorm 戳我
- 实例化bean的三种方式
简单的说 当获取bean时: 1.直接创建对象 2.不创建对象,直接调用factory-method指定的静态方法 3.先创建对象,再调用factory-method指点的非静态方法
- mysql 变量
用户变量 1.用户变量,用户变量和数据库连接有关,连接后声明变量,连接断开后,自动消失. 2.用户变量以@开头,select一个没有赋值的用户变量,返回NULL,也就是没有值,注意取值为NULL与取值 ...
- UI设计基础百科
摘自:http://www.csdn.net/article/2013-09-10/2816892-iOS-dev-tools-design 我的原型设计流程 这是一份UX原型设计流程,用来探索交互设 ...
- [css] 【转载】 精简高效的CSS命名准则/方法
原文链接:http://www.zhangxinxu.com/wordpress/2010/09/%E7%B2%BE%E7%AE%80%E9%AB%98%E6%95%88%E7%9A%84css%E5 ...
- JavaScript设计模式-单例模式、模块模式(转载 学习中。。。。)
(转载地址:http://technicolor.iteye.com/blog/1409656) 之前在<JavaScript小特性-面向对象>里面介绍过JavaScript面向对象的特性 ...
- urllib.error.HTTPError: HTTP Error 403: Forbidden
问题: urllib.request.urlopen() 方法经常会被用来打开一个网页的源代码,然后会去分析这个页面源代码,但是对于有的网站使用这种方法时会抛出"HTTP Error 40 ...
- Eclipse启动tomcat时报错:Multiple Contexts have a path of "/xxx"
今天使用Eclipse启动tomcat部署项目时,遇到一个奇怪的错误: Could not publish server configuration for Tomcat v6.0 Server at ...