基于Hama并联平台Finding a Maximal Independent Set 设计与实现算法
笔者:白松 NPU学生。
转载请注明出处:http://blog.csdn.net/xin_jmail/article/details/32101483。
本文參加了2014年CSDN博文大赛,假设您认为此文对您有所帮助。就请为我投上您宝贵的一票,不胜感激。
投票地址:http://vote.blog.csdn.net/Article/Details?articleid=32101483 。
本文目的:解说并行Finding a Maximal Independent Set(寻找最大独立集问题)算法,以及在Hama平台上怎样实现该算法。该算法可方便移植到全部的Pregel-Like系统中,如Giraph、GPS (Graph Processing System)。
前言:关于Maximal Independent Set(MIS)的基础知识參考我的博客《找最大独立集问题-Finding a Maximal Independent Set》。
1. 本算法參考 Luby's classic parallel algorithm《a simple parallel algorithm for maximal independent set problem》,把顶点分为三类:
1) S:The MIS being constructed. Starts empty and grows in iterations.
2) NotInS: Vertices that have at least one edge to a vertex in S and as a result cannot be in S.
3) Unknown: Vertices that do not have an edge to any vertex in S but are not yet in S.
2. Hama平台下 MIS算法描写叙述。
初始时,全部顶点都在UnKnown集合中。
算法例如以下:
1) UnKnown集合中的每一个顶点向邻接顶点发送自己的VertexID。
2) 若顶点u的VertexID比自己全部邻接顶点都小,则该顶点进入 S 集合中,并发送neighbor-in-set 消息给全部 邻接顶点。通知它们退出Unknown集合进入到NotInS集合中,并最后把u置为InActive状态。否则。顶点u继 续保持UnKnown状态。
3) S集合中顶点的邻接顶点收到neighbor-in-set 消息。则该顶点进入NotInS。而且 become Inactive。回到步骤 1继续迭代,直到UnKnown集合为空。
算法分析:上述每一个步骤都是一个SuperStep,步骤间须要一次全局同步。
步骤3是收到neighbor-in-set 消息的UnKnown顶点进入NotInS集合中,而未进入NotInS集合的UnKnown顶点在下一轮迭代的步骤1向邻接顶点发送自己的VertexID。
两者互不影响,因此从能够把步骤3和步骤1合并,以此来降低全局同步次数。
3. 算法实现和源代码。
程序中依照顶点value取值不同来区分顶点的类别,关系例如以下:
1) value 等于 vertexID ,表示顶点在 Unknown 集合中;
2) value 等于 -1 ,表示顶点在 S 集合中
3) value 等于 -2 ,表示顶点在 NotInS 集合中。
当全部顶点进入S或者NotInS集合中(即没有 Unknown 顶点),就停止计算,表明已找到一个 MIS。源代码例如以下:
package graph.mis; import java.io.IOException;
import java.util.Iterator; import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hama.HamaConfiguration;
import org.apache.hama.bsp.HashPartitioner;
import org.apache.hama.bsp.TextInputFormat;
import org.apache.hama.bsp.TextOutputFormat;
import org.apache.hama.graph.Edge;
import org.apache.hama.graph.GraphJob;
import org.apache.hama.graph.Vertex;
import org.apache.hama.graph.VertexInputReader; /**
* 目的:找到一个MIS。
*
* 方法:使用Luby's classic parallel algorithm,该算法把顶点分为三类:
* 1) S:The MIS being constructed. Starts empty and grows in iterations.
* 2) NotInS: Vertices that have at least one edge to a vertex in S and as
* a result cannot be in S.
* 3) Unknown: Vertices that do not have an edge to any vertex in S
* but are not yet in S.
*
* 说明:程序中依照顶点value取值不同来区分顶点的类别,关系例如以下:
* 1) value 等于 vertexID ,表示顶点在 Unknown 集合中。
* 2) value 等于 -1 ,表示顶点在 S 集合中
* 3) value 等于 -2 ,表示顶点在 NotInS 集合中。 * 当全部顶点进入S或者NotInS集合中(即没有 Unknown 顶点),就停止计算,表明已找到一个 MIS。 *
*
* @author 西工大-白松 (HamaWhite的博客)。2014-6-18
*
*/
public class FindMIS { /**
* VertexID设置为LongWritable是为处理上百亿的顶点.
*/
public static class MISVertex extends
Vertex<LongWritable, NullWritable, LongWritable> { @Override
public void compute(Iterator<LongWritable> messages) throws IOException {
if (getSuperstepCount() == 0) {
//初始第0个超步,把全部顶点的value值赋值为自己的vertexID,
//表明初始全部顶点均在 UnKnown 集合中。
setValue(getVertexID());
//把自己的VertexID发送给邻接顶点
sendMessageToNeighbors(getValue());
} else {
/**
* 若 NotInS 集合中。则voteToHalt。
* 解释:若NotInS集合中的某个顶点u的邻接顶点v在 Unknown集合中,则v会向u发送消息.
* 这样u就会接到消息,被系统自己主动激活进入Active状态。若此处不做处理将会导致一直
* 有活跃顶点,迭代就不会停止。
*/ if(getValue().get()==-2) {
voteToHalt();
} else {
/**
* recMsg用来表示顶点是否收到消息。 该算法中存在两种消息:
* (1) UnKnown集合中的顶点向邻接顶点发送,寻找顶点进入 S 中。
* (2) S集合中的顶点向邻接顶点发送,通知邻接顶点进入 NotInS 集合中。
*
* 若某个顶点没收到消息,说明该顶点是在 UnKnown集合中。须要向外发送消息寻找。
*/
boolean revMsg = false; //标记是否收到消息
while (messages.hasNext()) {
revMsg = true;
long msg = messages.next().get();
if (msg == -2) {
//收到消息-2。表示该顶点的某个邻接顶点已进入 S 集合,
//该顶点须要进入 NotInS集合中,而且voteToHalt
setValue(new LongWritable(-2));
voteToHalt();
return;
} else if (msg < getValue().get()) {
//若收到的vertexID比自己大,说明该顶点不能进入 S
//继续保持 UnKnown状态,參与下次迭代。
return;
}
}
if (revMsg) {
//说明自身vertexID比全部邻接顶点都小。则进入 S 集合中。
setValue(new LongWritable(-1)); //进入 S 集合中
//用消息-2 通知自己的邻接顶点进入 NotInS 集合中
sendMessageToNeighbors(new LongWritable(-2));
voteToHalt(); //置为 InActive,不參与兴许计算
} else {
// UnKnown集合中的顶点。向外发送消息寻找顶点进入S中。
sendMessageToNeighbors(getValue());
}
}
}
}
} /**
* 解析输入格式,以\t间隔的邻接表形式,每行表示一个顶点.如:
* 1\t2\t3
* 2\t1
* 3\t2
* @author root
*
*/
public static class MISTextReader extends
VertexInputReader<LongWritable, Text, LongWritable, NullWritable, LongWritable> { @Override
public boolean parseVertex(LongWritable key, Text value,
Vertex<LongWritable, NullWritable, LongWritable> vertex)
throws Exception {
String[] split = value.toString().split("\t");
for (int i = 0; i < split.length; i++) {
if (i == 0) {
vertex.setVertexID(new LongWritable(Long.parseLong(split[i])));
} else {
vertex.addEdge(new Edge<LongWritable, NullWritable>(
new LongWritable(Long.parseLong(split[i])), null));
}
}
return true;
}
} public static void main(String[] args) throws IOException,
InterruptedException, ClassNotFoundException {
if (args.length < 2) {
System.err.println("Usage: <input> <output>");
System.exit(-1);
} HamaConfiguration conf = new HamaConfiguration(new Configuration());
GraphJob pageJob = new GraphJob(conf, FindMIS.class);
pageJob.setJobName("Find a MIS"); pageJob.setMaxIteration(30);
pageJob.setVertexClass(MISVertex.class);
pageJob.setInputPath(new Path(args[0]));
pageJob.setOutputPath(new Path(args[1])); pageJob.setVertexIDClass(LongWritable.class);
pageJob.setVertexValueClass(LongWritable.class);
pageJob.setEdgeValueClass(NullWritable.class); pageJob.setInputKeyClass(LongWritable.class);
pageJob.setInputValueClass(Text.class);
pageJob.setInputFormat(TextInputFormat.class);
pageJob.setVertexInputReaderClass(MISTextReader.class);
pageJob.setPartitioner(HashPartitioner.class);
pageJob.setOutputFormat(TextOutputFormat.class);
pageJob.setOutputKeyClass(Text.class);
pageJob.setOutputValueClass(LongWritable.class);
pageJob.waitForCompletion(true);
}
}
4. 执行过程分析。输入为无向图,測试图例如以下:
以下分析S集合中的顶点用红色标注。NotInS集合用灰色,UnKnown集合用白色标注。S集合和NotInS集合中的顶点均是InActive状态。UnKnown集合中的顶点是Active状态。
(1) 步骤1:在SuperStep 0。每一个顶点把自己的VertexID发送给邻接顶点,,如顶点1发送消息1到顶点2、13、7;顶点2发送消息2到顶点1、9、13。顶点15发送消息15到顶点9和14。其它顶点类似。
(2)步骤2:在SuperStep 1,每一个顶点收到邻接顶点发送的消息,如顶点1收到消息2、13、7,;顶点2收到消息1、13、9。顶点0收到消息3、6、7、9、13。
仅仅有顶点0、1、4、5比邻接顶点都小,故该四个顶点进入S 集合。用红色标注。
其它顶点继续在UnKnown集合中。
(3).步骤3和步骤1(步骤1属于第二轮), 在SuperStep2中,顶点0、1、4、5的邻接顶点收到neighbor-in-set 消息(源代码中用-2表示)进入NotInS集合中。即顶点2、13、7、3、10、6、8、11、12、9共10个顶点进入NotInS集合中,变为InActive状态。同一时候顶点14和15依旧是UnKnown状态,14和15分别向邻接顶点发送消息,顶点14向6、12、15发送消息(15)。顶点15向9、14发送消息。
(4) .步骤2(第二轮):在SuperStep 3中,NotInS集合中的顶点6、9和12收到消息后被系统自己主动激活变为Active状态。所以程序中对此情况有所处理。把顶点6、9、12直接置为Inactive状态,不做兴许处理。
顶点14收到消息15比自身大。则14进入S集合中。而顶点15则相反继续在UnKnown集合中。顶点14向邻接顶点6、12、15发送neighbor-in-set消息。
(5) 步骤3(第二轮):在SuperStep 4中。顶点6和顶点12同(4)步处理同样。顶点15收到neighbor-in-set 消息后进入 NotInS集合中。因为UnKnown集合中已没有顶点。不会再向外发送消息。
(6) SuperStep 5中,发现已没有活跃顶点且没有消息在传递。故结束计算。
5. 实验结果。
执行结果例如以下:
HDFS的输出结果例如以下(-2表示NotInS,-1表示在S集合中):
8 -2
10 -2
12 -2
14 -1
0 -1
2 -2
4 -1
6 -2
9 -2
11 -2
13 -2
15 -2
1 -1
3 -2
5 -1
7 -2
本文參加了2014年CSDN博文大赛。假设您认为此文对您有所帮助。就请为我投上您宝贵的一票。不胜感激。
投票地址: articleid=32101483">http://vote.blog.csdn.net/Article/Details?articleid=32101483
完!
版权声明:本文博客原创文章,博客,未经同意,不得转载。
基于Hama并联平台Finding a Maximal Independent Set 设计与实现算法的更多相关文章
- 软工之词频统计器及基于sketch在大数据下的词频统计设计
目录 摘要 算法关键 红黑树 稳定排序 代码框架 .h文件: .cpp文件 频率统计器的实现 接口设计与实现 接口设计 核心功能词频统计器流程 效果 单元测试 性能分析 性能分析图 问题发现 解决方案 ...
- C#开发微信门户及应用(41)--基于微信开放平台的扫码登录处理
在现今很多网站里面,都使用了微信开放平台的扫码登录认证处理,这样做相当于把身份认证交给较为权威的第三方进行认证,在应用网站里面可以不需要存储用户的密码了.本篇介绍如何基于微信开放平台的扫码进行网站的登 ...
- 基于 Node.js 平台,快速、开放、极简的 web 开发框架。
资料地址:http://www.expressjs.com.cn/ Express 基于 Node.js 平台,快速.开放.极简的 web 开发框架. $ npm install express -- ...
- 基于微信公众平台的开发(清华大学第二讲)_Alien的笔记
基于微信公众平台的开发(清华大学第二讲)_Alien的笔记 基于微信公众平台的开发(清华大学第二讲)
- IOS基于新浪微博开放平台微博APP
1.基于新浪微博开放平台APP源码 2.gitHub源代码下载地址 https://github.com/whzhaochao/SinaWeiBoOpen 3.用到的第三放开源库 3.1 RTLab ...
- 亚马逊AWS在线系列讲座——基于AWS云平台的高可用应用设计
设计高可用的应用是架构师的一个重要目标,可是基于云计算平台设计高可用应用与基于传统平台的设计有很多不同.云计算在给架构师带来了很多新的设计挑战的时候,也给带来了很多新的设计理念和可用的服务.怎样在设计 ...
- 分享一下我的部分毕设内容:基于Windows Phone平台的污染源管理应用
原文:分享一下我的部分毕设内容:基于Windows Phone平台的污染源管理应用 毕业半年,又总结了一下之前的工作,发现很多知识不复习都忘记了.最近新闻总是报道北京的空气污染,各种雾霾,各种PM X ...
- KoaHub.js是基于 Koa.js 平台的 Node.js web 快速开发框架
koahubjs KoaHub.js -- 基于 Koa.js 平台的 Node.js web 快速开发框架.可以直接在项目里使用 ES6/7(Generator Function, Class, A ...
- 基于 Koa.js 平台的 Node.js web 快速开发框架KoaHub.js demo 可安装
KoaHub.js demo KoaHub.js KoaHub.js -- 基于 Koa.js 平台的 Node.js web 快速开发框架.可以直接在项目里使用 ES6/7(Generator Fu ...
随机推荐
- 在投票系统方法的原则刷票(突破ip限制刷票PHP版)
让我谈一点:事实上,没有一个突破ip限制,因为实际上,,这项限制server结束,client牛逼,不能突破..只要是能够始终重复刷票罢了 一个朋友突然来了个网站,让我帮她投票..我是一个更好的人说话 ...
- Win10打不开chm文件的解决办法
在Win10系统中打开chm文件时,提示安全警告,如下图: 点击打开后,可以看到chm文件的目录大纲,但是点击任意目录其内容都是空白,如下图: 经过网络一通搜索,发现解决办法很简单,就是在上面的安装警 ...
- Robotium调用getActivity()导致程序挂起的方法
1. 问题背景的叙述性说明 需要直接用在工作中没有项目的源代码robotium测试目标android平台launcher,该平台的基础上,当前日期的版本号android 4.4.2.之前我用来验证的可 ...
- bash构造tmux显示tmux ssh状态
要求: 于tmux内部链接ssh什么时候, 假设有多个ssh主机. 我们要显示相应的主机ip要显示筛查 实现效果 编辑你的bashrc, 由于我习惯在root下操作, 所以/root/.bashrc. ...
- nyist 488 素数环(搜索+回溯)
素数环 时间限制:1000 ms | 内存限制:65535 KB 难度:2 描写叙述 有一个整数n,把从1到n的数字无反复的排列成环,且使每相邻两个数(包含首尾)的和都为素数,称为素数环. ...
- H.265/HEVC Codec 编解码 (MP4 和 TS)
1. H.265/HEVC 播放器 1) VLC media player 2.1.3 (眼下不支持H.265 TS播放) 2)ffmpeg中的ffplay (如:ffplay hevc.ts) 3 ...
- [WebGL入门]四,渲染准备
注意:文章翻译http://wgld.org/,原作者杉本雅広(doxas),文章中假设有我的额外说明,我会加上[lufy:].另外.鄙人webgl研究还不够深入,一些专业词语,假设翻译有误,欢迎大家 ...
- android sdk linux 文本 64 位置
android sdk linux 64 之前获得模.现在补上一,然后,小伙伴们下载 版权声明:本文博主原创文章,博客,未经同意不得转载.
- android CheckBox RadioButton 照片和文字的间距问题
利用自身的定义CheckBox 要么RadioButton时间.定义自己的图标和文字在不同的手机显示不同的音高.有时不太好控制,下面是我自己的定义CheckBox: 在Layout在下面xml: &l ...
- php session 读写锁
php session 读写锁 先看一个样例,功能: 1.点击页面中一个button,ajax运行php,php中用session记录运行到哪一步. 2.使用ajax轮询还有一个php,获取sessi ...