JobSplitWriter被作业客户端用于写分片相关文件,包括分片数据文件job.split和分片元数据信息文件job.splitmetainfo。它有两个静态成员变量,如下:

  1. // 分片版本,当前默认为1
  2. private static final int splitVersion = JobSplit.META_SPLIT_VERSION;
  3. // 分片文件头部,为UTF-8格式的字符串"SPL"的字节数组"SPL"
  4. private static final byte[] SPLIT_FILE_HEADER;

并且,提供了一个静态方法,完成SPLIT_FILE_HEADER的初始化,代码如下:

  1. // 静态方法,加载SPLIT_FILE_HEADER为UTF-8格式的字符串"SPL"的字节数组byte[]
  2. static {
  3. try {
  4. SPLIT_FILE_HEADER = "SPL".getBytes("UTF-8");
  5. } catch (UnsupportedEncodingException u) {
  6. throw new RuntimeException(u);
  7. }
  8. }

JobSplitWriter实现其功能的为createSplitFiles()方法,它有三种实现,我们先看其中的public static <T extends InputSplit> void createSplitFiles(Path jobSubmitDir,Configuration conf, FileSystem fs, T[] splits),代码如下:

  1. // 创建分片文件
  2. public static <T extends InputSplit> void createSplitFiles(Path jobSubmitDir,
  3. Configuration conf, FileSystem fs, T[] splits)
  4. throws IOException, InterruptedException {
  5. // 调用createFile()方法,创建分片文件,并获取文件系统数据输出流FSDataOutputStream实例out,
  6. // 对应路径为jobSubmitDir/job.split,jobSubmitDir为参数yarn.app.mapreduce.am.staging-dir指定的路径/作业所属用户user/.staging/作业ID
  7. FSDataOutputStream out = createFile(fs,
  8. JobSubmissionFiles.getJobSplitFile(jobSubmitDir), conf);
  9. // 调用writeNewSplits()方法,将分片数据写入分片文件,并得到分片元数据信息SplitMetaInfo数组info
  10. SplitMetaInfo[] info = writeNewSplits(conf, splits, out);
  11. // 关闭输出流
  12. out.close();
  13. // 调用writeJobSplitMetaInfo()方法,将分片元数据信息写入分片元数据文件
  14. writeJobSplitMetaInfo(fs,JobSubmissionFiles.getJobSplitMetaFile(jobSubmitDir),
  15. new FsPermission(JobSubmissionFiles.JOB_FILE_PERMISSION), splitVersion,
  16. info);
  17. }

createSplitFiles()方法的逻辑很清晰,大体如下:

1、调用createFile()方法,创建分片文件,并获取文件系统数据输出流FSDataOutputStream实例out,对应路径为jobSubmitDir/job.split,jobSubmitDir为参数yarn.app.mapreduce.am.staging-dir指定的路径/作业所属用户user/.staging/作业ID;

2、调用writeNewSplits()方法,将分片数据写入分片文件,并得到分片元数据信息SplitMetaInfo数组info;

3、关闭输出流out;

4、调用writeJobSplitMetaInfo()方法,将分片元数据信息写入分片元数据文件。

我们先来看下createFile()方法,代码如下:

  1. private static FSDataOutputStream createFile(FileSystem fs, Path splitFile,
  2. Configuration job)  throws IOException {
  3. // 调用HDFS文件系统FileSystem的create()方法,获取文件系统数据输出流FSDataOutputStream实例out,
  4. // 对应权限为JobSubmissionFiles.JOB_FILE_PERMISSION,即0644,rw-r--r--
  5. FSDataOutputStream out = FileSystem.create(fs, splitFile,
  6. new FsPermission(JobSubmissionFiles.JOB_FILE_PERMISSION));
  7. // 获取副本数replication,取参数mapreduce.client.submit.file.replication,参数未配置默认为10
  8. int replication = job.getInt(Job.SUBMIT_REPLICATION, 10);
  9. // 通过文件系统FileSystem实例fs的setReplication()方法,设置splitFile的副本数位10
  10. fs.setReplication(splitFile, (short)replication);
  11. // 调用writeSplitHeader()方法写入分片头信息
  12. writeSplitHeader(out);
  13. // 返回文件系统数据输出流out
  14. return out;
  15. }

首先,调用HDFS文件系统FileSystem的create()方法,获取文件系统数据输出流FSDataOutputStream实例out,对应权限为JobSubmissionFiles.JOB_FILE_PERMISSION,即0644,rw-r--r--;

其次,获取副本数replication,取参数mapreduce.client.submit.file.replication,参数未配置默认为10;

接着,通过文件系统FileSystem实例fs的setReplication()方法,设置splitFile的副本数位10;

然后,调用writeSplitHeader()方法写入分片头信息;

最后,返回文件系统数据输出流out。

writeSplitHeader()方法专门用于将分片头部信息写入分片文件,代码如下:

  1. private static void writeSplitHeader(FSDataOutputStream out)
  2. throws IOException {
  3. // 文件系统数据输出流out写入byte[],内容为UTF-8格式的"SPL"
  4. out.write(SPLIT_FILE_HEADER);
  5. // 文件系统数据输出流out写入int,分片版本号,目前为1
  6. out.writeInt(splitVersion);
  7. }

很简单,首先文件系统数据输出流out写入byte[],内容为UTF-8格式的"SPL",然后文件系统数据输出流out写入int,分片版本号,目前为1。

接下来,我们再看下writeNewSplits()方法,它将分片数据写入分片文件,并得到分片元数据信息SplitMetaInfo数组info,代码如下:

  1. @SuppressWarnings("unchecked")
  2. private static <T extends InputSplit>
  3. SplitMetaInfo[] writeNewSplits(Configuration conf,
  4. T[] array, FSDataOutputStream out)
  5. throws IOException, InterruptedException {
  6. // 根据array的大小,构造同等大小的分片元数据信息SplitMetaInfo数组info,
  7. // array其实是传入的分片数组
  8. SplitMetaInfo[] info = new SplitMetaInfo[array.length];
  9. if (array.length != 0) {// 如果array中有数据
  10. // 创建序列化工厂SerializationFactory实例factory
  11. SerializationFactory factory = new SerializationFactory(conf);
  12. int i = 0;
  13. // 获取最大的数据块位置maxBlockLocations,取参数mapreduce.job.max.split.locations,参数未配置默认为10
  14. int maxBlockLocations = conf.getInt(MRConfig.MAX_BLOCK_LOCATIONS_KEY,
  15. MRConfig.MAX_BLOCK_LOCATIONS_DEFAULT);
  16. // 通过输出流out的getPos()方法获取输出流out的当前位置offset
  17. long offset = out.getPos();
  18. // 遍历数组array中每个元素split
  19. for(T split: array) {
  20. // 通过输出流out的getPos()方法获取输出流out的当前位置prevCount
  21. long prevCount = out.getPos();
  22. // 往输出流out中写入String,内容为split对应的类名
  23. Text.writeString(out, split.getClass().getName());
  24. // 获取序列化器Serializer实例serializer
  25. Serializer<T> serializer =
  26. factory.getSerializer((Class<T>) split.getClass());
  27. // 打开serializer,接入输出流out
  28. serializer.open(out);
  29. // 将split序列化到输出流out
  30. serializer.serialize(split);
  31. // 通过输出流out的getPos()方法获取输出流out的当前位置currCount
  32. long currCount = out.getPos();
  33. // 通过split的getLocations()方法,获取位置信息locations
  34. String[] locations = split.getLocations();
  35. if (locations.length > maxBlockLocations) {
  36. LOG.warn("Max block location exceeded for split: "
  37. + split + " splitsize: " + locations.length +
  38. " maxsize: " + maxBlockLocations);
  39. locations = Arrays.copyOf(locations, maxBlockLocations);
  40. }
  41. // 构造split对应的元数据信息,并加入info指定位置,
  42. // offset为当前split在split文件中的起始位置,数据长度为split.getLength(),位置信息为locations
  43. info[i++] =
  44. new JobSplit.SplitMetaInfo(
  45. locations, offset,
  46. split.getLength());
  47. // offset增加当前split已写入数据大小
  48. offset += currCount - prevCount;
  49. }
  50. }
  51. // 返回分片元数据信息SplitMetaInfo数组info
  52. return info;
  53. }

writeNewSplits()方法的逻辑比较清晰,大体如下:

1、根据array的大小,构造同等大小的分片元数据信息SplitMetaInfo数组info,array其实是传入的分片数组;

2、如果array中有数据:

2.1、创建序列化工厂SerializationFactory实例factory;

2.2、获取最大的数据块位置maxBlockLocations,取参数mapreduce.job.max.split.locations,参数未配置默认为10;

2.3、通过输出流out的getPos()方法获取输出流out的当前位置offset;

2.4、遍历数组array中每个元素split:

2.4.1、通过输出流out的getPos()方法获取输出流out的当前位置prevCount;

2.4.2、往输出流out中写入String,内容为split对应的类名;

2.4.3、获取序列化器Serializer实例serializer;

2.4.4、打开serializer,接入输出流out;

2.4.5、将split序列化到输出流out;

2.4.6、通过输出流out的getPos()方法获取输出流out的当前位置currCount;

2.4.7、通过split的getLocations()方法,获取位置信息locations;

2.4.8、确保位置信息locations的长度不能超过maxBlockLocations,超过则截断;

2.4.9、构造split对应的元数据信息,并加入info指定位置,offset为当前split在split文件中的起始位置,数据长度为split.getLength(),位置信息为locations;

2.4.10、offset增加当前split已写入数据大小;

3、返回分片元数据信息SplitMetaInfo数组info。

其中,序列化split对象时,我们以FileSplit为例来分析,其write()方法如下:

  1. @Override
  2. public void write(DataOutput out) throws IOException {
  3. // 写入文件路径全名
  4. Text.writeString(out, file.toString());
  5. // 写入分片在文件中的起始位置
  6. out.writeLong(start);
  7. // 写入分片在文件中的长度
  8. out.writeLong(length);
  9. }

比较简单,分别写入文件路径全名、分片在文件中的起始位置、分片在文件中的长度三个信息。

综上所述,分片文件job.split文件的内容为:

1、文件头:"SPL"+int类型版本号1;

2、分片类信息:String类型split对应类名;

3、分片数据信息:String类型文件路径全名+Long类型分片在文件中的起始位置+Long类型分片在文件中的长度。

而在最后,构造分片元数据信息时,产生的是JobSplit的静态内部类SplitMetaInfo对象,包括分片位置信息locations、split在split文件中的起始位置offset、分片长度split.getLength()。

下面,我们再看下分片的元数据信息文件是如何产生的,让我们来研究下writeJobSplitMetaInfo()方法,代码如下:

  1. // 写入作业分片元数据信息
  2. private static void writeJobSplitMetaInfo(FileSystem fs, Path filename,
  3. FsPermission p, int splitMetaInfoVersion,
  4. JobSplit.SplitMetaInfo[] allSplitMetaInfo)
  5. throws IOException {
  6. // write the splits meta-info to a file for the job tracker
  7. // 调用HDFS文件系统FileSystem的create()方法,生成分片元数据信息文件,并获取文件系统数据输出流FSDataOutputStream实例out,
  8. // 对应文件路径为jobSubmitDir/job.splitmetainfo,jobSubmitDir为参数yarn.app.mapreduce.am.staging-dir指定的路径/作业所属用户user/.staging/作业ID
  9. // 对应权限为JobSubmissionFiles.JOB_FILE_PERMISSION,即0644,rw-r--r--
  10. FSDataOutputStream out =
  11. FileSystem.create(fs, filename, p);
  12. // 写入分片元数据头部信息UTF-8格式的字符串"META-SPL"的字节数组byte[]
  13. out.write(JobSplit.META_SPLIT_FILE_HEADER);
  14. // 写入分片元数据版本号splitMetaInfoVersion,当前为1
  15. WritableUtils.writeVInt(out, splitMetaInfoVersion);
  16. // 写入分片元数据个数,为分片元数据信息SplitMetaInfo数组个数allSplitMetaInfo.length
  17. WritableUtils.writeVInt(out, allSplitMetaInfo.length);
  18. // 遍历分片元数据信息SplitMetaInfo数组allSplitMetaInfo中每个splitMetaInfo,挨个写入输出流
  19. for (JobSplit.SplitMetaInfo splitMetaInfo : allSplitMetaInfo) {
  20. splitMetaInfo.write(out);
  21. }
  22. // 关闭输出流out
  23. out.close();
  24. }

writeJobSplitMetaInfo()方法的主体逻辑也十分清晰,大体如下:

1、调用HDFS文件系统FileSystem的create()方法,生成分片元数据信息文件,并获取文件系统数据输出流FSDataOutputStream实例out,对应文件路径为jobSubmitDir/job.splitmetainfo,jobSubmitDir为参数yarn.app.mapreduce.am.staging-dir指定的路径/作业所属用户user/.staging/作业ID,对应权限为JobSubmissionFiles.JOB_FILE_PERMISSION,即0644,rw-r--r--;

2、写入分片元数据头部信息UTF-8格式的字符串"META-SPL"的字节数组byte[];

3、写入分片元数据版本号splitMetaInfoVersion,当前为1;

4、写入分片元数据个数,为分片元数据信息SplitMetaInfo数组个数allSplitMetaInfo.length;

5、遍历分片元数据信息SplitMetaInfo数组allSplitMetaInfo中每个splitMetaInfo,挨个写入输出流;

6、关闭输出流out。
        我们看下如何序列化JobSplit.SplitMetaInfo,将其写入文件,JobSplit.SplitMetaInfo的write()如下:

  1. public void write(DataOutput out) throws IOException {
  2. // 将分片位置个数写入分片元数据信息文件
  3. WritableUtils.writeVInt(out, locations.length);
  4. // 遍历位置信息,写入分片元数据信息文件
  5. for (int i = 0; i < locations.length; i++) {
  6. Text.writeString(out, locations[i]);
  7. }
  8. // 写入分片元数据信息的起始位置
  9. WritableUtils.writeVLong(out, startOffset);
  10. // 写入分片大小
  11. WritableUtils.writeVLong(out, inputDataLength);
  12. }

每个分片的元数据信息,包括分片位置个数、分片文件位置、分片元数据信息的起始位置、分片大小等内容。

总结

JobSplitWriter被作业客户端用于写分片相关文件,包括分片数据文件job.split和分片元数据信息文件job.splitmetainfo。分片数据文件job.split存储的主要是每个分片对应的HDFS文件路径,和其在HDFS文件中的起始位置、长度等信息,而分片元数据信息文件job.splitmetainfo存储的则是每个分片在分片数据文件job.split中的起始位置、分片大小等信息。

job.split文件内容:文件头 + 分片 + 分片 + ... + 分片

文件头:"SPL" + 版本号1

分片:分片类 + 分片数据,分片类=String类型split对应类名,分片数据=String类型HDFS文件路径全名+Long类型分片在HDFS文件中的起始位置+Long类型分片在HDFS文件中的长度

job.splitmetainfo文件内容:文件头 + 分片元数据个数 + 分片元数据 + 分片元数据 + ... + 分片元数据

文件头:"META-SPL" + 版本号1

分片元数据个数:分片元数据的个数

分片元数据:分片位置个数+分片位置+在分片文件job.split中的起始位置+分片大小

MapReduce源码分析之JobSplitWriter的更多相关文章

  1. MapReduce源码分析之JobSubmitter(一)

    JobSubmitter,顾名思义,它是MapReduce中作业提交者,而实际上JobSubmitter除了构造方法外,对外提供的唯一一个非private成员变量或方法就是submitJobInter ...

  2. MapReduce源码分析之新API作业提交(二):连接集群

    MapReduce作业提交时连接集群是通过Job的connect()方法实现的,它实际上是构造集群Cluster实例cluster,代码如下: private synchronized void co ...

  3. MapReduce源码分析之LocatedFileStatusFetcher

    LocatedFileStatusFetcher是MapReduce中一个针对给定输入路径数组,使用配置的线程数目来获取数据块位置的实用类.它的主要作用就是利用多线程技术,每个线程对应一个任务,每个任 ...

  4. mapreduce源码分析总结

    一 MapReduce概述 Map/Reduce是一个用于大规模数据处理的分布式计算模型,它最初是由Google工程师设计并实现的,Google已经将它完整的MapReduce论 文公开发布了.其中对 ...

  5. MapReduce源码分析之作业Job状态机解析(一)简介与正常流程浅析

    作业Job状态机维护了MapReduce作业的整个生命周期,即从提交到运行结束的整个过程.Job状态机被封装在JobImpl中,其主要包括14种状态和19种导致状态发生的事件. 作业Job的全部状态维 ...

  6. MapReduce源码分析之Task中关于对应TaskAttempt存储Map方案的一些思考

    我们知道,MapReduce有三层调度模型,即Job——>Task——>TaskAttempt,并且: 1.通常一个Job存在多个Task,这些Task总共有Map Task和Redcue ...

  7. MapReduce源码分析之InputFormat

    InputFormat描述了一个Map-Reduce作业中的输入规范.Map-Reduce框架依靠作业的InputFormat实现以下内容: 1.校验作业的输入规范: 2.分割输入文件(可能为多个), ...

  8. Hadoop2源码分析-MapReduce篇

    1.概述 前面我们已经对Hadoop有了一个初步认识,接下来我们开始学习Hadoop的一些核心的功能,其中包含mapreduce,fs,hdfs,ipc,io,yarn,今天为大家分享的是mapred ...

  9. Yarn源码分析之MRAppMaster上MapReduce作业处理总流程(二)

    本文继<Yarn源码分析之MRAppMaster上MapReduce作业处理总流程(一)>,接着讲述MapReduce作业在MRAppMaster上处理总流程,继上篇讲到作业初始化之后的作 ...

随机推荐

  1. 洛谷——P1147 连续自然数和

    P1147 连续自然数和 题目描述 对一个给定的自然数M,求出所有的连续的自然数段,这些连续的自然数段中的全部数之和为M. 例子:1998+1999+2000+2001+2002 = 10000,所以 ...

  2. [POI2014]Little Bird

    题目大意: $n(n\le10^6)$个点排成一排,每个点有一个高度$h_i$,现在要从$1$号点跳到$n$号点,从$i$号点出发跳到的点$j$满足$i<j\le i+k$,若$h_j\ge h ...

  3. linux命令和工具

    环境搭建 lnmp环境搭建 命令 uname -a 查看linux版本 lsof -i:80 查看端口被那个程序占用 lsof -p pid号 查看引用的文件 netstat -apn|grep 80 ...

  4. 八. 输入输出(IO)操作2.面向字符的输入流

    字符流是针对字符数据的特点进行过优化的,因而提供一些面向字符的有用特性,字符流的源或目标通常是文本文件. Reader和Writer是java.io包中所有字符流的父类.由于它们都是抽象类,所以应使用 ...

  5. 如何隐藏 Safari 中 input 标签的 autofill 图标

    Safari 浏览器会为 <input type="passport"> 标签自动添加一个小锁的图标(如下图),本意上是让用户可以从这里选择相应的 用户名/密码 进行自 ...

  6. SQL Server查看Sql语句执行的耗时和IO消耗

    原文:SQL Server查看Sql语句执行的耗时和IO消耗 在做系统过程中,经常需要针对某些场景进行性能优化,那么如何判定性能优化的效果呢?肯定需要知道优化之前Sql语句的耗时和优化之后Sql语句的 ...

  7. The newly created daemon process has a different context than expected

    Error: The newly created daemon process has a different context than expected. It won't be possible ...

  8. hdu5884 Sort

    //--------------------------------------------------------------- /*---贪心策略+二分+队列 -----将原数组排序,然后每次取k ...

  9. uVa 12563 Jin Ge Jin Qu

    分析可知,虽然t<109,但是总曲目时间大于t,实际上t不会超过180*n+678.此问题涉及到两个目标信息,首先要求曲目数量最多,在此基础上要求所唱的时间尽量长.可以定义 状态dp[i][j] ...

  10. 关于hibernate中映射中有many to one等外键关联时的问题

    hibernate中的对象的3种状态的理解及导致报错object references an unsaved transient instance - save the transient insta ...