1. Mapper 与 Reducer 数量 对于一个默认的MapReduce Job 来说,map任务的数量等于输入文件被划分成的分块数,这个取决于输入文件的大小以及文件块的大小(如果此文件在 HDFS中).但是对于 reduce的任务,并不会自动决定reducer数目的大小,若未指定,则默认为1.例如: 但单个reducer任务执行效率不尽人意,在实际场景中会将它设置为一个较大的数值.此时,决定Key条目被送往哪个reducer由方法 setPartitionerClass() 指定:job…

本文转载:http://hi.baidu.com/_kouu/item/dc8d727b530f40346dc37cd1 在执行一个Job的时候,Hadoop会将输入数据划分成N个Split,然后启动相应的N个Map程序来分别处理它们. 数据如何划分?Split如何调度(如何决定处理Split的Map程序应该运行在哪台TaskTracker机器上)?划分后的数据又如何读取?这就是本文所要讨论的问题. 先从一张经典的MapReduce工作流程图出发: 1.运行mapred程序: 2.本次运行将生成…

InputFormat是MapReduce编程模型包括5个可编程组件之一,其余4个是Mapper.Partitioner.Reducer和OutputFormat. 新版Hadoop InputFormat是一个抽象类,之前的InputFormat是一个接口. InputFormat类有两个抽象方法. 方法getSplits将输入数据切分成InputSlits,InputSplits的个数即为map tasks的个数,InputSplits的大小默认为块大小,即64Mpublic abstrac…

Hadoop可以处理不同数据格式(数据源)的数据,从文本文件到(非)关系型数据库,这很大程度上得益于Hadoop InputFormat的可扩展性设计,InputFormat层次结构图如下:  …

FileInputFormat是所有使用文件作为数据源的InputFormat的积累.它提供两个功能:一个是定义哪些文件包含在一个作业的输入中:一个为输入文件生成分片的实现.自动将作业分块 作业分块大小与mapred-site.xml中的mapred.min.split.size和mapred.min.split.size和blocksize有关系.分片大小由如下公式来决定: 分片大小 = max(minimumSize, min(maximumSize, blockSize)) 如果想避免文件…

之前学习hadoop的时候,一直希望可以调试hadoop源码,可是一直没找到有效的方法,今天在调试矩阵乘法的时候发现了调试的方法,所以在这里记录下来. 1)事情的起因是想在一个Job里设置map的数量(虽然最终的map数量是由分片决定的),在hadoop1.2.1之前,设置方法是: job.setNumMapTasks() 不过,hadoop1.2.1没有了这个方法,只保留了设置reduce数量的方法.继续搜索资料,发现有同学提供了另外一种方法,就是使用configuration设置,设置方式如…

InputFormat有两个抽象方法: getSplits     createRecordReader   InputSplits 将数据按照Split进行切分,一个Split分给一个task执行. RecordReader 在Task中将Split按照key value进行切分,每个RecordReader切分的数据都给map方法执行一遍.   RecordReader三个抽象方法: initialize     用来seek位置等 getCurrentKey getCurrentValue…

/** Splits files returned by {@link #listStatus(JobConf)} when * they're too big.*/ public InputSplit[] getSplits(JobConf job, int numSplits) throws IOException { //计时器, StopWatch sw = new StopWatch().start(); // FileStatus[] files = listStatus(job);…

上篇文章hadoop之mapreduce详解(基础篇)我们了解了mapreduce的执行过程和shuffle过程,本篇文章主要从mapreduce的组件和输入输出方面进行阐述. 一.mapreduce作业控制模块以及其他功能 mapreduce包括作业控制模块,编程模型,数据处理引擎.这里我们重点阐述作业控制模块MRAppMaster. 1.1.MRAppMaster的构成 MRAppMaster主要有如下几个组件构成,如下图所示: 1.ContainerAllocator:与resourcem…

MapReduce编程模型 在Google的一篇重要的论文MapReduce: Simplified Data Processing on Large Clusters中提到,Google公司有大量的诸如Web请求日志.爬虫抓取的文档之类的数据需要处理,由于数据量巨大,只能将其分散在成百上千台机器上处理,如何处理并行计算.如何分发数据.如何处理错误,所有这些问题综合在一起,需要大量的代码处理,因此也使得原本简单的运算变得难以处理. 为了解决上述复杂的问题,Google设计一个新的抽象模型,使用这…