YARN的设计

【YARN的设计】的更多相关文章

YARN:下一代 Hadoop 计算平台我们现在稍微改变一下用辞.以下名称的改动有助于更好地了解 YARN 的设计: ResourceManager 代替集群管理器 ApplicationMaster 代替一个专用且短暂的 JobTracker NodeManager 代替 TaskTracker 一个分布式应用程序代替一个 MapReduce 作业 YARN 是下一代 Hadoop 计算平台,如下所示. YARN 的架构在 YARN 架构中,一个全局 ResourceManager 以主要…

Hadoop YARN架构设计要点

YARN是开源项目Hadoop的一个资源管理系统,最初设计是为了解决Hadoop中MapReduce计算框架中的资源管理问题,但是现在它已经是一个更加通用的资源管理系统,可以把MapReduce计算框架作为一个应用程序运行在YARN系统之上,通过YARN来管理资源.如果你的应用程序也需要借助YARN的资源管理功能,你也可以实现YARN提供的编程API,将你的应用程序运行于YARN之上,将资源的分配与回收统一交给YARN去管理,可以大大简化资源管理功能的开发.当前,也有很多应用程序已经可以构建于Y…

YARN架构设计详解

一.YARN基本服务组件 YARN是Hadoop 2.0中的资源管理系统,它的基本设计思想是将MRv1中的JobTracker拆分成了两个独立的服务:一个全局的资源管理器ResourceManager和每个应用程序特有的ApplicationMaster.其中ResourceManager负责整个系统的资源管理和分配,而ApplicationMaster负责单个应用程序的管理. YARN总体上仍然是master/slave结构,在整个资源管理框架中,resourcemanager为master,…

Hadoop2.0(HDFS2)以及YARN设计的亮点

YARN总体上仍然是Master/Slave结构,在整个资源管理框架中,ResourceManager为Master,NodeManager为Slave,ResouceManager负责对各个NodeManager上的资源进行统一管理和调度.当用户提交一个应用程序时,需要提供一个用以跟踪和管理这个程序的ApplicationMaster,它负责向ResourceManger申请资源,并要求NodeManager启动可以占用一定资源的任务. Hadoop2.0 YARN包含以下实体,可以看图: R…

YARN与MRv1的对比

YARN与MRv1的对比转载请注明出处:http://www.cnblogs.com/BYRans/ Hadoop 1.0存在的问题由于Hadoop 1.0的良好特性,Hadoop 1.0被应用到了各行各业.但是Hadoop的最初设计是为了用于搜索引擎业务(如Yahoo.Google等公司),其最初的设计中存在的一些问题逐渐凸现出来.主要存在以下几个方面: 存在单点故障,影响可扩展性和稳定性 Hadoop 1.0中HDFS的NameNode和MapReduce的JobTracker设计为单一…

YARN中自己总结的几个关键点

以前在Hadoop 1.0中JobTracker主要完成两项功能:资源的管理和作业控制.在集群规模过大的场景下,JobTracker 存在以下不足: 1)JobTracker 单点故障. 2)JobTracker 承受的访问压力大,影响系统的扩展性. 3)不支持MapReduce之外的计算框架,比如Storm.Spa rk.Flink 因此在YARN的设计中,资源的管理和作业控制是分离开的.取代JobTracker的是ResourceManager.ApplicationMaster两个部分.…

Hadoop YARN资源隔离技术

YARN对内存资源和CPU资源采用了不同的资源隔离方案.对于内存资源,它是一种限制性资源,它的量的大小直接决定应用程序的死活,因为应用程序到达内存限制,会发生OOM,就会被杀死.CPU资源一般用Cgroups进行资源控制,Cgroups控制资源测试可以参见这篇博文Cgroups控制cpu,内存,io示例,内存资源隔离除Cgroups之外提供了另外一个更灵活的方案,就是线程监控方案. 默认情况下YARN采用线程监控的方案控制内存使用,采用这种机制的原因有两点: 1.Java创建子进程采用了“for…