Hadoop CapacitySchedule配置

下面是Hadoop中CapacitySchedule配置，包含了新建队列和子队列

   <configuration>

     <property>

       <name>yarn.scheduler.capacity.maximum-am-resource-percent</name>

       <value>0.2</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.maximum-applications</name>

       <value>10000</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.node-locality-delay</name>

       <value>40</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.queue-mappings-override.enable</name>

       <value>false</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.resource-calculator</name>

       <value>org.apache.hadoop.yarn.util.resource.DominantResourceCalculator</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.accessible-node-labels</name>

       <value>*</value>

       <description></description>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.acl_administer_queue</name>

       <value>*</value>

       <description></description>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.capacity</name>

       <value>100</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.default.acl_submit_applications</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.default.capacity</name>

       <value>50</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.default.maximum-capacity</name>

       <value>70</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.default.state</name>

       <value>RUNNING</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.default.user-limit-factor</name>

       <value>1</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.queues</name>

       <value>default,spark,hadoop</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.acl_administer_queue</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.acl_submit_applications</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.capacity</name>

       <value>30</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.maximum-capacity</name>

       <value>70</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.minimum-user-limit-percent</name>

       <value>100</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.ordering-policy</name>

       <value>fifo</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.state</name>

       <value>RUNNING</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.user-limit-factor</name>

       <value>1</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.acl_administer_queue</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.acl_submit_applications</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.capacity</name>

       <value>20</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.maximum-capacity</name>

       <value>70</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.minimum-user-limit-percent</name>

       <value>100</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.ordering-policy</name>

       <value>fifo</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.state</name>

       <value>RUNNING</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.hadoop.user-limit-factor</name>

       <value>1</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.queues</name>

       <value>spark1,spark2</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.acl_administer_queue</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.acl_submit_applications</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.capacity</name>

       <value>50</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.maximum-capacity</name>

       <value>70</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.minimum-user-limit-percent</name>

       <value>100</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.ordering-policy</name>

       <value>fifo</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.state</name>

       <value>RUNNING</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark1.user-limit-factor</name>

       <value>1</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.acl_administer_queue</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.acl_submit_applications</name>

       <value>*</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.capacity</name>

       <value>50</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.maximum-capacity</name>

       <value>70</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.minimum-user-limit-percent</name>

       <value>100</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.ordering-policy</name>

       <value>fifo</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.state</name>

       <value>RUNNING</value>

     </property>

     <property>

       <name>yarn.scheduler.capacity.root.spark.spark2.user-limit-factor</name>

       <value>1</value>

     </property>

   </configuration>

Hadoop CapacitySchedule配置的更多相关文章

CentOS 7 Hadoop安装配置
前言:我使用了两台计算机进行集群的配置,如果是单机的话可能会出现部分问题.首先设置两台计算机的主机名 root 权限打开/etc/host文件再设置hostname,root权限打开/etc/hos ...
ubuntu下hadoop环境配置
软件环境: 虚拟机:VMware Workstation 10 操作系统:ubuntu-12.04-desktop-amd64 JAVA版本:jdk-7u55-linux-x64 Hadoop版本:h ...
hadoop(四):配置参数
hadoop参数配置,主要是配置 core-site.xml,hdfs-site.xml,mapred-site.xml 三个配置文件,core-site.xml是全局配置,hdfs-site.xml ...
hadoop mapred-queue-acls 配置(转)
hadoop作业提交时可以指定相应的队列,例如:-Dmapred.job.queue.name=queue2通过对mapred-queue-acls.xml和mapred-site.xml配置可以对不 ...
hadoop安装配置——伪分布模式
1. 安装这里以安装hadoop-0.20.2为例先安装java,参考这个去着下载hadoop 解压 2. 配置修改环境变量 vim ~/.bashrc export HADOOP_HOME= ...
Hadoop平台配置总结
hadoop的配置,个人感觉是非常容易出问题.一个原因是要配置的地方多,还有个原因就是集群配置要在几台机器上都配置正确,才能保证配置好hadoop,跑起任务. 经过昨晚加今天上午的折腾,总算成功配好了 ...
有关hadoop分布式配置详解
linux配置ssh无密码登录配置ssh无密码登录,先要安装openssh,如下: yum install openssh-clients 准备两台linux服务器或虚拟机,设置两台linux的ho ...
CentOS Hadoop安装配置详细
总体思路,准备主从服务器,配置主服务器可以无密码SSH登录从服务器,解压安装JDK,解压安装Hadoop,配置hdfs.mapreduce等主从关系. 1.环境,3台CentOS7,64位,Hadoo ...
Hadoop的配置过程（虚拟机中的伪分布模式）
1引言 hadoop如今已经成为大数据处理中不可缺少的关键技术,在如今大数据爆炸的时代,hadoop给我们处理海量数据提供了强有力的技术支撑.因此,了解hadoop的原理与应用方法是必要的技术知识. ...

随机推荐

js事件的捕获和冒泡阶段
讨论的主要是两个事件模型:IE事件模型与DOM事件模型 IE内核浏览器的事件模型是冒泡型事件(没有捕获事件过程),事件句柄的触发顺序是从ChildNode到ParentNode. <div id ...
Configure文件学习
Linux安装软件有一种方式就是通过源码安装,源码通常是一个压缩包,打开压缩包,经常会看到一个叫configure的文件,而不见makefile文件.通常我们在自己的电脑写应用的时候都是通过makef ...
E - Sudoku HDU - 5547 （搜索+暴力）
题目链接:https://cn.vjudge.net/problem/HDU-5547 具体思路:对于每一位上,我们可以从1到4挨着去试, 具体判断这一位可不可以的时候,看当前这一位上的行和列有没有冲 ...
【算法学习】【洛谷】cdq分治 & P3810 三维偏序
cdq是何许人也?请参看这篇:https://wenku.baidu.com/view/3b913556fd0a79563d1e7245.html. 在这篇论文中,cdq提出了对修改/询问型问题(Mo ...
imperva 更改web界面的密码
通过SSH作为用户根登录到MX(或通过另一个用户并提升) 运行命令“su oracle” //首先切换到oracle用户 sqlplus secure/(密码) /用此命令登录到数据库 s ...
c# List 所有操作方法例子
using System; using System.Collections.Generic; using System.IO; using System.Linq; using System.Ref ...
http请求与传参
这并不算是文章,暂时只做粗略地记录,以免忘记,因此会显得杂乱无章,随便抓了几个包和对postman截图,日后有空再完善 1.get方式只有一种方式,那就是在url后面跟参数 2.post方式 1)表 ...
vue总结 08状态管理vuex
状态管理类 Flux 状态管理的官方实现由于状态零散地分布在许多组件和组件之间的交互中,大型应用复杂度也经常逐渐增长.为了解决这个问题,Vue 提供 vuex:我们有受到 Elm 启发的状态管 ...
style一张图--openlayers
React 学习一运行
最近项目准备使用React作为前端,主要第一比较火,第二比较小.抽空先来学习一下. 首先下载资源文件:压缩后不到50KB,是挺小的哦. 其中:react.js 是 React 的核心库,react-d ...

Hadoop CapacitySchedule配置

Hadoop CapacitySchedule配置的更多相关文章

随机推荐

热门专题