商用hadoop集群的配置命令分布
角色 |
安装 |
hdfs配置 |
yarn配置 |
hdfs 格式化 |
启动yarn服务 |
启动hdfs服务 |
master |
yum install hadoop-hdfs-namenode yum install hadoop-yarn-resourcemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
hdfs>hdfs namenode -format |
root>service hadoop-yarn-resourcemanager start |
root>service hadoop-hdfs-namenode start |
slave |
yum install hadoop-hdfs-datanode yum install hadoop-yarn-nodemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-yarn-nodemanager start |
root>service hadoop-hdfs-namenode start |
|
proxy |
yum install hadoop-mapreduce-historyserver yum install hadoop-yarn-proxyserver |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-mapreduce-historyserver start root>service hadoop-yarn-proxyserver start |
||
client |
yum install hadoop-client |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
角色 |
hdfs本地存储目录 |
hdfs云存储目录 |
yarn本地存储目录 |
master |
mkdir -p /data/dfs/nn chown hdfs:hadoop |
||
slave |
mkdir -p /data/dfs/dn chown hdfs:hadoop |
mkdir -p /data/yarn/local mkdir -p /data/yarn/logs |
|
proxy |
|||
client |
hdfs dfs –mkdir /tmp hdfs dfs –mkdir /user/history hdfs dfs –mkdir /var/log/hadoop-yarn |
hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。
Hdfs服务web地址 |
cMaster:50070 |
Yarn服务web地址 |
cMaster:8088 |
JobHistory服务web地址 |
cProxy:19888 |
建立私有账户joe
[root@iClient~]#adduser joe |
本地新建joe用户 |
[root@iClient~]#passwd joe |
更改joe密码 |
[hdfs@iClient~]#hdfs dfs –mkdir /user/joe |
在hdfs建立joe的家目录 |
[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe |
给家目录授权 |
[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput |
本地文件yourdata.txt上传至joeInput |
[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000 |
执行例程的pi,4个map,做10000次。 |
商用hadoop集群的配置命令分布的更多相关文章
- 【Big Data】HADOOP集群的配置(一)
Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop集群的配置(一)
摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...
- 【Big Data】HADOOP集群的配置(二)
Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop的学习前奏(二)——Hadoop集群的配置
前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux: CentOS 6.6(Final) x64 JDK: java version "1.7 ...
- 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)
http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...
- hadoop 集群的配置
在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...
- Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS
摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...
- hadoop集群单点配置
=================== =============================== ----------------hadoop集群搭建 --------------------- ...
- Hadoop集群安装配置
一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...
随机推荐
- Suring开发集成部署时问题记录
前言 开发时一定要用管理员模式打开VS或者VSCODE进行开发,同时不要在nuget上直接下载,要去github上下载源代码调试.第一方便调试,第二Surging迭代较快,nuget版本往往不是最新的 ...
- python 14 装饰器
目录 装饰器 1. 开放封闭原则 装饰器 1. 开放封闭原则 扩展是开放的,增加新的功能:修改源码(修改已经实现的功能)是封闭的. 在不改变源码及调用方式的前提下额外增加新的功能. # 版一: imp ...
- CENTOS服务器基础教程-U盘系统盘制作
什么都要用到一点点,会一点点,现在的USB3.0基本上服务器都已经支持.小编给大家介绍基础篇:如何使用U盘制作系统安装盘 工具/原料 U盘 UltraISO工具 方法/步骤 准备一个U ...
- Java基础之多态和泛型浅析
Java基础之多态和泛型浅析 一.前言: 楼主看了许多资料后,算是对多态和泛型有了一些浅显的理解,这里做一简单总结 二.什么是多态? 多态(Polymorphism)按字面的意思就是“多种状态”.在面 ...
- 你知道JavaScript这六种错误类型吗?
前言 今日话题,了解JavaScript的错误处理机制. 一.ReferenceError 引用一个不存在的变量时发生的错误.将一个值分配给无法分配的对象,比如对函数的运行结果或者函数赋值. 举栗子 ...
- JavaScript算法模式——动态规划和贪心算法
动态规划 动态规划(Dynamic Programming,DP)是一种将复杂问题分解成更小的子问题来解决的优化算法.下面有一些用动态规划来解决实际问题的算法: 最少硬币找零 给定一组硬币的面额,以及 ...
- 超越Storm,SparkStreaming——Flink如何实现有状态的计算
流式计算分为无状态和有状态两种情况.无状态计算观察每个独立的事件,Storm就是无状态的计算框架,每一条消息来了以后和前后都没有关系,一条是一条.比如我们接收电力系统传感器的数据,当电压超过240v就 ...
- kafka消息分发策略分析
当我们使用kafka向指定Topic发送消息时,如果该Topic具有多个partition,无论消费者有多少,最终都会保证一个partition内的消息只会被一个Consumer group中的一个C ...
- SCRUM的五个事件
转自:http://www.scrumcn.com/agile/scrum-knowledge-library/scrum.html#tab-id-7 Scrum 使用固定的事件来产生规律性,以此来减 ...
- bzoj2049 Cave 洞穴勘测 lct
这里比上次多了几个操作. 1. make_root(u) 换根节点, 先access(u), 再splay(u),将u移动到splay树的最顶上, 现在这棵splay对于root来说 只有左子树上有东 ...