角色

安装

hdfs配置

yarn配置

hdfs 格式化

启动yarn服务

启动hdfs服务

master

yum install hadoop-hdfs-namenode

yum install hadoop-yarn-resourcemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

hdfs>hdfs namenode -format

root>service hadoop-yarn-resourcemanager start

root>service hadoop-hdfs-namenode start

slave

yum install hadoop-hdfs-datanode

yum install hadoop-yarn-nodemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-yarn-nodemanager start

root>service hadoop-hdfs-namenode start

proxy

yum install hadoop-mapreduce-historyserver

yum install hadoop-yarn-proxyserver

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-mapreduce-historyserver start

root>service hadoop-yarn-proxyserver start

client

yum install hadoop-client

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

角色

hdfs本地存储目录

hdfs云存储目录

yarn本地存储目录

master

mkdir -p /data/dfs/nn

chown hdfs:hadoop

slave

mkdir -p /data/dfs/dn

chown hdfs:hadoop

mkdir -p /data/yarn/local

mkdir -p /data/yarn/logs

proxy

client

hdfs dfs –mkdir /tmp

hdfs dfs –mkdir /user/history

hdfs dfs –mkdir /var/log/hadoop-yarn

hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。

Hdfs服务web地址

cMaster:50070

Yarn服务web地址

cMaster:8088

JobHistory服务web地址

cProxy:19888

建立私有账户joe

[root@iClient~]#adduser joe

本地新建joe用户

[root@iClient~]#passwd joe

更改joe密码

[hdfs@iClient~]#hdfs dfs –mkdir /user/joe

在hdfs建立joe的家目录

[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe

给家目录授权

[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput

本地文件yourdata.txt上传至joeInput

[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000

执行例程的pi,4个map,做10000次。

商用hadoop集群的配置命令分布的更多相关文章

  1. 【Big Data】HADOOP集群的配置(一)

    Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  2. Hadoop集群的配置(一)

    摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...

  3. 【Big Data】HADOOP集群的配置(二)

    Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  4. Hadoop的学习前奏(二)——Hadoop集群的配置

    前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux:  CentOS 6.6(Final) x64   JDK:    java version "1.7 ...

  5. 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)

    http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...

  6. hadoop 集群的配置

    在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...

  7. Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS

    摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...

  8. hadoop集群单点配置

    =================== =============================== ----------------hadoop集群搭建 --------------------- ...

  9. Hadoop集群安装配置

    一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...

随机推荐

  1. 玩转 SpringBoot 2 快速搭建 | RESTful Api 篇

    概述 RESTful 是一种架构风格,任何符合 RESTful 风格的架构,我们都可以称之为 RESTful 架构.我们常说的 RESTful Api 是符合 RESTful 原则和约束的 HTTP ...

  2. Spring Boot 2.0 教程 | 快速集成整合消息中间件 Kafka

    欢迎关注个人微信公众号: 小哈学Java, 每日推送 Java 领域干货文章,关注即免费无套路附送 100G 海量学习.面试资源哟!! 个人网站: https://www.exception.site ...

  3. 洛谷P3951 小凯的疑惑 - 数学 /扩展欧几里得

    传送门 题意:求出a和b不能通过线性组合(即n*a+m*b)得到的最大值: 思路:摘自洛谷: 不妨设 a<b 假设答案为 x 若 x≡m*a ( mod b )(1≤m≤b−1) (mod3)什 ...

  4. 最短路算法 Dijkstra 入门

    dijkstra算法 是一种单源点最短路算法求出一个点到其他所有点的最短路. 给你这样的一个图,需要求出1号点到其他点的最短距离是多少. 首先我们开一个数组 d[N],d[x] 代表着从起点出发到x点 ...

  5. 杭电多校第十场 hdu6432 Cyclic 打表找规律

    Cyclic Time Limit: 2000/1000 MS (Java/Others)    Memory Limit: 524288/524288 K (Java/Others)Total Su ...

  6. Gym 101964 题解

    B:Broken Watch (别问,问就是队友写的) 代码: import java.awt.List; import java.io.BufferedInputStream; import jav ...

  7. CF1007B Pave the Parallelepiped 容斥原理

    Pave the Parallelepiped time limit per test 2 seconds memory limit per test 256 megabytes input stan ...

  8. codeforces 766 C. Mahmoud and a Message(简单dp)

    题目链接:http://codeforces.com/contest/766/problem/C 题意:给你一个长度为n的字符串,这个字符串只包含小写字母,然后让你把这个字符串进行分割,形成若干个小的 ...

  9. lightoj 1245 Harmonic Number (II)(简单数论)

    题目链接:http://www.lightoj.com/volume_showproblem.php?problem=1245 题意:求f(n)=n/1+n/2.....n/n,其中n/i保留整数 显 ...

  10. kubernetes Value:将磁盘挂载到容器,PV,PVC

    6.1.介绍卷 6.1.1.卷的类型 emptyDir-用于存储临时数据的简单空目录 hostPath-用于将目录从工作节点的文件系统挂载到pod nfs-挂载到pod中的NFS共享卷. 还有其他的如 ...