角色

安装

hdfs配置

yarn配置

hdfs 格式化

启动yarn服务

启动hdfs服务

master

yum install hadoop-hdfs-namenode

yum install hadoop-yarn-resourcemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

hdfs>hdfs namenode -format

root>service hadoop-yarn-resourcemanager start

root>service hadoop-hdfs-namenode start

slave

yum install hadoop-hdfs-datanode

yum install hadoop-yarn-nodemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-yarn-nodemanager start

root>service hadoop-hdfs-namenode start

proxy

yum install hadoop-mapreduce-historyserver

yum install hadoop-yarn-proxyserver

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-mapreduce-historyserver start

root>service hadoop-yarn-proxyserver start

client

yum install hadoop-client

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

角色

hdfs本地存储目录

hdfs云存储目录

yarn本地存储目录

master

mkdir -p /data/dfs/nn

chown hdfs:hadoop

slave

mkdir -p /data/dfs/dn

chown hdfs:hadoop

mkdir -p /data/yarn/local

mkdir -p /data/yarn/logs

proxy

client

hdfs dfs –mkdir /tmp

hdfs dfs –mkdir /user/history

hdfs dfs –mkdir /var/log/hadoop-yarn

hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。

Hdfs服务web地址

cMaster:50070

Yarn服务web地址

cMaster:8088

JobHistory服务web地址

cProxy:19888

建立私有账户joe

[root@iClient~]#adduser joe

本地新建joe用户

[root@iClient~]#passwd joe

更改joe密码

[hdfs@iClient~]#hdfs dfs –mkdir /user/joe

在hdfs建立joe的家目录

[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe

给家目录授权

[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput

本地文件yourdata.txt上传至joeInput

[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000

执行例程的pi,4个map,做10000次。

商用hadoop集群的配置命令分布的更多相关文章

  1. 【Big Data】HADOOP集群的配置(一)

    Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  2. Hadoop集群的配置(一)

    摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...

  3. 【Big Data】HADOOP集群的配置(二)

    Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  4. Hadoop的学习前奏(二)——Hadoop集群的配置

    前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux:  CentOS 6.6(Final) x64   JDK:    java version "1.7 ...

  5. 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)

    http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...

  6. hadoop 集群的配置

    在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...

  7. Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS

    摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...

  8. hadoop集群单点配置

    =================== =============================== ----------------hadoop集群搭建 --------------------- ...

  9. Hadoop集群安装配置

    一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...

随机推荐

  1. Azure DevOps vsts-agent-linux 安装出错, Must not run with sudo

    在linux安装 vsts-agent-linux 在vsts-agent-linux的解压目录运行./config.sh, 提示"Must not run with sudo", ...

  2. HDU 1517

    题意略. 思路: 我们分别来考虑n取到的各个区间,从而发现其中的规律: [2,9] 明显 Stan 必胜. 但是当n = 9 + 1时,Stan无论如何也不能取胜,并且此时,假设 Stan 取值 x ...

  3. Leetcode之二分法专题-287. 寻找重复数(Find the Duplicate Number)

    Leetcode之二分法专题-287. 寻找重复数(Find the Duplicate Number) 给定一个包含 n + 1 个整数的数组 nums,其数字都在 1 到 n 之间(包括 1 和  ...

  4. javaScript 基础知识汇总(四)

    1.对象 概念:对象可以通过花括号{...} 和其中包含一些可选的属性来创建. 属性时一个键值对,键是一个字符串,值可以是任何类型. 对象的创建 let user = new Object(); // ...

  5. Unity进阶:PlayMaker

    版权申明: 本文原创首发于以下网站: 博客园『优梦创客』的空间:https://www.cnblogs.com/raymondking123 优梦创客的官方博客:https://91make.top ...

  6. BS/CS 区别

    转载自:https://www.cnblogs.com/chenmingjun 一.CS和BS含义: CS即Client/Server(客户机/服务器)结构.C/S结构在技术上很成熟,它的主要特点是交 ...

  7. CodeForces 103 D Time to Raid Cowavans

    Time to Raid Cowavans 题意:一共有n头牛, 每头牛有一个重量,m次询问, 每次询问有a,b 求出 a,a+b,a+2b的牛的重量和. 题解:对于m次询问,b>sqrt(n) ...

  8. Toad客户端连接Oracle数据库报错 ORA-12170:TNS:连接超时

    Oracle 客户端连接Oracle数据库报错   ORA-12170:TNS:连接超时  排错步骤: 1. 查看网络是否畅通:  打开cmd,ping数据库IP 2. 查看端口是否畅通: 打开cmd ...

  9. 小白专场-多项式乘法与加法运算-python语言实现

    目录 题意理解 解题思路 多项式加法 多项式乘法 完整代码 题意理解 题目: 设计函数分别求两个一元多项式的乘积与和. 输入格式: 输入分2行,每行分别先给出多项式非零项的个数,再以指数递降方式输入一 ...

  10. C# 表达式树遍历(二)

    一.前言 上一篇我们对表达式树有了初步的认识,这里我们将对表达式树进行遍历,只有弄清楚了他的运行原理,我们才可以对他进行定制化修改. 表达式系列目录 C# 表达式树讲解(一) C# 表达式树遍历(二) ...