Hadoop集群安装

1.配置JDK环境和设置主机名,本地解析

  1. JDK环境教程: http://www.cnblogs.com/wangweiwen/p/6104189.html
  2. 本地解析:
  3. vim /etc/hostname,给每台机器起一个主机名:
  4. Master.Hadoop
  5. Slave1.Hadoop
  6. Slave2.Hadoop
  7. Slave3.Hadoop
  8. Slave4.Hadoop
  9. ![](http://images2015.cnblogs.com/blog/879497/201611/879497-20161126160730081-287864244.png)
  10. vim /etc/hosts
  11. 192.168.1.230 localhost
  12. 192.168.1.200 Master.Hadoop
  13. 192.168.1.201 Slave1.Hadoop
  14. 192.168.1.202 Slave2.Hadoop
  15. ![](http://images2015.cnblogs.com/blog/879497/201611/879497-20161126160804128-801905761.png)
  16. ping 主机名能得到相应,就说明配置通了

2.集群中互相免密码登录

  1. 登录到Master.Hadoop,切换到root用户,然后执行 ssh-keygen -t rsa,无脑一直回车,生产一对公钥密钥,把公钥写入/root/.ssh/authorized_keys文件中,并给authorized_keys文件600权限(chmod 600 authorized_keys)
  2. 同样的方法在其他机器上面生产公钥,把公钥写入到Master.Hadoop下面的/root/.ssh/authorized_keys文件中,然后把/root/.ssh/authorized_keys拷贝到每一台从机器上面,保证每一台机器上面都有其他机器的公钥。
  3. 测试一下:ssh Master.Hadoop ,能登录说明没问题

3.安装Hadoop

  1. 3.1 Hadoop 下载 http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz
  2. 解压到/use/local,cd /usr/local/hadoop-2.7.3/ && mkdir -p tmp hdfs hdfs/data hdfs/name
  3. 3.2 添加从机器的配置文件:在${Hadoop}/etc/hadoop/slaves中,写入所有从机器的主机名,一行一台
  4. ![](http://images2015.cnblogs.com/blog/879497/201611/879497-20161126163740956-358561213.png)
  5. 3.3 ${Hadoop/etc/hadoop/hadoop-env.sh ${Hadoop/etc/hadoop/yarn-env.sh 中加入export JAVA_HOME=/usr/local/jdk1.8.0_111/

4 启动Hadoop集群

  1. ${Hadoop}/bin/hadoop namenode -format -y
  2. ${Hadoop}/sbin/start-dfs.sh
  3. ${Hadoop}/sbin/start-yarn.sh
  4. ${Hadoop}/sbin/mr-jobhistory-daemon.sh start historyserver
  5. ${Hadoop}/sbin/yarn-daemon.sh start proxyserver

hadoop集群的安装的更多相关文章

  1. Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!)

    Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!) 一.JDK的安装 安装位置都在同一位置(/usr/tools/jdk1.8.0_73) jdk的安装在克隆三台机器的时候可以提前安装 ...

  2. Hadoop集群搭建安装过程(二)(图文详解---尽情点击!!!)

    Hadoop集群搭建安装过程(二)(配置SSH免密登录)(图文详解---尽情点击!!!) 一.配置ssh无密码访问 ®生成公钥密钥对 1.在每个节点上分别执行: ssh-keygen -t rsa(一 ...

  3. Ganglia监控Hadoop集群的安装部署[转]

    Ganglia监控Hadoop集群的安装部署 一. 安装环境 Ubuntu server 12.04 安装gmetad的机器:192.168.52.105 安装gmond的机 器:192.168.52 ...

  4. 沉淀,再出发——在Hadoop集群之上安装hbase

    在Hadoop集群之上安装hbase 一.安装准备 首先我们确保在ubuntu16.04上安装了以下的产品,java1.8及其以上,ssh,hadoop集群,其次,我们需要从hbase的官网上下载并安 ...

  5. Apache Hadoop集群离线安装部署(三)——Hbase安装

    Apache Hadoop集群离线安装部署(一)——Hadoop(HDFS.YARN.MR)安装:http://www.cnblogs.com/pojishou/p/6366542.html Apac ...

  6. Apache Hadoop集群离线安装部署(二)——Spark-2.1.0 on Yarn安装

    Apache Hadoop集群离线安装部署(一)——Hadoop(HDFS.YARN.MR)安装:http://www.cnblogs.com/pojishou/p/6366542.html Apac ...

  7. Apache Hadoop集群离线安装部署(一)——Hadoop(HDFS、YARN、MR)安装

    虽然我已经装了个Cloudera的CDH集群(教程详见:http://www.cnblogs.com/pojishou/p/6267616.html),但实在太吃内存了,而且给定的组件版本是不可选的, ...

  8. Hadoop集群搭建安装过程(一)(图文详解---尽情点击!!!)

    Hadoop集群搭建(一)(上篇中讲到了Linux虚拟机的安装) 一.安装所需插件(以hadoop2.6.4为例,如果需要可以到官方网站进行下载:http://hadoop.apache.org) h ...

  9. Hadoop集群的安装与配置(centos 6.5)

    一.Hadoop搭建准备(centOs6.5  且每个系统都要有同一个用户,如:hadoop)     1.IP的配置 包括Master和Slaves的IP配置,之间能够相互ping通:  例如:   ...

  10. Hadoop集群环境安装

    转载请标明出处:  http://blog.csdn.net/zwto1/article/details/45647643:  本文出自:[zhang_way的博客专栏] 工具: 虚拟机virtual ...

随机推荐

  1. SQLSERVER 2008 链接 到 ORACLE 11

    MSSQL2008R2 链接 ORACLE 11: 创建链接: exec sp_addlinkedserver 'DBLINK_ORACL' , 'ORACLE' , 'MSDAORA' , 'ORC ...

  2. [读书笔记] learn python the hard way书中 有关powershell 的一些小问题

    ex46中,创建自己的python,  当你激活环境时 .\.venvs\lpthw\ Scripts\activate 会报一个错误 此时需要以管理员身份运行PowerShell,(当前的PS不用关 ...

  3. Linux学习日志--共享内存

    一:什么是共享内存             共享内存是属于IPC(Inter-Process Communication进程间通信)机制,其它两种是信号量和消息队列,该机制为进程开辟创建了特殊的地址范 ...

  4. VTK学习之路——画画我的小苹果

    数据集主要由描写叙述数据集几何形状的点集数据及构成数据集的单元构成,因此构建数据集的主要任务就是确定点集和构建单元,本演示样例程序构建了一个苹果的实体,然后绘制苹果.演示样例程序运行的过程例如以下: ...

  5. typedef struct与struct定义结构体

    今天在定义结构体的时候发现typedef struct与struct定义结构体有一些不同之处: 结构也是一种数据类型, 能够使用结构变量, 因此,  象其他 类型的变量一样, 在使用结构变量时要先对其 ...

  6. Java的Executor框架和线程池实现原理

    Java的Executor框架 1,Executor接口 public interface Executor { void execute(Runnable command); } Executor接 ...

  7. 【特征匹配】SIFT原理与C源代码剖析

    相关: KD树+BBF算法解析 SURF原理与源代码解析 SIFT的原理已经有非常多大牛的博客上做了解析,本文重点将以Rob Hess等人用C实现的代码做解析,结合代码SIFT原理会更easy理解.一 ...

  8. 详解spring boot实现多数据源代码实战

    之前在介绍使用JdbcTemplate和Spring-data-jpa时,都使用了单数据源.在单数据源的情况下,Spring Boot的配置非常简单,只需要在application.propertie ...

  9. 有状态的EJB对象和无状态的EJB对象

    一,定义有状态Bean和无状态Bean 有状态Bean: @Stateful @Remote public class StatefulEjbBean implements StatefulEjb{ ...

  10. 用Newtonsoft将json串转为对象的方法(详解)

    首先,将json串转为一个JObject对象: JObject jo = (JObject)JsonConvert.DeserializeObject(CurrentSelectedItemReq) ...