一、配置说明

这是在我之前yarn框架上通过加入节点,改动相关的配置文件,使得secondarynamenode独立出来的,所以这里前期的一系列琐碎配置请參考我之前的博客:

http://blog.csdn.net/u014078192/article/details/27992567

我会在这基础上讲述怎样将secondarynamenode抽调出来。

二、配置

1)先添加一台虚拟机,配置免password。关防火墙,主机名(secondarynamenode)

确保三台机器都能ping通。

2)配置文件:

a) Master上的配置:

i. Core-site.xml

<configuration>

  <property>

        <name>fs.default.name</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii.  Hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

<property>

        <name>dfs.secondary.http.address</name>

        <value>secondarynamenode:50090</value>

  </property>

</configuration>

Iii、mapred-site.xml

<configuration>

  <property>

   <name>mapreduce.framework.name</name>

   <value>yarn</value>

<final>true</final>

</property>

  <property>

    <name>mapred.system.dir</name>

    <value>/home/hadoop/hadoop/tmp/mapred/system/</value>

  </property>

</configuration>

B) secondartnamenode的配置

I、core-site.xml

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

 <property>

        <name>fs.checkpoint.period</name>

        <value>3600</value>

  </property>

  <property>

        <name>fs.checkpoint.size</name>

        <value>67108864</value>

  </property>

</configuration>

Iii、hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

  <property>

        <name>dfs.http.address</name>

        <value>master:50070</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

C)slave1上的配置(datanode)

I)core-site.xml:

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii)hdfs-site.xml:

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

3)配置etc/profile,以下的代码,三台虚拟机是通用的。

#set java enviroment

export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

# Hadoop

export HADOOP_HOME="/home/hadoop/hadoop"

export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

export HADOOP_COMMON_HOME=${HADOOP_HOME}

export HADOOP_HDFS_HOME=${HADOOP_HOME}

export HADOOP_MAPRED_HOME=${HADOOP_HOME}

export HADOOP_YARN_HOME=${HADOOP_HOME}

三、执行

1)格式化namenode:bin/hadoop  namenode  -format

2)执行:sbin/start-all.sh

master上的结果:

secondarynamenode上的结果:

slave1上的结果:

3)总结:

进程是可以启起来,但是出现一个错误:我在度娘和Google上都搜了,但是没有找到好的解决方法。我会将它发到论坛。尽快的去解决问题。

单独配置secondarynamenode的更多相关文章

  1. php-fpm 重启 nginx单独配置 重启

    nginx单独配置 重启 [root@ssy106c14c190c69 Api]# cd /usr/local/nginx/sbin/[root@ssy106c14c190c69 sbin]# lsn ...

  2. 配置SecondaryNameNode

    一.SecondaryNameNode概念: 光从字面上来理解,很容易让一些初学者先入为主:SecondaryNameNode(snn)就是NameNode(nn)的热备进程.其实不是.ssn是HDF ...

  3. 每个项目单独配置 git 用户

    git多账号登陆问题 设置git全局设置: git config --global user.name "your_name"  git config --global user. ...

  4. 配置secondarynamenode主机名masters

    1.配置hadoop的secondarynamenode,配置内容如下 node2 本文转自 素颜猪 51CTO博客,原文链接:http://blog.51cto.com/suyanzhu/19592 ...

  5. .NET应用架构设计—面向查询服务的参数化查询设计(分解业务点,单独配置各自的数据查询契约)

    阅读目录: 1.背景介绍 2.对业务功能点进行逻辑划分(如:A.B.C分别三个业务点) 2.1.配置映射关系,对业务点配置查询契约(构造VS插件方便生成查询契约) 2.2.将配置好的映射策略文件放在调 ...

  6. oracle 客户端单独配置

    本文目的是在CentOS 5.3上安装Oracle 11.2 instant client来访问远端的Oracle 10.2数据库,笔者测试通过,应该也适用于Redhat Linux 5.x     ...

  7. linux 搭建SVN服务器,为多个项目分别建立版本库并单独配置权限

    1.安装svn服务    # yum install subversion   2.新建一个目录用于存储SVN所有文件    # mkdir /home/svn   3.在上面创建的文件夹中为项目 p ...

  8. Nginx虚拟主机 子文件单独配置

    上一篇所有的server 全都配置在nginx.conf配置文件里,其实每个server 都可以单独做一个子文件 删除nginx.conf配置文件中的server及其余内容,加上如下图 创建保存每个虚 ...

  9. tp3.2 模块单独配置数据库

    一 $User = M('test','tp_','mysql://root:123456@localhost/new_lezhu#utf8'); 1.test       -->表名 2.tp ...

随机推荐

  1. hiho 1227 找到一个恰好包含n个点的圆 (2015北京网赛 A题)

    平面上有m个点,要从这m个点当中找出n个点,使得包含这n个点的圆的半径(圆心为n个点当中的某一点且半径为整数)最小,同时保证圆周上没有点. n > m 时要输出-1 样例输入43 2 0 0 1 ...

  2. USACO 6.2 Calf Flac

    Calf Flac It is said that if you give an infinite number of cows an infinite number of heavy-duty la ...

  3. Linux查看使用端口的进程

    netstat –apn | grep 8080 lsof -i:8080

  4. wampserver的安装和使用

    首先想说一下通常搭建WAMP平台的时候主要分为散装包搭建和集成包搭建过程. 散装包搭建就是把PHP,Apache,MySQL等下载下来,一个个的安装,其过程灰常的复杂,而且需要配置的系统变量和修改的文 ...

  5. curl之采集QQ空间留言

    目录 主要流程解析 注意事项 扩展 完整代码示例 采集效果一览 主要流程解析 首先,打开浏览器登录QQ空间并访问留言列表 由于QQ空间的链接是https,curl方式请求https链接需要突破http ...

  6. SQL Server 跨服务器快速数据转移

    最近遇到一个问题,要将 a 服务器上的 A 库,迁移到 b 服务器上的 B 库,两个库的数据结构是一样的,但是数据库版本是 a 比 b 高,通过 sqlserver  还原这条路是走不通了,那难道除了 ...

  7. select 1 from dual

    begin 2018年7月14日15:06:29 select 1 from dual Oracle下的select 1 from dual 今天在看公司代码的时候,发现有这一句SQL: select ...

  8. JSP九大内置对象简介

    1.out对象,是JspWriter类的实例,是向客户端输出内容常用的对象 方法: void println() 向客户端打印字符串 void clear() 清除缓冲区的内容,如果在flush之后调 ...

  9. redis与DB数据同步问题

    Redis 是一个高性能的key-value数据库. redis的出现,很大程度补偿了memcached这类key-value存储的不足,在部 分场合可以对关系数据库起到很好的补充作用.它提供了Pyt ...

  10. 特征向量、特征值以及降维方法(PCA、SVD、LDA)

    一.特征向量/特征值 Av = λv 如果把矩阵看作是一个运动,运动的方向叫做特征向量,运动的速度叫做特征值.对于上式,v为A矩阵的特征向量,λ为A矩阵的特征值. 假设:v不是A的速度(方向) 结果如 ...