一、配置说明

这是在我之前yarn框架上通过加入节点,改动相关的配置文件,使得secondarynamenode独立出来的,所以这里前期的一系列琐碎配置请參考我之前的博客:

http://blog.csdn.net/u014078192/article/details/27992567

我会在这基础上讲述怎样将secondarynamenode抽调出来。

二、配置

1)先添加一台虚拟机,配置免password。关防火墙,主机名(secondarynamenode)

确保三台机器都能ping通。

2)配置文件:

a) Master上的配置:

i. Core-site.xml

<configuration>

  <property>

        <name>fs.default.name</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii.  Hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

<property>

        <name>dfs.secondary.http.address</name>

        <value>secondarynamenode:50090</value>

  </property>

</configuration>

Iii、mapred-site.xml

<configuration>

  <property>

   <name>mapreduce.framework.name</name>

   <value>yarn</value>

<final>true</final>

</property>

  <property>

    <name>mapred.system.dir</name>

    <value>/home/hadoop/hadoop/tmp/mapred/system/</value>

  </property>

</configuration>

B) secondartnamenode的配置

I、core-site.xml

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

 <property>

        <name>fs.checkpoint.period</name>

        <value>3600</value>

  </property>

  <property>

        <name>fs.checkpoint.size</name>

        <value>67108864</value>

  </property>

</configuration>

Iii、hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

  <property>

        <name>dfs.http.address</name>

        <value>master:50070</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

C)slave1上的配置(datanode)

I)core-site.xml:

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii)hdfs-site.xml:

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

3)配置etc/profile,以下的代码,三台虚拟机是通用的。

#set java enviroment

export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

# Hadoop

export HADOOP_HOME="/home/hadoop/hadoop"

export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

export HADOOP_COMMON_HOME=${HADOOP_HOME}

export HADOOP_HDFS_HOME=${HADOOP_HOME}

export HADOOP_MAPRED_HOME=${HADOOP_HOME}

export HADOOP_YARN_HOME=${HADOOP_HOME}

三、执行

1)格式化namenode:bin/hadoop  namenode  -format

2)执行:sbin/start-all.sh

master上的结果:

secondarynamenode上的结果:

slave1上的结果:

3)总结:

进程是可以启起来,但是出现一个错误:我在度娘和Google上都搜了,但是没有找到好的解决方法。我会将它发到论坛。尽快的去解决问题。

单独配置secondarynamenode的更多相关文章

  1. php-fpm 重启 nginx单独配置 重启

    nginx单独配置 重启 [root@ssy106c14c190c69 Api]# cd /usr/local/nginx/sbin/[root@ssy106c14c190c69 sbin]# lsn ...

  2. 配置SecondaryNameNode

    一.SecondaryNameNode概念: 光从字面上来理解,很容易让一些初学者先入为主:SecondaryNameNode(snn)就是NameNode(nn)的热备进程.其实不是.ssn是HDF ...

  3. 每个项目单独配置 git 用户

    git多账号登陆问题 设置git全局设置: git config --global user.name "your_name"  git config --global user. ...

  4. 配置secondarynamenode主机名masters

    1.配置hadoop的secondarynamenode,配置内容如下 node2 本文转自 素颜猪 51CTO博客,原文链接:http://blog.51cto.com/suyanzhu/19592 ...

  5. .NET应用架构设计—面向查询服务的参数化查询设计(分解业务点,单独配置各自的数据查询契约)

    阅读目录: 1.背景介绍 2.对业务功能点进行逻辑划分(如:A.B.C分别三个业务点) 2.1.配置映射关系,对业务点配置查询契约(构造VS插件方便生成查询契约) 2.2.将配置好的映射策略文件放在调 ...

  6. oracle 客户端单独配置

    本文目的是在CentOS 5.3上安装Oracle 11.2 instant client来访问远端的Oracle 10.2数据库,笔者测试通过,应该也适用于Redhat Linux 5.x     ...

  7. linux 搭建SVN服务器,为多个项目分别建立版本库并单独配置权限

    1.安装svn服务    # yum install subversion   2.新建一个目录用于存储SVN所有文件    # mkdir /home/svn   3.在上面创建的文件夹中为项目 p ...

  8. Nginx虚拟主机 子文件单独配置

    上一篇所有的server 全都配置在nginx.conf配置文件里,其实每个server 都可以单独做一个子文件 删除nginx.conf配置文件中的server及其余内容,加上如下图 创建保存每个虚 ...

  9. tp3.2 模块单独配置数据库

    一 $User = M('test','tp_','mysql://root:123456@localhost/new_lezhu#utf8'); 1.test       -->表名 2.tp ...

随机推荐

  1. IIS部署asp.net MVC 出现错误 403.14-Forbidden解决办法

    可能性一: <system.webServer>   <validationvalidateIntegratedModeConfiguration="false" ...

  2. ASP.NET MVC5+ 路由特性

    概述 ASP.NET MVC 5支持一种新的路由协议,称为路由特性. MVC5也支持以前定义路由的方式,你可以在一个项目中混合使用这两种方式来定义路由. 案例 1.使用Visual Studio 20 ...

  3. AlexNet的参数优化

    优化算法的参数 论文中使用SGD算法,基本参数设置在前面优化算法的总结中已经提到了.这里要说几个个人体会. a. 原文中输入的batch数目是256,应该Alex经过调节后的结果,我实际用到的机器性能 ...

  4. oracle数据库的安装

    ---create group groupadd oinstallgroupadd dbagroupadd oper ------create user useradd -g oinstall -G ...

  5. Ubuntu 17.04 搭建 NodeJS

    可以在云主机上执行以下的命令: apt-get update apt-get install -y python-software-properties software-properties-com ...

  6. Ionic实战八:ionic登陆页面源码

    onic登陆页面模板源码,可以用于ionic开发中登陆页面制作或者参考 下面是此模板的一些页面 此模板免费提供给大家  登陆用户名和密码都是 phonegap100     

  7. Ionic Js十五:对话框

    $ionicPopup ionic 对话框服务允许程序创建.显示弹出窗口. $ionicPopup 提供了3个方法:alert(), prompt(),以及 confirm() . 实例 HTML 代 ...

  8. jupyter notebook 小技巧

    Converting notebooks to other formats¶ !pip install https://github.com/ipython-contrib/jupyter_contr ...

  9. Python下读取转换unicode的json格式

    转自: https://blog.csdn.net/felcon/article/details/38524317 JSON(JavaScript Object Notation) 是一种轻量级的数据 ...

  10. python 列表的浅拷贝和深拷贝

    转自:https://www.cnblogs.com/laolibk/p/7821369.html 浅拷贝 shallow copy 和深拷贝 deep copy list.copy() 浅拷贝:复制 ...