本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建,多添加了一个 datanode 节点 。

1 节点环境介绍:

1.1 环境介绍:

1.2 各节点角色分配

  • master: NameNode、SecondaryNameNode、QuorumPeerMain
  • slave1: DataNode、QuorumPeerMain
  • slave2: DataNode、QuorumPeerMain

2 ZooKeeper 下载

下载 zookeeper-3.4.14.tar.gz 并在合适的位置解压缩,笔者这里解压缩的路径为:

  1. /usr/local/

将解压得到的目录改名为 zookeeper 。

  1. cd /usr/local
  2. mv zookeeper-3.4. zookeeper

3 添加 ZooKeeper 环境变量

在"/etc/profile"中添加内容:

  1. export ZOOKEEPER_HOME=/usr/local/zookeeper
  2. export PATH=$PATH:$ZOOKEEPER_HOME/bin

重新加载环境:

  1. source /etc/profile

4 修改 Zookeeper 配置信息

4.1 修改 Zookeeper 默认配置

编辑文件:

  1. cd $ZOOKEEPER_HOME/conf/
  2. cp zoo_sample.cfg zoo.cfg
  3. vim zoo.cfg

配置可参考如下代码:

  1. # The number of milliseconds of each tick 通信心跳时间
  2. tickTime=
  3. # The number of ticks that the initial
  4. # synchronization phase can take 初始通信时限
  5. initLimit=
  6. # The number of ticks that can pass between
  7. # sending a request and getting an acknowledgement 同步通信时限
  8. syncLimit=
  9. # the directory where the snapshot is stored.
  10. # do not use /tmp for storage, /tmp here is just
  11. # example sakes. 数据文件目录
  12. dataDir=/usr/local/zookeeper/tmp
  13. # the port at which the clients will connect 客户端连接端口
  14. clientPort=
  15. #服务器名称与地址:集群信息(服务器编号、服务器地址、LF 通信端口、选举端口)
  16. server.=master::
  17. server.=slave1::
  18. server.=slave2::

4.2 为节点配置编号

在 /usr/local/zookeeper 下创建目录 tmp,然后在 tmp 下创建文件 myid 并编辑。

  1. cd $ZOOKEEPER_HOME
  2. mkdir tmp
  3. cd tmp
  4. vim myid

添加内容:

  1. 1

5 分发配置给各节点

分发 zookeeper 和 profile 给 slave1,  slave2(建议将 zookeeper压缩后分发)

  1. scp -r /usr/local/zookeeper slave1:/usr/local
  2. scp -r /usr/local/zookeeper slave2:/usr/local
  1. scp /etc/profile slave1:/etc
  2. scp /etc/profile slave2:/etc

分发后分别在各节点重新加载环境。

将 slave1 和 slave2 的内容分别改为 2 和 3 。

6 启动 zookeeper

分别在三个节点执行以下命令

  1. zkServer.sh start

然后使用 jps 确定 QuorumPeerMain 进程是否启动

启动完成后可使用以下命令查看各节点的 zookeeper mode。

注:如只启动了一个节点的 zookeeper 则会出现以下错误,因为最少需要一个 leader 和 一个 follower 。

7 Zookeeper shell 使用

  1. zkCli.sh

8 搭建完成

接下来就可以和 Hbase 一起使用了。

阿里云ECS服务器部署HADOOP集群系列:

阿里云ECS服务器部署HADOOP集群(三):ZooKeeper 完全分布式集群搭建的更多相关文章

  1. 阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建

    准备: 两台配置CentOS 7.3的阿里云ECS服务器: hadoop-2.7.3.tar.gz安装包: jdk-8u77-linux-x64.tar.gz安装包: hostname及IP的配置: ...

  2. 阿里云ECS服务器部署HADOOP集群(二):HBase完全分布式集群搭建(使用外置ZooKeeper)

    本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建,多添加了一个 datanode 节点 . 1 节点环境介绍: 1.1 环境介绍: 服务器:三台阿里 ...

  3. 阿里云ECS服务器部署HADOOP集群(六):Flume 安装

    本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建. 1 环境介绍 一台阿里云ECS服务器:master 操作系统:CentOS 7.3 Hadoop ...

  4. 阿里云ECS服务器部署HADOOP集群(七):Sqoop 安装

    本篇将在 阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建 阿里云ECS服务器部署HADOOP集群(二):HBase完全分布式集群搭建(使用外置ZooKeeper) 阿 ...

  5. 阿里云ECS服务器部署HADOOP集群(五):Pig 安装

    本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建. 1 环境介绍 一台阿里云ECS服务器:master 操作系统:CentOS 7.3 Hadoop ...

  6. 阿里云ECS服务器部署HADOOP集群(四):Hive本地模式的安装

    本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建. 本地模式需要采用MySQL数据库存储数据. 1 环境介绍 一台阿里云ECS服务器:master ...

  7. thinkphp项目阿里云ECS服务器部署

    [日记]thinkphp项目阿里云ECS服务器部署   项目本地开发告一段落.准备上传到服务器上测试 技术组成 thinkphp+mysql+阿里ECS  代码管理方式git 一.阿里ECS服务器配置 ...

  8. 阿里云ECS服务器部署Node.js项目全过程详解

    本文详细介绍如何部署NodeJS项目到阿里云ECS上,以及本人在部署过程中所遇到的问题.坑点和解决办法,可以说是全网最全最详细的教程了.同时讲解了如何申请阿里云免费SSL证书,以及一台ECS服务器配置 ...

  9. 【日记】thinkphp项目阿里云ECS服务器部署

    项目本地开发告一段落.准备上传到服务器上测试 技术组成 thinkphp+mysql+阿里ECS  代码管理方式git 一.阿里ECS服务器配置 1.因为线上已经有几个站点了.所以要配置ngnix多站 ...

随机推荐

  1. gitlab 提交

    gitlab 提交 Git global setup git config --global user.name "lial" git config --global user.e ...

  2. pycharm在进行debug时不小心把console关闭了,恢复console的办法

    点击下图中右边的箭头就恢复了 此时可看到console已恢复

  3. 高性能封装检测浏览器支持css3属性函数

    css3出来已经很久了,现在来谈判断浏览器是否支持某个css3的属性虽说有点过时了,但是还是可以谈谈的,然后,此篇主要谈的不是判断是否支持,而是怎么封装更好,为什么这么封装,欢迎吐槽. 入题,判断浏览 ...

  4. 百万年薪python之路 -- 装饰器进阶

    本文链接:https://blog.csdn.net/xiemanR/article/details/72510885 一:函数装饰函数 def wrapFun(func): def inner(a, ...

  5. python-从文件中读取数据

    一.读取整个文件 learnFile.py 绝对路径 # coding=UTF-8 import sys reload(sys) with open(r'C:\Users\zhujiachun\Des ...

  6. Element-ui-安装

    1.node环境安装 1.1.根据自己电脑位数,下载最新版node.js并安装https://nodejs.org/en/ 1.2.下载git并安装https://gitforwindows.org/ ...

  7. const var let 三者的区别

    1.const定义的变量不可以修改,而且必须初始化. ;//正确 const b;//错误,必须初始化 console.log('函数外const定义b:' + b);//有输出值 b = ; con ...

  8. 第三十五章 POSIX共享内存

    POSIX共享内存函数介绍 shm_open 功能: 用来创建或打开一个共享内存对象 原型: int shm_open(const char *name, int oflag, mode_t mode ...

  9. CSPS模拟 56

    前十基本都A题了,只有$Dybala$.$Naito$和弱比$yxs$没有A题 $T1 Merchant$ 明明学过$nth element$但是由于不懂原理导致我用了个鬼畜的${U队}$来维护前$K ...

  10. NOIP模拟 32

    我在31反思中膜拜过了B哥 没想到这次又... 我给老姚家丢脸了...STO 首先T1暴力就写挂了... 贪图从$n^3$*$2^n$优化成$n^2$*$2^n$然后打错了 哗哗的扔分 而且正解都想不 ...