zookeeper

1、zookeeper功能

1-1、配置管理

集中管理配置文件实现服务治理

1-2、命名服务

如为了通过网络访问一个系统,我们得知道对方的IP地址,但是IP地址对人非常不友好,这个时候我们就需要使用域名来访问。但是计算机是不能识别域名的。怎么办呢?如果我们每台机器里都备有一份域名到IP地址的映射,这个倒是能解决一部分问题,但是如果域名对应的IP发生变化了又该怎么办呢?于是我们有了DNS这个东西。我们只需要访问一个大家熟知的(known)点,它就会告诉你这个域名对应的IP是什么。在我们的应用中也会存在很多这类问题,特别是在我们的服务特别多的时候,如果我们在本地保存服务的地址的时候将非常不方便,但是如果我们只需要访问一个大家都熟知的访问点,这里提供统一的入口,那么维护起来将方便得多了。

1-3、分布式锁

如在一个分布式环境中,为了提高可靠性,我们的集群的每台服务器上都部署着同样的服务。但是,一件事情如果集群中的每个服务器都进行的话,那相互之间就要协调,编程起来将非常复杂。而如果我们只让一个服务进行操作,那又存在单点。通常还有一种做法就是使用分布式锁,在某个时刻只让一个服务去干活,当这台服务出问题的时候锁释放,立即fail over到另外的服务。这在很多分布式系统中都是这么做,这种设计有一个更好听的名字叫Leader Election(leader选举)。比如HBase的Master就是采用这种机制。但要注意的是分布式锁跟同一个进程的锁还是有区别的,所以使用的时候要比同一个进程里的锁更谨慎的使用

1-4、集群管理

在分布式的集群中,经常会由于各种原因,比如硬件故障,软件故障,网络问题,有些节点会进进出出。有新的节点加入进来,也有老的节点退出集群。这个时候,集群中其他机器需要感知到这种变化,然后根据这种变化做出对应的决策。比如我们是一个分布式存储系统,有一个中央控制节点负责存储的分配,当有新的存储进来的时候我们要根据现在集群目前的状态来分配存储节点。这个时候我们就需要动态感知到集群目前的状态。还有,比如一个分布式的SOA架构中,服务是一个集群提供的,当消费者访问某个服务时,就需要采用某种机制发现现在有哪些节点可以提供该服务(这也称之为服务发现,比如Alibaba开源的SOA框架Dubbo就采用了Zookeeper作为服务发现的底层机制)。还有开源的Kafka队列就采用了Zookeeper作为Cosnumer的上下线管理。

2、单机部署

2-1、解压

tar xzvf filename

mv filename zookeeper

2-2、创建数据和日志目录

cd zookeeper

mkdir data logs

2-3、添加配置文件

cd  conf

cp  zoo_sample.cfg  zoo.cfg

修改文件 zoo.cfg

tickTime=2000

dataDir=/home/live/zookeeper/data

dataLogDir=/home/live/zookeeper/logs

clientPort=2181

2-4、添加环境变量

vim  ~/.bash_prifile

把$HOME/zookeeper/bin添加到PATH中

2-5、写启动脚本

mkdir  ~/scripts

cd scripts

vim zkserver.sh

#!/bin/sh

zookeeper_dir=/home/live/zookeeper

zookeeper_command_path=/home/live/zookeeper/bin

zookeeper_process="zookeeper"

case $1 in

start)

cd $zookeeper_command_path;./zkServer.sh start

;;

stop)

cd $zookeeper_command_path;./zkServer.sh stop

;;

restart)

cd $zookeeper_command_path;./zkServer.sh stop;

cd $zookeeper_command_path;./zkServer.sh start

;;

status)

Process=`ps -ef|grep ${zookeeper_process}|grep -v grep |grep -v $0| wc -l`

if [ "$Process" = 0 ];then

echo "$process stopping."

cd $zookeeper_command_path;./zkServer.sh status

else

echo "$process starting."

cd $zookeeper_command_path;./zkServer.sh status

fi

;;

*)

echo "Usage: $0 {start|stop|restart|status}"

esac

2-6、启动zookeeper

sh scripts/zkserver.sh start

2-7、测试

1、启动客户端

~/zookeeper/bin/zkCli.sh -server z1:2181

2、创建节点

create /asd asd

3、查看节点的值

get  /asd

3、多机部署

3-1、解压

tar xzvf filename

mv filename zookeeper

3-2、创建数据和日志目录

cd zookeeper

mkdir data logs

vim  data/myid

写入1,……n

3-3、添加配置文件

1、配置主机名

vim /etc/hosts

……

2、zookeeper配置文件

cd  conf

cp  zoo_sample.cfg  zoo.cfg

修改文件 zoo.cfg

tickTime=2000

dataDir=/home/live/zookeeper/data

dataLogDir=/home/live/zookeeper/logs

clientPort=2181

server.n=主机名:2888:3888

前一个端口表示的是这个服务器与集群中的 Leader 服务器交换信息的端口;后一个端口 表示的是万一集群中的 Leader 服务器挂了,需要一个端口来重新进行选举,选出一个新的 Leader,而这个端口就是用来执行选举时服务器相互通信的端口

3-4、添加环境变量

vim  ~/.bash_prifile

把$HOME/zookeeper/bin添加到PATH中

3-5、写启动脚本

mkdir  ~/scripts

cd scripts

vim zkserver.sh

#!/bin/sh

zookeeper_dir=/home/live/zookeeper

zookeeper_command_path=/home/live/zookeeper/bin

zookeeper_process="zookeeper"

case $1 in

start)

cd $zookeeper_command_path;./zkServer.sh start

;;

stop)

cd $zookeeper_command_path;./zkServer.sh stop

;;

restart)

cd $zookeeper_command_path;./zkServer.sh stop;

cd $zookeeper_command_path;./zkServer.sh start

;;

status)

Process=`ps -ef|grep ${zookeeper_process}|grep -v grep |grep -v $0| wc -l`

if [ "$Process" = 0 ];then

echo "$process stopping."

cd $zookeeper_command_path;./zkServer.sh status

else

echo "$process starting."

cd $zookeeper_command_path;./zkServer.sh status

fi

;;

*)

echo "Usage: $0 {start|stop|restart|status}"

esac

3-6、启动zookeeper

sh scripts/zkserver.sh start

3-7、测试

1、启动客户端

~/zookeeper/bin/zkCli.sh -server z1:2181

2、创建节点

create /asd asd

3、查看节点的值

get  /asd

4、zookeeper集群必须配置jdk

vim   /etc/profile

JAVA_HOME=?/jdk1.7.0_75

PATH=$JAVA_HOME/bin:$PATH

CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

JRE_HOME=$JAVA_HOME/jre

export JAVA_HOME

export CLASSPATH

export JRE_HOME

export PATH

5、升级

5-1、查看节点的状态

用echo stat | nc localhost 2191查看zookeeper状态,先从follower开始升级,最后升级leader

5-2、下载新版本

如部署时操作

配置等与部署时一致

5-3、复制新版本目录到其它节点一份

scp -r -P2828 ?/zookeeper-3.4.8/ root@192.168.14.36:?

5-4、割接版本

1、停止老版本服务

/usr/local/zookeeper/bin/zkServer.sh stop

2、删除老版本软连接

rm -rf /usr/local/zookeeper

3、做新版本软连接

ln -sv /usr/local/zookeeper-3.4.8/ /usr/local/zookeeper

4、开启新版本服务

/usr/local/zookeeper/bin/zkServer.sh start

5、查看状态,观察集群是否建立起来。

/usr/local/zookeeper/bin/zkServer.sh status

ZooKeeper JMX enabled by default

Using config: /usr/local/zookeeper/bin/../conf/zoo.cfg

Mode: follower

6、查看升级后数据是否还在

使用ZooInspector查看

zookeeper集群搭建与升级的更多相关文章

  1. 分布式架构中一致性解决方案——Zookeeper集群搭建

    当我们的项目在不知不觉中做大了之后,各种问题就出来了,真jb头疼,比如性能,业务系统的并行计算的一致性协调问题,比如分布式架构的事务问题, 我们需要多台机器共同commit事务,经典的案例当然是银行转 ...

  2. kafka学习(二)-zookeeper集群搭建

    zookeeper概念 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它包含一个简单的原语集,分布式应用程序可以基于它实现同步服务,配置维护和命名 服务等.Zookeeper是h ...

  3. 分布式协调服务Zookeeper集群搭建

    分布式协调服务Zookeeper集群搭建 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.安装jdk环境 1>.操作环境 [root@node101.yinzhengjie ...

  4. Zookeeper 集群搭建--单机伪分布式集群

    一. zk集群,主从节点,心跳机制(选举模式) 二.Zookeeper集群搭建注意点 1.配置数据文件 myid 1/2/3 对应 server.1/2/3 2.通过./zkCli.sh -serve ...

  5. Zookeeper集群搭建以及python操作zk

    一.Zookeeper原理简介 ZooKeeper是一个开放源码的分布式应用程序协调服务,它包含一个简单的原语集,分布式应用程序可以基于它实现同步服务,配置维护和命名服务等. Zookeeper设计目 ...

  6. Kafka学习之(五)搭建kafka集群之Zookeeper集群搭建

    Zookeeper是一种在分布式系统中被广泛用来作为:分布式状态管理.分布式协调管理.分布式配置管理.和分布式锁服务的集群.kafka增加和减少服务器都会在Zookeeper节点上触发相应的事件kaf ...

  7. zookeeper集群搭建及Leader选举算法源码解析

    第一章.zookeeper概述 一.zookeeper 简介 zookeeper 是一个开源的分布式应用程序协调服务器,是 Hadoop 的重要组件. zooKeeper 是一个分布式的,开放源码的分 ...

  8. 【zookeeper】 zookeeper 集群搭建

    集群搭建环境: 发行版:CentOS-6.6 64bit 内核:2.6.32-504.el6.x86_64 CPU:intel-i7 3.6G 内存:2G 集群搭建步骤: 1. 确保机器安装了jdk ...

  9. Zookeeper(二) zookeeper集群搭建 与使用

    一.zookeeper集群搭建 鉴于 zookeeper 本身的特点,服务器集群的节点数推荐设置为奇数台.我这里我规划为三台, 为别为 hadoop01,hadoop02,hadoop03    1. ...

随机推荐

  1. git修改下载地址

    git查看远程地址git remote -v修改git remote set-url origin [url]

  2. MySQL中使用LIMIT分页

    需求:客户端通过传递pageNum(页码)和pageSize(每页显示的条数)两个参数去分页查询数据库表中的数据. 我们知道MySQL提供了分页函数limit m,n,但是该函数的用法和需求不一样,所 ...

  3. G-LAB四月份作业-数据可视化问题探讨

    G-LAB四月份作业-数据可视化问题探讨 引子: 数据平台项目建设正在按照公司的计划开展执行中,作为平台建设项目参与者之一,感觉目前我们现有的MIS报表平台数据也不可谓不丰富,但是不论从提供给用户的数 ...

  4. elasticsearch文档冲突

    https://www.elastic.co/guide/cn/elasticsearch/guide/current/optimistic-concurrency-control.html当我们之前 ...

  5. 重读APUE(9)-SIG_ERR、SIG_DFL、SIG_IGN定义无参数

    下面这几个函数定义,每次看到都会纠结一阵子,奇怪的是为什么没有参数? #define SIG_ERR (void (*)())-1 #define SIG_DFL (void (*)())0 #def ...

  6. 求N个集合的并集

    做容器放置实验时,需要计算下载N个Images的总size(Image之间可能会有可以共享的size). 一开始想到的是Images两两之间求交集,然后慢慢推到了容斥原理...时间复杂度大概就是O(N ...

  7. SQL-W3School-高级:SQL CHECK 约束

    ylbtech-SQL-W3School-高级:SQL CHECK 约束 1.返回顶部 1. SQL CHECK 约束 CHECK 约束用于限制列中的值的范围. 如果对单个列定义 CHECK 约束,那 ...

  8. go协程理解

    一.Golang 线程和协程的区别 备注:需要区分进程.线程(内核级线程).协程(用户级线程)三个概念. 进程.线程 和 协程 之间概念的区别 对于 进程.线程,都是有内核进行调度,有 CPU 时间片 ...

  9. Swift 变量

    变量是一种使用方便的占位符,用于引用计算机内存地址. Swift 每个变量都指定了特定的类型,该类型决定了变量占用内存的大小,不同的数据类型也决定可存储值的范围. 包括整形Int.浮点数Double和 ...

  10. 轻量级通用上采样算子-CARAFE

    转载:https://zhuanlan.zhihu.com/p/76063768 前言 这篇论文被 ICCV 2019 接收为 oral presentation.之前我们主要研究物体检测(例如 Hy ...