ZooKeeper的简单理解
1 ZooKeeper的一致性特点
概念 | 描述 | 备注 |
---|---|---|
顺序一致性 | 以ZXID来保证事务的顺序性 | |
原子性 | 以ZAB保证原子操作,要么成功,要么失败 | |
单一视图 | 无论客户端从哪个服务器获取到关于应用的数据都是一致的 | |
可靠 | 以版本来实现“写入校验”,保证数据的写入正确性 | |
实时 | 以性能保证实时 | . |
2 ZK的设计目标
概念 | 描述 | 备注 |
---|---|---|
简单的数据模型 | 类似于传统文件系统的“树”结构,Znode用绝对路径标识 | |
构建集群 | 可以通过多个ZooKeeper服务器组建集群,以leader+follower+observer的形式组成,满足“过半存活”即可用,推荐集群数为单数3、5、7… | |
顺序访问 | 用ZXID的递增来保证事务的顺序性 | |
高性能 | 读性能/写性能 = 10:1 | . |
3 ZK的系统模型
概念 | 描述 | 备注 |
---|---|---|
数据模型 | - 核心在于数据节点Znode,Znode可保存数据可挂载子节点 - 节点用路径标识 - 树结构 - 事务:每个能够改变ZK服务器状态的操作,如Znode的创建和删除、Znode的数据更新等 - 每个事务都会分配一个事务ID(ZXID)用于标识 |
|
节点特性 | - 持久节点:直到被显示删除 - 临时节点:直到会话结束,不能挂载子节点 |
节点上会存储znode的信息,如znode的版本信息、znode子节点的版本信息、znode_acl的版本信息、子节点数、节点数据等信息 |
版本 | - version——znode版本信息 - cversion——znode子节点版本信息 - aversion——acl版本信息 |
版本用于写入校验,当节点更新数据时发现版本号已经更改就会抛出异常 |
Wathcer机制 | 客户端向服务器注册一个监听器,当所监听的事件触发时,服务器会向客户端发送一个通知 | 客户端向ZK服务器注册Wathcer的同时会将Watcher对象存储在客户端的WatchManger中。当ZK触发Watcher事件后,会向client发通知,client会从WM中对Watcher执行回调 |
4 ZK的ZAB协议(原子广播协议)
适用于ZooKeeper上一种支持崩溃恢复的原子广播协议
概念 | 描述 | 备注 |
---|---|---|
崩溃恢复 | 1.leader崩溃 2.选举新的leader(拥有所有服务器中最高编号的ZXID的服务器) 3.进行数据同步,将leader服务器中的事务作为基准,所有follower中的事务与leader服务器中的事务进行同步 4.抛弃follower中有的而leader中没有的事务 |
ZXID组成64位的数字,前32位为周期(即leader选举一次+1),后32位为事务操作次数(每增加一次事务+1) |
消息广播 | 1.leader接收客户端请求,判断请求是否为事务,若是则将请求转换为事务proposal,为每个follower建立单独队列,进行FIFO 2.follower接收到事务之后将事务写到本地磁盘后,回复leader(ack) 3.leader接收follower返回的ack,超过半数的follwer进行ack,那么leader就会发送提交指令 |
. |
5 ZK的数据存储
概念 | 描述 | 备注 |
---|---|---|
DataTree | 用于存储zk上所有节点信息 | |
DataNode | 用于存储每个节点路径、节点数据、acl、版本信息和子节点信息 | |
ZkDatabase | 内存数据库,存储会话、DataTree和事务日志,会定时写数据到本地磁盘 | |
日志 | - 存储在dataLogDir/version-/log.zxid中 - 格式:会话ID、客户端ID、ZXID、操作类型、节点路径和节点内容等 |
|
数据快照 | - 存储在dataDir/version-2/snapshot.zxid - 记录ZK上某一时刻的全量内存数据内容,并写到指定的文件中 - 只存储元数据 |
. |
6 ZK的服务器角色
概念 | 描述 | 备注 |
---|---|---|
leader | - 事务请求的唯一调度和处理者,保证集群事务处理的顺序性 - 集群内各服务器的调度者 leader会与每个follower和observer建立一个tcp长连接,并且为每个follower和observer建立一个learnerhandler,进行数据同步,请求转发和proposal投票等功能 |
|
follwer | - 处理客户端的非事务请求,转发事务请求给leader - 参与事务请求Proposal投票 - 参与leader选举投票 - 判断当前请求是否为事务请求,若是则转发给leader完成事务日志记录后,向leader发送ack信息 |
|
observer | - 工作原理同follower不参与任何形式的投票,提供非事务服务 |
. |
Propsal投票:每一个事务都需要集群中超过半数的机器投票认可才能被真正地应用到ZK的内存数据库中。
7 ZK的搭建要点
注意在配置文件配置dataDir和dataLogDir
配置端口
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/home/hadoop/data/zookeeper/zkdata
dataLogDir=/home/hadoop/data/zookeeper/zkdatalog
# the port at which the clients will connect
clientPort=2181
server.1=master:2888:3888
server.2=slave1:2888:3888
server.3=slave2:2888:3888
server.4=slave3:2888:3888
server.5=slave4:2888:3888
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
以及在dataDir中创建myid,在里面写上当前机器的id数
ZooKeeper的简单理解的更多相关文章
- 简单理解Zookeeper的Leader选举【转】
Leader选举是保证分布式数据一致性的关键所在.Leader选举分为Zookeeper集群初始化启动时选举和Zookeeper集群运行期间Leader重新选举两种情况.在讲解Leader选举前先了解 ...
- 简单理解Zookeeper的Leader选举
Leader选举是保证分布式数据一致性的关键所在.Leader选举分为Zookeeper集群初始化启动时选举和Zookeeper集群运行期间Leader重新选举两种情况.在讲解Leader选举前先了解 ...
- Dubbo+Zookeeper的简单入门案例
1.1 Dubbo简介 Apache Dubbo是一款高性能的Java RPC框架.其前身是阿里巴巴公司开源的一个高性能.轻量级的开源Java RPC框架,可以和Spring框架无缝集成. 什么是R ...
- git的简单理解及基础操作命令
前端小白一枚,最近开始使用git,于是花了2天看了廖雪峰的git教程(偏实践,对于学习git的基础操作很有帮助哦),也在看<git版本控制管理>这本书(偏理论,内容完善,很不错),针对所学 ...
- 简单理解Struts2中拦截器与过滤器的区别及执行顺序
简单理解Struts2中拦截器与过滤器的区别及执行顺序 当接收到一个httprequest , a) 当外部的httpservletrequest到来时 b) 初始到了servlet容器 传递给一个标 ...
- [转]简单理解Socket
简单理解Socket 转自 http://www.cnblogs.com/dolphinX/p/3460545.html 题外话 前几天和朋友聊天,朋友问我怎么最近不写博客了,一个是因为最近在忙着公 ...
- Js 职责链模式 简单理解
js 职责链模式 的简单理解.大叔的代码太高深了,不好理解. function Handler(s) { this.successor = s || null; this.handle = funct ...
- Deep learning:四十六(DropConnect简单理解)
和maxout(maxout简单理解)一样,DropConnect也是在ICML2013上发表的,同样也是为了提高Deep Network的泛化能力的,两者都号称是对Dropout(Dropout简单 ...
- Deep learning:四十二(Denoise Autoencoder简单理解)
前言: 当采用无监督的方法分层预训练深度网络的权值时,为了学习到较鲁棒的特征,可以在网络的可视层(即数据的输入层)引入随机噪声,这种方法称为Denoise Autoencoder(简称dAE),由Be ...
随机推荐
- ABP入门系列(7)——分页实现
ABP入门系列目录--学习Abp框架之实操演练 完成了任务清单的增删改查,咱们来讲一讲必不可少的的分页功能. 首先很庆幸ABP已经帮我们封装了分页实现,实在是贴心啊. 来来来,这一节咱们就来捋一捋如何 ...
- HDU5879(打表)
Cure Time Limit: 3000/1000 MS (Java/Others) Memory Limit: 32768/32768 K (Java/Others)Total Submis ...
- Redis 介绍与安装
Redis 是Key-Value 类型的内存数据库,支持多数据结构,性能非常出色,每秒处理十万次读写操作. 整个大致的过程是: 整个数据库加载到内存中,操作之,通过异步定期处理数据库数据的刷新到硬盘 ...
- 法国总统放大招,用“分身术”竞选总统 全息3d 网
编辑:大熊 [摘要]法国总统采用全息技术实现"分身"演讲,可谓是一次演讲,全面覆盖! 全息3d网讯:众所周知,欧美国家的总统是通过公开竞选得到的,所以能更直接.更广泛的近距离接触民 ...
- php下安装动态扩展库的相关事项
php下安装动态扩展库的相关事项 我下载的Apache版本为2.4,PHP版本为7.0. 将Apache与PHP集成配置好后(PHP安装目录为:G:\computer\web\php7,apache安 ...
- C/C++中的联合体
C/C++中的联合体 利用union可以用相同的存储空间存储不同型别的数据类型,从而节省内存空间.当访问其内成员时可用"."和"->"来直接访问. 当多个 ...
- C++编程练习(2)----“实现简单的线性表的链式存储结构“
单链表采用链式存储结构,用一组任意的存储单元存放线性表的元素. 对于查找操作,单链表的时间复杂度为O(n). 对于插入和删除操作,单链表在确定位置后,插入和删除时间仅为O(1). 单链表不需要分配存储 ...
- linux目录下各文件夹作用
作为一个程序员,我们难免会接触到linux系统,特别是后台程序员,因为现在项目的部署环境基本都是在linux系统上进行的,所以了解linux系统是十分重要的,虽然我接触了linux系统已经有一段时 ...
- 【闲聊PHP】编程界的萝莉小美女--PHP
本文地址 01 前言--上了贼船 不知道何时就上了PHP的贼船了,开始了web的开发,记得差不多两年前我还是做传统电子行业的人,就是嵌入式的方向,那时在天津或摆弄手机,或下煤窑摆弄电话,抑或就是在医疗 ...
- 跟着内核学框架-从misc子系统到3+2+1设备识别驱动框架
misc子系统在Linux中是一个非常简单的子系统,但是其清晰的框架结构非常适合用来研究设备识别模型.本文从misc子系统的使用出发,通过了解其机制来总结一套的设备识别的驱动框架,即使用使用同一个驱动 ...