Zookeeper 分布式应用
简介
这篇文章是旨在为那些想要利用zookeeper协调服务能力进行分布式应用创建的开发者的入门指导,包括一些理论性和实践性的内容。
文章的前四部分系统的介绍了zookeeper的相关概念,对于理解zookeeper的工作机制及使用都有很大帮助。
zookeeper的数据结构
zookeeper会话
zookeeper监听
一致性保障
文章的后四部分包含一些训练性的编程内容,包括:
zookeeper操作指引
绑定关系
项目结构
常见问题及解决
zookeeper数据结构
zookeeper本身是一种层次性的命名空间结构,非常类似于分布式文件系统,不同之处在于zookeeper的每个节点都可以存储节点数据及拥有子节点,既是文件又是文件夹。每个节点的路径都是用斜线分割,唯一,绝对的。没有相对路径:
ZNode
zookeeper中的节点以ZNode的形式存在,ZNode结构存储数据及确认历史变化版本号并包含时间戳。zookeeper使用版本号及时间戳来处理缓存时效及协调更新。版本号会随着每次节点数据的改变而递增,客户端查询节点数据,同时会返回数据的版本号信息,当需要执行删除或更新操作时,客户端必须提供相应的需要删除的数据版本号,如果不一致,则操作不执行。
附注:在分布式应用机制中,一个node可以代表一个host地址,一台服务器,集合中的一员,一个客户端进程等,zookeeper中znodes代表数据节点,servers对应组成zookeeper服务的机器,client代表使用zookeeper服务的任何客户端进程,quorum peers代表组成集合的服务器。
znodes是编程主要涉及的对象,主要特性如下:
监听:客户端可以设置节点监听,当节点发生变化(数据变化或者被删除等)将会触发监听并通知监听客户端,触发后删除监听。
数据访问:节点数据访问具有原子性,读取或者更新全部输的数据信息,每个节点都有一个访问控制列表,进行权限控制。
Zookeeper设计的初衷并不是用来作为常规的数据库的,相反,他维护一致性数据,包括配置信息,状态信息,会合信息等,它们共同的特点就是数据量特别小,Kbits大小,zookeeper客户端和服务端有一套健全的机制检查节点数据的大小,确保不大于1M,通常来说会大大小于1M。大体积数据操作会耗费更多的时间在网络传输上,从而会影响其它相关操作,通常不建议。如果要存储大体积的数据,通常的做法是将数据存放在文件系统,然后将指向地址存储在zookeeper节点中。
临时节点:临时节点是一种节点,它会随着创建它的会话的生命周期而存在,会话结束,则节点删除,因为这一特性,临时节点没有子节点。
顺序节点(唯一命名):创建节点的时候,可以设置zookeeper单纯的增加路径末端的节点序号。节点序号相对于父节点是唯一的,按照10位前端补零的格式来格式化并排序,4bytes无符号整数,当节点超过2147483647是会发生溢出异常。
容器节点:3.6.0之后增加
容器节点是专门为了应用于leader选举,分布式锁等而添加的特殊节点形式。当容器节点的最后一个子节点被删除,容器节点就会被列入zookeeper服务将要删除的节点行列。
当在容器节点下创建子节点时,需要捕获NoNodeException异常,当容器节点不存在是先执行容器节点的创建。
zookeeper中的时间:
Zxid:zookeeeper的状态变化会以唯一zxid的形式印记,用以标识zookeeper的状态变化顺序,小序号先于大序号发生。
版本号:节点的变化会以几点的一种版本号变化来标记,节点包含三种版本号:version指代节点数据的变化;cversion指代节点子节点的变化;aversion指代节点的确认acl。
Ticks:当使用多服务zookeeper时,服务之间使用ticks来同步协调,例如状态上载,会话过期,终端连接的过期。
zookeeper状态结果:
czxid:节点创建
mzxid: 节点更新
pzxid:子节点更新
ctime:节点创建过去的毫秒数
mtime:节点更新过去的毫秒数
ephemeralowner:临时节点拥有者的会话id
numchildren:节点的子节点数。
zookeeper监控
节点操作包括getDate(),getChildren(),exists()都可以设置节点监听,监听有以下特点:
一次性触发:当节点数据发生变化时,服务器会向客户端发送监听事件。
接受监听事件:监听事件发送具有异步性。
节点监听的数据变化。
附注:zookeeper不保证同一时间不同客户端获取数据的一致性。因为网路延迟,可能一个客户端执行的更新操作导致的节点数据变化时间可能还没有传递到另外一个客户端。
Zookeeper 分布式应用的更多相关文章
- zookeeper 分布式应用好处
<pre name="code" class="html"> 举个例子 比如我以前通过haproxy 负载两台tomcat8082 比如api01 ...
- hadoop之 Zookeeper 分布式应用程序协调服务
(1) Zookeeper 在 Hadoop 集群中的作用 Zookeeper 是分布式管理协作框架,Zookeeper 集群用来保证 Hadoop 集群的高可用,(高可用的含义是:集群中就算有一部分 ...
- 大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 图文详解
引言 在之前的大数据学习系列中,搭建了Hadoop+Spark+HBase+Hive 环境以及一些测试.其实要说的话,我开始学习大数据的时候,搭建的就是集群,并不是单机模式和伪分布式.至于为什么先写单 ...
- HADOOP+SPARK+ZOOKEEPER+HBASE+HIVE集群搭建(转)
原文地址:https://www.cnblogs.com/hanzhi/articles/8794984.html 目录 引言 目录 一环境选择 1集群机器安装图 2配置说明 3下载地址 二集群的相关 ...
- ZooKeeper概述(三)
ZooKeeper:分布式应用的分布协调服务 ZooKeeper是一个为分布式应用提供的分布的开源的协调服务.它暴露一组简单的原子操作,分布式系统可以在这之上为同步,配置管理,和组和命名实现更高级的服 ...
- <译>Zookeeper官方文档
apache原文地址:http://zookeeper.apache.org/doc/trunk/zookeeperOver.html ZooKeeper ZooKeeper: A Distribut ...
- Mycat 依赖包解读
1.curator - zookeeper开源客户端框架 2.dom4j - xml解析包 3.druid - 阿里巴巴推出的国产数据库连接池,同时具备监控功能,性能优于JDBC和C3P0 4.ehc ...
- hadoop第二课
1.1为什么需要Hadoop (1)数据分析者面临的问题 – 数据日趋庞大,读写都出现性能瓶颈: – 用户的应用和分析结果,对实时性和响应时间 要求越来越高: – 使用的模型越来越复杂,计算量指数级 ...
- Java自学开发编程路线图(文中有资源福利)
Java 语言入门 免费视频资源<毕向东Java基础教程>:http://yun.itheima.com/course/7.html JavaEE 学习大纲 所处阶段 主讲内容 技术要点 ...
随机推荐
- Linux 文件压缩与解压相关
tar [-cxtzjvfpPN] 文件与目录 .... 参数:-c :建立一个压缩文件的参数指令-x :解开一个压缩文件的参数指令 -t :查看压缩文件里面的文件 特别注意: c/x/t 同时只能存 ...
- window 下创建软链接 mklink
软链接是一种文件共享方式. 命令:mklink /d "C:\d" "C:\e" 有哪些坑: 1.此命名必须以管理员方式在cmd运行 2.文件必须不存在..通过 ...
- 2018 CVTE 前端校招笔试题整理
昨天晚上(7.20)做了CVTE的前端笔试,总共三十道题,28道多选题,2道编程题 .做完了之后觉得自己基础还是不够扎实,故在此整理出答案,让自己能从中得到收获,同时给日后的同学一些参考. 首先说一下 ...
- chromium之histogram.h
histogram不知道是干啥的 // Histogram is an object that aggregates statistics, and can summarize them in // ...
- ABAP术语-Technical Object
Technical Object 原文:http://www.cnblogs.com/qiangsheng/archive/2008/03/18/1111205.html Generic term f ...
- [SHELL]软件管理
- WSO2 API Manager中host Ip 不正确的问题解决方法
问题: 根据官方的Quick start的教程,部署完AM后,添加的API的host Ip不正确,为localhost或者服务器上的其他虚拟ip. 安装版本: WSO2AM 2.6.0 环 ...
- 怎么将oracle的sql文件转换成mysql的sql文件
怎么将sql文件导入PowerDesigner中的方法(将oracle的sql文件转换成mysql的sql文件)呢? 怎么将xx.sql文件的数据库结构导入powerdesigner 的方法呢? 现讲 ...
- PHP批量清理MIP-cache缓存(内附在线mipcache清理工具)
MIP是什么?我就不多说了把. MIPCache 又是什么? 科普一下:MIPCache 是一套基于代理的 CDN 缓存系统.可用于缓存所有被某度相关页面引用或者从百度相关服务点出的 MIP 页面.当 ...
- Java实例 Part1:Java基础输出语句
** Part1:Java基础输出语句 ** 第一部分最基础,就是标准的输出语句. ps:(目前还没熟悉这个编辑器,先尝试一下) Example01 : 输出"hello world&quo ...