zookeeper(四):核心原理(Watcher、事件和状态)
zookeeper主要是为了统一分布式系统中各个节点的工作状态,在资源冲突的情况下协调提供节点资源抢占,提供给每个节点了解整个集群所处状态的途径。这一切的实现都依赖于zookeeper中的事件监听和通知机制。
zookeeper中的事件和状态
事件和状态构成了zookeeper客户端连接描述的两个维度。注意,网上很多帖子都是在介绍zookeeper客户端连接的事件,但是忽略了zookeeper客户端状态的变化也是要进行监听和通知的。这里我们通过下面的两个表详细介绍zookeeper中的事件和状态(zookeeper API中被定义为@Deprecated的事件和状态就不介绍了)。
zookeeper客户端与zookeeper server连接的状态
连接状态 | 状态含义 |
---|---|
KeeperState.Expired | 客户端和服务器在ticktime的时间周期内,是要发送心跳通知的。这是租约协议的一个实现。客户端发送request,告诉服务器其上一个租约时间,服务器收到这个请求后,告诉客户端其下一个租约时间是哪个时间点。当客户端时间戳达到最后一个租约时间,而没有收到服务器发来的任何新租约时间,即认为自己下线(此后客户端会废弃这次连接,并试图重新建立连接)。这个过期状态就是Expired状态 |
KeeperState.Disconnected | 就像上面那个状态所述,当客户端断开一个连接(可能是租约期满,也可能是客户端主动断开)这是客户端和服务器的连接就是Disconnected状态 |
KeeperState.SyncConnected | 一旦客户端和服务器的某一个节点建立连接(注意,虽然集群有多个节点,但是客户端一次连接到一个节点就行了),并完成一次version、zxid的同步,这时的客户端和服务器的连接状态就是SyncConnected |
KeeperState.AuthFailed | zookeeper客户端进行连接认证失败时,发生该状态 |
需要说明的是,这些状态在触发时,所记录的事件类型都是:EventType.None。
zookeeper中的watch事件(当zookeeper客户端监听某个znode节点”/node-x”时)
zookeeper事件 | 事件含义 |
---|---|
EventType.NodeCreated | 当node-x这个节点被创建时,该事件被触发 |
EventType.NodeChildrenChanged | 当node-x这个节点的直接子节点被创建、被删除、子节点数据发生变更时,该事件被触发。 |
EventType.NodeDataChanged | 当node-x这个节点的数据发生变更时,该事件被触发 |
EventType.NodeDeleted | 当node-x这个节点被删除时,该事件被触发。 |
EventType.None | 当zookeeper客户端的连接状态发生变更时,即KeeperState.Expired、KeeperState.Disconnected、KeeperState.SyncConnected、KeeperState.AuthFailed状态切换时,描述的事件类型为EventType.None |
watch机制
Znode发生变化(Znode本身的增加,删除,修改,以及子Znode的变化)可以通过Watch机制通知到客户端。那么要实现Watch,就必须实现org.apache.zookeeper.Watcher接口,并且将实现类的对象传入到可以Watch的方法中。Zookeeper中所有读操作(getData(),getChildren(),exists())都可以设置Watch选项。Watch事件具有one-time trigger(一次性触发)的特性,如果Watch监视的Znode有变化,那么就会通知设置该Watch的客户端。
在上述说道的所有读操作中,如果需要Watcher,我们可以自定义Watcher,如果是Boolean型变量,当为true时,则使用系统默认的Watcher,系统默认的Watcher是在Zookeeper的构造函数中定义的Watcher。参数中Watcher为空或者false,表示不启用Wather。
watch特性1:一次性触发器
客户端在Znode设置了Watch时,如果Znode内容发生改变,那么客户端就会获得Watch事件。例如:客户端设置getData("/znode1", true)后,如果/znode1发生改变或者删除,那么客户端就会得到一个/znode1的Watch事件,但是/znode1再次发生变化,那客户端是无法收到Watch事件的,除非客户端设置了新的Watch。
watch特性2:发送至客户端
Watch事件是异步发送到Client。Zookeeper可以保证客户端发送过去的更新顺序是有序的。例如:某个Znode没有设置watcher,那么客户端对这个Znode设置Watcher发送到集群之前,该客户端是感知不到该Znode任何的改变情况的。换个角度来解释:由于Watch有一次性触发的特点,所以在服务器端没有Watcher的情况下,Znode的任何变更就不会通知到客户端。不过,即使某个Znode设置了Watcher,且在Znode有变化的情况下通知到了客户端,但是在客户端接收到这个变化事件,但是还没有再次设置Watcher之前,如果其他客户端对该Znode做了修改,这种情况下,Znode第二次的变化客户端是无法收到通知的。这可能是由于网络延迟或者是其他因素导致,所以我们使用Zookeeper不能期望能够监控到节点每次的变化。Zookeeper只能保证最终的一致性,而无法保证强一致性。
watch特性3:设置watch的数据内容
Znode改变有很多种方式,例如:节点创建,节点删除,节点改变,子节点改变等等。Zookeeper维护了两个Watch列表,一个节点数据Watch列表,另一个是子节点Watch列表。getData()和exists()设置数据Watch,getChildren()设置子节点Watch。两者选其一,可以让我们根据不同的返回结果选择不同的Watch方式,getData()和exists()返回节点的内容,getChildren()返回子节点列表。因此,setData()触发内容Watch,create()触发当前节点的内容Watch或者是其父节点的子节点Watch。delete()同时触发父节点的子节点Watch和内容Watch,以及子节点的内容Watch。
Zookeeper Watcher的运行机制
1,Watch是轻量级的,其实就是本地JVM的Callback,服务器端只是存了是否有设置了Watcher的布尔类型。(源码见:org.apache.zookeeper.server.FinalRequestProcessor)
2,在服务端,在FinalRequestProcessor处理对应的Znode操作时,会根据客户端传递的watcher变量,添加到对应的ZKDatabase(org.apache.zookeeper.server.ZKDatabase)中进行持久化存储,同时将自己NIOServerCnxn做为一个Watcher callback,监听服务端事件变化
3,Leader通过投票通过了某次Znode变化的请求后,然后通知对应的Follower,Follower根据自己内存中的zkDataBase信息,发送notification信息给zookeeper客户端。
4,Zookeeper客户端接收到notification信息后,找到对应变化path的watcher列表,挨个进行触发回调。
流程图
- import java.util.List;
- import java.util.concurrent.CountDownLatch;
- import java.util.concurrent.atomic.AtomicInteger;
- import org.apache.zookeeper.CreateMode;
- import org.apache.zookeeper.WatchedEvent;
- import org.apache.zookeeper.Watcher;
- import org.apache.zookeeper.Watcher.Event.EventType;
- import org.apache.zookeeper.Watcher.Event.KeeperState;
- import org.apache.zookeeper.ZooDefs.Ids;
- import org.apache.zookeeper.ZooKeeper;
- import org.apache.zookeeper.data.Stat;
- /**
- * Zookeeper Wathcher
- * 本类就是一个Watcher类(实现了org.apache.zookeeper.Watcher类)
- * @author(alienware)
- * @since 2015-6-14
- */
- public class ZooKeeperWatcher implements Watcher {
- /** 定义原子变量 */
- AtomicInteger seq = new AtomicInteger();
- /** 定义session失效时间 */
- private static final int SESSION_TIMEOUT = 10000;
- /** zookeeper服务器地址 */
- private static final String CONNECTION_ADDR = "192.168.1.121:2181,192.168.1.122:2181,192.168.1.123:2181";
- /** zk父路径设置 */
- private static final String PARENT_PATH = "/p";
- /** zk子路径设置 */
- private static final String CHILDREN_PATH = "/p/c";
- /** 进入标识 */
- private static final String LOG_PREFIX_OF_MAIN = "【Main】";
- /** zk变量 */
- private ZooKeeper zk = null;
- /**用于等待zookeeper连接建立之后 通知阻塞程序继续向下执行 */
- private CountDownLatch connectedSemaphore = new CountDownLatch(1);
- /**
- * 创建ZK连接
- * @param connectAddr ZK服务器地址列表
- * @param sessionTimeout Session超时时间
- */
- public void createConnection(String connectAddr, int sessionTimeout) {
- this.releaseConnection();
- try {
- //this表示把当前对象进行传递到其中去(也就是在主函数里实例化的new ZooKeeperWatcher()实例对象)
- zk = new ZooKeeper(connectAddr, sessionTimeout, this);
- System.out.println(LOG_PREFIX_OF_MAIN + "开始连接ZK服务器");
- connectedSemaphore.await();
- } catch (Exception e) {
- e.printStackTrace();
- }
- }
- /**
- * 关闭ZK连接
- */
- public void releaseConnection() {
- if (this.zk != null) {
- try {
- this.zk.close();
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- }
- /**
- * 创建节点
- * @param path 节点路径
- * @param data 数据内容
- * @return
- */
- public boolean createPath(String path, String data, boolean needWatch) {
- try {
- //设置监控(由于zookeeper的监控都是一次性的所以 每次必须设置监控)
- this.zk.exists(path, needWatch);
- System.out.println(LOG_PREFIX_OF_MAIN + "节点创建成功, Path: " +
- this.zk.create( /**路径*/
- path,
- /**数据*/
- data.getBytes(),
- /**所有可见*/
- Ids.OPEN_ACL_UNSAFE,
- /**永久存储*/
- CreateMode.PERSISTENT ) +
- ", content: " + data);
- } catch (Exception e) {
- e.printStackTrace();
- return false;
- }
- return true;
- }
- /**
- * 读取指定节点数据内容
- * @param path 节点路径
- * @return
- */
- public String readData(String path, boolean needWatch) {
- try {
- System.out.println("读取数据操作...");
- return new String(this.zk.getData(path, needWatch, null));
- } catch (Exception e) {
- e.printStackTrace();
- return "";
- }
- }
- /**
- * 更新指定节点数据内容
- * @param path 节点路径
- * @param data 数据内容
- * @return
- */
- public boolean writeData(String path, String data) {
- try {
- System.out.println(LOG_PREFIX_OF_MAIN + "更新数据成功,path:" + path + ", stat: " +
- this.zk.setData(path, data.getBytes(), -1));
- } catch (Exception e) {
- e.printStackTrace();
- return false;
- }
- return true;
- }
- /**
- * 删除指定节点
- *
- * @param path
- * 节点path
- */
- public void deleteNode(String path) {
- try {
- this.zk.delete(path, -1);
- System.out.println(LOG_PREFIX_OF_MAIN + "删除节点成功,path:" + path);
- } catch (Exception e) {
- e.printStackTrace();
- }
- }
- /**
- * 判断指定节点是否存在
- * @param path 节点路径
- */
- public Stat exists(String path, boolean needWatch) {
- try {
- return this.zk.exists(path, needWatch);
- } catch (Exception e) {
- e.printStackTrace();
- return null;
- }
- }
- /**
- * 获取子节点
- * @param path 节点路径
- */
- private List<String> getChildren(String path, boolean needWatch) {
- try {
- System.out.println("读取子节点操作...");
- return this.zk.getChildren(path, needWatch);
- } catch (Exception e) {
- e.printStackTrace();
- return null;
- }
- }
- /**
- * 删除所有节点
- */
- public void deleteAllTestPath(boolean needWatch) {
- if(this.exists(CHILDREN_PATH, needWatch) != null){
- this.deleteNode(CHILDREN_PATH);
- }
- if(this.exists(PARENT_PATH, needWatch) != null){
- this.deleteNode(PARENT_PATH);
- }
- }
- /**
- * 收到来自Server的Watcher通知后的处理。
- */
- @Override
- public void process(WatchedEvent event) {
- System.out.println("进入 process 。。。。。event = " + event);
- try {
- Thread.sleep(200);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- if (event == null) {
- return;
- }
- // 连接状态
- KeeperState keeperState = event.getState();
- // 事件类型
- EventType eventType = event.getType();
- // 受影响的path
- String path = event.getPath();
- //原子对象seq 记录进入process的次数
- String logPrefix = "【Watcher-" + this.seq.incrementAndGet() + "】";
- System.out.println(logPrefix + "收到Watcher通知");
- System.out.println(logPrefix + "连接状态:\t" + keeperState.toString());
- System.out.println(logPrefix + "事件类型:\t" + eventType.toString());
- if (KeeperState.SyncConnected == keeperState) {
- // 成功连接上ZK服务器
- if (EventType.None == eventType) {
- System.out.println(logPrefix + "成功连接上ZK服务器");
- connectedSemaphore.countDown();
- }
- //创建节点
- else if (EventType.NodeCreated == eventType) {
- System.out.println(logPrefix + "节点创建");
- try {
- Thread.sleep(100);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- //更新节点
- else if (EventType.NodeDataChanged == eventType) {
- System.out.println(logPrefix + "节点数据更新");
- try {
- Thread.sleep(100);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- //更新子节点
- else if (EventType.NodeChildrenChanged == eventType) {
- System.out.println(logPrefix + "子节点变更");
- try {
- Thread.sleep(3000);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- }
- //删除节点
- else if (EventType.NodeDeleted == eventType) {
- System.out.println(logPrefix + "节点 " + path + " 被删除");
- }
- else ;
- }
- else if (KeeperState.Disconnected == keeperState) {
- System.out.println(logPrefix + "与ZK服务器断开连接");
- }
- else if (KeeperState.AuthFailed == keeperState) {
- System.out.println(logPrefix + "权限检查失败");
- }
- else if (KeeperState.Expired == keeperState) {
- System.out.println(logPrefix + "会话失效");
- }
- else ;
- System.out.println("--------------------------------------------");
- }
- /**
- * <B>方法名称:</B>测试zookeeper监控<BR>
- * <B>概要说明:</B>主要测试watch功能<BR>
- * @param args
- * @throws Exception
- */
- public static void main(String[] args) throws Exception {
- //建立watcher //当前客户端可以称为一个watcher 观察者角色
- ZooKeeperWatcher zkWatch = new ZooKeeperWatcher();
- //创建连接
- zkWatch.createConnection(CONNECTION_ADDR, SESSION_TIMEOUT);
- //System.out.println(zkWatch.zk.toString());
- Thread.sleep(1000);
- // 清理节点
- zkWatch.deleteAllTestPath(false);
- //-----------------第一步: 创建父节点 /p ------------------------//
- if (zkWatch.createPath(PARENT_PATH, System.currentTimeMillis() + "", true)) {
- Thread.sleep(1000);
- //-----------------第二步: 读取节点 /p 和 读取/p节点下的子节点(getChildren)的区别 --------------//
- // 读取数据
- zkWatch.readData(PARENT_PATH, true);
- // 读取子节点(监控childNodeChange事件)
- zkWatch.getChildren(PARENT_PATH, true);
- // 更新数据
- zkWatch.writeData(PARENT_PATH, System.currentTimeMillis() + "");
- Thread.sleep(1000);
- // 创建子节点
- zkWatch.createPath(CHILDREN_PATH, System.currentTimeMillis() + "", true);
- //-----------------第三步: 建立子节点的触发 --------------//
- // zkWatch.createPath(CHILDREN_PATH + "/c1", System.currentTimeMillis() + "", true);
- // zkWatch.createPath(CHILDREN_PATH + "/c1/c2", System.currentTimeMillis() + "", true);
- //-----------------第四步: 更新子节点数据的触发 --------------//
- //在进行修改之前,我们需要watch一下这个节点:
- Thread.sleep(1000);
- zkWatch.readData(CHILDREN_PATH, true);
- zkWatch.writeData(CHILDREN_PATH, System.currentTimeMillis() + "");
- }
- Thread.sleep(10000);
- // 清理节点
- zkWatch.deleteAllTestPath(false);
- Thread.sleep(10000);
- zkWatch.releaseConnection();
- }
- }
zookeeper(四):核心原理(Watcher、事件和状态)的更多相关文章
- zookeeper(2) zookeeper的核心原理
zookeeper 的前世今生 分布式系统的很多难题,都是由于缺少协调机制造成的.在分布式协调这块做得比较好的,有 Google 的 Chubby 以及 Apache 的 Zookeeper. Goo ...
- Zookeeper核心原理
Zookeeper 的核心原理 Zookeeper 的由来 各个节点的数据一致性 怎么保证任务只在一个节点执行 如果orderserver1挂了,其他节点如何发现并接替 存在共享资源,互斥性.安全性 ...
- Zookeeper学习之Watcher事件类型和ZK状态
1.Zookeepe Watcherr的事件类型和ZK状态. zookeeper:Watcher.ZK状态,事件类型(一)zookeeper有watch事件,是一次性触发的,当watch监视的数据发 ...
- hadoop系列:zookeeper(2)——zookeeper核心原理(选举)
1.前述 上篇文章<hadoop系列:zookeeper(1)--zookeeper单点和集群安装>(http://blog.csdn.net/yinwenjie/article/deta ...
- Zookeeper系列2 原生API 以及核心特性watcher
原生API 增删改查询 public class ZkBaseTest { static final String CONNECT_ADDR = "192.168.0.120"; ...
- zookeeper核心原理全面解析
下述各zookeeper机制的java客户端实践参考zookeeper java客户端之curator详解. 官方文档http://zookeeper.apache.org/doc/current/z ...
- 《从Paxos到ZooKeeper 分布式一致性原理与实践》阅读【Watcher】
ZooKeeper 允许客户端向服务端注册一个 Watcher 监听,当服务端的一些指定事件触发了这个 Watcher,那么就会向指定客户端发送一个事件通知来实现分布式的通知功能. ZooKeeper ...
- 抽丝剥茧分析asyncio事件调度的核心原理
先来看一下一个简单的例子 例1: async def foo(): print('enter foo ...') await bar() print('exit foo ...') async def ...
- 深入了解Zookeeper核心原理
之前的文章Zookeeper基础原理&应用场景详解中将Zookeeper的基本原理及其应用场景做了一个详细的介绍,虽然介绍了其底层的存储原理.如何使用Zookeeper来实现分布式锁.但是我认 ...
随机推荐
- CentOS 6.9/Ubuntu 16.04源码安装RabbitMQ(二进制包tar.gz)
说明:CentOS的安装方式同样适合在Ubuntu中,把源改成APT即可. 一.安装erlang: 下载erlang: 从Erlang的官网http://www.erlang.org/download ...
- HDU 1864 Brave Game 【组合游戏,SG函数】
简单取石子游戏,SG函数的简单应用. 有时间将Nim和.SG函数总结一下……暂且搁置. #include <cstdio> #include <cstring> #define ...
- Linux(CentOS)下的vsftpd服务器配置-五岳之巅
说明:VSFTPD这款软件,网上和书里有很多配置文章,但不一定适用于您的主机,不同版本默认值不一样,我现在使用的是vsftpd-2.0.5-12.el5_3.1.千万记住:修改配置文件后,必须重新启动 ...
- 【java】java获取对象属性类型、属性名称、属性值
java获取对象属性类型.属性名称.属性值 获取属性 修饰符:[在Field[]循环中使用] String modifier = Modifier.toString(fields[i].getModi ...
- 【POI】解析xls报错:java.util.zip.ZipException: error in opening zip file
今天使用POI解析XLS,报错如下: Servlet.service() for servlet [rest] in context with path [/cetBrand] threw excep ...
- SqlServer查看对象(表、存储过程、函数)在哪些地方被引用或引用哪些地方
对象(如表)-->右键-->查看依赖关系 依赖于[]的对象:列出哪些存储过程.函数引用了该表 []依赖的对象:列出该存储过程.函数依赖了哪些表.函数.存储过程
- IIS_未能映射路径“/”。
解决方法: 使用托管管道默认是为[经典]的应用程序池
- 解决kylin报错:java.lang.IllegalStateException
一个kylin build job执行到第三步Extract Fact Table Distinct Columns时报错: 2017-05-24 20:04:07,930 ERROR [pool-9 ...
- Pod中访问外部的域名配置
在实际应用中经常遇到Pod中访问外部域名的状况,在Kubenetes 1.6以上的版本通过配置DNS configmap已经解决,详细的内容可以参考官方的 https://kubernetes.io/ ...
- 用CRF++开源工具做文本序列标注教程
本文只介绍如何快速的使用CRF++做序列标注,对其中的原理和训练测试参数不做介绍. 官网地址:CRF++: Yet Another CRF toolkit 主要完成如下功能: 输入 -> &qu ...