Zookeeper之Zookeeper的Client的分析

1)几个重要概念

  • ZooKeeper:客户端入口

  • Watcher:客户端注册的callback

  • ZooKeeper.SendThread: IO线程

  • ZooKeeper.EventThread: 事件处理线程,处理各类消息callback

  • ClientCnxnSocketNIO:继承自ClientCnxnSocket,专门处理IO

2)zookeeper初始化

  • 应用提供watch实例

  • 实例化zookeeper

    • 实例化socket,默认使用ClientCnxnSocketNIO,可通过zookeeper.clientCnxnSocket配置定制

    • 实例化ClientCnxn

    • 实例化SendThread

    • 实例化EventThread

  • 启动zookeeper

    • 启动SendThread

      • 连接服务器(见SendThread.startConnect)

        • 产生真正的socket,见ClientCnxnSocketNIO.createSock

        • 向select注册一个OP_CONNECT事件并连接服务器,由于是非阻塞连接,此时有可能并不会立即连上,如果连上就会调用SendThread.primeConnection初始化连接来注册读写事件,否则会在接下来的轮询select获取连接事件中处理

        • 复位socket的incomingBuffer

      • 连接成功后会产生一个connect型的请求发给服务,用于获取本次连接的sessionid

      • 进入循环等待来自应用的请求,如果没有就根据时间来ping 服务器

    • 启动EventThread

      • 开始进入无限循环,从队列waitingEvents中获取事件,如果没有就阻塞等待

3)以一个请求为例以 zk.exists("/root", false)为例

  • 客户端线程

    • 构造一个exists类型的请求,请求类型见ZooDefs.OpCode

    • 将请求构造成一个Packet,并将该packet放入outgoingQueue

      • 唤醒select

    • 阻塞等待结果

  • SendThread

    • 通过select 轮询判断是否有socket准备好,如果能读就读,能写就写

    • 此时socket准备好写了 ,就从outgoingQueue获取packet, 将packet发送到服务端

    • 一旦发送了一个完整的packet,就将packet从outgoingQueue移除

    • 最后将packet加入到pendingQueue

    • 再次select轮询看是否有响应数据,如果有首先都去4个字节的响应头(包含响应的长度信息),然后在下一次遍历中都去响应体

    • 都到响应将packet从pendingQueue移除

    • 如果该请求packet带有一个callback,那么会将此packet放入waitingEvents队列,让EventThread去处理

    • 最后会调用p.notifyAll()解锁,于是应用线程从阻塞中出来

  • 如果使用了带callback 的exists,EventThread会干活

4)小结

4.1)

SendThread也并非完全对应与请求/响应模式,SendThread也会接受到节点变化的通知,此时客户端变成了服务端

4.2)时间和超时的控制

ClientCnxnSocket作为ClientCnxnSocketNIO的父类,

有3个关键的时间字段

  • now :每次轮询select之前更新,或者发生错误是在catch段中更新为当前时间

  • lastHeard:在读取了响应,包括上面提到的connect型请求和常规命令型请求的响应以及完成网络连接时更新为当前时间

  • lastSend:每次发送完ping 命令和请求以及完成网络连接时更新为当前时间

有下面几个超时设置

  • sessionTimeout:zookeeper初始化时设置的

  • readTimeout:sessionTimeout * 2 / 3

  • connectTimeout:sessionTimeout / hostProvider.size();  //hostProvider.size()为zookeeper服务器个数

  • getIdleRecv():now - lastHeard

  • getIdleSend():now - lastSend

  • SessionTimeout的计算

    • 如果没有完成连接to=connectTimeout - getIdleRecv()

    • 如果完成连接to=readTimeout - getIdleRecv()

    • 如果to<=0  就会抛出SessionTimeoutException

4.3)什么时候ping

计算timeToNextPing = readTimeout / 2-getIdleSend()

如果timeToNextPing <= 0,发送ping请求(只是将ping请求放入outgoingQueue,并不发生IO)

4.4)select阻塞多久

如果上述的0<timeToNextPing<to,那么阻塞时长为timeToNextPing,否则为to

如果有写请求,select会被唤醒

4.5)sendThread的工作原理

该线程作为zookeeper客户端的核心部分专门负责IO处理

  • 计算select timeout(上面提到的to)

  • 检查空闲时间,有可能抛出SessionTimeoutException或者发送ping

  • 使用select轮询,获取网络事件(连接、读、写)也就是这3类

    • 如果是连接,做连接处理

    • 如果读,过程如下

      • 读取消息头,4个字节,头包含了消息体的字节数

      • 读 取消息体,分为两个大类消息,连接型消息“connect”和非连接型消息“header”,前者上面提到过就是连接完成之后发的一种消息,用于确定 sessionid, 另外前者会调用sendThread.onConnected,后者会调用sendThread.readResponse

      • 非连接型消息有分为几类

        • ping 消息

        • auth认证消息

        • 订阅的消息,即各种变化的通知,比如子节点变化、节点内容变化,由服务器推过来的消息 ,获取到这类消息或通过eventThread.queueEvent将消息推入事件队列

        • 客户端命令的response,如果此消息带有callback着通过eventThread.queuePacket推入事件队列,否者唤醒阻塞的应用线程,注意到客户端命令都会有阻塞版本和异步版本(带callback)

    • 如果是写,就从outgoingQueue获取packet,写入网络

4.6)请求中的Watcher和StatCallback的差别

两个都是callback,两者都由EventThread,但后者控制调用线程是否会阻塞等待响应

4.7)IO模型

如图

  • 没有使用传统连接池,会和zookeeper集群中的一台相连

  • 单IO线程(NIO)+事件线程,很标准的NIO模式

Zookeeper之Zookeeper的Client的分析【转】的更多相关文章

  1. zookeeper安装使用及工作原理分析

    1. Zookeeper概念简介 Zookeeper是一个分布式协调服务:就是为用户的分布式应用程序提供协调服务,它是集群的管理者,监视着集群中各个节点的状态,根据节点提交的反馈进行下一步合理操作. ...

  2. ZooKeeper源码阅读——client(二)

    原创技术文章,转载请注明:转自http://newliferen.github.io/ 如何连接ZooKeeper集群   要想了解ZooKeeper客户端实现原理,首先需要关注一下客户端的使用方式, ...

  3. ZooKeeper日志与快照文件简单分析

    有用过Zookeeper的都知道zoo.cfg配置文件中有dataDir配置项用于存储数据,不过可能有些人不太清楚这个目录具体存储的是那些数据,默认情况下这个目录是用于存储Log(事务日志)与Snap ...

  4. ZooKeeper 01 - 什么是ZooKeeper + 部署ZooKeeper集群

    目录 1 什么是ZooKeeper 2 ZooKeeper的功能 2.1 配置管理 2.2 命名服务 2.3 分布式锁 2.4 集群管理 3 部署ZooKeeper集群 3.1 下载并解压安装包 3. ...

  5. 【ZooKeeper】ZooKeeper入门流水记

    单机模式 下载zookeeper的包 wget http://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.4.9/zookeeper-3.4.9.ta ...

  6. zookeeper(3) zookeeper的实践及原理

    一.基于java API初探zookeeper的使用 (1)建立连接 public static void main(String[] args) { //NOT_CONNECTED-->CON ...

  7. zookeeper:一.zookeeper集群安装

    1.zookeeper简介2.安装zookeeper2.1 安装环境准备2.2 安装zookeeper2.2.1.解压zookeeper压缩包到/opt/zookeeper2.2.2.编辑zookee ...

  8. Dubbo+Zookeeper(一)Zookeeper初识

    前面花了一段时间去学习SpringCloud的相关知识,主要是理解微服务的概念并使用SpringCloud的一系列组件实现微服务落地.学习这些组件本身是简单的,跟着操作一遍基本就会了,这也得益于Spr ...

  9. Zookeeper - 什么是Zookeeper,以及zookeeper的安装(1)

    Zookeeper 什么是Zookeeper? 官网传送门 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的 ...

随机推荐

  1. 障碍路线Obstacle Course

    P1649 [USACO07OCT]障碍路线Obstacle Course 裸的dfs,今天学了一个新招,就是在过程中进行最优性减枝. #include<bits/stdc++.h> us ...

  2. Git学习笔记:基础篇

    git可以说是所有开发者出开发语言之外的最基本的基本功了,熟悉git可以方便的进行代码版本控制,以及与其他开发者进行合作开发.本文内容是我以往学习git时做的笔记,主要是关于git最基本的操作,但 只 ...

  3. 使用OPCNetAPI连接OPCServer

    OPCServer KepServer; OPCGroup KepGroup; bool opc_connected; string remoteServerName = "KEPware. ...

  4. HDU3915 Game 高斯消元

    题目链接 HDU3915 Game 高斯消元 题解 求异或方程组自由元的子集个数 高斯消元求秩,内存溢出好神 代码 #include<bitset> #include<cstdio& ...

  5. Python3基础系列——枚举类型大揭秘

    为什么使用枚举 枚举类型是定义常量的一种最优选择. 常量的广义概念是:不变化的量 对于常量的通俗比喻--如同大山不被轻而易举地改变 地球上的重力加速度到海枯石烂也会改变 人们使用的常量是时间不很漫长的 ...

  6. stdlib库中qsort函数的使用

    qsort :功 能: 使用快速排序例程进行排序  用 法: void qsort(void *base, int nelem, int width, int (*fcmp)(const void * ...

  7. Java表达式转型规则

    Java表达式转型规则由低到高转换: 1.所有的byte,short,char型的值将被提升为int型: 2.如果有一个操作数是long型,计算结果是long型: 3.如果有一个操作数是float型, ...

  8. php中call_user_func 与 call_user_func_array的使用

    call_user_func()是利用回调函数处理字符串,call_user_func_array是利用回调函数处理数组. // 1. 调用自定义函数 function test($a, $b) { ...

  9. 提交JSON修改数据

    提交JSON修改数据 设计目标: 1)可以一次性提交多个表的修改数据 2)跨语言.跨平台 { "deltas": [ { "table": "tuni ...

  10. uboot的常用命令及用法

    转自:https://blog.csdn.net/jklinux/article/details/72638830 https://blog.csdn.net/dagefeijiqumeiguo/ar ...