Zookeeper是hadoop的一个子项目,尽管源自hadoop,可是我发现zookeeper脱离hadoop的范畴开发分布式框架的运用越来越多。

今天我想谈谈zookeeper。本文不谈如何使用zookeeper。而是zookeeper究竟有哪些实际的运用,哪些类型的应用能发挥zookeeper的优势,最后谈谈zookeeper对分布式站点架构能产生如何的作用。

  Zookeeper是针对大型分布式系统的高可靠的协调系统。

由这个定义我们知道zookeeper是个协调系统,作用的对象是分布式系统。为什么分布式系统须要一个协调系统了?理由例如以下:

  开发分布式系统是件非常困难的事情,当中的困难主要体如今分布式系统的“部分失败”。“部分失败”是指信息在网络的两个节点之间传送时候,假设网络出了故障,发送者无法知道接收者是否收到了这个信息。并且这样的故障的原因非常复杂。接收者可能在出现网络错误之前已经收到了信息,也可能没有收到,又或接收者的进程死掉了。

发送者可以获得真实情况的唯一办法就是又一次连接到接收者,询问接收者错误的原因,这就是分布式系统开发里的“部分失败”问题。

  Zookeeper就是解决分布式系统“部分失败”的框架。

Zookeeper不是让分布式系统避免“部分失败”问题,而是让分布式系统当碰到部分失败时候。能够正确的处理此类的问题,让分布式系统能正常的执行。

  以下我要讲讲zookeeper的实际运用场景:

  场景一:有一组server向client提供某种服务(比如:我前面做的分布式站点的服务端。就是由四台server组成的集群,向前端集群提供服务)。我们希望client每次请求服务端都能够找到服务端集群中某一台server,这样服务端就能够向client提供client所需的服务。

对于这样的场景,我们的程序中一定有一份这组server的列表。每次client请求时候,都是从这份列表里读取这份server列表。

那么这分列表显然不能存储在一台单节点的server上。否则这个节点挂掉了,整个集群都会发生问题,我们希望这份列表时高可用的。

高可用的解决方式是:这份列表是分布式存储的,它是由存储这份列表的server共同管理的。假设存储列表里的某台server坏掉了。其它server立即能够替代坏掉的server。而且能够把坏掉的server从列表里删除掉,让故障server退出整个集群的执行,而这一切的操作又不会由故障的server来操作。而是集群里正常的server来完毕。

这是一种主动的分布式数据结构,能够在外部情况发生变化时候主动改动数据项状态的数据机构。Zookeeper框架提供了这样的服务。这样的服务名字就是:统一命名服务。它和javaEE里的JNDI服务非常像。

  场景二:分布式锁服务。当分布式系统操作数据,比如:读取数据、分析数据、最后改动数据。在分布式系统里这些操作可能会分散到集群里不同的节点上,那么这时候就存在数据操作过程中一致性的问题,假设不一致。我们将会得到一个错误的运算结果,在单一进程的程序里,一致性的问题非常好解决,可是到了分布式系统就比較困难,由于分布式系统里不同server的运算都是在独立的进程里。运算的中间结果和过程还要通过网络进行传递,那么想做到数据操作一致性要困难的多。Zookeeper提供了一个锁服务攻克了这种问题。能让我们在做分布式数据运算时候。保证数据操作的一致性。

  场景三:配置管理。在分布式系统里,我们会把一个服务应用分别部署到n台server上,这些server的配置文件是同样的(比如:我设计的分布式站点框架里,服务端就有4台server,4台server上的程序都是一样,配置文件都是一样),假设配置文件的配置选项发生变化,那么我们就得一个个去改这些配置文件。假设我们须要改的server比較少,这些操作还不是太麻烦,假设我们分布式的server特别多,比方某些大型互联网公司的hadoop集群有数千台server。那么更改配置选项就是一件麻烦并且危急的事情。

这时候zookeeper就能够派上用场了,我们能够把zookeeper当成一个高可用的配置存储器,把这种事情交给zookeeper进行管理,我们将集群的配置文件复制到zookeeper的文件系统的某个节点上,然后用zookeeper监控全部分布式系统里配置文件的状态,一旦发现有配置文件发生了变化。每台server都会收到zookeeper的通知,让每台server同步zookeeper里的配置文件,zookeeper服务也会保证同步操作原子性,确保每一个server的配置文件都能被正确的更新。

  场景四:为分布式系统提供故障修复的功能。

集群管理是非常困难的。在分布式系统里增加了zookeeper服务,能让我们非常easy的对集群进行管理。集群管理最麻烦的事情就是节点故障管理,zookeeper能够让集群选出一个健康的节点作为master,master节点会知道当前集群的每台server的执行状况,一旦某个节点发生问题,master会把这个情况通知给集群其它server,从而又一次分配不同节点的计算任务。Zookeeper不仅能够发现故障,也会对有故障的server进行甄别,看故障server是什么样的故障,假设该故障能够修复,zookeeper能够自己主动修复或者告诉系统管理员错误的原因让管理员迅速定位问题,修复节点的故障。大家或许还会有个疑问,master故障了,那怎么办了?zookeeper也考虑到了这点。zookeeper内部有一个“选举领导者的算法”,master能够动态选择,当master故障时候。zookeeper能立即选出新的master对集群进行管理。

  以下我要讲讲zookeeper的特点:

  1. zookeeper是一个精简的文件系统。这点它和hadoop有点像,可是zookeeper这个文件系统是管理小文件的。而hadoop是管理超大文件的。

  2. zookeeper提供了丰富的“构件”,这些构件能够实现非常多协调数据结构和协议的操作。比如:分布式队列、分布式锁以及一组同级节点的“领导者选举”算法。

  3. zookeeper是高可用的,它本身的稳定性是相当之好,分布式集群全然能够依赖zookeeper集群的管理。利用zookeeper避免分布式系统的单点故障的问题。

  4. zookeeper採用了松耦合的交互模式。这点在zookeeper提供分布式锁上表现最为明显,zookeeper能够被用作一个约会机制。让參入的进程不在了解其它进程的(或网络)的情况下能够彼此发现并进行交互,參入的各方甚至不必同一时候存在。仅仅要在zookeeper留下一条消息,在该进程结束后,另外一个进程还能够读取这条信息。从而解耦了各个节点之间的关系。

  5. zookeeper为集群提供了一个共享存储库,集群能够从这里集中读写共享的信息,避免了每一个节点的共享操作编程,减轻了分布式系统的开发难度。

  6. zookeeper的设计採用的是观察者的设计模式。zookeeper主要是负责存储和管理大家关心的数据,然后接受观察者的注冊,一旦这些数据的状态发生变化。Zookeeper 就将负责通知已经在 Zookeeper 上注冊的那些观察者做出对应的反应,从而实现集群中类似 Master/Slave 管理模式。

  由此可见zookeeper非常利于分布式系统开发,它能让分布式系统更加健壮和高效。

  前不久我參加了部门的hadoop兴趣小组,測试环境的hadoop、mapreduce、hive及hbase都是我来安装的,安装hbase时候安装要预先安装zookeeper。最早我是在四台server上都安装了zookeeper,可是同事说安装四台和安装三台是一回事,这是由于zookeeper要求半数以上的机器可用。zookeeper才干提供服务。所以3台的半数以上就是2台了,4台的半数以上也是两台。因此装了三台server全然能够达到4台server的效果,这个问题说明zookeeper进行安装的时候通常选择奇数台server。

在学习hadoop的过程中,我感觉zookeeper是最难理解的一个子项目。原因倒不是它技术负责,而是它的应用方向非常让我困惑,所以我有关hadoop技术第一篇文章就从zookeeper開始。也不讲详细技术实现。而从zookeeper的应用场景讲起,理解了zookeeper应用的领域,我想再学习zookeeper就会更加事半功倍。

  之所以今天要谈谈zookeeper,也是为我上一篇文章分布式站点框架的补充。尽管我设计站点架构是分布式结构。也做了简单的故障处理机制,比方:心跳机制,可是对集群的单点故障还是没有办法的,假设某一台server坏掉了。client任然会尝试连接这个server。导致部分请求的堵塞。也会导致server资源的浪费。只是我眼下也不想去改动自己的框架,由于我总认为在现有的服务上加入zookeeper服务会影响站点的效率,假设有独立的server集群部署zookeeper还是值得考虑的。可是server资源太宝贵了,这个可能性不大。

幸好我们部门也发现了这种问题,我们部门将开发一个强大的远程调用框架。将集群管理和通讯管理这块剥离出来,集中式提供高效可用的服务,等部门的远程框架开发完成。我们的站点加入新的服务,我想我们的站点将会更加稳定和高效。

zookeeper技术浅析的更多相关文章

  1. 分布式网站架构后续:zookeeper技术浅析

    Zookeeper是hadoop的一个子项目,虽然源自hadoop,但是我发现zookeeper脱离hadoop的范畴开发分布式框架的运用 越来越多.今天我想谈谈zookeeper,本文不谈如何使用z ...

  2. 架构设计:远程调用服务架构设计及zookeeper技术详解(下篇)

    一.下篇开头的废话 终于开写下篇了,这也是我写远程调用框架的第三篇文章,前两篇都被博客园作为[编辑推荐]的文章,很兴奋哦,嘿嘿~~~~,本人是个很臭美的人,一定得要截图为证: 今天是2014年的第一天 ...

  3. [转]STUN和TURN技术浅析

    [转]STUN和TURN技术浅析 http://www.h3c.com.cn/MiniSite/Technology_Circle/Net_Reptile/The_Five/Home/Catalog/ ...

  4. 爬虫技术浅析 | WooYun知识库

    爬虫技术浅析 | WooYun知识库 爬虫技术浅析 好房通ERP | 房产中介软件最高水准领导者 undefined

  5. 爬虫技术浅析 | z7y Blog

    爬虫技术浅析 | z7y Blog 爬虫技术浅析

  6. 手机微硬盘读取速度>50MB/s eMMC技术浅析

    转载:http://mobile.zol.com.cn/296/2968659_all.html#p2968659 手机微硬盘读取速度>50MB/s 在开始今天的话题之前,请大家随笔者一起时光倒 ...

  7. SafeSEH原理及绕过技术浅析

    SafeSEH原理及绕过技术浅析 作者:magictong 时间:2012年3月16日星期五 摘要:主要介绍SafeSEH的基本原理和SafeSEH的绕过技术,重点在原理介绍. 关键词:SafeSEH ...

  8. 从Paxos到ZooKeeper-四、ZooKeeper技术内幕

    本文将从系统模型.序列化与协议.客户端工作原理.会话.服务端工作原理以及数据存储等方面来揭示ZooKeeper的技术内幕. 一.系统模型 1.1 数据模型 ZooKeeper的视图结构使用了其特有的& ...

  9. QinQ技术浅析

    作者:  |  上传时间:2009-11-16  |  关键字: QinQ技术(也称Stacked VLAN 或Double VLAN)是指将用户私网VLAN标签封装在公网VLAN标签中,使报文带着两 ...

随机推荐

  1. poj3322 Bloxorz I

    Home Problems       Logout -11:24:01     Overview Problem Status Rank A B C D E F G H I J K L M N O ...

  2. iOS开发者帐号申请指南

    iOS开发者的申请流程如果你是一个开发团队,在你打算掏腰包购买iOS开发者授权之前,最好先问一下你的同事,是否已经有人获得了开发许可,因为一个开发许可一年内最多可以授权给111个设备来开发测试.如果你 ...

  3. Android中高亮变色显示文本中的关键字

    应该是好久没有写有关技术类的文章了,前天还有人在群里问我,说群主很长时间没有分享干货了,今天分享一篇Android中TextView在大段的文字内容中如何让关键字高亮变色的文章 ,希望对大家有所帮助, ...

  4. sqlite3.exe 使用

    1 下载sqlite3.exe 2 命令行cmd,进入到sqlite3.exe目录 3 >sqlite3.exe database.db   来打开sqlite数据库. 4 基本语法: > ...

  5. 在windows上搭建C语言开发环境——借助eclipse和MinGW

    0. 前言     [本文目的]     近期在电脑上又一次安装了MinGW,发现MinGW的安装方法和之前的方法稍有差别,全部再写了一篇博文记录一下具体的安装方法.     [本文主要内容]     ...

  6. OpenCV学习(24) 直方图(1)

    直方图是对数据的统计,并将统计结果分布于一系列预定义的槽中.这里的数据不仅仅指的是灰度值,它可以是任何能有效描述图像特征的数据,比如图像梯度等等. 假设有一个矩阵包含一张图像的信息 (灰度值 0-25 ...

  7. C语言条件编译

    使用与平台有关的C语言函数,可能会使得程序不具有可移植性.比如Socket编程.多线程编程等是与平台有关的. 若想将程序做成平台无关的就需要用到与平台相关的条件编译. 下面转自:http://blog ...

  8. Android UI-仿微信底部导航栏布局

    现在App基本的标配除了侧滑菜单,还有一个就是底部导航栏,常见的聊天工具QQ,微信,购物App都有底部导航栏,用户可以随便切换看不同的内容,说是情怀也好,用户体验也罢.我们开发的主要的还是讲的是如何如 ...

  9. jwplayer 隐藏属性方法记载

    jwplayer().getPosition(): //播放了多少秒 jwplayer('playerdiv').play(); || jwplayer(0).play(true / false); ...

  10. 15 款JavaScript 热门图形图表库

    图表是数据图形化的表示,也就是“通过形象的图表来展示数据,比如条形图,折线图,饼图”.几乎每个开发或者项目管理团队都需要图表或者图形来简化 理解,可视化复杂的数据和 web 应用工作流.可视化图表可以 ...