HDFS源码分析心跳汇报之BPServiceActor工作线程运行流程
在《HDFS源码分析心跳汇报之数据结构初始化》一文中,我们了解到HDFS心跳相关的BlockPoolManager、BPOfferService、BPServiceActor三者之间的关系,并且知道最终HDFS的心跳是通过BPServiceActor线程实现的。那么,这个BPServiceActor线程到底是如何工作的呢?本文,我们将继续HDFS心跳分析之BPServiceActor工作线程运行流程。
首先,我们先看下
那么,BPServiceActor线程是通过什么样的流程来实现心跳的呢?我们来看下它正常工作的run()方法,代码如下:
- /**
- * No matter what kind of exception we get, keep retrying to offerService().
- * That's the loop that connects to the NameNode and provides basic DataNode
- * functionality.
- *
- * Only stop when "shouldRun" or "shouldServiceRun" is turned off, which can
- * happen either at shutdown or due to refreshNamenodes.
- */
- @Override
- public void run() {
- // 记录日志信息:starting to offer service
- LOG.info(this + " starting to offer service");
- try {
- // 在一个while循环内,完成连接NameNode并握手操作,即初始化
- while (true) {
- // init stuff
- try {
- // setup storage
- // 连接NameNode并握手
- connectToNNAndHandshake();
- break;
- } catch (IOException ioe) {
- // 如果存在异常
- // Initial handshake, storage recovery or registration failed
- // 现将运行状态runningState设置为初始化失败INIT_FAILED
- runningState = RunningState.INIT_FAILED;
- // 调用shouldRetryInit()方法判断初始化失败时是否可以重试
- if (shouldRetryInit()) {
- // Retry until all namenode's of BPOS failed initialization
- // 记录error日志信息
- LOG.error("Initialization failed for " + this + " "
- + ioe.getLocalizedMessage());
- // 线程休眠5s,并记录info日志信息,之后再进入循环重复执行之前的操作
- sleepAndLogInterrupts(5000, "initializing");
- } else {
- // 不允许重试的情况下,将运行状态runningState设置为失败FAILED,退出循环,并返回
- runningState = RunningState.FAILED;
- LOG.fatal("Initialization failed for " + this + ". Exiting. ", ioe);
- return;
- }
- }
- }
- // 设置运行状态runningState为正在运行RUNNING
- runningState = RunningState.RUNNING;
- // 进入另一个while循环,不停的调用offerService()方法,
- // 发送心跳给NameNode并接收来自NameNode,然后根据命令交给不同的组件去处理
- // 循环的条件就是该线程的标志位shouldServiceRun为true,且dataNode的shouldRun()返回true
- while (shouldRun()) {
- try {
- offerService();
- } catch (Exception ex) {
- // 存在异常的话,记录error日志,并休眠5s
- LOG.error("Exception in BPOfferService for " + this, ex);
- sleepAndLogInterrupts(5000, "offering service");
- }
- }
- // 设置运行状态runningState为已退出EXITED
- runningState = RunningState.EXITED;
- } catch (Throwable ex) {
- LOG.warn("Unexpected exception in block pool " + this, ex);
- runningState = RunningState.FAILED;
- } finally {
- LOG.warn("Ending block pool service for: " + this);
- // 清空,释放占用的资源
- cleanUp();
- }
- }
在run()方法的开始,也就是BPServiceActor线程刚启动时,会在一个while循环内,完成连接NameNode并握手操作,即初始化。这里,是通过调用connectToNNAndHandshake()方法完成与NameNode的连接并进行两次握手的。值得一提的是,如果出现了IOException异常,会先将运行状态runningState设置为初始化失败INIT_FAILED,然后调用shouldRetryInit()方法判断初始化失败时是否可以重试:
1、如果可以重试的话,记录error日志信息,线程休眠5s,并记录info日志信息,之后再进入循环重复执行之前的操作;
2、不允许重试的情况下,将运行状态runningState设置为失败FAILED,退出循环,并返回。
接下来,设置运行状态runningState为正在运行RUNNING,进入另一个while循环,不停的调用offerService()方法,发送心跳给NameNode并接收来自NameNode的命令,然后根据命令交给不同的组件去处理,循环的条件就是该线程的标志位shouldServiceRun为true,且dataNode的shouldRun()返回true;
而当循环过程中存在异常Exception的话,记录error日志,并休眠5s,然后继续循环,只有当shouldRun()方法返回false,才退出循环,设置运行状态runningState为已退出EXITED,最终调用cleanUp()方法释放占用的资源等。
上述就是BPServiceActor线程正常工作进行周期性心跳的主流程。下面,我们针对其中的某些细节进行详细描述。
首先,完成与NameNode的连接并进行两次握手的connectToNNAndHandshake()方法,实现如下:
- /**
- * 连接NameNode并握手
- */
- private void connectToNNAndHandshake() throws IOException {
- // get NN proxy
- // 利用DataNode实例dn的connectToNN()方法和NameNode地址nnAddr获得NameNode的代理bpNamenode
- bpNamenode = dn.connectToNN(nnAddr);
- // First phase of the handshake with NN - get the namespace
- // info.
- // 与NameNode握手第一阶段:获取命名空间信息
- NamespaceInfo nsInfo = retrieveNamespaceInfo();
- // Verify that this matches the other NN in this HA pair.
- // This also initializes our block pool in the DN if we are
- // the first NN connection for this BP.
- // 验证,并设置命名空间信息()
- bpos.verifyAndSetNamespaceInfo(nsInfo);
- // Second phase of the handshake with the NN.
- // 与NameNode握手第二阶段,注册
- register();
- }
它的主要处理流程如下:
1、利用DataNode实例dn的connectToNN()方法和NameNode地址nnAddr获得NameNode的代理bpNamenode
2、与NameNode握手第一阶段:调用retrieveNamespaceInfo()方法获取命名空间信息nsInfo;
3、通过bpos的verifyAndSetNamespaceInfo()方法进行验证,并设置命名空间信息nsInfo;
4、与NameNode握手第二阶段,调用register()方法进行注册。
接着,我们再看下实现周期性心跳的offerService()方法,代码如下:
HDFS源码分析心跳汇报之BPServiceActor工作线程运行流程的更多相关文章
- HDFS源码分析心跳汇报之数据块增量汇报
在<HDFS源码分析心跳汇报之BPServiceActor工作线程运行流程>一文中,我们详细了解了数据节点DataNode周期性发送心跳给名字节点NameNode的BPServiceAct ...
- HDFS源码分析心跳汇报之数据块汇报
在<HDFS源码分析心跳汇报之数据块增量汇报>一文中,我们详细介绍了数据块增量汇报的内容,了解到它是时间间隔更长的正常数据块汇报周期内一个smaller的数据块汇报,它负责将DataNod ...
- HDFS源码分析心跳汇报之数据结构初始化
在<HDFS源码分析心跳汇报之整体结构>一文中,我们详细了解了HDFS中关于心跳的整体结构,知道了BlockPoolManager.BPOfferService和BPServiceActo ...
- HDFS源码分析心跳汇报之周期性心跳
HDFS源码分析心跳汇报之周期性心跳,近期推出!
- HDFS源码分析心跳汇报之DataNode注册
HDFS源码分析心跳汇报之DataNode注册,近期推出!
- HDFS源码分析心跳汇报之整体结构
我们知道,HDFS全称是Hadoop Distribute FileSystem,即Hadoop分布式文件系统.既然它是一个分布式文件系统,那么肯定存在很多物理节点,而这其中,就会有主从节点之分.在H ...
- HDFS源码分析数据块汇报之损坏数据块检测checkReplicaCorrupt()
无论是第一次,还是之后的每次数据块汇报,名字名字节点都会对汇报上来的数据块进行检测,看看其是否为损坏的数据块.那么,损坏数据块是如何被检测的呢?本文,我们将研究下损坏数据块检测的checkReplic ...
- HDFS源码分析数据块校验之DataBlockScanner
DataBlockScanner是运行在数据节点DataNode上的一个后台线程.它为所有的块池管理块扫描.针对每个块池,一个BlockPoolSliceScanner对象将会被创建,其运行在一个单独 ...
- HDFS源码分析数据块复制监控线程ReplicationMonitor(一)
ReplicationMonitor是HDFS中关于数据块复制的监控线程,它的主要作用就是计算DataNode工作,并将复制请求超时的块重新加入到待调度队列.其定义及作为线程核心的run()方法如下: ...
随机推荐
- Google 最新的 Fuchsia OS【科技讯息摘要】
转自:http://www.cnblogs.com/pied/p/5771782.html 就是看到篇报道,有点好奇,就去FQ挖了点东西回来. 我似乎已开始就抓到了重点,没错,就是 LK . LK 是 ...
- 无法启动Visual Studio的localhost web服务器,端口"xxxx"已被使用
解决方法:项目属性-Web里面有web服务器端口的设置,换个端口即可.项目属性->web->服务器,不要选择“自动分配端口”,选择“使用指定端口”,后面输入一个端口号
- TP5 多条件whereOr查询
问题背景:最近在用ThinkPHP 5开发项目的过程中,发现根据筛选条件做or查询的时候,连贯操作不可以使用where进行条件查询了. 首先列出一个user数据表的信息: uid uname grad ...
- JMeter性能测试常用之事务控制器实例
通常进行性能测试时,我们一般仅考虑主要的数据返回,不考虑页面渲染所需要的数据(例如:css.js.图片等).但当我们需要衡量打开一个页面(页面渲染完成)的性能时,我们就需要考虑完成页面渲染所需要的图片 ...
- 洛谷——P1119 灾后重建
P1119 灾后重建 题目背景 B地区在地震过后,所有村庄都造成了一定的损毁,而这场地震却没对公路造成什么影响.但是在村庄重建好之前,所有与未重建完成的村庄的公路均无法通车.换句话说,只有连接着两个重 ...
- Apache/Nginx为PHP设置、添加$_SERVER服务器环境变量
在PHP开发中为了区分线上生产环境还是本地开发环境, 如果我们能通过判断$_SERVER['RUNTIME_ENVIROMENT']为 'DEV'还是'PRO'来区分该多好, 可惜的是$_SERVER ...
- shell date获取时间值
使用Shell获取上一个月.星期的时间范围 #!/bin/bash date_today=`date -d '1 day ago' +%Y%m%d` #最近7天 date_befor_7day=` ...
- JavaScript 深克隆
深克隆 function judgeType(arg){//判断js数据类型 return Object.prototype.toString.call(arg).slice(8,-1); } fun ...
- iOS博客列表
国外 iOSDevWeekly NSHipster NSBlog objcio Raywenderlich Bignerdranch NSScreencast 需FQ Pilky.me jeremyw ...
- EasyMvc入门教程-高级控件说明(19)表单控件
我们开发的系统,主要的一个功能就是采集界面数据,传回到服务器,比如:录入学生信息,这时候就需要表单. EasyMvc提供了如下界面控件,如下图所示:(控件+布局) EasyMvc实现了基于模型的绑定, ...