HBase Compaction
当 client 向 hregion 端 put() 数据时, HRegion 会判断当前的 memstore 的大小是否大于参数hbase.hregion.memstore.flush.size 值,如果大于,则执行 flushcache() 操作,将 hregion 上的 memstore 刷新到 store
files 文件里。
而在 flushcache 时,会先判断当前的 region 是否满足以下条件
Store files number > 参数hbase.hstore.blockingStoreFiles 值
如果满足,则会将该 region 放入 CompactSplitThread 线程的队列中,等待被compactsplit 。
接着继续执行flushcache() 操作,将建立快照,然后将快照刷新到hdfs 的store files 上。
Flushcache 完成后,还会再判断store file 数是否大于
参数 hbase.hstore.compaction.min ,如果是,还会将其加入到 CompactSplitThread 队列中。
而在线程中 CompactSplitThread 会对region 进行compact 和split 。
Compact 就是将之前多次刷新到hdfs 上的store files 合并成一个文件,同时将这之前的日志清理干净。
Split 就是将一个大的region 拆分成二个region 。
下面讲一个compact 的合并过程。
之前的 store file 是从 memstore 内存中刷新到 hdfs 上,每个文件是有顺序的,现在就要将这多个有顺序的 store files 组装成一个有顺序的 file 。 Hbase 中是如何进行的呢?
首先对每个store file 包装成StoreFileScanner 类。该类有以下方法。
public KeyValue peek();// 取得当前的kv 。
public KeyValue next()// 取下一个kv 。就是从hdfs 读取下一个kv 。
public boolean seek(KeyValue key)// 对当前的KV 赋值。
然后再对要合并的store files 新建StoreFileScanner 对象。如下代码:
filesToCompact 队列为最原始的Store files 。
List<StoreFileScanner> scanners =
new ArrayList< StoreFileScanner >(filesToCompact.size());
for (StoreFile file : filesToCompact ) {
StoreFile.Reader r = file.createReader();
scanners.add(r.getStoreFileScanner(cacheBlocks, usePread));
}
然后再用 StoreScanner 对象将前面的 StoreFileScanner 对象队列包装一下。
scanner = new StoreScanner( this , scan, scanners, !majorCompaction);
这样一来,只需要调用 scanner 对象的 next() 方法就可以从这些 store files 依次得到有序的 kv 对。
然后再将这些有序的 KV 对有序地 append 到最终新建的 store file 上。
这样就完成了整个合并过程,代码如下:
ArrayList<KeyValue> kvs = new ArrayList<KeyValue>();
while (scanner.next(kvs)) {
if (writer == null && !kvs.isEmpty()) {
writer = createWriterInTmp(maxKeyCount,
this.compactionCompression);
}
if (writer != null) {
// output to writer:
for (KeyValue kv : kvs) {
writer.append(kv);
}
}
}
接下来需要关注的是 StoreScanner 类中的 next() 方法是如何从它的多个 store files 的 StoreFileScanner 对象中获取有序的 kv 对的呢?
首先看 StoreScanner 类的构造函数,这里定义了 KeyValueHeap 对象,将之前定义的 store files 的StoreFileScanner 包装起来。
StoreScanner (Store store, Scan scan, List<? extends KeyValueScanner>
scanners,
boolean retainDeletesInOutput)
throws IOException {
this.store = store;
this.cacheBlocks = false;
this.isGet = false;
matcher = new ScanQueryMatcher(scan, store.getFamily().getName(),
null, store.ttl, store.comparator.getRawComparator(),
store.versionsToReturn(scan.getMaxVersions()), retainDeletesInOutput);
// Seek all scanners to the initial key
for(KeyValueScanner scanner : scanners) {
scanner.seek( matcher.getStartKey() );
}// 将所有的 store files 中 scanner 对象定位到起始的 key 开始。
// Combine all seeked scanners with a heap
heap = new KeyValueHeap (scanners, store.comparator);
// 定义一个 KV 对的堆。
}
StoreScanner.next() 方法中可以看出来在 StoreScanner 取下一个有序的 KV 时,只需要调用KeyValueHeap 的 next() 方法即可返回当前最小的 kv 对象。
KeyValue peeked = this.heap.peek();
if (peeked == null) {
close();
return false;
}
那么最关键的地方就到 KeyValueHeap 类中。
这个类有三个变量,分别如下:
private PriorityQueue<KeyValueScanner> heap = null;
files 的 scanner 对象的队列
private KeyValueScanner current = null;
当前 kv 所在的 scanner 对象
private KVScannerComparator comparator;
scanner 对象的比较类,默认的类是 KVScannerComparator 。
在这里用到 java 中的 PriorityQueue 优先级队列。此队列按照在构造时所指定的顺序对元素排序,可以根据我们指定的 Comparator 来排序。
而这里的比较为就是对调用之前的 store files 的 scanner 对象获得它们当前的 kv ,然后对其进行比较。
public int compare(KeyValueScanner left, KeyValueScanner right) {
int comparison = compare(left.peek(), right.peek());
if (comparison != 0) {
return comparison;
} else {
long leftSequenceID = left.getSequenceID();
long rightSequenceID = right.getSequenceID();
if (leftSequenceID > rightSequenceID) {
return -1;
} else if (leftSequenceID < rightSequenceID) {
return 1;
} else {
return 0;
}
}
}
在构建队列 heap 时,将 store files 的 scanner 对象加入到队列时,会按照 KVScannerComparator 对所有的 store files 的 scanner 对象进行排序,同时保证队首永远是 kv 最小的,并将 kv 最小的 scanner 对象赋值给current 变量。
public KeyValueHeap(List<? extends KeyValueScanner> scanners,
KVComparator comparator) {
this.comparator = new KVScannerComparator(comparator);
if (!scanners.isEmpty()) {
this.heap = new PriorityQueue<KeyValueScanner>(scanners.size(),
this.comparator);
for (KeyValueScanner scanner : scanners) {
if (scanner.peek() != null) {
this.heap.add(scanner);
} else {
scanner.close();
}
}
this.current = heap.poll();
}
}
而调用 Next() 方法时,从 store files 中的 scanner 对象队列中取得下一个最小的 kv 对象,具体代码如下:
public boolean next(List<KeyValue> result, int limit) throws IOException {
if (this.current == null) {
return false;
}
InternalScanner currentAsInternal = (InternalScanner)this.current;
boolean mayContainsMoreRows = currentAsInternal.next(result, limit);// 返回当前最小的 scanner 对象中当前的 k 的 kv 对象
// 对取完最小元素的 scanner 对象向后移动。
KeyValue pee = this.current.peek();
// 如果下一个 kv 对不为 null ,则可以加入到 heap 中,否则不加入。
if (pee == null || !mayContainsMoreRows) {
this.current.close();
} else {
this.heap.add(this.current);
}
this.current = this.heap.poll();// 再从 heap 中取最小元素的 scanner 对象。
return (this.current != null);
}
总结:
用 StoreFileScanner 将 store file 封装好,提供 next() 和 peek() 方法来获取文件的后面的元素和当前元素。
用 KeyValueHeap 将所有 file 的 StoreFileScanner 对象按照 StoreFileScanner 对象当前的 kv 大小进行排序,如果某个 scanner 对象是最小 KV ,则将其往后移获得下一个元素,依次这样下去,直到全部取完为止,来保证顺序。
同样,在 mapreduce 里,也有合并过程,就是在 reduce 端对 map 传输过来的分片进行合并。和 hbase 中的结果合并方法是一致的。
Mapredue 中用 segment 来包装从 map 过来的 file ,提供了对当前文件的读取下一个 kv 的方法, MergeQueue类继承了 PriorityQueue ,同样提供了 next() 方法有序的从多个文件里读取 KV 对,详细代码在 Merger 类中。
HBase Compaction的更多相关文章
- HBase Compaction详解
HBase Compaction策略 RegionServer这种类LSM存储引擎需要不断的进行Compaction来减少磁盘上数据文件的个数和删除无用的数据从而保证读性能. RegionServer ...
- hbase实践之flush and compaction
本文主要涉及flush流程,探讨flush流程过程中引入的问题并阐述2种解决策略,最后简要说明Flush执行策略. 对于Compaction,本文主要探讨Compaction要解决的本质问题以及由Co ...
- HBase in 2013
2013年马上就要过去了,总结下这一年HBase在这么一年中发生的主要变化.影响最大的事件就是HBase 0.96的发布,代码结构已经按照模块化release了,而且提供了许多大家迫切需求的特点.这些 ...
- 一条数据的HBase之旅,简明HBase入门教程-开篇
常见的HBase新手问题: 什么样的数据适合用HBase来存储? 既然HBase也是一个数据库,能否用它将现有系统中昂贵的Oracle替换掉? 存放于HBase中的数据记录,为何不直接存放于HDFS之 ...
- HBase运维和优化
管理工具 HBase ShellHBase Shell是HBase组件提供的基于JRuby IRB的字符界面的交互式客户端程序,通过HBase Shell可以实现对HBase的绝大部分操作 通过hel ...
- hbase优化小结
目录: 1,背景 2,GC 3,hbase cache 4,compaction 5,其他 1,背景 项目组中,hbase主要用来备份mysql数据库中的表.主要通过接入mysql binlog,经s ...
- 一条数据的HBase之旅,简明HBase入门教程1:开篇
[摘要] 这是HBase入门系列的第1篇文章,主要介绍HBase当前的项目活跃度以及搜索引擎热度信息,以及一些概况信息,内容基于HBase 2.0 beta2版本.本系列文章既适用于HBase新手,也 ...
- 干货 | Kafka 内核知识梳理,附思维导图
前面我们已经分享过几篇Kafka的文章,最近简单梳理了下Kafka内核相关的知识,涵盖了Kafka架构总结,副本机制,控制器,高水位机制,日志或消息存储,消息发送与消费机制等方面知识.文末含对应的Ka ...
- HBase MetaStore和Compaction剖析
1.概述 客户端读写数据是先从HBase Master获取RegionServer的元数据信息,比如Region地址信息.在执行数据写操作时,HBase会先写MetaStore,为什么会写到MetaS ...
随机推荐
- java之异常处理
异常Exception我们分为 |--RuntimeException运行期异常,我们需要修正代码 |--非RuntimeException 编译期异常,必须处理的,否则程序编译不通过 异常有两种处理 ...
- 即时通讯软件openfire+spark+smack
所以我基本上分为三篇文章来介绍此类软件的开发: 第一篇是关于XMPP 协议是啥,IM 是啥以及一个比较有名的开源实现,该开源实现包括三个部分(Spark.Smack和Openfire): 第二篇讲如何 ...
- [openwrt] uci 的shell和lua接口
uci是openwrt上配置操作的接口,不管是自动化的shell脚本,还是使用luci来二次开发配置界面,都会用到这部分知识. uci提供了lua, shell, c接口,这里主要用到了前两种 she ...
- (一一七)基本文件操作 -SDWebImage清除缓存 -文件夹的大小计算
在iOS的App沙盒中,Documents和Library/Preferences都会被备份到iCloud,因此只适合放置一些记录文件,例如plist.数据库文件.缓存一般放置到Library/Cac ...
- 最简单的基于FFmpeg的封装格式处理:视音频分离器(demuxer)
===================================================== 最简单的基于FFmpeg的封装格式处理系列文章列表: 最简单的基于FFmpeg的封装格式处理 ...
- 开发Nginx模块Helloworld
本文是对<深入理解Nginx>一书中的实例进行实战时的记录. 1模块目录结构 my_test_module/ ├── config └── ngx_http_mytest_module.c ...
- 软考之路--从生活着手,看PV如何操作
PV操作,是软考当中一个很重要的考点,一听到这个名词,顿时赶脚高大上有么有,在软考的历年试题中,也不乏PV操作的身影,老师也对PV操作进行了一次讲课,那时年少,听得稀里糊涂,也不是很理解,在小编的理解 ...
- OpenCV Python教程(1、图像的载入、显示和保存)
原文地址:http://blog.csdn.net/sunny2038/article/details/9057415 转载请详细注明原作者及出处,谢谢! 本文是OpenCV 2 Computer ...
- 网站开发进阶(三十七)JSP页面跳转问题解决
JSP页面跳转问题解决 PS:本篇博文质量欠佳,仅供个人学习之用. 前言 在做Web开发时,对别人的应用(jsp+servlet)进行服务器部署时出现了页面跳转无效的情况.但是项目在本地未出现此状况. ...
- HTML5 window/iframe跨域传递消息 API
原文地址:HTML5′s window.postMessage API 在线示例:Using HTML5's window.postMessage(请打开控制台看日志) 原文日期: 2010年09月0 ...