HBase Compaction
当 client 向 hregion 端 put() 数据时, HRegion 会判断当前的 memstore 的大小是否大于参数hbase.hregion.memstore.flush.size 值,如果大于,则执行 flushcache() 操作,将 hregion 上的 memstore 刷新到 store
files 文件里。
而在 flushcache 时,会先判断当前的 region 是否满足以下条件
Store files number > 参数hbase.hstore.blockingStoreFiles 值
如果满足,则会将该 region 放入 CompactSplitThread 线程的队列中,等待被compactsplit 。
接着继续执行flushcache() 操作,将建立快照,然后将快照刷新到hdfs 的store files 上。
Flushcache 完成后,还会再判断store file 数是否大于
参数 hbase.hstore.compaction.min ,如果是,还会将其加入到 CompactSplitThread 队列中。
而在线程中 CompactSplitThread 会对region 进行compact 和split 。
Compact 就是将之前多次刷新到hdfs 上的store files 合并成一个文件,同时将这之前的日志清理干净。
Split 就是将一个大的region 拆分成二个region 。
下面讲一个compact 的合并过程。
之前的 store file 是从 memstore 内存中刷新到 hdfs 上,每个文件是有顺序的,现在就要将这多个有顺序的 store files 组装成一个有顺序的 file 。 Hbase 中是如何进行的呢?
首先对每个store file 包装成StoreFileScanner 类。该类有以下方法。
public KeyValue peek();// 取得当前的kv 。
public KeyValue next()// 取下一个kv 。就是从hdfs 读取下一个kv 。
public boolean seek(KeyValue key)// 对当前的KV 赋值。
然后再对要合并的store files 新建StoreFileScanner 对象。如下代码:
filesToCompact 队列为最原始的Store files 。
List<StoreFileScanner> scanners =
new ArrayList< StoreFileScanner >(filesToCompact.size());
for (StoreFile file : filesToCompact ) {
StoreFile.Reader r = file.createReader();
scanners.add(r.getStoreFileScanner(cacheBlocks, usePread));
}
然后再用 StoreScanner 对象将前面的 StoreFileScanner 对象队列包装一下。
scanner = new StoreScanner( this , scan, scanners, !majorCompaction);
这样一来,只需要调用 scanner 对象的 next() 方法就可以从这些 store files 依次得到有序的 kv 对。
然后再将这些有序的 KV 对有序地 append 到最终新建的 store file 上。
这样就完成了整个合并过程,代码如下:
ArrayList<KeyValue> kvs = new ArrayList<KeyValue>();
while (scanner.next(kvs)) {
if (writer == null && !kvs.isEmpty()) {
writer = createWriterInTmp(maxKeyCount,
this.compactionCompression);
}
if (writer != null) {
// output to writer:
for (KeyValue kv : kvs) {
writer.append(kv);
}
}
}
接下来需要关注的是 StoreScanner 类中的 next() 方法是如何从它的多个 store files 的 StoreFileScanner 对象中获取有序的 kv 对的呢?
首先看 StoreScanner 类的构造函数,这里定义了 KeyValueHeap 对象,将之前定义的 store files 的StoreFileScanner 包装起来。
StoreScanner (Store store, Scan scan, List<? extends KeyValueScanner>
scanners,
boolean retainDeletesInOutput)
throws IOException {
this.store = store;
this.cacheBlocks = false;
this.isGet = false;
matcher = new ScanQueryMatcher(scan, store.getFamily().getName(),
null, store.ttl, store.comparator.getRawComparator(),
store.versionsToReturn(scan.getMaxVersions()), retainDeletesInOutput);
// Seek all scanners to the initial key
for(KeyValueScanner scanner : scanners) {
scanner.seek( matcher.getStartKey() );
}// 将所有的 store files 中 scanner 对象定位到起始的 key 开始。
// Combine all seeked scanners with a heap
heap = new KeyValueHeap (scanners, store.comparator);
// 定义一个 KV 对的堆。
}
StoreScanner.next() 方法中可以看出来在 StoreScanner 取下一个有序的 KV 时,只需要调用KeyValueHeap 的 next() 方法即可返回当前最小的 kv 对象。
KeyValue peeked = this.heap.peek();
if (peeked == null) {
close();
return false;
}
那么最关键的地方就到 KeyValueHeap 类中。
这个类有三个变量,分别如下:
private PriorityQueue<KeyValueScanner> heap = null;
files 的 scanner 对象的队列
private KeyValueScanner current = null;
当前 kv 所在的 scanner 对象
private KVScannerComparator comparator;
scanner 对象的比较类,默认的类是 KVScannerComparator 。
在这里用到 java 中的 PriorityQueue 优先级队列。此队列按照在构造时所指定的顺序对元素排序,可以根据我们指定的 Comparator 来排序。
而这里的比较为就是对调用之前的 store files 的 scanner 对象获得它们当前的 kv ,然后对其进行比较。
public int compare(KeyValueScanner left, KeyValueScanner right) {
int comparison = compare(left.peek(), right.peek());
if (comparison != 0) {
return comparison;
} else {
long leftSequenceID = left.getSequenceID();
long rightSequenceID = right.getSequenceID();
if (leftSequenceID > rightSequenceID) {
return -1;
} else if (leftSequenceID < rightSequenceID) {
return 1;
} else {
return 0;
}
}
}
在构建队列 heap 时,将 store files 的 scanner 对象加入到队列时,会按照 KVScannerComparator 对所有的 store files 的 scanner 对象进行排序,同时保证队首永远是 kv 最小的,并将 kv 最小的 scanner 对象赋值给current 变量。
public KeyValueHeap(List<? extends KeyValueScanner> scanners,
KVComparator comparator) {
this.comparator = new KVScannerComparator(comparator);
if (!scanners.isEmpty()) {
this.heap = new PriorityQueue<KeyValueScanner>(scanners.size(),
this.comparator);
for (KeyValueScanner scanner : scanners) {
if (scanner.peek() != null) {
this.heap.add(scanner);
} else {
scanner.close();
}
}
this.current = heap.poll();
}
}
而调用 Next() 方法时,从 store files 中的 scanner 对象队列中取得下一个最小的 kv 对象,具体代码如下:
public boolean next(List<KeyValue> result, int limit) throws IOException {
if (this.current == null) {
return false;
}
InternalScanner currentAsInternal = (InternalScanner)this.current;
boolean mayContainsMoreRows = currentAsInternal.next(result, limit);// 返回当前最小的 scanner 对象中当前的 k 的 kv 对象
// 对取完最小元素的 scanner 对象向后移动。
KeyValue pee = this.current.peek();
// 如果下一个 kv 对不为 null ,则可以加入到 heap 中,否则不加入。
if (pee == null || !mayContainsMoreRows) {
this.current.close();
} else {
this.heap.add(this.current);
}
this.current = this.heap.poll();// 再从 heap 中取最小元素的 scanner 对象。
return (this.current != null);
}
总结:
用 StoreFileScanner 将 store file 封装好,提供 next() 和 peek() 方法来获取文件的后面的元素和当前元素。
用 KeyValueHeap 将所有 file 的 StoreFileScanner 对象按照 StoreFileScanner 对象当前的 kv 大小进行排序,如果某个 scanner 对象是最小 KV ,则将其往后移获得下一个元素,依次这样下去,直到全部取完为止,来保证顺序。
同样,在 mapreduce 里,也有合并过程,就是在 reduce 端对 map 传输过来的分片进行合并。和 hbase 中的结果合并方法是一致的。
Mapredue 中用 segment 来包装从 map 过来的 file ,提供了对当前文件的读取下一个 kv 的方法, MergeQueue类继承了 PriorityQueue ,同样提供了 next() 方法有序的从多个文件里读取 KV 对,详细代码在 Merger 类中。
HBase Compaction的更多相关文章
- HBase Compaction详解
HBase Compaction策略 RegionServer这种类LSM存储引擎需要不断的进行Compaction来减少磁盘上数据文件的个数和删除无用的数据从而保证读性能. RegionServer ...
- hbase实践之flush and compaction
本文主要涉及flush流程,探讨flush流程过程中引入的问题并阐述2种解决策略,最后简要说明Flush执行策略. 对于Compaction,本文主要探讨Compaction要解决的本质问题以及由Co ...
- HBase in 2013
2013年马上就要过去了,总结下这一年HBase在这么一年中发生的主要变化.影响最大的事件就是HBase 0.96的发布,代码结构已经按照模块化release了,而且提供了许多大家迫切需求的特点.这些 ...
- 一条数据的HBase之旅,简明HBase入门教程-开篇
常见的HBase新手问题: 什么样的数据适合用HBase来存储? 既然HBase也是一个数据库,能否用它将现有系统中昂贵的Oracle替换掉? 存放于HBase中的数据记录,为何不直接存放于HDFS之 ...
- HBase运维和优化
管理工具 HBase ShellHBase Shell是HBase组件提供的基于JRuby IRB的字符界面的交互式客户端程序,通过HBase Shell可以实现对HBase的绝大部分操作 通过hel ...
- hbase优化小结
目录: 1,背景 2,GC 3,hbase cache 4,compaction 5,其他 1,背景 项目组中,hbase主要用来备份mysql数据库中的表.主要通过接入mysql binlog,经s ...
- 一条数据的HBase之旅,简明HBase入门教程1:开篇
[摘要] 这是HBase入门系列的第1篇文章,主要介绍HBase当前的项目活跃度以及搜索引擎热度信息,以及一些概况信息,内容基于HBase 2.0 beta2版本.本系列文章既适用于HBase新手,也 ...
- 干货 | Kafka 内核知识梳理,附思维导图
前面我们已经分享过几篇Kafka的文章,最近简单梳理了下Kafka内核相关的知识,涵盖了Kafka架构总结,副本机制,控制器,高水位机制,日志或消息存储,消息发送与消费机制等方面知识.文末含对应的Ka ...
- HBase MetaStore和Compaction剖析
1.概述 客户端读写数据是先从HBase Master获取RegionServer的元数据信息,比如Region地址信息.在执行数据写操作时,HBase会先写MetaStore,为什么会写到MetaS ...
随机推荐
- Zookeeper总概
zookeeper是一个开源的分布式协调服务.是典型的分布式数据一致性的解决方案. zookeeper可以保证以下分布式一致性的特性 1. 顺序性:同一客户端发起的事务请求,最终会严格的按照发出顺序应 ...
- 2.关于QT中的Dialog(模态窗口),文件选择器,颜色选择器,字体选择器,消息提示窗口
1 新建一个空项目 A 编写 .pro文件 QT += gui widgets HEADERS += \ MyDialog.h SOURCES += \ MyDialog.cpp B 编写MyD ...
- 基于OpenCV 的美颜相机推送直播流
程序流程: 1.图像采集 先从opencv(2.4.10版本)采集回来摄像头的图像,是一帧一帧的 每一帧图像是一个矩阵,opencv中的mat 数据结构. 2.人脸的美化 人脸美化,我们用的皮肤检测, ...
- ubuntu和mac OS X下另一种使用QQ的方法
在ubuntu可以到pidgin官网下载http://www.pidgin.im,然后再安装插件 pidgin-lwqq即可,步骤为: sudo add-apt-repository ppa:lain ...
- ubuntu连接android设备(附最简单方法)
在ubuntu下连接android设备,虽然不用像windows那样安装驱动,然而却会遇见一个错误:输入adb shell,会提示insufficient permissions for device ...
- JDK8帮助文档生成-笔记
JDK8 出来了,以前习惯了使用.CHM文件来查看API,现在想也这样,这里自己制作了一下,记录一下. 1.需要的工具: ①JD2CHM;②API文档③HTMLlHelper 遇到的问题主要是不知道去 ...
- 使用Python做简单的字符串匹配
由于需要在半结构化的文本数据中提取一些特定格式的字段.数据辅助挖掘分析工作,以往都是使用Matlab工具进行结构化数据处理的建模,matlab擅长矩阵处理.结构化数据的计算,Python具有与matl ...
- Mysql join语句的优化
Mysql4.1开始支持SQL的子查询.这个技术可以使用SELECT语句来创建一个单列的查询结果,然后把这个结果作为过滤条件用在另一个查询中.使用子查询可以一次性的完成很多逻辑上需要多个步骤才能完成的 ...
- Ext JS 6正式版的GPL版本下载地址
下面是Ext JS 6正式版的GPL版本下载地址 https://www.sencha.com/legal/gpl/
- 敏捷测试(6)--基于story的敏捷基础知识
基于story的敏捷基础知识----需求管理(三) (3)每日站会 站会的目的有三个: (1)周知进度 仅从用户故事和任务的层面周知进度,任务进度只有两种状态:完成或未完成(完成百分比). (2)周知 ...