1.hadoop的bin目录下,执行命令以下命令清除Hbase数据 hadoop fs -rm -r /hbase 2.连接ZK,执行以下命令清除Hbase数据 rmr /hbase 3.重启ZK.重启hadoop(hdfs.yarn).重启hbase…
在用phoenix创建Hbase表时,有时会提示创建失败,发现Hbase中又已创建成功, 但这些表在进行enable.disable.drop都无效,也无法删除: hbase(main)::> enable 'TERMINAL_DETAIL_DATA' ##如下异常: ERROR: org.apache.hadoop.hbase.TableNotDisabledException: TERMINAL_DETAIL_DATA at org.apache.hadoop.hbase.master.ha…
HMaster 没有处理过重的负载,并且实际的数据服务不经过 HMaster,它的主要任务有2个:一.管理Hbase Table的 DDL操作, 二.region的分配工作,任务不是很艰巨. 但是如果采用默认自动split region的方式,HMaster会稍微忙一些,负载不大,可适度对此进程做适量放大heap 的操作,但不可太大. RegionServer在写入数据时,数据会先保存在memstore 中,当大于阈值时候,再写入到磁盘.因为写入的数据是由客户端在不同时间写入的,故而他们占据的J…
一.Region Server栏信息 Requests Per Second,每秒读或写请求次数,可以用来监控HBase请求是否均匀.如果不均匀需排查是否为建表的region划分不合理造成. Num. Regions,每个Regionserver节点上的region个数,观察每个节点的region个数是否均匀,如果不均匀需要确认balance问题. 二.Dead Region Servers栏信息 查看Dead的节点,并确认该节点是否有人为stop或者自动挂了 三.Tables栏信息 Table…
背景 HBase统计 RowCount 的方法有好几种,并且执行效率差别巨大,以下3种方法效率依次提高.   一.hbase-shell的count命令 这是最简单直接的操作,但是执行效率非常低,适用于百万级以下的小表RowCount统计. 此操作可能需要很长时间,来运行计数MapReduce作业.默认情况下每1000行显示当前计数,计数间隔可自行指定. 默认情况下在计数扫描上启用缓存,默认缓存大小为10行. 行数为 3000W 的表测试结果,在默认INTERVAL为1000行时花了80分钟左右…
问题描述 HBase在运行一段时间后,会出现以下2种情况: 1.HMaster节点自动挂掉: 通过jps命令,发现HMaster进程没了,只剩下HRegionServer,此时应用还能正常往HBase写入数据 此时以下界面无法打开: 2.HRegionServer节点自动挂掉 通过jps命令,发现HRegionServer进程没了,此时应用往HBase写入数据时不报错 问题排查 问题1:查看HMaster节点的日志,出现一些异常信息,且跟zk有关. 以下标红的字说明:休眠了64293ms而不是3…
发现有些regison程序操作失败,其他region 都是正常的,重启regionserver 后依然报同样的错误. 首先进入hbase的bin目录,执行下面命令检查表是否有存储一致性问题: hbase hbck -details table 如出现以下提示,则说明有不一致的地方,2表示个数: inconsistencies detected. 既然不一致,咱就尝试修复一下(这个功能要管理权限,使用慎重): hbase hbck -repair table 修复完了以后结果如下: Summary…
[问题描述] 在持续批量写入HBase的情况下,出现了Dead Region Servers的情况.集群会把dead掉节点上的region自动分发到另外2个节点上,集群还能继续运行,只是少了1个节点. [解决方案] 重启HBase集群,dead掉的那个节点又恢复正常了.集群又会重新分配region到3个节点上 [总结] HBase版本为2.0.0,问题产生的原因还没有找到,在这里先记录一下. 補充: 問題原因已找到,請查看另外1個:https://www.cnblogs.com/caoweixi…
一.配置 server.properties 设置 delete.topic.enable=true 如果没有设置 delete.topic.enable=true,则调用kafka 的delete命令无法真正将topic删除,而是显示(marked for deletion) 二.停止消费 如果需要被删除topic 此时正在被程序 produce和consume,则这些生产和消费程序需要停止. 因为如果有程序正在生产或者消费该topic,则该topic的offset信息一致会在broker更新…
一.起因: Hbase是一个列式存储,nosql类型的数据库,类似mongodb. 目前似乎没有提供批量删除的方法,只有一个单行删除的命令:deleteall 'tablename', rowkey 二.删除方法: 方法一:通过写 shell 脚本,从 hbase shell 查出需要删除的 rowkey ,拼成删除命令(deleteall 'tablename', rowkey),写到文本 del_temp.txt :然后执行 hbase shell del_temp.txt 方法二:通过建映…