Hbase Region合并

业务场景：

Kafka+SparkStreaming+Hbase
由于数据大量的迁移，再加上业务的改动，新增了很多表，导致rerigon总数接近4万（36个节点）

组件版本：

Kafka：2.1.1

Spark：2.2.0-cdh5.12.0

Hbase：1.2.0-cdh5.12.0

问题发现：

CDH界面较多关于web服务器相应时间过长，和队列刷新速度较慢。
streaming界面，每隔一段时间就会需要较长的处理时间

解决过程：

【1】

首先把一些业务不需要的表disable掉，region下线，最后还剩2.5万个线上region，随后CDH页面无异常信息了，并且streaming处理时间都比较正常了（四类业务表现都相同）

【2】

由于业务上每月都会有新表，所以以上的操作不能满足，经过研究，可以在保证表的请求量不高的情况下，把当前表的region合并，从而减少region数。而且Hbase集群目前已经停掉了region自动分裂，所以不会有在合并完之后再分裂的情况。

禁用分裂机制：

集群配置：

理论上讲，现在regionserver分配了64G内存，0.8的写入高水位线，也就是64*0.8=51.2G用作写，每个memstore占用128M，这么算的话理论上也就每个server400多个region的时候，不会造成过早的flush，总共下来400*36个，现在已经是超负荷运行了，所以还需要将Region进行合并。

合并代码：

public class Hbase_Merge {

public static void main(String[] args) throws Exception {

Configuration conf = HBaseConfiguration.create();

conf.set("hbase.zookeeper.property.clientPort", "2181");

conf.set("hbase.zookeeper.quorum", "zk1,zk2,zk3");

HBaseAdmin admin = new HBaseAdmin(conf);

List<HRegionInfo> regions = admin.getTableRegions(TableName.valueOf("TableName"));

Collections.sort(regions, new Comparator<HRegionInfo>() {

@Override

public int compare(HRegionInfo o1, HRegionInfo o2) {

return Bytes.compareTo(o1.getStartKey(),o2.getStartKey());

}

});

HRegionInfo regionInfo =null;

for (HRegionInfo r : regions){

int index =regions.indexOf(r);

if(index %2 == 0){

regionInfo = r;

}else{

System.out.println("start to merge two regions,NUM:"+index+" and "+(index+1) );

admin.mergeRegions(regionInfo.getEncodedNameAsBytes(),r.getEncodedNameAsBytes(),false);

System.out.println("merge two regions finished");

}

}

System.out.println("merge all regions finished");

}

}

结果：

最终Region数大量减少，Streaming任务也恢复正常。

后记：

IO高峰为合并region导致的，入Hbase的程序都将受到影响，Streaming批处理时间增长，中间还伴随着Region-In-Transition（此处影响不大）

建议：避开业务高峰期对Region合并

这些都是之前存到有道上了，搬到这里费了好大的劲，还得不断学习，哈哈