作者:R星月 出处:http://www.cnblogs.com/rxingyue 欢迎转载,也请保留这段声明.谢谢! 做一个项目中由于数据量比较大,并且需要定时增量分析,做了hbase的分页.项目中用到的版本是hbase1.1 .需要启用协处理器 Aggregation 1.启动全局aggregation,能过操纵所有的表上的数据.通过修改hbase-site.xml这个文件来实现,只需要添加如下代码: <property> <name>hbase.coprocessor.use

最近迁移数据时需要执行大Scan,HBase集群经常碰到以下日志: Exception in thread "main" org.apache.hadoop.hbase.DoNotRetryIOException: Failed after retry of OutOfOrderScannerNextException: was there a rpc timeout? 出现上述日志后这次Scan就挂了,HBase Client不能自动恢复了.下面分析一下相关代码. 客户端Scan示例

Overview The Scan operation for HBase. Scan API All operations are identical to Get with the exception of instantiation. Rather than specifying a single row, an optional startRow and stopRow may be defined. If rows are not specified, the Scanner will

HBase Scan流程分析 HBase的读流程目前看来比较复杂,主要由于: HBase的表数据分为多个层次,HRegion->HStore->[HFile,HFile,...,MemStore] RegionServer的LSM-Like存储引擎,不断flush产生新的HFile,同时产生新的MemStore用于后续数据写入,并且为了防止由于HFile过多而导致Scan时需要扫描的文件过多而导致的性能下降,后台线程会适时的进行Compaction,Compaction的过程会产生新的HFil

Scan,get用法 1. get help帮助信息 从下列get用法信息可以看出 get 后面可以跟table表名,rowkey,以及column,value.但是如果想通过get直接获取一个表中的全部数据是做不到的,这种情况就要用到另外一个命令scan. hbase(main):214:0> help 'get' Get row or cell contents; pass table name, row, and optionally a dictionary of column(s),

HBase的查询实现只提供两种方式: 1.按指定RowKey获取唯一一条记录,get方法(org.apache.hadoop.hbase.client.Get) 2.按指定的条件获取一批记录,scan方法(org.apache.Hadoop.Hbase.client.Scan) 实现条件查询功能使用的就是scan方式,scan在使用时有以下几点值得注意:1.scan可以通过setCaching与setBatch方法提高速度(以空间换时间):2.scan可以通过setStartRow与setEnd

转自:http://blog.csdn.net/caoli98033/article/details/44650497 HBase的查询实现只提供两种方式: 1.按指定RowKey获取唯一一条记录,get方法(org.apache.hadoop.hbase.client.Get) 2.按指定的条件获取一批记录,scan方法(org.apache.Hadoop.Hbase.client.Scan) 实现条件查询功能使用的就是scan方式,scan在使用时有以下几点值得注意:1.scan可以通过se

/** * Created by han on 2016/1/28. */ import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.*; import org.apache.hadoop.hbase.client.*; import org.apache.hadoop.hbase.filter.CompareFilter.CompareOp; import org.apache.hadoop.hbas

org.apache.Hadoop.hbase.client.ScannerTimeoutException: 60622ms passed since the last invocation, timeout is currently set to at org.apache.hadoop.hbase.client.HTable$ClientScanner.next(HTable.java:) at org.apache.hadoop.hbase.mapreduce.TableRecordRe

创建表 create 'test1', 'lf', 'sf' lf: column family of LONG values (binary value) -- sf: column family of STRING values 导入数据 put 'test1', 'user1|ts1', 'sf:c1', 'sku1' put 'test1', 'user1|ts2', 'sf:c1', 'sku188' put 'test1', 'user1|ts3', 'sf:s1', 'sku123

Scan是操作Hbase中非常常用的一个操作,虽然前面的Hbase API操作简单的介绍了Scan的操作,但不够详细,由于Scan非常常用,关于其详细的整理也是很有必要的. Scan HBase中的数据表通过划分成一个个的Region来实现数据的分片,每一个Region关联一个RowKey的范围区间,而每一个Region中的数据,按RowKey的字典顺序进行组织. 正是基于这种设计,使得HBase能够轻松应对这类查询:“指定一个RowKey的范围区间,获取该区间的所有记录”, 这类查询在HBas

public static void main(String[] args) throws IOException { //Scan类常用方法说明 //指定需要的family或column ,如果没有调用任何addFamily或Column,会返回所有的columns: // scan.addFamily(); // scan.addColumn(); // scan.setMaxVersions(); //指定最大的版本个数.如果不带任何参数调用setMaxVersions,表示取所有的版本.

为了广大技术爱好者学习netty,在这里帮新浪微博@nettying宣传下他出版的新书 <netty权威指南>@nettying兄在华为NIO实践多年,这本书是他的技术和经验的一个结晶.Netty NIO反应堆线程模型,零copy,多包,半包处理,如果你对这些感兴趣,赶紧关注新浪微博@nettying吧.读了这本书,你的技术定会有一个质的飞跃,也是自己第一次给书写推荐,呵呵! 最近比较忙,隔了一段时间没有更新博客了.今天拿点时间来分享下关于hbase分页查询的实现思路,自己已经应用了该hbas

转自:http://www.aboutyun.com/forum.php?mod=viewthread&tid=7030&extra=page=1 可以带着下面问题来阅读1.hbasef分页什么情况下比较有用?2.hbase分页的思路是什么?3.hbase分页代码与sql分页代码有什么区别和联系? 一.hbase分页应用场景: 一.应用场景hbase到底需不需要分页,hbase的数据量肯定不少,肯定是需要分页的.很多人认为数量量如此大,怎么会展示.这个从客户角度来讲,我们做的系统,不可能会

为了广大技术爱好者学习netty,在这里帮新浪微博@nettying宣传下他出版的新书 <netty权威指南>@nettying兄在华为NIO实践多年,这本书是他的技术和经验的一个结晶.Netty NIO反应堆线程模型,零copy,多包,半包处理,如果你对这些感兴趣,赶紧关注新浪微博@nettying吧.读了这本书,你的技术定会有一个质的飞跃,也是自己第一次给书写推荐,呵呵! 最近比较忙,隔了一段时间没有更新博客了.今天拿点时间来分享下关于hbase分页查询的实现思路,自己已经应用了该hbas

hbase 数据获取方式 直接根据 rowkey 查找,速度最快 scan,指定 startrowkey.endrowkey 和 limit获取数据,在 rowkey 设计良好的情况下,效率也不错 全表扫,强烈不推荐这种做法,效率极差,在线业务不用考虑这种方式 hbase 数据排序怎么做? 我觉得这个分两种情况,一是数据量比较少,业务上每次拉取所有的数据,可以在客户端做排序,二是数据比较多,需要分页,这种情况下客户端做显然不合适,因为要从服务器拉取所有数据,排序完成,获取某一页,剩余的数据全都不

一.HBase介绍 1.基本概念 HBase是一种Hadoop数据库,经常被描述为一种稀疏的,分布式的,持久化的,多维有序映射,它基于行键.列键和时间戳建立索引,是一个可以随机访问的存储和检索数据的平台.HBase不限制存储的数据的种类,允许动态的.灵活的数据模型,不用SQL语言,也不强调数据之间的关系.HBase被设计成在一个服务器集群上运行,可以相应地横向扩展. 2.HBase使用场景和成功案例 互联网搜索问题:爬虫收集网页,存储到BigTable里,MapReduce计算作业扫描全表生成搜

[root@CloudDeskTop ~]# su -l hadoop[hadoop@CloudDeskTop ~]$ cd /software/hbase-1.2.6/bin/ [hadoop@CloudDeskTop bin]$ type hbasehbase is /software/hbase-1.2.6/bin/hbase [hadoop@CloudDeskTop bin]$ hbase shell 删除键:向左删除是ctrl+backspace.向右删除是backspace. 表空间

转自:http://www.aboutyun.com/thread-8957-1-2.html 问题导读:1.HBase查询与写入哪个更好一些?2.HBase面对复杂操作能否实现?3.Region服务器由哪2部分构成?扩展:4.HBase能否实现join操作?5.二级索引的作用是什么? 前言如今在软件开发领域,谈及大数据已经是家常便饭.笔者相信在未来几年内,大数据的运算和存储一定会成为企业关注的核心.在此普及一个概念,什么级别的数据才能称之为大数据?如果你存储在DB中的数据达到了PB或者单表过亿

转自:http://www.bcmeng.com/hbase-rowkey/ 建立Schema Hbase 模式建立或更新可以通过 Hbase shell 工具或者使用Hbase Java API 中的 Admin类. 当列族发生变动时 hbase表必须处于 disabled 状态.例如:   Configuration config = HBaseConfiguration.create(); Admin admin = new Admin(conf); String table = "myT