HBase笔记6 过滤器
过滤器
过滤器是GET或者SCAN时过滤结果用的,相当于SQL的where语句
HBase中的过滤器创建后会被序列化,然后分发到各个region server中,region server会还原过滤器并使用,这样scan中,不满足条件的结果不会返回客户端

值过滤器: (针对所有列)
创建valueFilter实例: Filter filter=new ValueFilter(CompareFilter.CompareOp.EQUAL,new SubstringComparator("xxxx"));
CompareFileter包含一个枚举类,CompareOp,包含以下值:


SubstringComparator是一个比较器,可以判断目标字符串是否包含所指定的字符串
单列值过滤器:
相当于mycnf:name like "%wang%"
new SingleColumnValueFilter(Bytes.toBytes("my.cnf"),Bytes.toBytes("name"),CompareFilter.CompareOp.EQUAL,new SubstringComparator("wang"))
指定了列族 mycnf 列 name
注意:
遍历结果集时需要判断结果是否包含需要的列,没有则丢弃 或 使用过滤器列表,将列族过滤器,列过滤器和值过滤器放入过滤器列表,同时进行过滤
字符串完全匹配:
相当于mycnf:name=wang
比较数字:
相当于mycnf:age > 10
new SingleColumnValueFilter(Bytes.toBytes("my.cnf"),Bytes.toBytes("name"),CompareFilter.CompareOp.GREATER,new BinaryComparator(Bytes.toBytes(10)));
比较器:
正则表达式比较器 RegexStringComparator
空值比较器 Null Comparator
数字比较器 LongComparator
比特位比较器 BitComparator
字节数组前缀比较器 BinaryPrefixComparator
分页过滤器:
构造函数: PageFilter(long pagesize) pagesize就是每页的记录数
过滤器列表:
构造函数1: FileterList(List<Filter> rowFilters) 多个过滤器组成的列表
注意:过滤器列表添加的顺序不同,执行的结果也可能不同,原因在于执行顺序的不同,分页过滤器一定要放到最后
构造函数2:FilterList(Operator operator,List<Filter> rowFilters)
Operator可选值 MUST_PASS_ALL 相当于所有条件之间用AND连接
MUST_PASS_ONE 相当于所有条件之间用OR连接
构造函数3:FilterList(Operator operator) 默认内部存在一个List,可以使用一个addFilter方法来实现添加过滤器 FilterList.addFilter(Filter filter)
行键过滤器:
行过滤器:
相当于rowkey > row3
new RowFilter(CompareFilter.CompareOp.GREATER,new BinaryComparator(Bytes.toBytes("row3")))
多行范围过滤器:
构造函数: MultiRowRangeFilter(List<RowRange> list)

行键前缀过滤器:

模糊行键过滤器:
构造函数: public FuzzyRowFilter(List<Pair<byte[],byte[]>> fuzzyKeysData)
fuzzyKeysData是模糊匹配的表达式,包括行键 & 行键掩码
行键 就是匹配的行键关键字
行键掩码: 行键掩码长度必须与行键长度一致,需要模糊匹配的字符处标记为1,其他位置为0

包含结尾过滤器:

随机行过滤器:(对数据随机采样)

遍历一行随机的数字小于0.5则保留
列过滤器:
列族过滤器:

列过滤器:

列前缀过滤器

多列前缀过滤器:

列键过滤器: 只获取列名
构造函数: KeyOnlyFilter()
首次列键过滤器
构造函数:FirstKeyOnlyFilter()
列名范围过滤器:


单元格过滤器:
时间戳过滤器:

装饰过滤器
跳转过滤器
行中由一个列要跳过则整行跳过

全匹配过滤器:
若果一个过滤器filterKeyvalue()方法返回false,整体Scan会终止,即发现不符合结果时,终止,后面不查询

如何在HBAse中使用过滤器:
scan '表名',{FILETR => '过滤器'}
例: scan 'table',{FILTER => "(PrefixFilter('row1'))"}
HBase笔记6 过滤器的更多相关文章
- HBase笔记--自定义filter
自定义filter需要继承的类:FilterBase 类里面的方法调用顺序 方法名 作用 1 boolean filterRowKey(Cell cell) 根据row key过滤row.如果需要 ...
- HBase笔记--filter的使用
HBASE过滤器介绍: 所有的过滤器都在服务端生效,叫做谓语下推(predicate push down),这样可以保证被过滤掉的数据不会被传送到客户端. 注意: 基于字符串的比较器,如 ...
- HBase笔记5(诊断)
阻塞急救: RegionServer内存设置太小: 解决方案: 设置Region Server的内存要在conf/hbase-env.sh中添加export HBASE_REGIONSERVER_OP ...
- HBase 笔记2
Hadoop 服务启动顺序: zookeeper ->journalnode->namenode -> zkfc -> datanode HBase Master WEB控制台 ...
- HBase学习之路 (十一)HBase的协过滤器
协处理器—Coprocessor 1. 起源 Hbase 作为列族数据库最经常被人诟病的特性包括:无法轻易建立“二级索引”,难以执 行求和.计数.排序等操作.比如,在旧版本的(<0.92)Hba ...
- HBase笔记:对HBase原理的简单理解
早些时候学习hadoop的技术,我一直对里面两项技术倍感困惑,一个是zookeeper,一个就是Hbase了.现在有机会专职做大数据相关的项目,终于看到了HBase实战的项目,也因此有机会搞懂Hbas ...
- [Java] JSP笔记 - Filter 过滤器
一.什么是Web过滤器 Servlet API 很久以前就已成为企业应用开发的基石,而 Servlet 过滤器则是对 J2EE 家族的相对较新的补充. Servlet 过滤器是可插入的 Web 组件, ...
- Hbase笔记——RowKey设计
一).什么情况下使用Hbase 1)传统数据库无法承载高速插入.大量读取. 2)Hbase适合海量,但同时也是简单的操作. 3)成熟的数据分析主题,查询模式确立不轻易改变. 二).现实场景 1.电商浏 ...
- 学习笔记_过滤器应用_1(分ip统计网站的访问次数)
分ip统计网站的访问次数 ip count 192.168.1.111 2 192.168.1.112 59 统计工作需要在所有资源之前都执行,那么就可以放到Filter中了. 我们这个过滤器不打算做 ...
随机推荐
- 值得从PHP转向JavaScript
1.掌握一门语言而成为爆栈工程师确实诱惑力极大 2.JavaScript 代码的语义性比 PHP 更强一些,当然语言整体特性也复杂不少,学习成本是更高的 3.JSON原生:配合MongoDB的话,从头 ...
- Spark基本架构及原理
Hadoop 和 Spark 的关系 Spark 运算比 Hadoop 的 MapReduce 框架快的原因是因为 Hadoop 在一次 MapReduce 运算之后,会将数据的运算结果从内存写入到磁 ...
- 解决stackoverflow打开慢的问题
Stack Overflow是国外一个与程序相关的IT技术问答网站.类似于国内的segmentfault.程序员们对于这2个网站应该都不陌生.但是我们打开stackoverflow的时候,会发现打开速 ...
- class ObjectOutputStream也是过滤流,使节点流直接获得输出对象。
class ObjectOutputStream也是过滤流,使节点流直接获得输出对象. 最有用的方法:WriteObject(Object b) 用流传输对象称为对象的序列化,但并不使所有的对象都可以 ...
- springboot-async
在项目中,当访问其他人的接口较慢或者做耗时任务时,不想程序一直卡在耗时任务上,想程序能够并行执行, 我们可以使用多线程来并行的处理任务,也可以使用spring提供的异步处理方式@Async. Spri ...
- C#项目”XXXXX”针对的是”.NETFramework,Version=v4.7.1”但此计算机没有安装它
遇到这样一个问题:C#项目”XXXXX”针对的是”.NETFramework,Version=v4.7.1”但此计算机没有安装它 就是我在打开别人的项目,发现别人的项目.Net Framework的版 ...
- 提高MySQL数据库的安全性
1. 更改默认端口(默认3306) 可以从一定程度上防止端口扫描工具的扫描 2. 删除掉test数据库 drop database test; 3. 密码改的复杂些 # 1 set password ...
- SpringBoot Mybatis整合(注解版),SpringBoot集成Mybatis(注解版)
SpringBoot Mybatis整合(注解版),SpringBoot集成Mybatis(注解版) ================================ ©Copyright 蕃薯耀 2 ...
- sip协议中文讲解
https://blog.csdn.net/qiuchangyong/article/details/50748854
- xgboost原理
出处http://blog.csdn.net/a819825294 1.序 距离上一次编辑将近10个月,幸得爱可可老师(微博)推荐,访问量陡增.最近毕业论文与xgboost相关,于是重新写一下这篇文章 ...