基于Phoenix对HBase建索引
参考:
操作1,执行查询,如下:
: jdbc:phoenix:node3::/hbase> SELECT * FROM ASSET_RECORD WHERE ASSET_ID='设345-1149640126759047168'; +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | ID | ASSET_ID | MANAGEMENT_TABLE | INTRODUCTION | MANAGEMENT_ID | | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | 0292ebbfdf3e4d97a6e9fc930ed126d4 | 设345- | ASSET_SEAL | | dd9ff0fc0ad4486bb0812e78fa53ce0e | - | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ row selected (0.081 seconds)
操作2,重复以上查询,如下:
: jdbc:phoenix:node3::/hbase> SELECT * FROM ASSET_RECORD WHERE ASSET_ID='设345-1149640126759047168'; +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | ID | ASSET_ID | MANAGEMENT_TABLE | INTRODUCTION | MANAGEMENT_ID | | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | 0292ebbfdf3e4d97a6e9fc930ed126d4 | 设345- | ASSET_SEAL | | dd9ff0fc0ad4486bb0812e78fa53ce0e | - | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ row selected (0.077 seconds)
操作3,使用explain重复以上查询,如下:
: jdbc:phoenix:node3::/hbase> explain SELECT * FROM ASSET_RECORD WHERE ASSET_ID='设345-1149640126759047168'; +----------------------------------------------------------------------------------------------------+-----------------+----------------+--------+ | PLAN | EST_BYTES_READ | EST_ROWS_READ | EST_I | +----------------------------------------------------------------------------------------------------+-----------------+----------------+--------+ | CLIENT -CHUNK ROWS BYTES PARALLEL -WAY ROUND ROBIN FULL SCAN OVER ASSET_RECORD | | | | | SERVER FILTER BY ASSET_ID = | | | +----------------------------------------------------------------------------------------------------+-----------------+----------------+--------+ rows selected (0.015 seconds)
操作4,在表上建索引,如下:
: jdbc:phoenix:node3::/hbase> create index IDX_ASSET_RECORD on ASSET_RECORD(ASSET_ID,MANAGEMENT_TABLE); , rows affected (6.25 seconds)
操作5,强制使用索引执行查询,如下:
: jdbc:phoenix:node3::/hbase> SELECT /*+ INDEX(ASSET_RECORD IDX_ASSET_RECORD)*/ * FROM ASSET_RECORD WHERE ASSET_ID='设345-1149640126759047168; +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | ID | ASSET_ID | MANAGEMENT_TABLE | INTRODUCTION | MANAGEMENT_ID | | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | 0292ebbfdf3e4d97a6e9fc930ed126d4 | 设345- | ASSET_SEAL | | dd9ff0fc0ad4486bb0812e78fa53ce0e | - | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ row selected (0.058 seconds)
操作6,强制使用索引执行查询,如下:
: jdbc:phoenix:node3::/hbase> SELECT /*+ INDEX(ASSET_RECORD IDX_ASSET_RECORD)*/ * FROM ASSET_RECORD WHERE ASSET_ID='设345-1149640126759047168'; +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | ID | ASSET_ID | MANAGEMENT_TABLE | INTRODUCTION | MANAGEMENT_ID | | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ | 0292ebbfdf3e4d97a6e9fc930ed126d4 | 设345- | ASSET_SEAL | | dd9ff0fc0ad4486bb0812e78fa53ce0e | - | +-----------------------------------+---------------------------+-------------------+---------------+-----------------------------------+--------+ row selected (0.033 seconds)
操作7,使用explain强制使用索引执行查询,如下:
: jdbc:phoenix:node3::/hbase> explain SELECT /*+ INDEX(ASSET_RECORD IDX_ASSET_RECORD)*/ * FROM ASSET_RECORD WHERE ASSET_ID='设345-114964012679047168'; +------------------------------------------------------------------------------------------------------------------+-----------------+-----------+ | PLAN | EST_BYTES_READ | EST_ROWS_ | +------------------------------------------------------------------------------------------------------------------+-----------------+-----------+ | CLIENT -CHUNK ROWS BYTES PARALLEL -WAY ROUND ROBIN FULL SCAN OVER ASSET_RECORD | null | null | | SKIP-SCAN-JOIN TABLE | null | null | | CLIENT -CHUNK PARALLEL -WAY ROUND ROBIN RANGE SCAN OVER IDX_ASSET_RECORD ['设345-1149640126759047168'] | null | null | | SERVER FILTER BY FIRST KEY ONLY | null | null | | DYNAMIC SERVER FILTER BY .$) | null | null | +------------------------------------------------------------------------------------------------------------------+-----------------+-----------+ rows selected (0.045 seconds)
操作8,删除索引,如下:
: jdbc:phoenix:node3::/hbase> drop index IDX_ASSET_RECORD on ASSET_RECORD; No rows affected (3.688 seconds)
计算操作1和操作2的平均执行时间,建索引后,计算操作5和操作6的平均执行时间,经比较发现使用索引确实提高了查询的速度。
Phoenix具有索引同步更新机制,增删改一条或多条数据以后,索引会自动更新;但是,如果原来的表增加了字段,那就需要更新建在表上的索引。
表的属性越多,条目越多,建索引节约的时间越多,如下是82个属性和195821条记录的表:
: jdbc:phoenix:node3::/hbase> SELECT COUNT(*) FROM ASSET_NORMAL; +-----------+ | COUNT() | +-----------+ | | +-----------+ row selected (4.54 seconds) : jdbc:phoenix:node3::/hbase> create index IDX_ASSET_NORMAL on ASSET_NORMAL(ASSET_ID,ASSET_NAME,USER_ID); , rows affected (8.887 seconds) : jdbc:phoenix:node3::/hbase> SELECT /*+ INDEX(ASSET_NORMAL IDX_ASSET_NORMAL)*/ * FROM ASSET_NORMAL WHERE ASSET_ID='仪1-1151470269278326784'; +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ | ID | ASSET_ID | ASSET_NAME | ASSET_FIRST_DEGREE_ID | ASSET_FIRST_DEGREE_NAME | ASSET_SECOND_D | +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ | 002e028151e24b07a21e0a0e9ce7f74c | 仪1- | 测量仪器 | | 仪表 | | +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ row selected (0.209 seconds) : jdbc:phoenix:node3::/hbase> SELECT * FROM ASSET_NORMAL WHERE ASSET_ID='仪1-1151470269278326784'; +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ | ID | ASSET_ID | ASSET_NAME | ASSET_FIRST_DEGREE_ID | ASSET_FIRST_DEGREE_NAME | ASSET_SECOND_D | +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ | 002e028151e24b07a21e0a0e9ce7f74c | 仪1- | 测量仪器 | | 仪表 | | +-----------------------------------+-------------------------+-------------+------------------------+--------------------------+----------------+ row selected (4.306 seconds)
参考:
https://my.oschina.net/puwenchao/blog/1935302
基于Phoenix对HBase建索引的更多相关文章
- hbase建索引的两种方式
转载自http://blog.csdn.net/ryantotti/article/details/13295325 在二级索引的实现技术上一般有几个方案: 1. 表索引 使用单独的hbas ...
- Spark教程——(6)Spark-shell基于Phoenix访问HBase数据
package statistics import common.util.timeUtil import org.apache.spark.{SparkConf, SparkContext} imp ...
- phoenix中添加二级索引
Phoenix创建Hbase二级索引 官方文档 1. 配置Hbase支持Phoenix创建二级索引 1. 添加如下配置到Hbase的Hregionserver节点的hbase-site.xml ...
- phoenix连接hbase数据库,创建二级索引报错:Error: org.apache.phoenix.exception.PhoenixIOException: Failed after attempts=36, exceptions: Tue Mar 06 10:32:02 CST 2018, null, java.net.SocketTimeoutException: callTimeou
v\:* {behavior:url(#default#VML);} o\:* {behavior:url(#default#VML);} w\:* {behavior:url(#default#VM ...
- HBase之八--(2):HBase二级索引之Phoenix
1. 介绍 Phoenix 是 Salesforce.com 开源的一个 Java 中间件,可以让开发者在Apache HBase 上执行 SQL 查询.Phoenix完全使用Java编写,代码位于 ...
- 「从零单排HBase 12」HBase二级索引Phoenix使用与最佳实践
Phoenix是构建在HBase上的一个SQL层,能让我们用标准的JDBC APIs对HBase数据进行增删改查,构建二级索引.当然,开源产品嘛,自然需要注意“避坑”啦,阿丸会把使用方式和最佳实践都告 ...
- 通过phoenix在hbase上创建二级索引,Secondary Indexing
环境描述: 操作系统版本:CentOS release 6.5 (Final) 内核版本:2.6.32-431.el6.x86_64 phoenix版本:phoenix-4.10.0 hbase版本: ...
- Hadoop生态圈-phoenix(HBase)的索引配置
Hadoop生态圈-phoenix(HBase)的索引配置 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 创建索引是为了优化查询,我们可以在phoenix上配置索引方式. 一.修改 ...
- Phoenix系列:二级索引(1)
Phoenix使用HBase作为后端存储,对于HBase来说,我们通常使用字典序的RowKey来快速访问数据,除此之外,也可以使用自定义的Filter来搜索数据,但是它是基于全表扫描的.而Phoeni ...
随机推荐
- python csv 数据切割定制jmeter数据
需求压测随机抽取10w数据中自定义区间的指定数量数据进行压测: jmeter csv/txt配置: 需要获取{data: [${myList}] } jmeter需要数据类型 获取展读取csv数据 ...
- 「CF911F」Tree Destruction
传送门 Luogu 解题思路 显然的贪心策略,因为每次都要尽量使得删点后的收益最大. 我们可以求出树的直径(因为树上的任意一个节点与其距离最远的点一定是直径的端点). 然后我们对于所有不是直径上的点, ...
- Ubuntu 16.04 安装ROS sudo rosdep init报错问题
解决博文:https://blog.csdn.net/weixin_37835458/article/details/79878785 输入sudo rosdep init报错如下: Tracebac ...
- 炼金术(1): 识别项目开发中的ProtoType、Demo、MVP
软件开发是很分裂的,只有不断使用原则和规律,才能带来质量. 只要不是玩具性质的项目,项目应该可以大概划分为0-1,1-10,10-100,100-1000四个种重要阶段.其中,0-1是原型验证性的:1 ...
- JSP页面中关于<c:if test="${...}"><c:if>标签的用法
代码如下: <td class="showTd_HK" align="center"> <c:if test="${(rwyy01. ...
- CSS创意与视觉表现
视觉效果 CSS代码: .cover { padding: 36% 50%; background: linear-gradient(to right, white 50%, black calc(5 ...
- Yar并行的RPC框架的简单使用
前言: RPC,就是Remote Procedure Call的简称呀,翻译成中文就是远程过程调用 RPC要解决的两个问题: 解决分布式系统中,服务之间的调用问题. 远程调用时,要能够像本地调用一样方 ...
- Ubuntu配置Python开发环境(PyCharm、Tensorflow)
安装JDK: https://www.cnblogs.com/wanghuixi/p/9837229.html 安装Anaconda: 安装PyCharm: https://www.cnblogs.c ...
- Maven的安装与配置(eclipse,idea)
Maven的安装与配置 一.需要准备的东西 1. JDK 2. Maven程序包 3. Eclipse 4. Idea 二.下载与安装 1. 前往https://maven.apache.org/ ...
- Spring Boot 2 实战:如何自定义 Servlet Filter
1.前言 有些时候我们需要在 Spring Boot Servlet Web 应用中声明一些自定义的 Servlet Filter 来处理一些逻辑.比如简单的权限系统.请求头过滤.防止 XSS 攻击等 ...