python 操作Hbase 详解
博文参考:https://www.cnblogs.com/tashanzhishi/p/10917956.html
如果你们学习过Python,可以用Python来对Hbase进行操作。
happybase使用:https://happybase.readthedocs.io/en/latest/user.html#establishing-a-connection
一、Linux下安装Thrift(一般CDH集群上都会安装,如未安装,请参考下面步骤)
0.11.0版本下载地址:http://mirrors.hust.edu.cn/apache/thrift/0.11.0/thrift-0.11.0.tar.gz
执行如下命令安装Thrift依赖:
yum install automake bison flex g++ git libboost1.55 libevent-dev libssl-dev libtool make pkg-config
tar -zxvf thrift-0.11.0.tar.gz
cd thrift-0.11.0
./configure --with-cpp --with-boost --with-python --without-csharp --with-java --without-erlang --without-perl --with-php --without-php_extension --without-ruby --without-haskell --without-go
make
make install
在Master中Hbase安装目录下的bin目录启动thrift服务:
./hbase-daemon.sh start thrift
二、安装 happybase 包
pip install happybase
三、表操作DDL
创建连接:
connection = happybase.Connection('192.168.3.45',port=9090) #链接,端口默认是9090 hbase thrift 启动的默认端口也是9090
列出所有表:
table_name_list = connection.tables() # connection.tables():获取Hbase实例中的表名列表,返回一个list
获取表:
table = connection.table(name,user_prefix=True) # connection.table(name,user_prefix=True):获取一个表对象,返回一个happybase.Table对象:
name:表名
user_prefix:是否使用表前缀,默认为True
禁用表:在做一些删除操作之前必须先禁用表
connection.disable_table(name) #disable_table(name):禁用表,无返回值
name:表名
启用表:
connection.enable_table(name) # enable_table(name):启用表,无返回值
name:表名
创建表:
families = {
"cf":dict(),
"df":dict()
}
connection.create_table(name,families) # 如果连接时,有传递表前缀参数时,真实表名将会是:"{}_{}".format(table_prefix,name)
name:表名
families:列族
删除表:
connection.delete_table(name,disable=False) #delete_table(name,disable=False):删除表,无返回值 默认是false,若要删除改为true
name:表名
disable:是否先禁用表
四、数据操作DML
若要对表进行数据插入等操作,需要先获取表实例。
获取表实例:
connection = happybase.Connection('192.168.3.45',port=9090)
connection.open()
table = connection.table('cmis:intf_trade_log_tmp')
获取单元格cells
cells(row, column, versions=None, timestamp=None, include_timestamp=False) # 获取单元格数据,返回一个list
row:行
column:列
versions:获取的最大版本数量,默认None,即获取所有
timestamp:时间戳,默认None,即获取所有时间戳版本的数据。可指定一个时间戳,获取小于此时间戳版本的所有数据
include_timestamp:是否返回时间戳,默认False
content = table.cells('00033015017DC6537E4ECEEB3351C183','pk_value:id_no')
print content
["'422202199108263422'"]
删除指定行数据:
delete(row, columns=None, timestamp=None, wal=True):删除指定行数据,无返回值
row:行
columns:列,默认为None,即删除所有列,可传入一个list或tuple来指定删除列
timestamp:时间戳,默认为None,即删除所有,可传入一个时间戳来删除小于等于此时间戳的所有数据
wal:是否写入wal,默认为True
table.delete(row, columns=None, timestamp=None, wal=True)
插入数据:
put(row, data, timestamp=None, wal=True):插入数据,无返回值
row: 行
data: 数据,dict类型,{列:值}构成,列与值皆为str类型
timestamp:时间戳,默认None,即写入当前时间戳
wal:是否写入wal,默认为True
# 在row1行,cf:1列插入值1
table.put("row1",{"cf:1":"1"}
获取一行数据:
row(row, columns=None, timestamp=None, include_timestamp=False):获取一行数据,返回一个dict
row:行
columns: 列,默认为None,即获取所有列,可传入一个list或tuple来指定获取列
timestamp:时间戳。默认为None,即返回最大的那个时间戳的数据。可传入一个时间戳来获取小于此时间戳的最大时间戳的版本数据
include_timestamp:是否返回时间戳数据,默认为False
info = table.row(row, columns=None, timestamp=None, include_timestamp=False)
获取多行数据:
rows(rows, columns=None, timestamp=None, include_timestamp=False):获取多行数据,返回一个list
rows:行,可传入一个list或tuple来指定获取
columns: 列,默认为None,即获取所有列,可传入一个list或tuple来指定获取列
timestamp:时间戳。默认为None,即返回最大的那个时间戳的数据。可传入一个时间戳来获取小于此时间戳的最大时间戳的版本数据
include_timestamp:是否返回时间戳数据,默认为False
info = table.rows(rows, columns=None, timestamp=None, include_timestamp=False)
获取扫描器:
scan(row_start=None, row_stop=None, row_prefix=None, columns=None, filter=None, timestamp=None, include_timestamp=False, batch_size=1000, scan_batching=None, limit=None, sorted_columns=False, reverse=False):获取一个扫描器,返回一个generator
row_start:起始行,默认None,即第一行,可传入行号指定从哪一行开始
row_stop:结束行,默认None,即最后一行,可传入行号指定到哪一行结束(不获取此行数据)
row_prefix:行号前缀,默认为None,即不指定前缀扫描,可传入前缀来扫描符合此前缀的行
columns:列,默认为None,即获取所有列,可传入一个list或tuple来指定获取列
filter:过滤字符串
timestamp:时间戳。默认为None,即返回最大的那个时间戳的数据。可传入一个时间戳来获取小于此时间戳的最大时间戳的版本数据
include_timestamp:是否返回时间戳数据,默认为False
batch_size:用于检索结果的批量大小
scan_batching:服务端扫描批处理
limit:数量
sorted_columns:是否返回排序的列(根据行名称排序)
reverse:是否执行反向扫描
scanner = table.scan(row_start=None, row_stop=None, row_prefix=None,
columns=None, filter=None, timestamp=None, include_timestamp=False, batch_size=1000, scan_batching=None, limit=None, sorted_columns=False, reverse=False)
《记录一下》
python 操作Hbase 详解的更多相关文章
- python 操作zookeeper详解
ZooKeeper 简介 ZooKeeper 是一个分布式的.开放源码的分布式应用程序协调服务,是 Google 的 Chubby 一个开源的实现,是 Hadoop 和 Hbase 的重要组件.它是一 ...
- python 操作RabbitMq详解
一.简介: RabbitMq 是实现了高级消息队列协议(AMQP)的开源消息代理中间件.消息队列是一种应用程序对应用程序的通行方式,应用程序通过写消息,将消息传递于队列,由另一应用程序读取 完成通信. ...
- python操作redis详解
https://www.cnblogs.com/koka24/p/5841826.html
- Python编程之列表操作实例详解【创建、使用、更新、删除】
Python编程之列表操作实例详解[创建.使用.更新.删除] 这篇文章主要介绍了Python编程之列表操作,结合实例形式分析了Python列表的创建.使用.更新.删除等实现方法与相关操作技巧,需要的朋 ...
- Python字符串切片操作知识详解
Python字符串切片操作知识详解 这篇文章主要介绍了Python中字符串切片操作 的相关资料,需要的朋友可以参考下 一:取字符串中第几个字符 print "Hello"[0] 表 ...
- 图解大数据 | 海量数据库查询-Hive与HBase详解
作者:韩信子@ShowMeAI 教程地址:http://www.showmeai.tech/tutorials/84 本文地址:http://www.showmeai.tech/article-det ...
- Python 字符串方法详解
Python 字符串方法详解 本文最初发表于赖勇浩(恋花蝶)的博客(http://blog.csdn.net/lanphaday),如蒙转载,敬请保留全文完整,切勿去除本声明和作者信息. ...
- Python中dict详解
from:http://www.cnblogs.com/yangyongzhi/archive/2012/09/17/2688326.html Python中dict详解 python3.0以上,pr ...
- 【python进阶】详解元类及其应用2
前言 在上一篇文章[python进阶]详解元类及其应用1中,我们提到了关于元类的一些前置知识,介绍了类对象,动态创建类,使用type创建类,这一节我们将继续接着上文来讲~~~ 5.使⽤type创建带有 ...
随机推荐
- SpringCloud学习成长之十三 断路器聚合监控
上一篇文章讲述了如何利用Hystrix Dashboard去监控断路器的Hystrix command.当我们有很多个服务的时候,这就需要聚合所以服务的Hystrix Dashboard的数据了.这就 ...
- C#将HTML代码转换为图片
前端通过富文本控件接收到了一段html代码,后端想通过图片的形式展示到另外的地方,这种情况怎么处理呢.直接上代码: using System; using System.Collections.Gen ...
- (十九)oracle 基础使用以及sql语句基础
oracle的安装与卸载 要记住数据库口令,适用于sys.system.sysman/dbsnmp等账户,而scott帐号密码默认为tiger, 以oracle 10g来说,scott账户默认是lo ...
- AFNetWorking实现参数以body传输请求数据
/** * 异步POST请求:以body方式,支持数组 * * @param url 请求的url * @param body body数据 * @param success 成功回调 * @para ...
- MongoDB集群之分片技术应用 —— 学习笔记
课程链接:https://www.imooc.com/learn/501 一.什么是分片? 分片:将数据进行2拆分,将数据水平的分散到不同的服务器上. 二.为什么要分片? 架构上:读写均衡.去中心化 ...
- SLAM十四讲中Sophus库安装
Sophus截止目前有很多版本,其中大体分为两类,一种是用模板实现的方法,一种是用非模板类实现的,SLAM十四讲中使用的是非模板类库,clone Sophus: git clone http://gi ...
- markdown语法(测试自用)
Markdown语法主要分为几大部分:标题.段落.区块引用.代码区块.强调.列表.分割线.链接.图片.反斜杠.符号'`' 1.标题 两种形式 1)使用 = 和 - 标记一级标题和二级标题 一级标题 二 ...
- RH124-3 目录结构_转
在linux里安装的时候,是可以指定某分区装在某文件夹里 目录意义 /bin 存放命令,不可以在装系统单独挂载分区 /home /dev 存放硬件设备 不可以单独挂载分区 /boot 500M 和系统 ...
- mysql主从同步原理及错误解决
mysql主从同步的原理: 1.在master上开启bin-log日志功能,记录更新.插入.删除的语句. 2.必须开启三个线程,主上开启io线程,从上开启io线程和sql线程. 3.从上io线程去连接 ...
- springboot使用activemq同时接收queue和topic消息
原文链接:https://blog.csdn.net/jia_costa/article/details/79354478 新建springboot项目, pom文件如下 <?xml versi ...