IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 用Python操作HBase之HBase-Thrift -> 正文阅读

[大数据]用Python操作HBase之HBase-Thrift

安装Thrift

安装Thrift的具体操作,请点击链接

https://blog.csdn.net/y472360651/article/details/79055875

Python操作Hbase

安装依赖包

pip install thrift

pip install hbase-thrift

连接与操作代码如下:

from thrift.transport import TSocket,TTransport

from thrift.protocol import TBinaryProtocol

from hbase import Hbase

# thrift默认端口是9090

socket = TSocket.TSocket(‘192.168.0.156’,9090)

socket.setTimeout(5000)

transport = TTransport.TBufferedTransport(socket)

protocol = TBinaryProtocol.TBinaryProtocol(transport)

client = Hbase.Client(protocol)

socket.open()

print client.getTableNames()

print client.get(‘test’,’row1′,’cf:a’)

常用方法说明

createTable(tbaleName,columnFamilies):创建表,无返回值

tableName:表名

columnFamilies:列族信息,为一个ColumnDescriptor列表

from hbase.ttypes import ColumnDescriptor

# 定义列族

column = ColumnDescriptor(name=’cf’)

# 创建表

client.createTable(‘test4’,[column])

enabledTable(tbaleName):启用表,无返回值

tableName:表名

# 启用表,若表之前未被禁用将会引发IOError错误

client.enabledTable(‘test’)

disableTable(tbaleName):禁用表,无返回值

tableName:表名

# 禁用表,若表之前未被启用将会引发IOError错误

client.disableTable(‘test’)

isTableEnabled(tbaleName):验证表是否被启用,返回一个bool值

tableName:表名

client.isTableEnabled(‘test’)

getTableNames(tbaleName):获取表名列表,返回一个str列表

tableName:表名

client.getTableNames()

getColumnDescriptors(tbaleName):获取所有列族信息,返回一个字典

tableName:表名

client.getColumnDescriptors(‘test’)

getTableRegions(tbaleName):获取所有与表关联的regions,返回一个TRegionInfo对象列表

tableName:表名

client.getTableRegions(‘test’)

deleteTable(tbaleName):删除表,无返回值

tableName:表名

# 表不存在将会引发IOError(message=’java.io.IOException: table does not exist…)错误

# 表未被禁用将会引发IOError(message=’org.apache.hadoop.hbase.TableNotDisabledException:…)错误

client.deleteTable(‘test5’)

get(tableName,row,column):获取数据列表,返回一个hbase.ttypes.TCell对象列表

tableName:表名

row:行

column:列

result = client.get(‘test’,’row1′,’cf:a’) # 为一个列表,其中只有一个hbase.ttypes.TCell对象的数据

print result[0].timestamp

print result[0].value

getVer(tableName,row,column,numVersions):获取数据列表,返回一个hbase.ttypes.TCell对象列表

tableName:表名

row:行

column:列

numVersions:要检索的版本数量

result = client.get(‘test’,’row1′,’cf:a’,2) # 为一个列表,其中只有一个hbase.ttypes.TCell对象的数据

print result[0].timestamp

print result[0].value

getVerTs(tableName,row,column,timestamp,numVersions):获取小于当前时间戳的数据列表(似乎只获取前一个),返回一个hbase.ttypes.TCell对象列表

tableName:表名

row:行

column:列

timestamp:时间戳

numVersions:要检索的版本数量

result = client.get(‘test’,’row1′,’cf:a’,2) # 为一个列表,其中只有一个hbase.ttypes.TCell对象的数据

print result[0].timestamp

print result[0].value

getRow(tableName,row):获取表中指定行在最新时间戳上的数据。返回一个hbase.ttypes.TRowResult对象列表,如果行号不存在返回一个空列表

tableName:表名

row:行

# 行

row = ‘row1’

# 列

column = ‘cf:a’

# 查询结果

result = client.getRow(‘test’,row) # result为一个列表

for item in result: # item为hbase.ttypes.TRowResult对象

print item.row

print item.columns.get(‘cf:a’).value # 获取值。item.columns.get(‘cf:a’)为一个hbase.ttypes.TCell对象

print item.columns.get(‘cf:a’).timestamp # 获取时间戳。item.columns.get(‘cf:a’)为一个hbase.ttypes.TCell对象

getRowWithColumns(tableName,row,columns):获取表中指定行与指定列在最新时间戳上的数据。返回一个hbase.ttypes.TRowResult对象列表,如果行号不存在返回一个空列表

tableName:表名

row:行

columns:列,list

result = client.getRowWithColumns(‘test’,’row1′,[‘cf:a’,’df:a’])

for item in result:

print item.row

print item.columns.get(‘cf:a’).value

print item.columns.get(‘cf:a’).timestamp

print item.columns.get(‘df:a’).value

print item.columns.get(‘df:a’).timestamp

getRowTs(tableName,row,timestamp):获取表中指定行并且小于这个时间戳的所有数据。返回一个hbase.ttypes.TRowResult对象列表,如果行号不存在返回一个空列表

tableName:表名

row:行

timestamp:时间戳

result = client.getRowTs(‘test’,’row1′,1513069831512)

getRowWithColumnsTs(tableName,row,columns,timestamp):获取指定行与指定列,并且小于这个时间戳的所有数据。返回一个hbase.ttypes.TRowResult对象列表,如果行号不存在返回一个空列表

tableName:表名

row:行

columns:列,list

timestamp:时间戳

result = client.getRowWithColumnsTs(‘test’,’row1′,[‘cf:a’,’cf:b’,’df:a’],1513069831512)

mutateRow(tableName,row,mutations):在表中指定行执行一系列的变化操作。如果抛出异常,则事务被中止。使用默认的当前时间戳,所有条目将具有相同的时间戳。无返回值

tableName:表名

row:行

mutations:变化,list

from hbase.ttypes import Mutation

mutation = Mutation(name=’cf:a’,value=’1′)

# 插入数据。如果在test表中row行cf:a列存在,将覆盖

client.mutateRow(‘test’,’row1′,[mutation])

mutateRowTs(tableName,row,mutations,timestamp):在表中指定行执行一系列的变化操作。如果抛出异常,则事务被中止。使用指定的时间戳,所有条目将具有相同的时间戳。如果是更新操作时,如果指定时间戳小于原来数据的时间戳,将被忽略。无返回值

tableName:表名

row:行

mutations:变化,list

timestamp:时间戳

from hbase.ttypes import Mutation

# value必须为字符串格式,否则将报错

mutation = Mutation(column=’cf:a’,value=’2′)

client.mutateRowTs(‘test’,’row1′,[mutation],1513070735669)

mutateRows(tableName,rowBatches):在表中执行一系列批次(单个行上的一系列突变)。如果抛出异常,则事务被中止。使用默认的当前时间戳,所有条目将具有相同的时间戳。无返回值

tableName:表名

rowBatches:一系列批次

from hbase.ttypes import Mutation,BatchMutation

mutation = Mutation(column=’cf:a’,value=’2′)

batchMutation = BatchMutation(‘row1’,[mutation])

client.mutateRows(‘test’,[batchMutation])

mutateRowsTs(tableName,rowBatches,timestamp):在表中执行一系列批次(单个行上的一系列突变)。如果抛出异常,则事务被中止。使用指定的时间戳,所有条目将具有相同的时间戳。如果是更新操作时,如果指定时间戳小于原来数据的时间戳,将被忽略。无返回值

tableName:表名

rowBatches:一系列批次,list

timestamp:时间戳

mutation = Mutation(column=’cf:a’,value=’2′)

batchMutation = BatchMutation(‘row1’,[mutation])

client.mutateRowsTs(‘cx’,[batchMutation],timestamp=1513135651874)

atomicIncrement(tableName,row,column,value):原子递增的列。返回当前列的值

tableName:表名

row:行

column:列

value:原子递增的值

result = client.atomicIncrement(‘cx’,’row1′,’cf:b’,1)

print result # 如果之前的值为2,此时值为3

deleteAll(tableName,row,column):删除指定表指定行与指定列的所有数据,无返回值

tableName:表名

row:行

column:列

client.deleteAll(‘cx’,’row1′,’cf:a’)

deleteAllTs(tableName,row,column,timestamp):删除指定表指定行与指定列中,小于等于指定时间戳的所有数据,无返回值

tableName:表名

row:行

column:列

timestamp:时间戳

client.deleteAllTs(‘cx’,’row1′,’cf:a’,timestamp=1513569725685)

deleteAllRow(tableName,row):删除整行数据,无返回值

tableName:表名

row:行

client.deleteAllRow(‘cx’,’row1′)

deleteAllRowTs(tableName,row,timestamp):删除指定表指定行中,小于等于此时间戳的所有数据,无返回值

tableName:表名

row:行

timestamp:时间戳

client.deleteAllRowTs(‘cx’,’row1′,timestamp=1513568619326)

scannerOpen(tableName,startRow,columns):在指定表中,从指定行开始扫描,到表中最后一行结束,扫描指定列的数据。返回一个ScannerID,int类型

tableName:表名

startRow:起始行

columns:列名列表,list类型

scannerId = client.scannerOpen(‘cx’,’row2′,[“cf:b”,”cf:c”])

scannerOpenTs(tableName,startRow,columns,timestamp):在指定表中,从指定行开始扫描,获取所有小于指定时间戳的所有数据,扫描指定列的数据。返回一个ScannerID,int类型

tableName:表名

startRow:起始行

columns:列名列表,list类型

timestamp:时间戳

scannerId = client.scannerOpenTs(‘cx’,’row1′,[“cf:a”,”cf:b”,”cf:c”],timestamp=1513579065365)

scannerOpenWithStop(tableName,startRow,stopRow,columns):在指定表中,从指定行开始扫描,扫描到结束行结束(并不获取指定行的数据),扫描指定列的数据。返回一个ScannerID,int类型

tableName:表名

startRow:起始行

stopRow:结束行

columns:列名列表,list类型

scannerId = client.scannerOpenWithStop(‘cx’,’row1′,’row2′,[“cf:b”,”cf:c”])

scannerOpenWithStopTs(tableName,startRow,stopRow,columns,timestamp):在指定表中,从指定行开始扫描,扫描到结束行结束(并不获取指定行的数据),获取所有小于指定时间戳的所有数据,扫描指定列的数据。返回一个ScannerID,int类型

tableName:表名

startRow:起始行

stopRow:结束行

columns:列名列表,list类型

timestamp:时间戳

scannerId = client.scannerOpenWithStopTs(‘cx’,’row1′,’row2′,[“cf:a”,”cf:b”,”cf:c”],timestamp=1513579065365)

scannerOpenWithPrefix(tableName,startAndPrefix,columns):在指定表中,扫描具有指定前缀的行,扫描指定列的数据。返回一个ScannerID,int类型

tableName:表名

startAndPrefix:行前缀

columns:列名列表,list类型

scannerId = client.scannerOpenWithPrefix(‘cx’,’row’,[“cf:b”,”cf:c”])

scannerGet(id):根据ScannerID来获取结果,返回一个hbase.ttypes.TRowResult对象列表

id:ScannerID

scannerId = client.scannerOpen(‘cx’,’row1′,[“cf:b”,”cf:c”])

while True:

result = client.scannerGet(scannerId)

if not result:

break

print result

scannerGetList(id,nbRows):根据ScannerID来获取指定数量的结果,返回一个hbase.ttypes.TRowResult对象列表

id:ScannerID

nbRows:指定行数

scannerId = client.scannerOpen(‘cx’,’row1′,[“cf:b”,”cf:c”])

result = client.scannerGetList(scannerId,2)

scannerClose(id):关闭扫描器,无返回值

https://blog.csdn.net/luanpeng825485697/article/details/81048468

转载请注明:SuperIT???用Python操作HBase之HBase-Thrift

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-26 12:10:28  更:2021-08-26 12:12:31 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 16:33:29-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码