IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> OpenTSDB 的UID -> 正文阅读

[大数据]OpenTSDB 的UID

在 OpenTSDB 中,一条数据包括 Metric(指标) A UNIX timestamp(时间戳) Value(值) Tags (标签键值对形式 k=v 这种)。

OpenTSDB 在插入数据的时候,会为每个 Metrics,标签名称(k)和(v)分配唯一标识符,这个唯一标识符就是OpenTSDB的UID,UID 是一个正整数,对于 UID 对象的名称及其类型是唯一的。

为了方便大家理解,会对应OpenTSDB存储数据的Hbase数据进行讲解,在我们部署OpenTSDB的时候创建Hbase表的脚本中会创建一个名为 tsdb-uid 的表

创建表的语句为(可以看到有2个Hbase列族id和name)

UID_TABLE=${UID_TABLE-'tsdb-uid'}

create '$UID_TABLE',
? {NAME => 'id', COMPRESSION => '$COMPRESSION', BLOOMFILTER => '$BLOOMFILTER', DATA_BLOCK_ENCODING => '$DATA_BLOCK_ENCODING'},
? {NAME => 'name', COMPRESSION => '$COMPRESSION', BLOOMFILTER => '$BLOOMFILTER', DATA_BLOCK_ENCODING => '$DATA_BLOCK_ENCODING'}

?以RestApi的方式插入数据,对应上面的数据我们可以看到标红的部分,插入一条共插入了6条红色的数据

{"metric":?"me1","timestamp":?1654567205,"value":?1.3,?"tags":?{?"tag1":?"tag1value"?}}

metric为me1? ? ? ?标签key为tag1? ?标签值为tag1value

Hbase表tsdb-uid的数据

hbase(main):003:0> scan 'tsdb-uid'
ROW ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?COLUMN+CELL
?\x00 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:metrics, timestamp=1654679536773, value=\x00\x00\x00\x00\x00\x00\x
?\x00 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:tagk, timestamp=1654679537275, value=\x00\x00\x00\x00\x00\x00\x00\
?\x00 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:tagv, timestamp=1654679537284, value=\x00\x00\x00\x00\x00\x00\x00\

?\x00\x00\x01 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:metrics, timestamp=1654668335590, value=sys.cpu.nice
?\x00\x00\x01 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagk, timestamp=1654668335604, value=host
?\x00\x00\x02 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagk, timestamp=1654668335619, value=dc
?\x00\x00\x02 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagv, timestamp=1654668335628, value=lga
?\x00\x00\x03 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:metrics, timestamp=1654679536876, value=me1
?\x00\x00\x04 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagv, timestamp=1654671073001, value=name1
?\x00\x00\x05 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagk, timestamp=1654679537279, value=tag1
?\x00\x00\x05 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagv, timestamp=1654671544526, value=name2
?\x00\x00\x09 ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=name:tagv, timestamp=1654679537291, value=tag1value
?dc ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:tagk, timestamp=1654668335622, value=\x00\x00\x02
?host ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:tagk, timestamp=1654668335606, value=\x00\x00\x01
?lga ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? column=id:tagv, timestamp=1654668335629, value=\x00\x00\x02
?me1 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? column=id:metrics, timestamp=1654679536880, value=\x00\x00\x03
?name1 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? column=id:tagv, timestamp=1654671073003, value=\x00\x00\x04
?name2 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? column=id:tagv, timestamp=1654671544528, value=\x00\x00\x05
?sys.cpu.nice ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:metrics, timestamp=1654668335595, value=\x00\x00\x01
?tag1 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?column=id:tagk, timestamp=1654679537281, value=\x00\x00\x05
?tag1value ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? column=id:tagv, timestamp=1654679537293, value=\x00\x00\x09

?UID是OpenTSDB 分配的,Hbase表 tsdb-uid 存储了正向和反向 UID映射,列族id 存储 字符串到UID的映射,列族name存储UID到字符串的映射。由上图可知,metric(值为me1)分配的UID为\x00\x00\x03,列名为metrics,标签的key(值为tag1)分配的UID为\x00\x00\x05, 列名为tagk,标签的value(值为tag1value)分配的UID为\x00\x00\x09,列名为tagv,正向反向数据各一份。

由于Hbase通过rowkey进行匹配,用这种方式可以快速双向查询到UID和数据的映射关系。

上图紫色的部分rowkey是单字节键\x00,这是针对正确的列类型(Metrics,tagk 或 tagv)递增的 UID 行。列值是 8 个字节的带符号整数,反映了为每种类型分配的最大 UID,这样才可以保证UID递增。???????

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-14 22:40:05  更:2022-06-14 22:41:15 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/20 0:33:50-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码