IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 数据结构与算法 -> 【Redis 系列】redis 学习十五,redis sds数据结构和底层设计原理 -> 正文阅读

[数据结构与算法]【Redis 系列】redis 学习十五,redis sds数据结构和底层设计原理

redis 是 C 语言写的,那么我们思考一下 redis 是如何表示一个字符串的?redis 的数据结构和 C 语言的数据结构是一样的吗?

我们可以看到 redis 源码中的 sds 库函数,和 sds 的具体实现,分别有如下 2 个文件:

  • sds.h
  • sds.c

具体路径是:deps/hiredis/sds.h , deps/hiredis/sds.c

sds.h 中涉及如下数据结构:

SDS

redis 中 SDS simple Dynamic string

简单动态字符串

C 语言中表示字符串的方式是字符数组,例如:

char data[]="xiaomotong"

如果 C 语言需要扩容的话需要重新分配一个再大一点的内存,存放新的字符串,若每次都要重新分配字符串,对于效率和性能必然会大大降低,并且若某一个字符串是 “xiaomo\0tong”

这个时候,实际上 C 中 遇到 ‘\0’ 就结束了,因此实际 “xiaomo\0tong” 只会读取到xiaomo ,字符串长度就是 6

因此 redis 中的 sds 数据结构是这样设计的,是通过一个成员来标志字符串的长度:

SDS:
    free:0
    len:6
    char buf[]="xiaomo"
        
若这个时候,我们需要在字符串后面追加字符串, sds 就会进行扩容,例如在后面加上 “tong” , 那么 sds 的数据结构中的值会变成如下:
    free:10
    len:10
    char buf[]="xiaomotong"      

最后的 "xiaomotong" 也是带有\0的,这也保持了 C 语言的标准,redis 中对于 sds 数据结构扩容是成倍增加的,但是到了一定的级别,例如 1M 的时候,就不会翻倍的扩容,而是做加法 例如 1M 变成 2M , 2M 变成 3M 等等

SDS 的优势:

  • 二进制安全的数据结构
  • 内存预分配机制,避免了频繁的内存分配
  • 兼容 C 语言的库函数

redis 源码 sds 数据结构

现在我们看到的是 reids-6.2.5 sds 的数据结构,将以前的表示一个长度使用了 int 类型,是 32 字节的,能表示的长度可以达到 42 亿,其实远远没有必要使用 int32 ,太浪费资源了

下面的数据结构,可以根据不同的需求,选取不同的数据结构进行使用

struct __attribute__ ((__packed__)) hisdshdr5 {
    unsigned char flags; /* 3 lsb of type, and 5 msb of string length */
    char buf[];
};
struct __attribute__ ((__packed__)) hisdshdr8 {
    uint8_t len; /* used */
    uint8_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) hisdshdr16 {
    uint16_t len; /* used */
    uint16_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) hisdshdr32 {
    uint32_t len; /* used */
    uint32_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) hisdshdr64 {
    uint64_t len; /* used */
    uint64_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
  • hisdshdr5

用于长度在 0 – 2^5 - 1 范围内

  • hisdshdr8

用于长度在 2^5-- 2^8 - 1 范围内

  • hisdshdr16

用于长度在 2^8 – 2^16 - 1 范围内

  • hisdshdr32

用于长度在 2^16 – 2^32 - 1 范围内

  • hisdshdr64

用于长度在 2^32 – 2^64 - 1 范围内

上述的 unsigned char flags 占用 1 个字节,8个 bit 位:

  • 其中 3 位 用于表示类型
  • 其中 5 位 用于表示字符串的长度

前面 3 个 bit 位,能表示的数字范围是 0 - 7 ,对于应到如下宏

#define HI_SDS_TYPE_5  0
#define HI_SDS_TYPE_8  1
#define HI_SDS_TYPE_16 2
#define HI_SDS_TYPE_32 3
#define HI_SDS_TYPE_64 4
#define HI_SDS_TYPE_MASK 7

源码实现是通过与操作来获取到具体的数据结构类型的:

咱们以 hisdshdr8 数据结构为例子,unsigned char flags 是这样的

  • len

表示已经使用的长度

  • alloc

预分配的空间大小

  • flag

表示使用哪一种数据结构(前 3 个 bit)

  • buf

实际存储的字符串

那么,我们就能够计算出来,该数据结构的空间剩余 free = alloc - len

源码中 sds.h 下的函数 hisds hi_sdsnewlen(const void *init, size_t initlen)

使用 一个 init 指针和 initlen 长度,来创建一个字符串

hisds hi_sdsnewlen(const void *init, size_t initlen) {
    void *sh;
    hisds s;
    // 计算type,获取需要使用的数据结构类型
    char type = hi_sdsReqType(initlen);
    // 现在默认使用 HI_SDS_TYPE_8 了
    if (type == HI_SDS_TYPE_5 && initlen == 0) type = HI_SDS_TYPE_8;
    
    int hdrlen = hi_sdsHdrSize(type);
    unsigned char *fp; /* flags pointer. */
	
    // 分配内存
    sh = hi_s_malloc(hdrlen+initlen+1);
    if (sh == NULL) return NULL;
    if (!init)
        memset(sh, 0, hdrlen+initlen+1);
    s = (char*)sh+hdrlen;
    fp = ((unsigned char*)s)-1;
    // 根据不同的类型对数据结构初始化
    switch(type) {
        case HI_SDS_TYPE_5: {
            *fp = type | (initlen << HI_SDS_TYPE_BITS);
            break;
        }
        case HI_SDS_TYPE_8: {
            HI_SDS_HDR_VAR(8,s);
            sh->len = initlen;
            sh->alloc = initlen;
            *fp = type;
            break;
        }
        case HI_SDS_TYPE_16: ...
        case HI_SDS_TYPE_32: ...
        case HI_SDS_TYPE_64: ...
    }
    if (initlen && init)
        memcpy(s, init, initlen);
    // 兼容 C 库,字符串后面加上 \0
    s[initlen] = '\0';
    return s;
}
  • hi_sdsReqType

根据字符串的长度来计算所使用的数据类型

  • hi_sdsHdrSize

根据不同的类型,获取该类型需要分配的空间大小

  • hi_s_malloc

开辟内存,调用的是alloc.h中的 hi_malloc,具体实现就看不到了

  • switch(type) …

根据不同的类型,来将对应的数据结构做初始化

  • s[initlen] = ‘\0’

兼容 C 库,字符串后面加上 ’\0’

redis k-v 底层设计原理

redis 是如何存储海量数据的?

redis 中数据是以 key-value 的方式来存储的,key 都是字符串,而 value 根据不同的数据结构表现形式也不太一样

他们的存储方式是以 数组 + 链表的方式存储的:

  • 数组

数组中存放的是链表的地址

  • 链表

链表中存储的是具体的数据

举个例子:

上面有说到 redis 里面的 key 都是字符串的方式,那么如何与数组和链表进行结合呢?

具体逻辑是使用 hash 函数,将字符串 key 按照算法计算出一个索引值,这个值就是数组的索引,该索引对应的数组元素是指向一个链表的,链表中存放具体的数据

  • dict[10] 作为数组,每一个元素会指向一条链表

  • 现在我们要插入 k1 - v1 , k2 - v2 , k3 - v3

通过 hash 函数进行计算:

hash(k1) % 10 = 0

hash(k2) % 10 = 1

此处对 10 取模的原因是,整个数组就只能存放 10 个元素

那么结果是这样的

dict[0] -> (k1,v1) -> null
dict[1] -> (k2,v2) -> null

若这个时候咱们插入的 (k3,v3) 计算出来的索引与前面已有数据的冲突了咋办?

hash(k3) % 10 = 1

这就会出现 hash 冲突了,当 hash 冲突的时候,若 k3 与 k2 是相等了,那么就会直接更新 k2 对应的 value 值

若 k3 与 k2 不同,则会通过链地址法来解决 hash 冲突,会把 (k3,v3) 通过头插法来插入到原有的链表中,如:

dict[0] -> (k1,v1) -> null
dict[1] -> (k3,v3) -> (k2,v2) -> null

小结

  • 对于上述的 hash ,相同的输入,一定会有相同的输出
  • 不同的输入,也有可能有相同的输出,此时就 hash 冲突了,是需要解决的

参考资料:

欢迎点赞,关注,收藏

朋友们,你的支持和鼓励,是我坚持分享,提高质量的动力

欢迎大家对文章中的源码细节进行讨论和分享,不足之处还请多多指教,如果大佬们有更好的学习方法还请给予指导,谢谢

1、评论区超过 10 人互动(不含作者本人),作者可以以自己的名义抽奖送出掘金徽章 2 枚(掘金官方承担)

好了,本次就到这里

技术是开放的,我们的心态,更应是开放的。拥抱变化,向阳而生,努力向前行。

我是小魔童哪吒,欢迎点赞关注收藏,下次见~

  数据结构与算法 最新文章
【力扣106】 从中序与后续遍历序列构造二叉
leetcode 322 零钱兑换
哈希的应用:海量数据处理
动态规划|最短Hamilton路径
华为机试_HJ41 称砝码【中等】【menset】【
【C与数据结构】——寒假提高每日练习Day1
基础算法——堆排序
2023王道数据结构线性表--单链表课后习题部
LeetCode 之 反转链表的一部分
【题解】lintcode必刷50题<有效的括号序列
上一篇文章      下一篇文章      查看所有文章
加:2022-05-08 08:20:57  更:2022-05-08 08:23:02 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/26 3:49:53-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码