IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Redis一条命令的执行 – AOF write 源码分析 -> 正文阅读

[大数据]Redis一条命令的执行 – AOF write 源码分析

Redis一条命令的执行 – AOF源码分析

(本文章基于redis 5.0)
aof的配置比较简单,熟练的DBA都知道通过如下方式配置

appendonly no  # aof开关,默认关闭
appendfilename "appendonly.aof"  # 保存的文件名,默认appendonly.aof
# 有三种刷数据的策略
appendfsync always  # always是只要有数据改动,就把数据刷到磁盘里,最安全但性能也最差
appendfsync everysec  # 每隔一秒钟刷一次数据,数据安全性和性能折中,这也是redis默认和推荐的配置。 
appendfsync no # 不主动刷,什么时候数据刷到磁盘里取决于操作系统,在大多数Linux系统中每30秒提交一次,性能最好,但数据安全性最差。

AOF日志的又是怎么实现的呢?如下是aof文件的代码分析

AOF 代码分析

redis命令的执行,依赖于server.c文件的CALL()方法.
server.c中的void call(client *c, int flags)是redis接受到client请求后处理请求的入口,其中会检测Redis中的数据有没有发生变化。如果有变化就会执行propagate()函数。
关于CALL()方法的描述,在代码的备注中有如下描述:

* Call() is the core of Redis execution of a command.
* 在执行call方法时,通过如下过程调用执行command
{

...

   /* Call the command. */
    dirty = server.dirty;
    updateCachedTime(0);
    start = server.ustime;
    c->cmd->proc(c);           // 这里执行命令
    duration = ustime()-start;
    dirty = server.dirty-dirty;
    if (dirty < 0) dirty = 0;

...

}

传递到propagate()函数后,做了什么事情呢?
这个函数在代码的备注中,意思是说在指定的数据库ID的背景下,传播指定的命令到AOF和Slave。也就是它负责把命令写到aof中,同时去做主从复制。

void propagate(struct redisCommand *cmd, int dbid, robj **argv, int argc,
               int flags)
{
    if (server.aof_state != AOF_OFF && flags & PROPAGATE_AOF)
        feedAppendOnlyFile(cmd,dbid,argv,argc);
    if (flags & PROPAGATE_REPL)
        replicationFeedSlaves(server.slaves,dbid,argv,argc);
}

这个文章就只看第一个函数: feedAppendOnlyFile(cmd,dbid,argv,argc);

AOF日志的生成


void feedAppendOnlyFile(int dictid, robj **argv, int argc) {
    sds buf = sdsempty();

    serverAssert(dictid >= 0 && dictid < server.dbnum);

    /* Feed timestamp if needed */
    if (server.aof_timestamp_enabled) {
        sds ts = genAofTimestampAnnotationIfNeeded(0);
        if (ts != NULL) {
            buf = sdscatsds(buf, ts);
            sdsfree(ts);
        }
    }

    /* The DB this command was targeting is not the same as the last command
     * we appended. To issue a SELECT command is needed. */
    /*如果你执行的命令跟当前的db是不一致的,要写select 命令*/ 
    if (dictid != server.aof_selected_db) {
        char seldb[64];

        snprintf(seldb,sizeof(seldb),"%d",dictid);
        buf = sdscatprintf(buf,"*2\r\n$6\r\nSELECT\r\n$%lu\r\n%s\r\n",
            (unsigned long)strlen(seldb),seldb);
        server.aof_selected_db = dictid;
        serverLog(LL_NOTICE,"此处为代码测试_serverlog,aof select命令 *2\r\n$6\r\nSELECT\r\n$%lu\r\n%s\r\n",
            (unsigned long)strlen(seldb),seldb);
            // 固定格式 *2 作为第一行,$6作为第二行,SELECT,$长度,$值
    }

    /* All commands should be propagated the same way in AOF as in replication.
     * No need for AOF-specific translation. */
    /* 所有命令在AOF中的传播方式应与复制中的传播方式相同。不需要针对AOF的翻译。 */
    buf = catAppendOnlyGenericCommand(buf,argc,argv);

    /* Append to the AOF buffer. This will be flushed on disk just before
     * of re-entering the event loop, so before the client will get a
     * positive reply about the operation performed. */
    if (server.aof_state == AOF_ON ||
        server.child_type == CHILD_TYPE_AOF)
    {
        server.aof_buf = sdscatlen(server.aof_buf, buf, sdslen(buf));
    }

    sdsfree(buf);
}

sds catAppendOnlyGenericCommand(sds dst, int argc, robj **argv) {
    // sds是redis自己针对string做的修改
    // 是一个string api
    // 参考大佬的文章 https://blog.csdn.net/weixin_39993322/article/details/112115086
    char buf[32];
    int len, j;
    robj *o;

    buf[0] = '*';       // 每个命令以* 开头,*后面的数字表示此次命令一共会有几个字段,
                        // $表示要写入的数据(要以string写入到文件中),$后面的数字表示当前的这个string的长度
                        // 比如 set a 1 表示为*3  set为$3 a为$1 1为$1
                        // *3
                        // $3
                        // set
                        // $1
                        // a
                        // $1
                        // 1
                        // SET key-with-expire-time "hello" EX 1008612 表示为
                        // *5
                        // $3
                        // SET
                        // $20
                        // key-with-expire-time
                        // $5
                        // hello
                        // $4
                        // PXAT
                        // $13
                        // 1651130525053

    len = 1+ll2string(buf+1,sizeof(buf)-1,argc);
    buf[len++] = '\r';
    buf[len++] = '\n';
    dst = sdscatlen(dst,buf,len);

    for (j = 0; j < argc; j++) {
        o = getDecodedObject(argv[j]);  // 这里解析当前函数接收到的内容 o是一个 robj结构(redis自己实现的 RedisObject ),
                                        // 可以保证命令执行前验证是否正确,不正确解析的时候会报错err
        buf[0] = '$';
        len = 1+ll2string(buf+1,sizeof(buf)-1,sdslen(o->ptr));
        buf[len++] = '\r';
        buf[len++] = '\n';
        dst = sdscatlen(dst,buf,len);
        dst = sdscatlen(dst,o->ptr,sdslen(o->ptr));
        dst = sdscatlen(dst,"\r\n",2);
        decrRefCount(o);
    }
    /* 上方代码实现的作用: */
    /* dst为要写入aof的文件的内容 */
    /*  */
    // serverLog(LOG_NOTICE,"dst这里返回的是:%s",dst);
    return dst;
}

AOF文件规则总结

每个命令以* 开头,*后面的数字表示此次命令一共会有几个字段,
$表示要写入的数据(要以string写入到文件中),$后面的数字表示当前的这个string的长度
比如 

1、set a 1 表示为*3  set为$3 a为$1 1为$1
*3
$3
set
$1
a
$1
1

2、SET key-with-expire-time "hello" EX 1008612 表示为
*5
$3
SET
$20
key-with-expire-time
$5
hello
$4
PXAT
$13
1651130525053

深度思考

redis是如何实现特殊的字符处理的呢?
如 set testkey "a\\r\n"
答案在robj结构体里。我现在也没搞懂

参考和感谢

参考大佬分析笔记的一小部分
https://blog.csdn.net/xindoo/article/details/115447240
感谢聪明机智善于分享的大佬,自己研究后不忘分享给其他小弟,让他人快速学习知识。大佬666。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-04-18 17:49:30  更:2022-04-18 17:51:51 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 4:08:17-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码