IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 如何剖析一个项目之Redis(三) -> 正文阅读

[大数据]如何剖析一个项目之Redis(三)

拆解的项目源码地址:
https://github.com/xk4848123/ef-redis

感谢开源!!!


如何剖析一个项目之Redis(一)
如何剖析一个项目之Redis(二)
如何剖析一个项目之Redis(三)

已知

  • 这是一款阉割的Java版的redis,通信基于Netty编写。
  • 我已经知到一个redis-cli发送一个命令过来后,是如何解析处理返回报文的。
  • aof机制是如何实现得。

已知的缺陷

我们用一张图表示命令处理过程。

Created with Rapha?l 2.3.0 接收命令 CommandDecoder command != null? CommandHandler单线程处理 处理结束 not support command yes no
  • 缺陷一:aof是在CommandDecoder中的被放入aof缓冲区的(runtimeRespQueue阻塞队列),也就是在命令未执行成功就让它去写入aof,但是这样就有可能在该命令执行失败的时候也写入aof文件。
  • 缺陷二:CommandDecoder是多线程处理的,CommandHandler是单线程处理的,实际命令处理在CommandHandler中,如果aof写入在CommandDecoder中处理,会导致CommandHandler的处理顺序和aof文件中记录的命令顺序不一致,进而导致重启redis后内存中数据和之前不一样。
public class CommandDecoder extends LengthFieldBasedFrameDecoder {

    private static final Logger LOGGER = Logger.getLogger(CommandDecoder.class);

    private static final int MAX_FRAME_LENGTH = Integer.MAX_VALUE;

    private Aof aof = null;

    public CommandDecoder(Aof aof) {
        this();
        this.aof = aof;
    }

    public CommandDecoder() {
        super(MAX_FRAME_LENGTH, 0, 4);
    }

    @Override
    public Object decode(ChannelHandlerContext ctx, ByteBuf in) throws Exception {
        TRACEID.newTraceId();
        try {
            Resp resp = Resp.decode(in);
            if (!(resp instanceof RespArray)) {
                throw new IllegalStateException("客户端发送的命令格式有问题");
            }
            Command command;
            command = CommandFactory.from((RespArray) resp);

            if (command == null) {
                ctx.writeAndFlush(new Errors("unsupport command:" + ((BulkString) ((RespArray) resp).getArray()[0]).getContent().toUtf8String()));
            } else {
                if (aof != null && command instanceof WriteCommand) {
                    aof.put(resp);
                }
                return command;
            }
        } catch (Throwable t) {
            LOGGER.error("解码命令", t);
        }
        return null;
    }


}

缺乏aof重写机制,会导致aof膨胀严重。

aof重写机制

该redis服务采用的过期策略只是惰性删除,并且惰性删除时没有将删除指令添加到aof,这样会导致重启后该键值对又被重新加入内存。没有内存淘汰机制,也就是说如果一直插入新的键值对内存是会持续增长直到OOM

Redis的过期处理策略

Redis的内存淘汰机制

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-02-06 13:53:32  更:2022-02-06 13:53:54 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 13:28:52-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码