IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 故障分析 | bgsave 导致 redis 定期卡顿案例一则 -> 正文阅读

[大数据]故障分析 | bgsave 导致 redis 定期卡顿案例一则

作者:任坤

现居珠海,先后担任专职 Oracle 和 MySQL DBA,现在主要负责 MySQL、mongoDB 和 Redis 维护工作。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


1、背景

线上有套 redis 主从,版本4.0,开发抱怨说经常会出现周期性卡顿。

应用日志显示每隔10多分钟出现一次,一个普通调用就需要执行1s左右,然后自动恢复,get/set 均受影响

2、诊断

查看 redis qps 和 cpu 监控,均未发现有用线索。

登录 redis 查看 slowlog ,也没有吻合时间点的慢查询。

evicted_keys 指标一直是 0 ,expired_keys 数量虽然很多,但是一直没有明显波动,不太可能是驱逐过期键导致。

经组里同事提醒注意到 latest_fork_usec 指标,执行一次接近1s左右,大约每15分钟触发一次 bgsave ,和应用出现慢查询的频率大致吻合,现在初步认定是 redis 实例定期 bgsave 导 致的应用卡顿。

在相当长的一段时间内,我一直认为 redis 的 bgsave 衍生出1个子进程并且采用 copy-on- write 机制,不会对 redis 本身有太多影响,顶多落盘时占用点 IO 资源而已。

潜在瓶颈点出现fork()调用上

Under Linux, fork() is implemented using copy‐on‐write pages, so the 
only penalty that it incurs is the time and memory required to duplicate the 
parent's page tables, and to create a unique task structure for the child. 

如果父进程的页表比较大,fork()耗时就会相应延长,且 redis 采用了单工作进程模型, fork()执行期间会阻塞所有用户请求。

当前 redis 实例的 RSS 已经达到了16G

页表大小33M

cat /proc/8844/status | grep ‐i pte
VmPTE: 33840 kB

采用 strace 跟踪一下fork()耗时,在 glibc 里 fork 的调用实际上映射到了更底层的 clone 系统 调用,因指定-e trace=clone

# strace ‐p 20324 ‐e trace=clone ‐T 
... 
clone(child_stack=0, flags=CLONE_CHILD_CLEARTID|CLONE_CHILD_SETTID|SIGCHL D, child_tidptr=0x7f409d771a10) = 30793 <1.013945> 
...

于此对应的 redis 监控指标为

latest_fork_usec:1014778 

两者吻合,由此可以确认是 redis 定期 bgsave 引发的。

最简单的方法是禁用 bgsave ,但这种行为有很大的风险,一旦主库被误杀且在主从切换前又被迅速拉起,会导致 redis 数据全部丢失。

查看 redis 的内存利用率,存在很严重的内存碎片,

used_memory_human 8.7G
......
used_memory_rss_human 16.1G 

这套 redis 马上就要迁移,新环境实例的 RSS 只有8.8G,latest_fork_usec 指标也下降达到了0.25s左右,和开发确认后可以满足应用需求,迁移后应用的定期卡顿现象有了很明显的缓解。

redis 4.0 引入了碎片自动回收功能,由参数 activedefrag 调控,默认关闭。迁移后对老 redis 开启了 activedefrag(其余参数保持默认值),最终 used_memory_rss_human 固定在11G左右,latest_fork_usec 在0.76s左右。新环境以后也可能会遭遇严重内存碎片,届时要么开启activedefrag,要么在维护时间段重启实例,后者效果显然更好一点。

3、小结

我们线上 redis 主从都开启了 bgsave ,之前一直忽视了bgsave/fork()可能引发的性能波动,最好的解决办法就是控制单个 redis 的内存上限,如果业务端无法瘦身可以考虑 redis cluster 或者设置 maxmemory 。 以后如果遇到了 redis 定期卡顿现象,可以优先从 latest_fork_usec 监控指标入手。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-04-28 11:56:15  更:2022-04-28 11:59:19 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 1:10:29-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码