IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> mysql日志系统(redo log、bin log) -> 正文阅读

[大数据]mysql日志系统(redo log、bin log)

mysql日志系统(redo log、bin log)

一.redo log

Mysql 每一次更新操作都需要写进磁盘,然后磁盘也要找到对应的那条记录,然后再更新,整个过程 IO 成本、查找成本都很高。为了解决这个问题,MySQL 的设计者就用了 redo log 来提升更新效率。就是在更新操作时,先写日志,再写磁盘。

具体来说,当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log 里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做。

InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么 redo log 总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写。

redo log 中 write pos 为当前记录的位置,一边写一边后移。checkpoint 是当前要擦除的位置,也是往后移动并且循环的,但是擦除记录之前需要把记录更新到磁盘中。

write pos 和 checkpoit 之间就是 redo log 可以记录的可用空间,如果write pos 追上了checkpoint,就表示可用空间不足了。这时候不能再执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下。

有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为 crash-safe。

二.bin log(归档日志)

Mysql 整体来看,其实就有两块:一块是 Server 层,它主要做的是 Mysql 功能层面的事情;还有一块是引擎层,负责存储相关的具体事宜。上面我们聊到的 redo log 是 InnoDB 引擎特有的日志,而 Server 层也有自己的日志,称为 binlog(归档日志)。

1.为什么会有两份日志呢?

因为最开始 Mysql 里并没有 InnoDB 引擎。 Mysql 自带的引擎是 MyISAM,但是 MyISAM 没有 crash-safe 的能力,binlog 日志只能用于归档。而 InnoDB 是另一个公司以插件形式引入 Mysql 的,既然只依靠 binlog 是没有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系统——也就是 redo log 来实现 crash-safe 能力。

2.bin log 的三种模式

2.1.Statement Level模式

每一条修改数据的 sql 都会记录到 master 的 bin log 中,slave 在复制的时候 sql 进程会解析成 master 端执行过的相同的 sql 在 slave 库上再次执行。

优势:

statement level 下的优势首先就是解决了 row level 下的缺点,不需要记录每一行的变化,较少 bin log 日志量,节约 IO,提升性能。由于它只须要记录在master上所执行的语句的细节,以及执行语句时候的上下文信息。

缺点:

因为它是记录执行语句,因此,为了让这些语句在 slave 端也能正确执行,那么它还必须记录每条语句在执行的时候的一些相关信息,也就是上下文信息,来保证全部语句在slave端可以获得和在 master 端相同的执行结果。因为 Mysql 更新较快,使 Mysql 的赋值遇到了不小的挑战,天然赋值的时候就会涉及到越复杂的内容,bug也就容易出现。在 statement level 下,目前就已经发现了很多状况会形成 mysql 的复制出现问题,主要是修改数据的时候使用了某些特定的函数或者功能的时候会出现。例如在存储过程当中使用了 last_insert_id()函数,可能会使 slave 和 master 上获得不一致的 id。

总结

  • Statement level 优势:

1.解决了 row level 的缺点,不须要记录每一行的变化。

2.日志量少,节约 IO ,从库应用日志快。

  • Statement level 缺点:

1.一些函数同步可能会有问题。

2.2.Row Level模式

日志中会记录成每一行数据修改的形式,而后在 slave 端再对相同的数据进行修改。

优势:

在 row level 的模式下,bin log 只需要记录哪一条记录被修改,修改为什么样。因此 row level 的日志内容会很清楚的记录每一行数据修改的细节,容易理解。并且某些函数的调用不会出现复制异常的问题。

缺点:

row level 模式下,每行记录的修改内容都会记录到日志中,这样可能会产生大量的日志内容。

总结:

  • row level 的优势:

1.记录详细

2.解决 statement level 模式没法解决的复制问题。

  • row level 的缺点:

1.日志量大(由于是按行来记录)。

2.3.Mixed模式(混合模式)

实际上就是前两种模式的结合,在 mixed 模式下, Mysql 会根据执行的每一条具体的 sql 语句来决定用 statement 还是 row 来记录日志。

新版本中的 Mysql 中对 row level 模式也作了优化,并非全部的修改都会以 row level 来记录,像遇到表结构变动的时候就会以 statement 模式来记录,若是 sql 语句确实就是 update 或者 delete 等修改数据的语句,那么仍是会记录全部行的变动。

三.redo log 和 bin log 的不同点

1.redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎都可以使用。

2.redo log 是物理日志,记录的是“在某个数据页上做了什么修改”;binlog 是逻辑日志,记录的是这个语句的原始逻辑,比如“给 ID=2 这一行的 c 字段加 1 ”。

3.redo log 是循环写的,空间固定会用完;binlog 是可以追加写入的。“追加写”是指 binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。

四.redo log 写入的两阶段提交

为了让更新操作 redo log 和 bin log 之间的逻辑一致,redo log 的写入需要使用两阶段提交。

我们来看执行器和 InnoDB 引擎在执行 update 语句时的内部流程,将ID = 2 的那一行c字段加1。

1.执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。

2.执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。

3.引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。

4.执行器生成这个操作的 binlog,并把 binlog 写入磁盘。

5.执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。

引用:

1.极客时间《Msql实战45讲》-林晓斌
2.https://www.shangmayuan.com/a/13a7a7f226e649018160bcf1.html

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-10-18 17:27:40  更:2021-10-18 17:27:52 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 2:34:39-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码