IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 记一次线上sql问题排查 -> 正文阅读

[大数据]记一次线上sql问题排查

首先我查询线上日志,很轻松就定位出有问题的sql
在这里插入图片描述

然后我连上生产数据库查看了表的数据量
在这里插入图片描述

好家伙,一亿多条记录,而我们的sql是这样的

select zion_core_task.uk_task_id from zion_core_task
WHERE
	zion_core_task.scene_id =  36732
ORDER BY
	zion_core_task.gmt_create DESC 
	LIMIT 1

我直接在数据库工具上执行这条sql,果然没有让我失望
在这里插入图片描述

啥也不说,直接上执行计划
在这里插入图片描述

type显示的是访问类型,是较为重要的一个指标,结果值从好到坏依次是:
system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL ,一般来说,得保证查询至少达到range级别,最好能达到ref。
明显我们这条sql和全表扫描没差了,那为什么其他数据没问题呢,我查询了其他数据,执行计划是这样的
在这里插入图片描述

居然是ref,但是影响行只有几十行,没有像我们的目标数据有五千多行,明显得出一个结论,当我们where后的数据量达到一定值后,我们的索引模式就会变更,
在相同的sql下,这个可以说是没问题的,但我墙裂怀疑limit这个东西有鬼,所以我把limit 1去掉再去看执行计划
在这里插入图片描述

果然有毒,去掉limit后走正常的索引了,之前看过一片文章说mysql的limit会根据后面数据的大小的限制去做不同的优化,经过反复测试,发现在这个数量下当limit=5的时候索引type还是index,为6后则为ref
在这里插入图片描述

在这里插入图片描述

找到问题所在后,我们去查问官方的相关优化

If you combine LIMIT row_count with ORDER BY, MySQL stops sorting as soon as it has found the first row_count rows of the sorted result, rather than sorting the entire result. If ordering is done by using an index, this is very fast. If a filesort must be done, all rows that match the query without the LIMIT clause are selected, and most or all of them are sorted, before the first row_count are found. After the initial rows have been found, MySQL does not sort any remainder of the result set.
One factor that affects the execution plan is LIMIT, so an ORDER BY query with and without LIMIT may return rows in different orders.

结果很是笼统,反而我是在一篇博客上找到问题所在,大体是limit的存在会影响我们的顺序的变化,它不一定是按照我们设定的先通过where条件取出数据后排序,而可能直接通过排序limit后再与where条件进行匹配,这样就会造成全表扫描
我们回归的问题本身,我们这条sql的原意是取满足条件的最后一条记录,而我们的id是自增的,所以我们可以将sql改成以id作为排序,我们的id聚簇索引本身是有序的,所以能很快的查询到
在这里插入图片描述

到此问题解决了,在解决过程中我们也遇到其他的问题,比如我们的时间发现是可以重复的,而我们limit 1取到的结果则会是随机的,对我们结果的准确性有影响,同时我们也可以参考博客中的解决方案加联合索引,但是我们当前场景下肯定id排序是最优的方式。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-18 23:28:02  更:2022-06-18 23:28:12 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/19 23:19:42-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码