IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> SQL 随机抽取多条数据/ORDER BY RAND()优化 -> 正文阅读

[大数据]SQL 随机抽取多条数据/ORDER BY RAND()优化

偶然打开以前的某个项目,发现代码里面有一个FIXME,写着此为临时方案,SQL存在性能隐患,需优化。这是一个在题库里随机抽题的SQL,采用的是ORDER BY RAND(),因为没有参与后续的迭代,今天把自己当时的思路记录一下。

主要还是因为网上关于这块的博文大多写的一样,没啥参考价值,所以才记录一下自己的想法,如有错误,恳请指正。

ORDER BY RAND() 为什么有性能问题

首先是RAND这个随机函数:我们都知道目前计算机世界里的随机,都是伪随机,所谓的随机数,都是按照一定的算法计算出来的。而这个计算过程其实对CPU是有一定占用的,尤其在随机数数量较大时,CPU的计算时间是很长的。

再有就是,ORDER BY RAND()在执行时会比普通的ORDER BY,多一个步骤,也就是会创建一个临时表(explain时可以看到Using temporary)。这个临时表会把查询出来的数据增加一列,也就是RAND列,把随机数的赋值进去。然后再生成sort_buffer中间表进行排序。

优化方式

个人认为,不同的业务场景对应不用的处理方式:

场景一:没有抽取条件限制,直接抽取

  1. 在业务代码里找到随机的id,以该id为起始抽取数据
int max = 数据表最大主键id;
int min = 数据表最小主键id;
int randId = (int)(Math.random() * (max - min)) + min;

SELECT * FROM table WHERE id >= randId LIMIT 数量;
  1. 直接使用SQL执行上述的思想
SELECT MAX(id), MIN(id) INTO @M, @N FROM table;
SET @R = FLOOR((@M - @N) * RAND() + @N);
SELECT * FROM table where id >= @R LIMIT 数量;

场景二:不允许抽取id连续的数据行

在业务代码层把需要的随机数据id都给算好,然后直接取

int max = 数据表最大主键id;
int min = 数据表最小主键id;
List<Integer> idList = new ArrayList<>(数量);
int i = 0;
while (i < 数量) {
    Integer randId = (int) (Math.random() * (max - min)) + min;
    if (!idList.contains(randId)) {
        idList.add(randId);
        i++;
    }
}

SELECT * FROM table where id IN idList;

场景三:需要根据不同的数据类型进行抽取

举个例子,从题库抽题,需要抽判断题10题,单选题10题,多选题10题

做法其实和上述的方法一样,只是在设计数据库时,做一些调整。

比如可以将主键设计得不连续,如按照数据的类型进行编号,判断题以101开头,单选题102,多选题103。

当然也可以把主键设置为联合主键,用smallint(类型)+int(编号)的方式。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-20 23:03:25  更:2022-06-20 23:04:41 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 16:35:43-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码