MySQL性能优化

MySQL性能优化

大家好,又见面了,我是全栈君。

怎样从MySQL一个数据表中提取一条随机的效率,同一时候要保证效率最高。

方法一

这是最原始最直观的语法。例如以下:

SELECT * FROM foo ORDER BY RAND() LIMIT 1

当数据表中数据量较小时,此方法可行。但当数据量到达一定程度,比方100万数据或以上。就有非常大的性能问题。

假设你通过EXPLAIN来分析这个 语句,会发现尽管MySQL通过建立一张暂时表来排序,但因为ORDER BY和LIMIT本身的特性。在排序未完毕之前,我们还是无法通过LIMIT来获取须要的记录。亦即。你的记录有多少条,就必须首先对这些数据进行排序。

方法二

看来对于大数据量的随机数据抽取,性能的症结出在ORDER BY上,那么怎样避免?方法二提供了一个方案。

首先,获取数据表的全部记录数:

SELECT count(*) AS num_rows FROM foo

然后,通过相应的后台程序记录下此记录总数(假定为num_rows)。

然后运行:

SELECT * FROM foo LIMIT [0到num_rows之间的一个随机数],1

上面这个随机数的获得能够通过后台程序来完毕。此方法的前提是表的ID是连续的或者自增长的。

这种方法已经成功避免了ORDER BY的产生。

方法三

有没有可能不用ORDER BY。用一个SQL语句实现方法二?能够,那就是用JOIN。

SELECT * FROM Bar B JOIN (SELECT CEIL(MAX(ID)*RAND()) AS ID FROM Bar) AS m ON B.ID >= m.ID LIMIT 1;

此方法实现了我们的目的,同一时候,在数据量大的情况下,也避免了ORDER BY所造成的全部记录的排序过程。由于通过JOIN里面的SELECT语句实际上仅仅运行了一次,而不是N次(N等于方法二中的num_rows)。并且, 我们能够在筛选语句上加上“大于”符号。还能够避免由于ID好不连续所产生的记录为空的现象。

在mysql中查询5条不反复的数据,使用下面:

SELECT * FROM `table` ORDER BY RAND() LIMIT 5

就能够了。可是真正測试一下才发现这样效率很低。一个15万余条的库,查询5条数据,竟然要8秒以上

搜索Google,网上基本上都是查询max(id) * rand()来随机获取数据。

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id ASC LIMIT 5;

可是这样会产生连续的5条记录。解决的方法仅仅能是每次查询一条,查询5次。

即便如此也值得,由于15万条的表,查询仅仅须要0.01秒不到。

上面的语句採用的是JOIN。mysql的论坛上有人使用

SELECT *
FROM `table`
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `table` )
ORDER BY id LIMIT 1;

我測试了一下,须要0.5秒,速度也不错。可是跟上面的语句还是有非常大差距。总觉有什么地方不正常。

于是我把语句改写了一下。

SELECT * FROM `table`
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `table`))) 
ORDER BY id LIMIT 1;

这下,效率又提高了,查询时间仅仅有0.01秒

最后。再把语句完好一下。加上MIN(id)的推断。我在最開始測试的时候,就是由于没有加上MIN(id)的推断。结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:

SELECT * FROM `table`
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`))) 
ORDER BY id LIMIT 1;

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id LIMIT 1;

最后对这两个语句进行分别查询10次。
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来採用JOIN的语法比直接在WHERE中使用函数效率还要高非常多

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/116058.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 自监督学习 对比学习了解

    自监督学习 对比学习了解简介自监督学习是近几年(2020年)流行起来的一种机器学习方法,很多人认为自监督方法未来一段时间将取代现有的监督方法,成为深度学习中占据主导地位的方法。现在已经有不少采用自监督-对比学习的方法取得了领先的效果。目前(2020.10)来说这个领域貌似还比较新,没有找到很系统的讲解介绍资料。首先介绍一下到底什么是SSL,我们知道一般机器学习分为监督学习,非监督学习和强化学习。而self-supervisedlearning是无监督学习里面的一种。自监督学习的思想非常简单,就是输入的是一堆无监督的数据

    2022年9月14日
    0
  • 初识舵机[通俗易懂]

    初识舵机[通俗易懂]目录1简介2构造3舵机和伺服电机有什么区别4舵机类型5 舵机构造6 伺服电机工作原理7 伺服电机作用8舵机是什么?9舵机的内部结构10舵机的工作原理11如何让舵机转到指定角度?12用ArduinoUNO控制舵机13可变电位计Refs1简介舵机控制的机器人●我猜你肯定在机器人和电动玩具中见到…

    2022年6月12日
    54
  • Linux 常用的系统信息查看命令

    Linux 常用的系统信息查看命令

    2021年6月8日
    171
  • 自己动手用Android和Xposed编写一个微信聊天机器人——《微信聊天精灵》实现关键词自动回复。

    自己动手用Android和Xposed编写一个微信聊天机器人——《微信聊天精灵》实现关键词自动回复。出于爱好和需要,想着自己来编写一个微信聊天机器人,能实现以下功能:能实时获取到微信聊天消息; 能进行文本自动回复; 能够设置关键词; 能够根据关键词匹配,进行内容回复; 能实现聊天消息云端备份; 已回复的消息能自动标记已读; ……待定 能够作为一个产品,让用户直接下载和安装使用。 开源。可以到github上去下载源码,和release安装包。 免费。不收费。咱也用现在…

    2022年5月29日
    48
  • 十大滤波算法总结[通俗易懂]

    十大滤波算法总结[通俗易懂]由于MPU6050的深入,我也学会了一些滤波算法,自己写了一些算法,收集了一些算法,供大家一起学习分享,我的代码都是经过反复试验,复制到Arduino中就能开跑的成品代码,移植到自己的程序中非常方便。而且都仔细研究了各个算法,把错误都修正了的,所以也算个小原创吧,在别人基础上的原创。1、限幅滤波法(又称程序判断滤波法)2、中位值滤波法3、算术平均滤波法4、递推平均滤波法(又称滑动平

    2022年6月13日
    42
  • SQL Server 2019下载及安装教程

    文章目录一、安装SQLServer2019二、安装SQLServerManagementStudio(SSMS)一、安装SQLServer2019搜索SQL,点击红色部分跳出一下界面,随便填,填完之后,点击continue。点击保存,保存成功之后,打开文件夹,右键以管理员身份启动,就会看见下面的画面,我这边选择的是自定义安装。弹出的选项,一个是中文,媒…

    2022年4月7日
    48

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号