MySQL性能优化

MySQL性能优化

大家好,又见面了,我是全栈君。

怎样从MySQL一个数据表中提取一条随机的效率,同一时候要保证效率最高。

方法一

这是最原始最直观的语法。例如以下:

SELECT * FROM foo ORDER BY RAND() LIMIT 1

当数据表中数据量较小时,此方法可行。但当数据量到达一定程度,比方100万数据或以上。就有非常大的性能问题。

假设你通过EXPLAIN来分析这个 语句,会发现尽管MySQL通过建立一张暂时表来排序,但因为ORDER BY和LIMIT本身的特性。在排序未完毕之前,我们还是无法通过LIMIT来获取须要的记录。亦即。你的记录有多少条,就必须首先对这些数据进行排序。

方法二

看来对于大数据量的随机数据抽取,性能的症结出在ORDER BY上,那么怎样避免?方法二提供了一个方案。

首先,获取数据表的全部记录数:

SELECT count(*) AS num_rows FROM foo

然后,通过相应的后台程序记录下此记录总数(假定为num_rows)。

然后运行:

SELECT * FROM foo LIMIT [0到num_rows之间的一个随机数],1

上面这个随机数的获得能够通过后台程序来完毕。此方法的前提是表的ID是连续的或者自增长的。

这种方法已经成功避免了ORDER BY的产生。

方法三

有没有可能不用ORDER BY。用一个SQL语句实现方法二?能够,那就是用JOIN。

SELECT * FROM Bar B JOIN (SELECT CEIL(MAX(ID)*RAND()) AS ID FROM Bar) AS m ON B.ID >= m.ID LIMIT 1;

此方法实现了我们的目的,同一时候,在数据量大的情况下,也避免了ORDER BY所造成的全部记录的排序过程。由于通过JOIN里面的SELECT语句实际上仅仅运行了一次,而不是N次(N等于方法二中的num_rows)。并且, 我们能够在筛选语句上加上“大于”符号。还能够避免由于ID好不连续所产生的记录为空的现象。

在mysql中查询5条不反复的数据,使用下面:

SELECT * FROM `table` ORDER BY RAND() LIMIT 5

就能够了。可是真正測试一下才发现这样效率很低。一个15万余条的库,查询5条数据,竟然要8秒以上

搜索Google,网上基本上都是查询max(id) * rand()来随机获取数据。

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id ASC LIMIT 5;

可是这样会产生连续的5条记录。解决的方法仅仅能是每次查询一条,查询5次。

即便如此也值得,由于15万条的表,查询仅仅须要0.01秒不到。

上面的语句採用的是JOIN。mysql的论坛上有人使用

SELECT *
FROM `table`
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `table` )
ORDER BY id LIMIT 1;

我測试了一下,须要0.5秒,速度也不错。可是跟上面的语句还是有非常大差距。总觉有什么地方不正常。

于是我把语句改写了一下。

SELECT * FROM `table`
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `table`))) 
ORDER BY id LIMIT 1;

这下,效率又提高了,查询时间仅仅有0.01秒

最后。再把语句完好一下。加上MIN(id)的推断。我在最開始測试的时候,就是由于没有加上MIN(id)的推断。结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:

SELECT * FROM `table`
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`))) 
ORDER BY id LIMIT 1;

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id LIMIT 1;

最后对这两个语句进行分别查询10次。
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来採用JOIN的语法比直接在WHERE中使用函数效率还要高非常多

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/116058.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • Java 入门

    Java 入门

    2021年10月6日
    47
  • 一个因MySQL大小写敏感导致的问题[通俗易懂]

    做一个积极的人编码、改bug、提升自己我有一个乐园,面向编程,春暖花开!分享一下大神老师的人工智能教程。零基础!通俗易懂!风趣幽默(偶尔开开车,讲讲黄段子)!大家可以看看是否对自己有帮助,如果你对人工智能感兴趣,希望你也加入到人工智能的队伍中来,点击这里查看【人工智能教程】。接下来进入正文。文章目录00 MYSQL对大小写敏感01 一个表字母大小故事lower_case_file_s…

    2022年2月28日
    39
  • [Python嗯~机器学习]—L1正则化和L2正则化

    正则化解决过拟合问题正则化(Regularization)是机器学习中一种常用的技术,其主要目的是控制模型复杂度,减小过拟合。最基本的正则化方法是在原目标(代价)函数中添加惩罚项,对复杂度高的模型进行“惩罚”。数学表达式:式中  、 为训练样本和相应标签,  为权重系数向量;  为目标函数,  即为惩罚项,可理解为模型“规模”的某种度量;参数 控制控制正则化强弱。不同的  函数对权重…

    2022年4月11日
    101
  • Python的包管理工具Pip

    Python的包管理工具Pip

    2021年12月10日
    332
  • Microsoft Speech SDK5.1 语音识别

    Microsoft Speech SDK5.1 语音识别

    2021年8月19日
    179
  • hive中的数据类型:基本数据类型,集合数据类型_hive数据库类型

    hive中的数据类型:基本数据类型,集合数据类型_hive数据库类型数据类型1.Hive中的数据类型分为两类:基本类型和复杂类型2.基本类型包含:tinyint,smallint,int,bigint,float,double,boolean,string,timestamp,binary3.复杂类型:array,map和structa.array:数组类型,对应了Java中的集合或者数组。原始数据jack,johnlucy,miketom,bob,cindylily,helen,mary,alexfrank,grace,iran,edentony

    2022年9月16日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号