当前位置:Gxlcms > mysql > Mysql查询语句优化一则_MySQL

Mysql查询语句优化一则_MySQL

时间:2021-07-01 10:21:17 帮助过:5人阅读

bitsCN.com

最近一直忙于开发业务系统,数据库从原来的Oracle被替换成了Mysql,但在实际线上运行中发现有条sql执行起来非常慢,更奇怪的是这句sql还会导致整个数据库性能下降。这个问题非常严重!该sql和表结构如下:

SELECT name

,COUNT(*) AS counts

,type

FROM entityNameTemp

WHERE postTime > '2011-06-01 00:00:00'

GROUP BY name

ORDER BY counts DESC

LIMIT 10

| entityNameTemp | CREATE TABLE `entityNameTemp` (

`id` int(10) unsigned NOT NULL AUTO_INCREMENT COMMENT '主键',

`name` varchar(600) DEFAULT NULL COMMENT '人名或者机构名',

`type` enum('personName','organizationName') DEFAULT NULL COMMENT 'personName 人名;organizationName:机构名',

`postTime` timestamp NULL DEFAULT NULL COMMENT '发帖时间',

`createTime` timestamp NULL DEFAULT NULL COMMENT '创建时间',

PRIMARY KEY (`id`)

) ENGINE=Innodb AUTO_INCREMENT=1931915 DEFAULT CHARSET=utf8 |

这是对一个百万级别的临时表,目的是做一下统计取排名前十的数据。先来查看一下执行计划:

+----+-------------+----------------+------+---------------+------+---------+------+---------+----------------------------------------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+----------------+------+---------------+------+---------+------+---------+----------------------------------------------+

| 1 | SIMPLE | entityNameTemp | ALL | NULL | NULL | NULL | NULL | 1735829 | Using where; Using temporary; Using filesort |

+----+-------------+----------------+------+---------------+------+---------+------+---------+----------------------------------------------+

无疑是用到了临时表以及排序,且没有用上索引。但mysql的执行计划实在很难定位具体问题。之前有查过mysql对临时文件的使用规则,主体思路是查看tmp_table_size参数,mysql会评估一下本次查询大概会需要用到的内存大小,如果小于该参数则会使用磁盘临时文件。但这个参数我已经改到了200m,但问题依旧。查看了一下,发现设置了参数但仍然使用了磁盘。查询发现Created_tmp_disk_tables参数在sql语句执行前后增加了1:

mysql> show status like '%tmp%';

+-------------------------+-------+

| Variable_name | Value |

+-------------------------+-------+

| Created_tmp_disk_tables | 2 |

| Created_tmp_files | 15 |

| Created_tmp_tables | 7 |

+-------------------------+-------+

这就非常奇怪了,因为我手动计算发现这些数据量绝对不会超过200m,理论上是应该要用内存临时表的。这只好拿出杀手锏,查看详细的执行计划。在命令行下依次执行1)set profiling = 1; 2)sql语句;3)show profile;就可以看到详细的时间消耗,另外可以用show profiles查看执行过的sql语句。当前sql语句执行情况分析如下:

mysql> show profile;

+--------------------------------+------------+

| Status | Duration |

+--------------------------------+------------+

| starting | 0.000023 |

| checking query cache for query | 0.000069 |

| Opening tables | 0.000016 |

| System lock | 0.000008 |

| Table lock | 0.000036 |

| init | 0.000030 |

| optimizing | 0.000011 |

| statistics | 0.000018 |

| preparing | 0.000014 |

| Creating tmp table | 0.000265 |

| executing | 0.000008 |

| Copying to tmp table | 165.312749 |

| Sorting result | 0.258847 |

| Sending data | 0.000094 |

| end | 0.000007 |

| removing tmp table | 0.302258 |

| end | 0.000026 |

| query end | 0.000007 |

| freeing items | 0.000171 |

| storing result in query cache | 0.000017 |

| logging slow query | 0.000007 |

| logging slow query | 0.000006 |

| cleaning up | 0.000008 |

+--------------------------------+------------+

从上可以清楚的看到时间消耗基本都花费在临时文件拷贝上了,对于排序其实还没花费多久。那问题的关键就是在于解决临时文件如何在内存中建立。

简单商讨了一下,觉得还是先建立索引看看吧。针对这个查询条件应该建立postTime和name的联合索引。但执行时发现:

mysql> alter table entityNameTemp add key idx_postTime_name ( postTime, name );

ERROR 1071 (42000): Specified key was too long; max key length is 1000 bytes

这怎么会超过长度了呢?name字段应该很短才对,postTime还是一个时间字段更长不了。但是一检查发现居然建表的人写的name是varchar(600)。突然想到mysql读取时内存开辟是根据声明的长度来的,再一联想,mysql估计需要读取文件的大小就是根据字段声明来算出来的。果断修改name到varchar(20),一执行就几秒了,再看一下详细时间消耗:

mysql> show profile;

+--------------------------------+----------+

| Status | Duration |

+--------------------------------+----------+

| starting | 0.000036 |

| checking query cache for query | 0.000094 |

| Opening tables | 0.000216 |

| System lock | 0.000010 |

| Table lock | 0.000038 |

| init | 0.000038 |

| optimizing | 0.000014 |

| statistics | 0.000019 |

| preparing | 0.000018 |

| Creating tmp table | 0.000040 |

| executing | 0.000008 |

| Copying to tmp table | 3.863467 |

| Sorting result | 0.092263 |

| Sending data | 0.000061 |

| end | 0.000006 |

| removing tmp table | 0.004514 |

| end | 0.000009 |

| query end | 0.000005 |

| freeing items | 0.000035 |

| storing result in query cache | 0.000013 |

| logging slow query | 0.000005 |

| cleaning up | 0.000005 |

+--------------------------------+----------+

问题基本算解决了,查看临时文件使用情况也确实使用了内存临时文件。加上索引试试,查看执行计划也用上索引了,但是实际执行效果来看提升效果不大。因为还是要拷贝到临时文件表,innodb对于count操作优化确实比较难。

另外一个问题就是对整个系统的影响,这估计是因为用到了磁盘会导致io占用过高。现在查询时间比较短,现象比较难重现了。

bitsCN.com

人气教程排行