当前位置:Gxlcms > 数据库问题 > SQL语句调优

SQL语句调优

时间:2021-07-01 10:21:17 帮助过:12人阅读

 

性能不理想的系统中除了一部分是因为应用程序的负载确实超过了服务器的实际处理能力外,更多的是因为系统存在大量的SQL语句需要优化。


为了获得稳定的执行性能,SQL语句越简单越好。对复杂的SQL语句,要设法对之进行简化。



常见的简化规则如下:
 
1)不要有超过5个以上的表连接(JOIN)
2)考虑使用临时表或表变量存放中间结果。
3)少用子查询
4)视图嵌套不要过深,一般视图嵌套不要超过2个为宜。
 


连接的表越多,其编译的时间和连接的开销也越大,性能越不好控制。


最好是把连接拆开成较小的几个部分逐个顺序执行。


优先执行那些能够大量减少结果的连接。


拆分的好处不仅仅是减少SQL Server优化的时间,更使得SQL语句能够以你可以预测的方式和顺序执行。



如果一定需要连接很多表才能得到数据,那么很可能意味着设计上的缺陷。


 



连接是outer join,非常不好。因为outer join意味着必须对左表或右表查询所有行。


如果表很大而没有相应的where语句,那么outer join很容易导致table scan或index scan。


要尽量使用inner join避免scan整个表。



优化建议:
 
1)使用临时表存放t1表的结果,能大大减少logical reads(或返回行数)的操作要优先执行。


 仔细分析语句,你会发现where中的条件全是针对表t1的,所以直接使用上面的where子句查询表t1,然后把结果存放再临时表#t1中:
 



Select t1 … into #tt1 from t1 where--(和上面的where一样)


 
2)再把#tt1和其他表进行连接:
 



Select #t1 …
Left outer join
Left outer join


 

3)修改 like 程序,去掉前置百分号。like语句却因为前置百分号而无法使用索引
4)从系统设计的角度修改语句,去掉outer join。
5)考虑组合索引或覆盖索引消除clustered index scan。
 
上面1和2点建议立即消除了worktable,性能提高了几倍以上,效果非常明显。


 


 


1)限制结果集
 
要尽量减少返回的结果行,包括行数和字段列数。


返回的结果越大,意味着相应的SQL语句的logical reads 就越大,对服务器的性能影响就越甚。


一个很不好的设计就是返回表的所有数据:
 



Select * from tablename


 
即使表很小也会导致并发问题。更坏的情况是,如果表有上百万行的话,那后果将是灾难性的。


它不但可能带来极重的磁盘IO,更有可能把数据库缓冲区中的其他缓存数据挤出,使得这些数据下次必须再从磁盘读取。


必须设计良好的SQL语句,使得其有where语句或TOP语句来限制结果集大小。



2)合理的表设计
 
SQL Server 2005将支持表分区技术。利用表分区技术可以实现数据表的流动窗口功能。


在流动窗口中可以轻易的把历史数据移出,把新的数据加入,从而使表的大小基本保持稳定。
 
另外,表的设计未必需要非常范式化。有一定的字段冗余可以增加SQL语句的效率,减少JOIN的数目,提高语句的执行速度。



3)OLAP和OLTP模块要分开
 
OLAP和OLTP类型的语句是截然不同的。前者往往需要扫描整个表做统计分析,索引对这样的语句几乎没有多少用处。


索引只能够加快那些如sum,group by之类的聚合运算。因为这个原因,几乎很难对OLAP类型的SQL语句进行优化。


而OLTP语句则只需要访问表的很小一部分数据,而且这些数据往往可以从内存缓存中得到。


为了避免OLAP 和OLTP语句相互影响,这两类模块需要分开运行在不同服务器上。


因为OLAP语句几乎都是读取数据,没有更新和写入操作,所以一个好的经验是配置一台standby 服务器,然后OLAP只访问standby服务器。



4)使用存储过程
 
可以考虑使用存储过程封装那些复杂的SQL语句或商业逻辑,这样做有几个好处。


一是存储过程的执行计划可以被缓存在内存中较长时间,减少了重新编译的时间。


二是存储过程减少了客户端和服务器的繁复交互。


三是如果程序发布后需要做某些改变你可以直接修改存储过程而不用修改程序,避免需要重新安装部署程序。



 


 


 索引优化



 
 


 
 
很多数据库系统性能不理想是因为系统没有经过整体优化,存在大量性能低下的SQL 语句。
 
这类SQL语句性能不好的首要原因是缺乏高效的索引。
 
没有索引除了导致语句本身运行速度慢外,更是导致大量的磁盘读写操作,使得整个系统性能都受之影响而变差。
 
解决这类系统的首要办法是优化这些没有索引或索引不够好的SQL语句。
 
 
 

创建索引的关键
 
 
优化SQL语句的关键是尽可能减少语句的logical reads。
 
 
这里说的logical reads是指语句执行时需要访问的单位为8K的数据页总数。
 
logical reads 越少,其需要的内存和CPU时间也就越少,语句执行速度就越快。
 

不言而喻,索引的最大好处是它可以极大减少SQL语句的logical reads数目,从而极大减少语句的执行时间。
 

创建索引的关键是索引要能够大大减少语句的logical reads。一个索引好不好,主要看它减少的logical reads多不多。
 
运行set statistics io命令可以得到SQL语句的logical reads信息。
 


set statistics io on
select au_id,au_lname ,au_fname
from pubs..authors where au_lname =Green
set statistics io on




如果Logical reads很大,而返回的行数很少,也即两者相差较大,那么往往意味者语句需要优化。
 
Logical reads中包含该语句从内存数据缓冲区中访问的页数和从物理磁盘读取的页数。
 
而physical reads表示那些没有驻留在内存缓冲区中需要从磁盘读取的数据页。
 
Read-ahead reads是SQL Server为了提高性能而产生的预读。预读可能会多读取一些数据。 
 
优化的时候我们主要关注Logical Reads就可以了。
 
注意如果physical Reads或Read-ahead reads很大,那么往往意味着语句的执行时间(duration)里面会有一部分耗费在等待物理磁盘IO上。
 
 
二、单字段索引,组合索引和覆盖索引
 
  单字段索引是指只有一个字段的索引,而组合索引指有多个字段构成的索引。
 

1. 对出现在where子句中的字段加索引
 

技术分享图片
set statistics profile on
set statistics io on
go
select .... from tb where ...
go
set statistics profile off
set statistics io off

技术分享图片

 
set statistics profile命令将输出语句的执行计划。
 
也许你会问,为什么不用SET SHOWPLAN_ALL呢?使用SET SHOWPLAN_ALL也是可以的。

不过set statistics profile输出的是SQL 语句的运行时候真正使用的执行计划,
 
而SET SHOWPLAN_ALL输出的是预计(Estimate)的执行计划。
 
使用SET SHOWPLAN_ALL是后面的语句并不会真正运行。
 
用了Table Scan,也就是对整个表进行了全表扫描。全表扫描的性能通常是很差的,要尽量避免。

如果上面的select语句是数据库系统经常运行的关键语句, 那么应该对它创建相应的索引。

创建索引的技巧之一是对经常出现在where条件中的字段创建索引

Table Scan也变成了Index Seek,性能极大提高

设法避免Table scan或Index scan是优化SQL 语句使用的常用技巧。通常Index Seek需要的logical reads比前两者要少得多。
 

2.组合索引
 
如果where语句中有多个字段,那么可以考虑创建组合索引。
 
组合索引中字段的顺序是非常重要的,越是唯一的字段越是要靠前。

另外,无论是组合索引还是单个列的索引,尽量不要选择那些唯一性很低的字段。

比如说,在只有两个值0和1的字段上建立索引没有多大意义。
 
所以如果对单字段进行索引,建议使用set statistics profile来验证索引确实被充分使用。logical reads越少的索引越好。
 

3.覆盖索引
 

  覆盖索引能够使得语句不需要访问表仅仅访问索引就能够得到所有需要的数据。
 
  因为聚集索引叶子节点就是数据所以无所谓覆盖与否,所以覆盖索引主要是针对非聚集索引而言。

  执行计划中除了index seek外,还有一个Bookmark Lookup关键字。
 
  Bookmark Lookup表示语句在访问索引后还需要对表进行额外的Bookmark Lookup操作才能得到数据。
 
  也就是说为得到一行数据起码有两次IO,一次访问索引,一次访问基本表。
 
  如果语句返回的行数很多,那么Bookmark Lookup操作的开销是很大的。
 
  覆盖索引能够避免昂贵的Bookmark Lookup操作,减少IO的次数,提高语句的性能。
 
  覆盖索引需要包含select子句和WHERE子句中出现的所有字段。Where语句中的字段在前面,select中的在后面。
 
  logical reads,是大大减少了。Bookmark Lookup操作也消失了。所以创建覆盖索引是减少logical reads提升语句性能的非常有用的优化技巧。

  实际上索引的创建原则是比较复杂的。有时候你无法在索引中包含了Where子句中所有的字段。

  在考虑索引是否应该包含一个字段时,应考虑该字段在语句中的作用。

  比如说如果经常以某个字段作为where条件作精确匹配返回很少的行,那么就绝对值得为这个字段建立索引。
 
  再比如说,对那些非常唯一的字段如主键和外键,经常出现在group by,order by中的字段等等都值得创建索引。
 
 
问题1,是否值得在identity字段上建立聚集索引。
  答案取决于identity 字段如何在语句中使用。如果你经常根据该字段搜索返回很少的行,那么在其上建立索引是值得的。
 
  反之如果identity字段根本很少在语句中使用,那么就不应该对其建立任何索引。
 
 
问题2,一个表应该建立多少索引合适。
  如果表的80%以上的语句都是读操作,那么索引可以多些。但是不要太多
 
特别是不要对那些更新频繁的表其建立很多的索引。很少表有超过5个以上的索引。
 
过多的索引不但增加其占用的磁盘空间,也增加了SQL Server 维护索引的开销。
 

 
问题4:为什么SQL Server 在执行计划中没有使用你认为应该使用的索引?原因是多样的。

  一种原因是该语句返回的结果超过了表的20%数据,使得SQL Server 认为scan比seek更有效。
 
另一种原因可能是表字段的statistics过期了,不能准确反映数据的分布情况。
 
你可以使用命令UPDATE STATISTICS tablename with FULLSCAN来更新它。
 
只有同步的准确的statistics才能保证SQL Server 产生正确的执行计划。
 
过时的老的statistics常会导致SQL Server生成不够优化的甚至愚蠢的执行计划。
 
所以如果你的表频繁更新,而你又觉得和之相关的SQL语句运行缓慢,不妨试试UPDATE STATISTIC with FULLSCAN 语句。
 
 
 
问题5、什么使用聚集索引,什么时候使用非聚集索引
 
  在SQL Server 中索引有聚集索引和非聚集索引两种。它们的主要差别是前者的索引叶子就是数据本身,而后者的叶子节点包含的是指向数据的书签(即数据行号或聚集索引的key)。对一个表而言聚集索引只能有一个,而非聚集索引可以有多个。只是聚集索引没有Bookmark Lookup操作。
 
什么时候应该使用聚集索引?  什么时候使用非聚集索引? 取决于应用程序的访问模式。
 
我的建议是在那些关键的字段上使用聚集索引。一个表一般都需要建立一个聚集索引。
 
对于什么时候使用聚集索引,SQL Server 2000联机手册中有如下描述:
 
在创建聚集索引之前,应先了解您的数据是如何被访问的。
 
可考虑将聚集索引用于:
  包含大量非重复值的列。
 
  使用下列运算符返回一个范围值的查询:BETWEEN、>、>=、< 和 <=。
 
  被连续访问的列。
 
返回大型结果集的查询。
 
经常被使用联接或 GROUP BY 子句的查询访问的列;一般来说,这些是外键列。
 
对 ORDER BY 或 GROUP BY 子句中指定的列进行索引,可以使 SQL Server 不必对数据进行排序,因为这些行已经排序。这样可以提高查询性能。
 
OLTP 类型的应用程序,这些程序要求进行非常快速的单行查找(一般通过主键)。应在主键上创建聚集索引。
 
 
 
聚集索引不适用于:
 
  频繁更改的列
 
 
  这将导致整行移动(因为 SQL Server 必须按物理顺序保留行中的数据值)。这一点要特别注意,因为在大数据量事务处理系统中数据是易失的。
 
 
宽键
 
  来自聚集索引的键值由所有非聚集索引作为查找键使用,因此存储在每个非聚集索引的叶条目内。
 
 
总结:
 
如何使一个性能缓慢的系统运行更快更高效,不但需要整体分析数据库系统,找出系统的性能瓶颈,更需要优化数据库系统发出的SQL 语句。
 
一旦找出关键的SQL 语句并加与优化,性能问题就会迎刃而解。
 
 

 技术分享图片

 

 《 数据库技术内幕 》

处理百万级以上的数据提高查询速度的方法:

 
1.应尽量避免在 where 子句中使用!=<>操作符,否则将引擎放弃使用索引而进行全表扫描。

 
2.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引。

 
3.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索引而进行全表扫描,如:
     
select id from t where num is null
     可以在num上设置默认值0,确保表中num列没有null值,然后这样查询:
     
select id from t where num=0

 
4.应尽量避免在 where 子句中使用 or 来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:
     
select id from t where num=10 or num=20
     可以这样查询:
     
select id from t where num=10
     
union all
     
select id from t where num=20

 
5.下面的查询也将导致全表扫描:(不能前置百分号)
     
select id from t where name like ‘%abc%
    若要提高效率,可以考虑全文检索。

 
6.in 和 not in 也要慎用,否则会导致全表扫描,如:
     
select id from t where num in(1,2,3)
     对于连续的数值,能用 
between 就不要用 in 了:
     
select id from t where num between 1 and 3

select xx,phone FROM send  a JOIN (
 select 13891030091 phone  union select 13992085916 …………  UNION  SELECT 13619100234 ) b 
  on  a.Phone=b.phone
--替代下面  很多数据隔开的时候
in(13891030091,13992085916,13619100234…………)

 

7.如果在 where 子句中使用参数,也会导致全表扫描。因为SQL只有在运行时才会解析局部变量,但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然 而,如果在编译时建立访问计划,变量的值还是未知的,因而无法作为索引选择的输入项。如下面语句将进行全表扫描:
     
select id from t where num=@num     可以改为强制查询使用索引:
     
select id from t with(index(索引名)) where

人气教程排行