SQLSERVER独特的任务调度算法"SQLOS"

SQLSERVER独特的任务调度算法"SQLOS" 微软开发SQLOS 的背景： SQLSERVER作为一个企业级数据库平台，一个基本的要求就是要有能力顺畅地同时处理成百上千的用户请求，SQLSERVER要使线程调度 得更加适应高并发的数据库应用。 由于以上背景： SQLSERVER在Windows

SQLSERVER独特的任务调度算法"SQLOS"

微软开发SQLOS的背景：

SQLSERVER作为一个企业级数据库平台，一个基本的要求就是要有能力顺畅地同时处理成百上千的用户请求，SQLSERVER要使线程调度

得更加适应高并发的数据库应用。

由于以上背景：
SQLSERVER在Windows的基础上开发出了一套自己的任务调度机制。所以SQLSERVER作为一个应用程序，又抽象出一般由操作系统代为

管理的功能，例如：
任务调度管理子系统
内存管理
错误，异常处理机制
死锁侦测和解决机制
运行第三方代码（dll，extended SP等）机制

SQLSERVER的管理功能组件又叫SQLOS SQL OPERATING SYSTEM ,而内存管理和任务调度管理是SQLOS的两大核心内容

对于SQLSERVER来讲，除了从DAC dedicated administrator connection过来的连接，其他用户连接对SQL来讲都是同等重要的，

而这样的连接在同一个时间点，可能会有成百上千。 所以SQLSERVER完全依赖Windows任务调度是不行的。

SQLSERVER的这一套任务调度机制的特点：

1、只有需要运行任务的连接才会被分配线程。出于空闲状态的连接，在SQLSERVER里会以一组数据结构表示,所以不会占用线程资源。大大降低

SQLSERVER进程需要的线程数目

2、对于每一个CPU，SQLSERVER内部会有一个调度（scheduler）,由这个scheduler决定在某个时间点，到底是哪个SQLSERVER线程去运行。

所以在Windows层面，每个CPU最多只会对应一个处于运行状态的线程。大大降低Windows层面的上下文切换context switch

实践证明：很多有着1000~2000个并发用户的SQLSERVER，线程数也只需要一两百个。SQLSERVER完成的批处理量每秒钟可以达到3000~4000个。

SQLOS的几个概念：

scheduler

对于每个逻辑CPU，SQLSERVER会有一个scheduler与之对应，在SQL层面上代表CPU对象，只有拿到scheduler所有权的任务worker才能在这个逻辑CPU上运行

所谓逻辑CPU，就是SQLSERVER从Windows层面上看到的CPU数目，如果是一个双核的CPU,那么一个物理CPU在SQL看来就是两个逻辑CPU。如果系统还使用了

超线程hyper-threaded ,那对SQLSERVER来讲就是4个逻辑CPU

规则： 每个scheduler上的最大worker数目等于SQLSERVER的最大线程数除以scheduler的数目 ，在同一个时间点，只能有一个拥有scheduler的worker处于运行

状态，其他worker都必须处于等待状态。这样能降低每个逻辑CPU上的处于正在运行状态的线程数目，降低context switch，提供可扩展性

scheduler是SQLSERVER的一个逻辑概念，他不与物理CPU相绑定。也就是说，一个scheduler可以被Windows安排一会儿在这个CPU上，一会儿在那个CPU上。

但是，如果在sp_configure里设置了CPU affinity mask，那么scheduler就会固定在某个特定的CPU上

worker

每个worker跟一个线程（或纤程fiber）相对应，是SQLSERVER任务的执行单位。SQLSERVER不直接调度线程/纤程，而是调度worker，使得SQLSERVER能够控制

任务调度

规则： 每个worker会固定代表一个线程（或纤程），并且和一个scheduler相绑定。如果scheduler是固定在某个CPU上的（通过设置CPU affinity mask），那么

worker也会固定在某个CPU上

每个scheduler有worker的上限值，并且可以根据SQLSERVER工作负荷创建或释放worker，每次worker都会去运行一个完整的任务（task）。在任务做完之前不会

退出，除非这个任务主动进入等待状态。

scheduler只在有新任务要运行，而当前没有空闲的worker的情况下，才会创建新的worker。

某个worker空闲超过15分钟，scheduler可能会删除这个worker，以及其对应的线程。当SQLSERVER遇到内存压力的时，也会大量删除处于空闲状态的worker，以

节省multi-page的内存开销

各种CPU和SQLSERVER版本组合自动配置的最大工作线程数
CPU数 32位计算机 64位计算机
<=4 256 512
8 288 576
16 352 704
32 480 960

task

在worker上运行的最小任务单元。最简单的task就是一个简单batch。例如，客户发过来下面的请求：

1 SELECT @@SERVERNAME 
2 GO
3 SELECT GETDATE() 
4 GO 

那么这两个batch就分别是两个task。SQLSERVER会先分配给第一个batch（select @@servername）一个worker，将结果返回给客户端，再分配第二个batch

（select getdate()）一个worker。这两个worker可能是不同的worker，甚至在不同的scheduler上

只要一个task开始运行，他就不会从这个worker上被移出。例如，如果一个select语句被其他连接阻塞住，worker就不能继续运行，只能进入等待状态。但是这个

select task 不会将这个worker释放，让他做其他任务。所以结果是这个worker所对应的线程会进入等待状态

yielding

SQLOS的任务调度算法的核心，就是所有在逻辑scheduler上运行的worker都是非抢占式的 （non-preemptive）。worker始终在scheduler上运行，直到他运行结束，或者主动将scheduler让出给其他worker为止。这个“让出”scheduler的动作，我们叫yieding

每个scheduler都会有一个runnable列表，所有等待CPU运行的worker都会在这个列表里排队，以先进先出的算法，等待SQL分配给他scheduler运行

SQLSERVER定义了很多yieding的规则，约束一个task在scheduler运行的时间。如果task比较复杂,不能很快完成，会保证task在合适的时间点做yieding，不至于占用scheduler太多时间。

常见时间点：

1、当worker每次要去读数据页的时候，SQLSERVER会检查这个worker已经在scheduler上运行了多久，如果已经超过4ms，就做yielding

2、每做64KB的结果集排序，就会做一次yielding

3、在做语句编译compile的过程中（这个过程比较占CPU资源），经常会有yieding

4、如果客户端不能及时把结果集取走，worker就会做yieding

5、一个batch里的每一句话做完，都会做一次yieding

正常来讲，哪怕一个task要做很久，他使用的worker是会经常做yieding的，不会长时间占用CPU不放。如果在一个scheduler上同时有很多worker要运行，

SQLSERVER通过worker自动yielding的方式调度并发运行。这个比Windows用上下文切换context switch更有效

下面用图来说明SQLOS的任务调度算法：

总结：

对于每个CPU，SQLSERVER都会有一个scheduler与之对应。在每个scheduler里，会有若干个worker，对应
于每个线程。在客户端发过来请求之后，SQL会将其分解成一个或多个task。根据每个scheduler的繁忙程度，
task会被分配到某个scheduler上。如果scheduler里有空闲的worker，task就会被分配到某个worker上。
如果没有，scheduler会创建新的worker，供task使用。如果scheduler里的worker已经到了他的上限值，
而他们都有task要运行，那么新的task只好进入等待worker的状态

使用下面两个SQL语句可以查看当前SQLSERVER有多少个workers在工作，有多少个tasks在运行

1 SELECT * FROM sys.dm_os_workers
2 SELECT * FROM  sys.dm_os_tasks

----------------------------------------------------------华丽的分割线---------------------------------------------------------

说一下上面的图的含义

SELECT * FROM sys.dm_os_workers

其他列的解释大家可以看一下MSDN

http://msdn.microsoft.com/zh-cn/library/ms178626(v=SQL.105).aspx

------------------------------------------------------------------------------------------------------------

SELECT * FROM sys.dm_os_tasks

任务的状态可以是下列选项之一：

PENDING：正在等待工作线程。

RUNNABLE：可运行，但正在等待接收量程。

RUNNING：当前正在计划程序中运行。

SUSPENDED：具有工作线程，但正在等待事件。

DONE：已完成。

SPINLOOP：陷入自旋锁

MSDN的解释：http://msdn.microsoft.com/zh-cn/library/ms174963(v=SQL.105).aspx

很久没有写文章了，希望大家看了我的文章能够更加深入了解SQLSERVER

要睡了，熬不住了~

----------------------------------------------------------

2013-6-3补充

附网上流传的手稿图一张

2014-2-2补充：

SQLOS所用的DLL