当前位置:Gxlcms > 数据库问题 > 极限挑战—C#100万条数据导入SQL SERVER数据库仅用4秒 (附源码)

极限挑战—C#100万条数据导入SQL SERVER数据库仅用4秒 (附源码)

时间:2021-07-01 10:21:17 帮助过:3人阅读

using (System.Data.SqlClient.SqlBulkCopy sqlBC = new System.Data.SqlClient.SqlBulkCopy(conn))

{

sqlBC.BatchSize
= 100000;

sqlBC.BulkCopyTimeout
= 60;

sqlBC.DestinationTableName
= "dbo.TableB";

sqlBC.ColumnMappings.Add(
"valueA", "Value1");

sqlBC.WriteToServer(dt);

}

说明:

       BatchSize = 100000; 指示每10万条一个事务并提交

       BulkCopyTimeout = 60; 指示60秒按超时处理

       DestinationTableName = "dbo.TableB"; 指示将数据导入TableB表

       ColumnMappings.Add("valueA", "Value1"); 指示将内存中valueA字段与TableB中的Value1字段匹配

       WriteToServer(dt);写入数据库。其中dt是预先构建好的DataTable,其中包含valueA字段。

SQL 2000耗时:4989

SQL 2008耗时:10412

    方法五.在多线程中使用SqlBulkCopy类

    基于方法四,将100万条数据分五个线程,每个线程负责20万条数据,每5万条一个事物,五个线程同时启动,看看这样的效果吧。

    SQL 2000耗时:7682

    SQL 2008耗时:10870

总结

           数据库

测试方式

SQL 2000

SQL 2008

基本Insert Into

901599

497638

单线程Bulk Insert

4209

10722

多线程Bulk Insert

21099

10997

单线程SqlBulkCopy

4989

10412

多线程SqlBulkCopy

7682

10870

    以上就是这几天的实验结果了,比较令人失望的是SQL SERVER 2008导入数据的性能似乎并不想我们想象的那样优秀。

    另外,有下载源代码的帮我看看,为什么多线程的成绩还不如单线程的优秀呢?是静态资源使用不当造成的,还是其他什么原因?

    源码地址:http://files.cnblogs.com/isline/sqltest.rar

    测试数据下载地址:http://files.cnblogs.com/isline/Data.rar

    我是李鸣(Aicken) 欢迎您关注我的下一篇文章。

极限挑战—C#100万条数据导入SQL SERVER数据库仅用4秒 (附源码)

标签:

人气教程排行