坑暗花明:又遇 .NET Core 中 System.Data.SqlClient 查询缓慢的问题

  • 时间:
  • 浏览:1
  • 来源:极速快3_快3倍率_极速快3倍率

以后发布过一篇博文 下单快发货慢:有有一两个 JOIN SQL 引起 SqlClient 读取数据慢的奇特难题,当时遇到的难题是从 SQL Server 10008 R2 中查询获取 1000 条记录竟然耗时 10 多秒,排查中发现难题与 SQL  查询中中有 INNER JOIN 有关,去掉 INNER JOIN 立马查询越快。当时天真地以为原困 是 JOIN 的那张表数据记录不要 以及主表聚集索引不合理,于是采用将 INNER JOIN 偏离 拆分出来单独查询临时解决了难题。

这三三半年 大伙又在另外有有一两个 ASP.NET Core 2.2 项目中也遇到了查询 1000 数据库记录下行数率 慢(都要4~6秒)的难题,否则所查询的数据库表数据量并都有很大。通过 EF Core 的 日志记录发现耗时处于在 Executed DbCommand 时,耗时处于点与以后的情况报告不一样,以后是处于在 Executed DbCommand 以后 SqlDataReader 从数据库读取数据时。

2019-05-11T14:21:38.1015229+08:00 [INFORMATION] Executed DbCommand ("5,81000"ms)

而通过 SQL Server Management Studio 执行同样的 SQL 一句话只都要 20 毫秒左右,相差1000多倍。

Executed DbCommand 日志记录的是 dbCommand.ExecuteReaderAsync 执行的时间(详见 EF Core 的源码)

result = new RelationalDataReader(
    connection,
    dbCommand,
    await dbCommand.ExecuteReaderAsync(cancellationToken),
    commandId,
    Logger);

dbCommand.ExecuteReaderAsync 的实现代码在 corefx 的 System.Data.SqlClient 中,可能性是 .net core 的难题,那难题就出在 System.Data.SqlClient 。

在上次排查 SqlDataReader 读取数据下行数率 慢难题,就曾怀疑 System.Data.SqlClient ,花了却说我 时间在 System.Data.SqlClient 的源码中打点排查,最终那末找到线索,这次不敢轻易怀疑它。

随便说说这次的耗时处于点与上次不一样,但这次的 SQL 查询一句话中有 个地方和上次是一样的,也中有 INNER JOIN 查询,于是试着去掉  INNER JOIN ,Executed DbCommand 只需2毫秒。

[INFORMATION] Executed DbCommand ("2"ms)

啊,为什么在么在会么会也与 INNER JOIN 有关,没道理啊,这次 JOIN 的表数据量不大,完整版可能性性造成 1000 多倍的性能之差。看来上次归罪于 INNER JOIN ,可能性是冤枉它了,得重新思考与排查或多或少难题。

可能性难题是在某个时间点以后经常再次出现,于是采取笨土办法,回退 git 提交历史直至难题消失。。。

最终发现,竟然是在一次 git commit 中给或多或少查询在 SELECT 时增加了有有一两个字段引起的, 去掉 或多或少字段,难题立马消失。进一步测试发现,假使 任意去掉 SELECT 中的有有一两个字段,就不让经常再次出现难题,太奇怪了。数了数 SELECT 中有 20个字段,难道与 SELECT 字段的数量有关?以后的项目会不让也与 SELECT 字段的数量有关?

于是回到以后的项目,恢复 INNER JOIN 查询,这时惊讶地发现 SqlDataReader 读取数据下行数率 慢的难题竟然消失了。回想当时解决难题后到现在所做的变更,唯一的变更却说我 从 .NET Core 3.0 Preivew 4 升级到 .NET Core 3.0 Preivew 5 ,难道 3.0 Preivew 5 把或多或少难题给修复了?难道真的是 System.Data.SqlClient 的 bug ?

答案很容易验证,将当前遇到 Executed DbCommand 执行慢的项目升级到 .NET Core 3.0 Preivew 5 ,昨天晚上完成升级后

Executed DbCommand ("3"ms)

飞流直下三千尺,从4秒骤降到3毫秒,相差10000多倍!你造是 System.Data.SqlClient 的有有一两个大 bug ,有有一两个潜藏以后(大概从 .NET Core 2.1 到 3.0 Preview 4)的巨坑。

或多或少诡异难题的谜底在偶然间终于被解开了,这时又产生了新的难题 —— corefx 中是怎么能能修复或多或少巨坑 bug 的?

查看 corefx 中与 System.Data.SqlClient 相关的 git commits ,目测发现下面的 commit (对应的 PR ),你说什么是或多或少 commit 修复的,接下来找时间验证一下。