某工控图片上传服务 CPU 爆高分析

一：背景

1.讲故事

今天给大家带来一个入门级的 CPU 爆高案例，前段时间有位朋友找到我，说他的程序间歇性的 CPU 爆高，不知道是啥情况，让我帮忙看下，既然找到我，那就用 WinDbg 看一下。

二：WinDbg 分析

1. CPU 真的爆高吗

其实我一直都在强调，要相信数据，口说无凭，一定要亲自验证一下，可以使用 !tp 命令。



0:000> !tp

CPU utilization: 81%

Worker Thread: Total: 32 Running: 0 Idle: 18 MaxLimit: 2047 MinLimit: 2

Work Request in Queue: 0

--------------------------------------

Number of Timers: 1

--------------------------------------

Completion Port Thread:Total: 0 Free: 0 MaxFree: 4 CurrentLimit: 0 MaxLimit: 1000 MinLimit: 2

从卦中可以看到，当前的 CPU=81%，果然爆高无疑，接下来就得调查下为什么会爆高，可以从触发 GC 入手。

2. GC 触发了吗

要观察是否 GC 触发，可以观察下线程列表上是否有 (GC) 字样，比如下面的输出。



0:006> !t

ThreadCount:      38

UnstartedThread:  0

BackgroundThread: 37

PendingThread:    0

DeadThread:       0

Hosted Runtime:   no

                                                                         Lock

       ID OSID ThreadOBJ    State GC Mode     GC Alloc Context  Domain   Count Apt Exception

   0    1  5f0 01310688     2a020 Preemptive  00000000:00000000 0130aa50 0     MTA

   2    2  818 0131e358     2b220 Preemptive  00000000:00000000 0130aa50 0     MTA (Finalizer)

   3    6  7b0 01374908   202b220 Preemptive  00000000:00000000 0130aa50 0     MTA

   4    7  f98 01381c50   102a220 Preemptive  00000000:00000000 0130aa50 0     MTA (Threadpool Worker)

   6    3  610 013eba78     2b220 Cooperative 00000000:00000000 0130aa50 1     MTA (GC)

   9   44  e04 05585068   1029220 Preemptive  00000000:00000000 0130aa50 0     MTA (Threadpool Worker)

  10   25  448 063dab30     21220 Preemptive  00000000:00000000 0130aa50 0     Ukn

  ...

从卦中可以看到6号线程果然带了 (GC) 字样，接下来用 kb 观察下到底是哪一代GC。



0:006> kb

 # ChildEBP RetAddr      Args to Child

00 05beef18 72bb4825     0b771000 00000003 00000001 clr!WKS::gc_heap::relocate_survivor_helper+0x87

01 05beef48 72bb46da     0b771000 00000001 00000000 clr!WKS::gc_heap::relocate_survivors+0x93

02 05beef98 72bb1913     00000000 00000001 73180140 clr!WKS::gc_heap::relocate_phase+0x8b

03 05bef140 72bb0f69     00000000 00000001 00000001 clr!WKS::gc_heap::plan_phase+0x13b8

04 05bef168 72bb12ef     5e7aa9c3 7317fcd0 00000000 clr!WKS::gc_heap::gc1+0xe8

05 05bef1a0 72bb140c     00000040 7317ff04 7317ff04 clr!WKS::gc_heap::garbage_collect+0x447

06 05bef1c8 72bb161c     00000000 00000000 00000040 clr!WKS::GCHeap::GarbageCollectGeneration+0x1fb

07 05bef1ec 72bb1696     7317ff04 71a9d900 00000002 clr!WKS::gc_heap::trigger_gc_for_alloc+0x1e

08 05bef21c 72bff51a     00000000 00000040 0c1c7aa4 clr!WKS::gc_heap::try_allocate_more_space+0x162

09 05bef230 72bff687     00000000 01304d38 72bff140 clr!WKS::gc_heap::allocate_more_space+0x18

0a 05bef24c 72ab4477     013ebab8 00000040 00000002 clr!WKS::GCHeap::Alloc+0x5c

0b 05bef26c 72ab44f5     01000000 71ab5e90 05bef3f8 clr!Alloc+0x87

0c 05bef2b4 72ab4595     5e7aab5f 00000bb8 05bef3f8 clr!AllocateObject+0x99

0d 05bef33c 719b8281     71a2417c 05bef358 05bef35c clr!JIT_New+0x6b

0e 05bef360 7225652d     00000000 00000000 00000000 mscorlib_ni!System.Threading.Tasks.Task.Delay+0x41 [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 5885]

0f 05bef454 05a9d18a     00000000 00000000 00000000 mscorlib_ni!System.Threading.Tasks.Task.Delay+0xd [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 5843]

...

因为 C++ 默认是 this 协定，从 clr!WKS::gc_heap::plan_phase+0x13b8 方法的第二个参数 00000001 可知，当前触发了 1 代 GC，其实 1 代 GC 本来就触发频繁，所以问题不大，主要就是看是否为 2 代GC，即 FullGC。

到这里，GC触发的路堵死了，我们就看下是不是还有其他的可疑情况，比如高时钟个数的线程。

3. 有长时间运行线程吗

如果是当事人，可以用 Process Explorer 工具直接观察 Thread 列表的 Cycles Delta 列就能知道，比如下面的百度云管家，

可以看到 11156 号线程占用了太多的时钟周期个数，可惜我不是当事人，所以只能用 cpuid 命令观察。



0:006> !runaway

 User Mode Time

  Thread       Time

    6:610      0 days 0:47:07.984

   10:448      0 days 0:11:32.531

   12:17d4     0 days 0:01:34.265

    9:e04      0 days 0:01:29.468

   11:16ec     0 days 0:01:11.562

   13:1458     0 days 0:01:07.703

   ...

从卦中可以看到，6号线程耗费的时钟个数遥遥领先，甩了第二名 10 号线程几条街，这个线程非常可疑，得好好研究下它的托管栈了。



0:006> !clrstack

OS Thread Id: 0x610 (6)

Child SP       IP Call Site

05bef2d0 72bb47ae [HelperMethodFrame: 05bef2d0]

05bef344 719b8281 System.Threading.Tasks.Task.Delay(Int32, System.Threading.CancellationToken) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 5885]

05bef36c 7225652d System.Threading.Tasks.Task.Delay(Int32) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 5843]

05bef370 05a9d18a xxx.Api.Core.xxx+c__DisplayClass2_0.<.cctor>b__0()

05bef45c 719b7118 System.Threading.Tasks.Task.InnerInvoke() [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 2884]

05bef468 719b6cc0 System.Threading.Tasks.Task.Execute() [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 2498]

05bef48c 719b70ea System.Threading.Tasks.Task.ExecutionContextCallback(System.Object) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 2861]

05bef490 719d40c5 System.Threading.ExecutionContext.RunInternal(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object, Boolean) [f:\dd\ndp\clr\src\BCL\system\threading\executioncontext.cs @ 954]

05bef4fc 719d3fd6 System.Threading.ExecutionContext.Run(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object, Boolean) [f:\dd\ndp\clr\src\BCL\system\threading\executioncontext.cs @ 902]

05bef510 719b6f68 System.Threading.Tasks.Task.ExecuteWithThreadLocal(System.Threading.Tasks.Task ByRef) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 2827]

05bef574 719b6e72 System.Threading.Tasks.Task.ExecuteEntry(Boolean) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\Task.cs @ 2756]

05bef584 71a2acbc System.Threading.Tasks.ThreadPoolTaskScheduler.LongRunningThreadWork(System.Object) [f:\dd\ndp\clr\src\BCL\system\threading\Tasks\ThreadPoolTaskScheduler.cs @ 49]

05bef588 719a70e3 System.Threading.ThreadHelper.ThreadStart_Context(System.Object) [f:\dd\ndp\clr\src\BCL\system\threading\thread.cs @ 74]

05bef594 719d40c5 System.Threading.ExecutionContext.RunInternal(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object, Boolean) [f:\dd\ndp\clr\src\BCL\system\threading\executioncontext.cs @ 954]

05bef600 719d3fd6 System.Threading.ExecutionContext.Run(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object, Boolean) [f:\dd\ndp\clr\src\BCL\system\threading\executioncontext.cs @ 902]

05bef614 719d3f91 System.Threading.ExecutionContext.Run(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object) [f:\dd\ndp\clr\src\BCL\system\threading\executioncontext.cs @ 891]

05bef62c 71a28cae System.Threading.ThreadHelper.ThreadStart(System.Object) [f:\dd\ndp\clr\src\BCL\system\threading\thread.cs @ 93]

05bef770 72a90096 [GCFrame: 05bef770]

05bef954 72a90096 [DebuggerU2MCatchHandlerFrame: 05bef954]

从线程栈上看还好有一个托管方法 xxx.Api.Core.xxx+c__DisplayClass2_0.<.cctor>b__0 ，接下来观察下源码，修剪后的代码如下：



static xxxUploadPool()

{

    _queue = new ConcurrentQueue<xxxModel>();

    _xxx = new xxxService();

    int second = Configuration.xxx * 1000;

    Task.Factory.StartNew(delegate

    {

        while (true)

        {

            lock (_queue)

            {

                if (_queue.Count > 0 && _queue.TryDequeue(out var result))

                {

                    _xxx.UploadFilexxxx(result._path, result._repositoryName, xxx);

                }

            }

            Task.Delay(second);

        }

    }, TaskCreationOptions.LongRunning);

}

这段代码很有意思，它的本来想法就是开启一个长线程，然后在长线程中不断的轮询等待，问题就出在了这个等待上，即 Task.Delay(second); 这句，这句代码起不到任何作用，而且一旦 _queue 中的数据为空就成了死循环，给 CPU 打满埋下了祸根。

这里有一个疑问：一个线程能把 CPU 打满，那太瞧不起CPU 了，肯定是有对等的 core 个数的线程一起发力，打爆CPU，那如何验证？观察下 CPU 的个数。



0:006> !cpuid

CP  F/M/S  Manufacturer     MHz

 0  6,85,4  GenuineIntel    3193

 1  6,85,4  GenuineIntel    3193

也就说只要有两个线程进入了 xxxUploadPool 那就够了，现象也正是如此。

三：总结

这段代码确实很有意思，猜测原来就是 Thread.Sleep(second) ，但为了赶潮流改成了 Task.Delay(second)，在不清楚后者的使用场景下给 CPU 间歇性爆高埋下了祸根，所以大家在使用新的语法时，一定要弄清楚场景，万不可生搬硬套。