记一次 .NET 某药厂业务系统 CPU爆高分析

  • 记一次 .NET 某药厂业务系统 CPU爆高分析已关闭评论
  • 43 次浏览
  • A+
所属分类:.NET技术
摘要

前段时间有位朋友找到我,说他们的程序出现了CPU爆高,让我帮忙看下怎么回事?这种问题好的办法就是抓个dump丢给我,推荐的工具就是用 procdump 自动化抓捕。


一:背景

1. 讲故事

前段时间有位朋友找到我,说他们的程序出现了CPU爆高,让我帮忙看下怎么回事?这种问题好的办法就是抓个dump丢给我,推荐的工具就是用 procdump 自动化抓捕。

二:Windbg 分析

1. CPU 真的爆高吗

还是老规矩,要想找到这个答案,可以使用 !tp 命令。

 0:044> !tp logStart: 1 logSize: 200 CPU utilization: 88 % Worker Thread: Total: 8 Running: 4 Idle: 4 MaxLimit: 1023 MinLimit: 4 Work Request in Queue: 0 -------------------------------------- Number of Timers: 2 -------------------------------------- Completion Port Thread:Total: 2 Free: 2 MaxFree: 8 CurrentLimit: 2 MaxLimit: 1000 MinLimit: 4  

从卦中数据看当前cpu确实达到了 88%,接下来我们观察下这个程序的机器cpu是否给力,可以用 !cpuid 观察。

 0:044> !cpuid CP  F/M/S  Manufacturer     MHz  0  6,94,3  GenuineIntel    3192  1  6,94,3  GenuineIntel    3192  2  6,94,3  GenuineIntel    3192  3  6,94,3  GenuineIntel    3192  

从卦中看,尼玛也就4core,有点弱哈,好歹也是一个高利润的药厂,这么抠门哈。

2. 为什么会CPU爆高

导致 CPU 爆高的因素有很多,没有标准答案,需要自己去找原因,首先我们观察下这个程序的线程数量,可以使用 !t 命令即可。

 0:044> !t ThreadCount:      451 UnstartedThread:  0 BackgroundThread: 443 PendingThread:    0 DeadThread:       1 Hosted Runtime:   no                                                                              Lock    DBG   ID     OSID ThreadOBJ    State GC Mode     GC Alloc Context  Domain   Count Apt Exception    0    1     22b8 04CE8728     26020 Preemptive  18E5C92C:18E5E4DC 04c86c20 -00001 STA     3    2     17c8 04B25768     2b220 Preemptive  18CAF3A0:18CB1374 04c86c20 -00001 MTA (Finalizer)     4    4     238c 04C0CDD8   202b020 Preemptive  18E45D88:18E464DC 04c86c20 -00001 MTA     5    5     230c 0A6C37A0   202b020 Preemptive  18DAC318:18DAC47C 04c86c20 -00001 MTA     6    6     23a0 0A70E620   202b220 Preemptive  00000000:00000000 04c86c20 -00001 MTA     ...  

从卦中数据看,当前有 451 个线程,其中后台线程是 443 个,再结合刚才的 !tp 看到的线程池线程也才 8 个,这就说明这个程序中有 400+ 的线程是直接通过 new Thread 创建的,这个信息就比较可疑了,为啥不用线程池用 Thread ,有蹊跷。

接下来的思路就是使用 ~*e !clrstack 命令观察下每个线程此时都在做什么,命令一输入,刷了好久。

 0:044> ~*e !clrstack ... OS Thread Id: 0x220c (18) Child SP       IP Call Site 184CF614 77dd19dc [HelperMethodFrame: 184cf614] System.Threading.Thread.SleepInternal(Int32) 184CF680 141975f4 System.Threading.Thread.Sleep(Int32) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/Thread.cs @ 357] 184CF694 165055b9 xxx.ActionThread`1[[xxx]].Loop() 184CF878 74467741 System.Threading.Thread+StartHelper.Callback(System.Object) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/Thread.cs @ 42] 184CF888 7446fca1 System.Threading.ExecutionContext.RunInternal(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/ExecutionContext.cs @ 183] 184CF8C0 74466742 System.Threading.Thread.StartCallback() [/_/src/coreclr/System.Private.CoreLib/src/System/Threading/Thread.CoreCLR.cs @ 105] 184CFA14 74cbc29f [DebuggerU2MCatchHandlerFrame: 184cfa14]  ...  

在卦中的各个线程栈上也没有看到什么特别明显的业务函数,大多都是停在 Thread.SleepInternal 上进行等待,这就让我陷入了迷茫。

3. 一朝顿悟,走出迷茫

CPU不可能无缘无故的爆高,总会是那些线程给抬起来的,但这个程序中的线程大多都在 Thread.SleepInternal 上,若说他们能把 CPU 弄爆总有点说不过去。

但问题总得要解决,在无突破口的情况也只能硬着头皮在 Thread.SleepInternal 上强行突破了,首先用 Ctrl+F 搜下有多少线程卡在 SleepInternal 上,截图如下:

记一次 .NET 某药厂业务系统 CPU爆高分析

尼玛,几乎所有线程都在 Sleep,一般来说有这么多线程都在 Sleep 也是少数,接下来抽一个线程看看业务方法是怎么进行 Sleep 的,参考代码如下:

记一次 .NET 某药厂业务系统 CPU爆高分析

在这个Loop方法中我发现有很多的 Sleep(1),看到这个我突然想到了高频的上下文切换导致的 CPU 爆高。

接下来这个代码的指令到底停在哪个方法呢?可以反编译 Loop 方法。

 0:047> !clrstack OS Thread Id: 0xad8 (47) Child SP       IP Call Site 20B5F434 77dd19dc [HelperMethodFrame: 20b5f434] System.Threading.Thread.SleepInternal(Int32) 20B5F4A0 141975f4 System.Threading.Thread.Sleep(Int32) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/Thread.cs @ 357] 20B5F4B4 1f123c71 xxx.ActionThread`1[[xxx].Loop() 20B5F698 74467741 System.Threading.Thread+StartHelper.Callback(System.Object) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/Thread.cs @ 42] 20B5F6A8 1baab7da System.Threading.ExecutionContext.RunInternal(System.Threading.ExecutionContext, System.Threading.ContextCallback, System.Object) [/_/src/libraries/System.Private.CoreLib/src/System/Threading/ExecutionContext.cs @ 183] 20B5F6E0 74466742 System.Threading.Thread.StartCallback() [/_/src/coreclr/System.Private.CoreLib/src/System/Threading/Thread.CoreCLR.cs @ 105] 20B5F834 74cbc29f [DebuggerU2MCatchHandlerFrame: 20b5f834]  0:047> !U /d 1f123c71 Normal JIT generated code xxx.ActionThread`1[xxx].Loop() ilAddr is 0A324040 pImport is 08AD6468 Begin 1F123C10, size abd 1f123c10 55              push    ebp 1f123c11 8bec            mov     ebp,esp 1f123c13 57              push    edi 1f123c14 56              push    esi 1f123c15 81ecd4010000    sub     esp,1D4h 1f123c1b c5f877          vzeroupper 1f123c1e c5d857e4        vxorps  xmm4,xmm4,xmm4 1f123c22 c5fa7fa524feffff vmovdqu xmmword ptr [ebp-1DCh],xmm4 1f123c2a c5fa7fa534feffff vmovdqu xmmword ptr [ebp-1CCh],xmm4 1f123c32 b850feffff      mov     eax,0FFFFFE50h 1f123c37 c5fa7f6405f4    vmovdqu xmmword ptr [ebp+eax-0Ch],xmm4 1f123c3d c5fa7f640504    vmovdqu xmmword ptr [ebp+eax+4],xmm4 1f123c43 c5fa7f640514    vmovdqu xmmword ptr [ebp+eax+14h],xmm4 1f123c49 83c030          add     eax,30h ... 1f123c5a e84115cc55      call    coreclr!JIT_DbgIsJustMyCode (74de51a0) 1f123c5f 90              nop 1f123c60 90              nop 1f123c61 e9300a0000      jmp     xxx.ActionThread<xxx>.Loop+0xa86 (1f124696) 1f123c66 90              nop 1f123c67 b901000000      mov     ecx,1 1f123c6c e87f54eaea      call    09fc90f0 (System.Threading.Thread.Sleep(Int32), mdToken: 06002D01) >>> 1f123c71 90              nop ...  

通过卦中的 >>> 可以确认很多的方法都是在 while (!base.IsTerminated) 中进行空转,如果 Sleep(1) 的线程比较少那可能没什么问题,但也扛不住400多线程一起玩哈,最后高频的上下文切换导致的 CPU 爆高。

在 Sleep(1) 内部会涉及到CPU的等待队列,就绪队列,以及定时器 _KTIMER 内核对象, 因为 Windows 源码不公开,内部还是比较搞的,可以用 !pcr 命令观察下 cpu的背包。

 lkd> !pcr 0 KPCR for Processor 0 at fffff8058023c000:     Major 1 Minor 1 	NtTib.ExceptionList: fffff80589089fb0 	    NtTib.StackBase: fffff80589088000 	   NtTib.StackLimit: 000000137e1fa158 	 NtTib.SubSystemTib: fffff8058023c000 	      NtTib.Version: 000000008023c180 	  NtTib.UserPointer: fffff8058023c870 	      NtTib.SelfTib: 000000137dfe0000  	            SelfPcr: 0000000000000000 	               Prcb: fffff8058023c180 	               Irql: 0000000000000000                  ...  	      CurrentThread: ffff910c66906080 	         NextThread: 0000000000000000 	         IdleThread: fffff80583d27a00  	          DpcQueue:   lkd> dt nt!_KPRCB fffff8058023c180    +0x008 CurrentThread    : 0xffff910c`66906080 _KTHREAD    +0x010 NextThread       : (null)     +0x018 IdleThread       : 0xfffff805`83d27a00 _KTHREAD    ...    +0x7c00 WaitListHead     : _LIST_ENTRY [ 0xffff910c`5ec30158 - 0xffff910c`628b1158 ]    +0x7c80 DispatcherReadyListHead : [32] _LIST_ENTRY [ 0xfffff805`80243e00 - 0xfffff805`80243e00 ]  

上面的[32]就是等待线程的32个优先级的数组队列。

有了上面的分析结果,最后就是告诉朋友做到如下两点:

  • 减少 Thread.Sleep(1) 的线程参与数。
  • 尽量将 1 -> 50 来缓解,当然越大越好。

三:总结

这次CPU的爆高还是挺有意思,不是业务方法导致的爆高,而是大量的 Sleep(1) 导致的高频上下文切换所致,有点意思,留下此文给大家避坑!