CPU利用率为多少时可以兼顾计算效率和时间效率？—— 75% —— 科学计算时如何正确的使用超线程CPU——使用超线程CPU进行计算密集型任务时的注意事项

2023年12月28日  更新

---

现在这个AI火热的时代科学计算任务占比越来越大，但是平时使用时也有一些不为人注意的地方需要知道，本文就讨论一下使用超线程CPU时的注意事项。

超线程CPU就是现在的多线程CPU，以Intel和AMD的X86 CPU为例，一个10个物理核心的CPU则有20个逻辑核心，其中多出来的10个核心就是超线程架构扩展出的逻辑CPU核心。假设1个物理核心的计算能力为100%，那么扩展多出的一个逻辑核心的计算能力为30%，也就是说1个物理核心扩展出1个物理核心和一个逻辑核心，那么总性能为130%而不是200%。

一个10个物理核心的CPU，开启超线程功能，共20个逻辑核心。假设一个科学计算任务需要使用5个CPU逻辑核心，在开启超线程的CPU上用时1个小时完成任务，CPU使用率为25%；那么同时运行两个该任务，那么占用10个CPU逻辑核心，两个任务并行运行且同时完成，用时仍为1个小时，CPU使用率为50%。

继续思考（重点内容）：

如果这次是同时运行四个该任务，那么占用20个CPU逻辑核心，四个任务并行运行，CPU使用率为100%，总用时为4/2.6=1.53846小时。也就是说使用超线程技术扩展出逻辑核心其性能并不是真实物理核心的100%而是30%，因为该CPU共有10个物理核心，运行四个计算任务时需要使用10个真实物理核心和10个扩展多出的逻辑核心，而这多出的10个核心并不能按照真实核心来计算，因此正确计算时我们需要先按照真实物理核心数计算用时2个小时的用时，然后再除去逻辑核心扩展后的CPU性能1.3倍得出最终的运行用时。

正确的计算方法为：

不可分割的计算量（需要并行运行的计算量）：4个任务，每个任务单独运行均需5个物理核心运行一个小时，因此这里需要并行的计算量为1+1+1+1=4，即4小时。

任意时刻上CPU可被使用的计算能力（一个任务运行时需要5个物理CPU核心，即5个物理核心的计算能力为1）：1+1+0.3+0.3=2.6

因此，4个任务并行，使用10个物理核心外加10个扩展出的逻辑核心，总用时为4/2.6=1.53846小时。

可以看到，如果我们希望尽快的完成运算任务，那么在上述的CPU架构中最多可以运行两个计算任务，如果再多运行计算任务那么总的时长就会增加。这个问题是极为被忽略的，而造成这个问题的原因就是超线程扩展出的CPU核心并没有达到真实CPU核心的性能，而是只能达到30%。

---

扩展内容：

在上述的CPU架构和计算任务下，如果同时运行3个计算任务，那么用时多久？

3个计算任务如果同时并行需要15个物理核心，但是实际只有10个物理核心，因此并行运行3个计算任务需要使用10个物理核心和5个逻辑核心，因此按照之前给出的计算方法我们可以得到计算量为1+1+1=3，计算能力为1+1+0.3=2.3，因此总用时为：3/2.3=1.30434小时，此时的CPU使用率为75%。

PS:

操作系统在计算CPU使用率时是不会区分逻辑核心和物理核心的。

=============================

总结一下：

一个10物理核心，10扩展核心的CPU，运行一个需5物理核心并行的任务用时一小时，那么有：

并行运行1个计算任务：用时1小时，CPU使用率为25%

并行运行2个计算任务：用时1小时，CPU使用率为50%

并行运行3个计算任务：用时1.30434小时，CPU使用率为75%

并行运行4个计算任务：用时1.53846小时，CPU使用率为100%

同时有：

并行运行5个计算任务：用时5/2.6=1.92307小时，CPU使用率为100%

并行运行6个计算任务：用时6/2.6=2.30769小时，CPU使用率为100%

因此通过上面的分析，我们可以回答问题：CPU利用率为多少时可以兼顾效率和时间？

个人认为一个科学计算用处的CPU，最好的利用率在75%左右，这样可以使CPU有个比较高的利用率同时也可以尽可能保证每个任务可以在较短的时间内运行完成，同时由于当CPU利用率为100%时我们是难以区分此时的服务器是出于哪种情况，比如上面的4个任务并行，5个任务并行，6个任务并行，其CPU利用率均为100%（服务器CPU为多用户共享使用的），如果管理员不对CPU利用率做一定的要求，那么如果是5个任务并行的情况下会导致每个计算任务的用时都增加了1倍，也就是从1个小时增加到了1.92小时，虽然保证了CPU总的利用率但是却影响了用户的单独体验的感受，因此我个人给出的计算型CPU利用率最好为75%左右，如果是50%则明显存在利用率不足，75%以内的利用率可以保证每个计算任务都可以获得近似于独占服务器情况下的运行时间，而且如果CPU利用率高于75%甚至高于85%，那么也会极可能由于CPU的高负载导致的供电和发热问题使CPU运行频率降低（CPU降频），因此综合来考虑，保持计算型CPU利用率在75%左右是综合最优的一种设置。

---