【转载】Linux cgroup资源隔离各个击破之

Linux cgroup 有两个子系统支持CPU隔离。
一个是cpu子系统，另一个是cpuset子系统。

cpu子系统根据进程设置的调度属性，选择对应的CPU资源调度方法

.1. 完全公平调度 Completely Fair Scheduler (CFS)
原理详见
https://www.kernel.org/doc/Documentation/scheduler/sched-design-CFS.txt
CFS用于处理以下几种进程调度策略
SCHED_OTHER
SCHED_BATCH
SCHED_IDLE

.2. 实时调度 Real-Time scheduler (RT)
原理详见
https://www.kernel.org/doc/Documentation/scheduler/sched-rt-group.txt
RT用于处理以下几种进程调度策略
SCHED_FIFO
SCHED_RR

CFS调度方法

CFS调度针对属性为SCHED_OTHER, SCHED_BATCH, SCHED_IDLE的进程。
限制手段分为两方面，
.1. 限制资源组的CPU使用硬上限，
.2. 以及资源组的CPU使用权重。
CFS调度资源组内的任务在CPU空闲时超权重使用CPU资源，但是不能超过硬上限。
例子

groupA : cpu.shares=250

groupB : cpu.shares=750

CFS保证了groupA的进程能使用25%的CPU资源，groupB的进程能使用75%的CPU资源。
如果CPU较空闲，groupA的进程能使用超过25%的CPU资源。
如果又加了个groupC进来，并且配置了cpu.shares = 250，那么CPU资源将在三个GROUP之间重分配。

  groupA : groupB : groupC = 25:75:25

注意 cpu.shares 务必 >= 2

cpu.shares只限制了使用下限，如果同时还需要设置CPU使用上限，可以通过以下两个参数来设置。

cpu.cfs_period_us = 统计CPU使用时间的周期

cpu.cfs_quota_us = 周期内允许占用的CPU时间(指单核的时间, 多核则需要在设置时累加)

如果分组中的任务在周期cpu.cfs_period_us内使用的CPU时间超过了cpu.cfs_quota_us，则进入抑制状态，并且需要等下一个周期才能继续使用CPU。

例子，周期为1秒，允许使用4秒CPU时间。（假设CPU>=4核心，表示这个组在一个使用周期(1s)内可以跑满4核资源）

cpu.cfs_period_us = 1000000

cpu.cfs_quota_us = 4000000

RT(real-time)调度方法

RT调度针对属性为SCHED_FIFO, SCHED_RR的进程。
与cfs的quota和period类似，限制了CPU使用的上限。但是rt调度只限制real-time tasks的CPU使用。

The RT scheduler works in a similar way to the ceiling enforcement control of the CFS (for more information, refer to Section 3.2.1, “CFS Tunable Parameters”) but limits CPU access to real-time tasks only.

cpu.rt_period_us = 统计CPU使用时间的周期
cpu.rt_runtime_us = 周期内允许任务使用单个CPU核的时间，如果系统中有多个核，则可以使用核倍数的时间 (计算方法与cfs不一样，需要注意)
例子

As mentioned above, the access times are multiplied by the number of logical CPUs.

For example, setting cpu.rt_runtime_us to 200000 and cpu.rt_period_us to 1000000 translates to the task being able to

access a single CPU for 0.4 seconds out of every 1 second on systems with two CPUs (0.2 x 2),

or 0.8 seconds on systems with four CPUs (0.2 x 4).

分组统计信息

既然有抑制状态和CPU时间片的概念，那就有对应的统计信息
用来报告该分组内的CPU调度周期，抑制次数，抑制时长等信息。（注意它的统计不包括子分组的，另外有一个cpuacct的子系统统计信息包含了子分组的，另一篇文档会讲到）

cpu.stat

reports CPU time statistics using the following values:

已经过去多少个片段了

nr_periods — number of period intervals (as specified in cpu.cfs_period_us) that have elapsed.

抑制了多少次

nr_throttled — number of times tasks in a cgroup have been throttled

(that is, not allowed to run because they have exhausted all of the available time as specified by their quota).

所有任务加起来总共抑制了多长时间

throttled_time — the total time duration (in nanoseconds) for which tasks in a cgroup have been throttled.

从统计信息的抑制时间和抑制次数，可以判断是否需要给分组增加CPU的上限。

例子

.1.
限制组cgroupA的任务最多可以使用8核资源
限制组cgroupB的任务最多可以使用16核资源

加载CPU子系统，创建子资源分区

mkdir -p /cgroup/cpu

mount -t cgroup -o cpu cpu /cgroup/cpu

cd /cgroup/cpu

mkdir cgroupA

mkdir cgroupB

配置资源配比(以100为基数，核数乘以100即得到cpu.shares)

cd cgroupA

echo 800 > cpu.shares

echo 1000000 > cpu.cfs_period_us

echo 8000000 > cpu.cfs_quota_us

cd ../cgroupB

echo 1600 > cpu.shares

echo 1000000 > cpu.cfs_period_us

echo 16000000 > cpu.cfs_quota_us

运行任务

cgexec -g cpu:cgroupA pg_ctl start -D /home/digoal/pgdata1921

cgexec -g cpu:cgroupB pg_ctl start -D /home/digoal/pgdata1922

小结

.1. 限下限
cpu.shares
.2. 限上限
cpu.cfs_period_us
cpu.cfs_quota_us
.3. 限实时任务上限
cpu.rt_period_us
cpu.rt_runtime_us

cpuacct 子系统

cpuacct 子系统是用来统计CPU使用情况的子系统，功能定位不是隔离资源，而是统计资源的使用情况。
cpuacct子系统的统计数据包含子分区的。