开发: C++知识库 Java知识库 JavaScript Python PHP知识库人工智能区块链大数据移动开发嵌入式开发工具数据结构与算法开发测试游戏开发网络协议系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑笔记本显卡显示器固态硬盘硬盘耳机手机 iphone vivo oppo 小米华为单反装机图拉丁

-> 系统运维 -> Docker_Cgroup -> 正文阅读

[系统运维]Docker_Cgroup

一.Cgroup

1.概述

Cgroups 是 control groups 的缩写，是 Linux 内核提供的一种可以限制、记录、隔离进程组（process groups）所使用的物理资源（如：cpu,memory,IO等等）的机制。最初由 google 的工程师提出，后来被整合进 Linux 内核。Cgroups 也是 LXC 为实现虚拟化所使用的资源管理手段，可以说没有cgroups就没有LXC。

Docker通过Cgroup来控制容器使用的资源配额，包括CPU、内存、磁盘三大方面，基本覆盖了常见的资源配额和使用量控制

Cgroup是Control Groups的缩写，是Linux内核提供的一种可以限制、记录、隔离进程组所使用的物理资源（如CPU、内存、磁盘IO等等）的机制

2.cgroup 作用

(1)限制进程组可以使用的资源数量（Resource limiting ）。比如：memory子系统可以为进程组设定一个memory使用上限，一旦进程组使用的内存达到限额再申请内存，就会出发OOM（out of memory）。

(2)进程组的优先级控制（Prioritization ）。比如：可以使用cpu子系统为某个进程组分配特定cpu share。

(3)记录进程组使用的资源数量（Accounting ）。比如：可以使用cpuacct子系统记录某个进程组使用的cpu时间

(4)进程组隔离（Isolation）。比如：使用ns子系统可以使不同的进程组使用不同的namespace，以达到隔离的目的，不同的进程组有各自的进程、网络、文件系统挂载空间。

(5)进程组控制（Control）。比如：使用freezer子系统可以将进程组挂起和恢复。

3.Cgroup资源控制的作用

一般来说，容器默认是没有资源限制的，会最大程度使用宿主机的资源。在Linux主机上，如果内核检测到没有足够的内存来执行重要的系统功能，它会抛出一个OOME（Out Of Memory Exception），一旦发生OOME，Linux就会开始查杀进程以释放内存。任何进程都有可能会被杀死，包括docker daemon和其他重要的应用程序。如果错误的进程被杀死，这可会降低整个系统的使用效果。针对此情况，Docker提供了一种资源控制的方式，可以对容器的CPU、内存和IO进行限制。

4…cgroup中需要了解的四个概念

(1)Subsystems: 称之为子系统，一个子系统就是一个资源控制器，比如 cpu子系统就是控制cpu时间分配的一个控制器。

(2)Hierarchies: 可以称之为层次体系也可以称之为继承体系，指的是Control Groups是按照层次体系的关系进行组织的。

(3)Control Groups: 一组按照某种标准划分的进程。进程可以从一个Control Groups迁移到另外一个Control Groups中，同时Control        Groups中的进程也会受到这个组的资源限制。
(4)Tasks: 在cgroups中，Tasks就是系统的一个进程。

5.Cgroup 资源配置方法

被 LXC、docker 等很多项目用于实现进程资源控制。Cgroup 本身是提供将进程进行分组化管理的功能和接口的基础结构，I/O 或内存的分配控制等具体的资源管理是通过该功能来实现的。
这些具体的资源管理功能称为 Cgroup 子系统，有以下几大子系统实现：

blkio：设置限制每个块设备的输入输出控制。例如:磁盘，光盘以及 usb 等等。
CPU：使用调度程序为 cgroup 任务提供 CPU 的访问。
cpuacct：产生 cgroup 任务的 CPU 资源报告。
cpuset：如果是多核心的 CPU，这个子系统会为 cgroup 任务分配单独的 CPU 和内存。
devices：允许或拒绝 cgroup 任务对设备的访问。
freezer：暂停和恢复 cgroup 任务。
memory：设置每个 cgroup 的内存限制以及产生内存资源报告。
net_cls：标记每个网络包以供 cgroup 方便使用。ns：命名空间子系统。
perf_event：增加了对每个 group 的监测跟踪的能力，可以监测属于某个特定的 group 的所有线程以及运行在特定CPU上的线程。

二.使用stress工具测试CPU 和内存

使用Dockerfile来创建一个基于Centos的stress工具镜像

mkdir /opt/stress
vim /opt/stress/Dockerfile

FROM centos:7
MAINTAINER li
RUN yum install -y wget
RUN wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
RUN yum install -y stress

cd /opt/stress/
docker build -t centos:stress

在这里插入图片描述
![](https://img-blog.csdnimg.cn/7ffa31c2b0024613a31fa7a73671294f.png?x-oss-process=image/watermark,type_ZHJvaWRzYW5zZmFsbGJhY2s,shadow_50,text_Q1NETiBA5bm05bCRNw==,size_20,color_FFFFFF,t_70,g_se,x_16)

1.设置CPU权重

使用如下命令创建容器，命令中的- -cpu-shares参数值不能保证可以获得1个vcpu或者多少GHz的CPU资源，它仅是一个弹性的加权值。

docker run -itd --cpu-shares 100 centos:stress

Cgroups只在容器分配的资源紧缺时，即在需要对容器使用的资源进行限制时，才会生效。因此，无法单纯根据某个容器的CPU份额来确定有多少CPU资源分配给它，资源分配结果取决于同时运行的其他容器的CPU分配和容器中进程运行情况。
可以通过cpu share可以设置容器使用CPU的优先级，比如启动了两个容器及运行查看CPU使用百分比。

//先创建两个容器
//容器产生10个子函数进程，设置cpu优先级为512
docker run -tid --name cpu512 --cpu-shares 512 centos:stress stress -c 10
//容器产生10个子函数进程，设置cpu优先级为1024
docker run -tid --name cpu1024 --cpu-shares 1024 centos:stress stress -c 10

docker ps -a

//进入容器使用top查看cpu使用情况
docker exec -it 68061cd212c9 bash
top
exit
//进容器使用top对比两个容器的%CPU，比例是1:2
docker exec -it 5b81d3426014 bash
top
exit

在这里插入图片描述

2.cpu周期限制

Docker提供了–cpu-period、–cpu-quota两个参数控制容器可以分配到的CPU时钟周期。

--cpu-period 是用来指定容器对CPU的使用要在多长时间内做一次重新分配

--cpu-quota 是用来指定在这个周期内，最多可以有多少时间用来跑这个容器
与 --cpu-shares 不同的是,这种配置是指定一个绝对值，容器对 CPU 资源的使用绝对不会超过配置的值。
cpu-period 和 cpu-quota 的单位为微秒(us)。 cpu-period 的最小值为1000微秒，最大值为1秒(10^6 us)，默认值为 0.1 秒（100000 us)。
cpu-quota的值默认为-1，表示不做控制。
cpu-period和cpu-quota参数一般联合使用。

docker run -tid --cpu-period 100000 --cpu-quota 200000 centos:stress
docker exec -it 8847d6961493 bash
cat /sys/fs/cgroup/cpu/cpu.cfs_period_us
100000
cat /sys/fs/cgroup/cpu/cpu.cfs_quota_us
200000

在这里插入图片描述

3.CPU Core控制

对多核 CPU 的服务器，Docker 还可以控制容器运行使用哪些CPU内核，即使用- -cpuset-cpus 参数。

这对具有多CPU的服务器尤其有用，可以对需要高性能计算的容器进行性能最优的配置

docker run -tid --name cpu1 --cpuset-cpus 0-1 centos:stress

执行以上命令需要宿主机为双核，表示创建的容器只能用0、1两个内核。最终生成的cgroup的CPU内核配置如下;

docker exec -it fb2d24b040c1 bash

cat /sys/fs/cgroup/cpuset/cpuset.cpus
0-1

若虚拟机不是四核，关闭虚拟机修改处理器的核数
在这里插入图片描述

adow_50,text_Q1NETiBA5bm05bCRNw==,size_20,color_FFFFFF,t_70,g_se,x_16)
通过下面指令可以看到容器中进程与 CPU 内核的绑定关系，达到绑定CPU内核的目的
在这里插入图片描述

//容器内部第一个进程号pid为1被绑定到指定CPU上运行
docker exec fb2d24b040c1 taskset -c -p 1

在这里插入图片描述

4.CPU配额控制参数的混合使用

通过cpuset-cpus参数指定容器A使用CPU内核0，容器B只是用CPU内核1。
在主机上只有这两个容器使用对应CPU内核的情况，它们各自占用全部的内核资源，cpu-shares没有明显效果。

cpuset-cpus、cpuset-mems参数只在多核、多内存节点上的服务器上有效，并且必须与实际的物理配置匹配，否则也无法达到资源控制的目的。
在系统具有多个CPU内核的情况下，需要通过cpuset-cpus 参数为设置容器CPU内核才能方便地进行测试

//测试前需要将宿主系统修改为4核心CPU
//创建两个容器,分别指定不同的cpu
docker run -tid --name cpu2 --cpuset-cpus 1 --cpu-shares 512 centos:stress stress -c 1
docker run -tid --name cpu3 --cpuset-cpus 3 --cpu-shares 1024 centos:stress stress -c 1

top //记住按1查看每个核心的占用

在这里插入图片描述