关于存储驱动程序

要有效地使用存储驱动程序,了解Docker如何构建和存储镜像以及容器如何使用这些镜像非常重要。您可以使用此信息做出明智的选择,以确定从应用程序中保留数据的最佳方法,并避免在此过程中出现性能问题。

存储驱动程序允许您在容器的可写层中创建数据。容器停止后,文件将不会保留,并且读取和写入速度都很低。

了解如何使用volumes来保存数据并提高性能。

FROM ubuntu:15.04
COPY . /app
RUN make /app
CMD python /app/app.py

此Dockerfile包含四个命令,每个命令都创建一个层。该 FROM声明首先从ubuntu:15.04图像创建一个图层。该COPY命令从Docker客户端的当前目录中添加一些文件。该RUN命令使用该命令构建应用程序make。最后,最后一层指定在容器中运行的命令。

每个图层只是与之前图层的一组差异。这些层堆叠在彼此之上。创建新容器时,可以在基础图层的顶部添加新的可写层。该层通常称为“容器层”。对正在运行的容器所做的所有更改(例如写入新文件,修改现有文件和删除文件)都将写入此可写容器层。下图显示了基于Ubuntu 15.04映像的容器。

图像和图层

Docker镜像是从一系列图层构建的。每个图层代表镜像的Dockerfile中的指令。除最后一层之外的每一层都是只读的。考虑以下Dockerfile:

一个存储驱动程序处理这些层相互交互的方式的细节。可以使用不同的存储驱动程序,它们在不同情况下具有优点和缺点。

容器和图层

容器和图像之间的主要区别在于顶部可写层。对添加新数据或修改现有数据的容器的所有写入都存储在此可写层中。删除容器时,也会删除可写层。基础图像保持不变。

由于每个容器都有自己的可写容器层,并且所有更改都存储在此容器层中,因此多个容器可以共享对同一基础映像的访问权限,但仍具有自己的数据状态。下图显示了共享相同Ubuntu 15.04映像的多个容器。

注意:如果需要多个镜像才能共享访问完全相同的数据,请将此数据存储在Docker卷中并将其装入容器中。

Docker使用存储驱动程序来管理图像层和可写容器层的内容。每个存储驱动程序以不同方式处理实现,但所有驱动程序都使用可堆叠图像层和写时复制(copy on write)策略。

磁盘上的容器大小

要查看正在运行的容器的大致大小,可以使用该docker ps -s 命令。两个不同的列与大小有关。

  • size:用于每个容器的可写层的数据量(在磁盘上)

  • virtual size:用于容器使用的只读镜像数据的数据量加上容器的可写层size。多个容器可以共享一些或所有只读镜像数据。从同一图像开始的两个容器共享100%的只读数据,而具有不同图像的两个具有共同层的容器共享这些公共层。因此,您不能只计算虚拟大小。这会过度估计总磁盘使用量可能是非常重要的数量

磁盘上所有正在运行的容器使用的总磁盘空间是每个容器sizevirtual size值的某种组合。如果多个容器从相同的精确映像启动,则磁盘上这些容器的总大小将为(size容器)加上一个镜像大小(virtual sizesize)之和。

这也不计算容器占用磁盘空间的以下其他方式:

  • 如果使用json-file日志记录驱动程序,则用于日志文件的磁盘空间。如果容器生成大量日志记录数据并且未配置日志轮换,则这可能非常重要。
  • 容器使用的卷和绑定装入。
  • 用于容器配置文件的磁盘空间,通常很小。
  • 写入磁盘的内存(如果启用了交换)。
  • 检查点,如果您正在使用实验检查点/恢复功能。

写时复制(copy on write)策略

写时复制是一种共享和复制文件的策略,可实现最高效率。如果文件或目录存在于图像中的较低层,而另一层(包括可写层)需要对其进行读访问,则它只使用现有文件。第一次另一个图层需要修改文件时(构建图像或运行容器时),文件将被复制到该图层并进行修改。这最小化了I / O和每个后续层的大小。下面将更深入地解释这些优点。

现在想象你有两个不同的Dockerfiles。您使用第一个创建一个名为的图像acme/my-base-image:1.0

FROM ubuntu:16.10
COPY . /app
docker build -t acme/my-base-image:1.0 .

第二个是基于acme/my-base-image:1.0,但有一些额外的层:

FROM acme/my-base-image:1.0
CMD /app/hello.sh
docker build -t acme/my-base-image:2.0 .

第二个图像包含第一个图像中的所有图层,以及带有CMD指令的新图层和读写容器图层。Docker已经拥有了第一张镜像中的所有图层,因此不需要再次拉取它们。这两个镜像共享它们共有的任何层。

如果从两个Dockerfiles构建映像,您可以使用docker image ls和 docker history命令来验证共享层的加密ID相同。

请注意,除第二个图像的顶层外,所有图层都相同。所有其他图层在两个图像之间共享,并且仅存储一次/var/lib/docker/。新层实际上根本不占用任何空间,因为它不会更改任何文件,而只会运行命令。

注意:输出中的<missing>docker history表示这些层是在另一个系统上构建的,并且在本地不可用。这可以忽略。

复制使容器变得高效

启动容器时,会在其他图层的顶部添加一个薄的可写容器图层。容器对文件系统所做的任何更改都存储在此处。容器未更改的任何文件都不会复制到此可写层。这意味着可写层尽可能小。

当修改容器中的现有文件时,存储驱动程序将执行写时复制操作。涉及的具体步骤取决于特定的存储驱动程序。对于默认的aufs驱动程序和overlayoverlay2 驱动程序时,写入时复制操作遵循以下顺序粗糙:

  • 在图像图层中搜索要更新的文件。该过程从最新层开始,一次一层地向下移动到基础层。找到结果后,会将它们添加到缓存中以加快将来的操作。

  • copy_up对找到的文件的第一个副本执行操作,以将文件复制到容器的可写层。

  • 对此文件副本进行任何修改,并且容器无法查看较低层中存在的文件的只读副本。

Btrfs,ZFS和其他驱动程序以不同方式处理写时复制。您可以在稍后的详细说明中阅读有关这些驱动程序的方法的更多信息。

写入大量数据的容器比不使用容器的容器消耗更多空间。这是因为大多数写入操作会占用容器的可写顶层中的新空间。

注意:对于大量写入的应用程序,不应将数据存储在容器中。而是使用Docker卷,它独立于正在运行的容器,并且设计为对I / O有效。此外,卷可以在容器之间共享,也不会增加容器可写层的大小。

一个copy_up操作可能导致性能显着的开销。根据正在使用的存储驱动程序,此开销会有所不同。大文件,大量图层和深层目录树可以使影响更加明显。每个copy_up操作仅在第一次修改给定文件时发生,这可以减轻这种情况。

为了验证写时复制的工作方式,以下过程根据acme/my-final-image:1.0我们之前构建的映像旋转了5个容器,并检查它们占用了多少空间。

注意:此过程不适用于Docker for Mac或Docker for Windows。

1.从Docker主机上的终端,运行以下docker run命令。末尾的字符串是每个容器的ID。

[root@benjamincloud test2]# docker run -dit --name my_container_1 acme/my-base-image:2.0 bash && docker run -dit --name my_container_2 acme/my-base-image:2.0 bash && docker run -dit --name my_container_3 acme/my-base-image:2.0 bash && docker run -dit --name my_container_4 acme/my-base-image:2.0 bash && docker run -dit --name my_container_5 acme/my-base-image:2.0 bash
62efe3548a4a7c54d335ae477365e53e6cdb53b8d89ba5dc17b7036d2d199bb8
6059b0a7bb6483ea26659dfb75a9c6f227a333614044638a58e52d1ec84c6b1a
b9b0d3fa2d883ebd799cdd445700e1081de7f2b6ca0962d778112a5d6a739630
21ae9e1fc0995845fdfced133896be55607bb8b61cad9077e90c252b7b5af4d8
49c873927e5f91eced820d696c9ca9aa3b2d0b2422194a9be257f510c4dfaf49

2.运行该docker ps命令以验证5个容器正在运行。

[root@benjamincloud test2]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
49c873927e5f acme/my-base-image:2.0 "bash" seconds ago Up seconds my_container_5
21ae9e1fc099 acme/my-base-image:2.0 "bash" seconds ago Up seconds my_container_4
b9b0d3fa2d88 acme/my-base-image:2.0 "bash" seconds ago Up seconds my_container_3
6059b0a7bb64 acme/my-base-image:2.0 "bash" seconds ago Up seconds my_container_2
62efe3548a4a acme/my-base-image:2.0 "bash" seconds ago Up seconds my_container_1

3.列出本地存储区域的内容。

[root@benjamincloud test2]# ll /var/lib/docker/containers/
total
drwx------ root root Aug : 21ae9e1fc0995845fdfced133896be55607bb8b61cad9077e90c252b7b5af4d8
drwx------ root root Aug : 49c873927e5f91eced820d696c9ca9aa3b2d0b2422194a9be257f510c4dfaf49
drwx------ root root Aug : 6059b0a7bb6483ea26659dfb75a9c6f227a333614044638a58e52d1ec84c6b1a
drwx------ root root Aug : 62efe3548a4a7c54d335ae477365e53e6cdb53b8d89ba5dc17b7036d2d199bb8
drwx------ root root Aug : b9b0d3fa2d883ebd799cdd445700e1081de7f2b6ca0962d778112a5d6a739630

4.现在看看它们的大小:

[root@benjamincloud test2]# du -sh /var/lib/docker/containers/*
36K /var/lib/docker/containers/21ae9e1fc0995845fdfced133896be55607bb8b61cad9077e90c252b7b5af4d8
36K /var/lib/docker/containers/49c873927e5f91eced820d696c9ca9aa3b2d0b2422194a9be257f510c4dfaf49
36K /var/lib/docker/containers/6059b0a7bb6483ea26659dfb75a9c6f227a333614044638a58e52d1ec84c6b1a
36K /var/lib/docker/containers/62efe3548a4a7c54d335ae477365e53e6cdb53b8d89ba5dc17b7036d2d199bb8
36K /var/lib/docker/containers/b9b0d3fa2d883ebd799cdd445700e1081de7f2b6ca0962d778112a5d6a739630

每个容器只占用文件系统上36k的空间。

写时复制不仅节省了空间,而且还减少了启动时间。当您启动容器(或来自同一图像的多个容器)时,Docker只需要创建可写的容器图层。

如果Docker每次启动新容器时都必须制作底层映像堆栈的完整副本,则容器启动时间和使用的磁盘空间将显着增加。这类似于虚拟机的工作方式,每个虚拟机有一个或多个虚拟磁盘。

docker从零开始 存储(五)存储驱动介绍的更多相关文章

  1. docker从零开始(五)堆栈初体验,stacks

    先决条件 安装Docker 1.13或更高版本. 获取Docker Compose,请参考第三节 按照第四节中的描述获取Docker Machine. 在第二节中了解如何创建容器. 确保您的图像作为已 ...

  2. docker从零开始 存储(六)存储驱动如何选择

    Docker存储驱动程序 理想情况下,将非常少的数据写入容器的可写层,并使用Docker卷来写入数据.但是,某些工作负载要求您能够写入容器的可写层.这是存储驱动程序的用武之地. Docker使用可插拔 ...

  3. Docker镜像的目录存储讲解

    我们成功安装完docker后,执行命令行sudo docker run hello-world, 如果是第一次执行,则会从远程拉取hello-world的镜像到本地,然后运行,显示hello worl ...

  4. centos7下安装docker(13.1docker存储--data volume)

    我们现在知道docker 有两种存储方式:storage driver和data volume stroage driver这种存储方式主要是存储那些无状态的数据,是镜像层和容器层组成的,而data ...

  5. [MySQL数据库之表的详细操作:存储引擎、表介绍、表字段之数据类型]

    [MySQL数据库之表的详细操作:存储引擎.表介绍.表字段之数据类型] 表的详细操作 存储引擎 mysql中建立的库======>文件夹 库中建立的表======>文件 用来存储数据的文件 ...

  6. docker容器的持久化存储:Volume

    独立于docker容器的持久化存储: 法(1):自动将服务器文件夹挂载到容器内部文件夹/usr/share/nginx/html,这样只修改服务器文件夹下的内容即可对应修改容器内部文件夹的内容 将服务 ...

  7. 【转】HTML5 本地存储五种方案

    1.LocalStorage LocalStorage就是Key-Value的简单键值对存储结构,Web Storage除了localStorage的持久性存储外,还 有针对本次回话的sessionS ...

  8. 1.Ceph 基础篇 - 存储基础及架构介绍

    文章转载自:https://mp.weixin.qq.com/s?__biz=MzI1MDgwNzQ1MQ==&mid=2247485232&idx=1&sn=ff0e93b9 ...

  9. Docker 入门 第五部分:Stacks

    目录 Docker 入门 第五部分:Stacks 先决条件 介绍 添加一个新的服务并重新部署 保存数据 回顾 Docker 入门 第五部分:Stacks 先决条件 安装 Docker 1.13 或更高 ...

随机推荐

  1. 第十五次ScrumMeeting会议

    第十五次Scrum Meeting 时间:2017/12/5 地点:主201 人员:全体成员 目前工作情况 名字 完成的工作 计划工作 蔡帜 -- -- 游心 完成Scrum会议记录,更新wiki游戏 ...

  2. Linux nohup 后台运行命令

    有一些爬虫的程序需要在后台运行,所以简单总结了一下nohup 的一些用法 基本命令:nohup command  $; 运行之后出现nohup: ignoring input and appendin ...

  3. asp.net应用程序脱机app_offline.htm文件

    This application is currently offline. To enable the application, remove the app_offline.htm file fr ...

  4. lintcode-87-删除二叉查找树的节点

    87-删除二叉查找树的节点 给定一棵具有不同节点值的二叉查找树,删除树中与给定值相同的节点.如果树中没有相同值的节点,就不做任何处理.你应该保证处理之后的树仍是二叉查找树. 样例 给出如下二叉查找树: ...

  5. 【python】 json.dumps() json.dump()的区别

    以前写的很简单,只有几句话,最近发现本文是本博客阅读量最大的一篇文章,觉得这样有种把人骗进来的感觉,于是又细化了一些.如果还有不好的地方,欢迎指出. 首先说明基本功能: dumps是将dict转化成s ...

  6. [洛谷P3254]圆桌问题

    题目大意:有$m$个单位,每个单位有$r_i$个代表,有$n$张餐桌,每张餐桌可容纳$c_i$个代表.要求同一个单位的代表不在同一个餐桌就餐.若可以,输出$1$以及其中一种方案,否则输出$0$ 题解: ...

  7. dnsmasq-2.48没有ipset特性,安装dnsmasq-2.71来支持ipset

    iptables只能根据ip地址进行转发,不能识别域名,而dnsmasq-full不仅可以实现域名-IP的映射,还可以把这个映射关系存储在ipset中,所以使用dnsmasq+ipset就可以实现ip ...

  8. 【BZOJ 3172】[Tjoi2013]单词 AC自动机

    关于AC自动机:一个在kmp与Trie的基础上建立的数据结构,关键在于Trie树结构与fail指针,他们各有各的应用.在AC自动机里最典型的就是多串匹配,原本效率为O(n*l+n*l+m*l),(n是 ...

  9. ACM模板~求第k短路 ~~~A*+Dijkstra

    #include <map> #include <set> #include <cmath> #include <ctime> #include < ...

  10. Active Directory Domain Services in Windows Server 2016/2012

    Applies To: Windows Server 2016, Windows Server 2012 R2, Windows Server 2012 You will find links to ...