docker with devicemapper storage driver
storage driver的选择依据很多的条件,比如发行版版本,团队技术积累,稳定性等。
device mapper是redhat/centos中最适合的, 稳定性也可以,内核原生支持,基于块设备,对于高负载情况下可以性能较好,支持quota。
缺点是:占用内存较多,启动同一个镜像的多个实例,需要多次加载并在内存中保存多个实例的信息,在高密度的情况下不适用;在小文件的情况下性能不如aufs,overlay。
接下里我们就对device mappper做个剖析。
Device Mapper介绍
首先请看:Linux 内核中的 Device Mapper 机制
device mapper中允许有不同的target driver,docker结合使用了thin provisioning与snapshot两种技术,thin provisioning 就是一种对disk超配的机制,snapshot 是COW的机制。
根据device mapper Document,device mapper thin provisioning snapshot使用方式大概分为以下几步:
- 准备data与metadata device,可以是实际的物理设备或LVM(loop-lvm 模式在生产环境一般不用)。data device用来存放实际的数据,metadata device 用来存储元数据信息。
- 利用data,metadata device创建一个thin pool (即thinp):
dmsetup create poolname --table "0 20971520 thin-pool $metadata_dev $data_dev $data_block_size $low_water_mark"
- 创建对应的thinly-provisioned volume
- 创建snapshots并mount
创建完成后可以通过dmsetup status
看到相关信息,docker自己创建的thinpool信息如下:
[root@gaorong-pc ~]# dmsetup status
vg_root-dmdata: 0 419430400 linear
vg_root-dmmeta: 0 62914560 linear
docker-253:2-812-pool: 0 419430400 thin-pool 65465 11492/4161600 581965/3276800 - rw no_discard_passdown queue_if_no_space -
docker-253:2-812-1e1c90db3592bb7cca6df78a7f823db3ba53420640be5a4c62893bfbf6d2527b: 0 20971520 thin 236288 20971519
.....
可以看到有data, metadata device, thin pool, thin volume对象,其中thinpool的输出含义为: start_sector sector_num device_type transaction_id used_metadata_blocks/total_metadata_blocks used_data_blocks/total_data_blocks held_metadata_root ro|rw|out_of_data_space [no_]discard_passdown [error|queue]_if_no_space needs_check|- metadata_low_watermark
各个字段具体含义参见device mapper thin-provisioning
Device Mapper在docker中的应用
docker使用devicemapper storage driver会自动完成上述对象的创建,将image和conainer layer信息存储在thinpool中,并mount到/var/lib/docker/devicemapper/
目录下暴露给container使用,其中metadata目录下包含了各个layer的snapshot的信息,他会为每个layer创建一个文件来记录信息,如下:
[root@gaorong-pc devicemapper]# cat metadata/1e1c90db3592bb7cca6df78a7f823db3ba53420640be5a4c62893bfbf6d2527b
{"device_id":32867,"size":10737418240,"transaction_id":65437,"initialized":false,"deleted":false}
容器的writable layer是在真正启动运行的时候active, 对应的thin volume才能被dmsetup status
可见。可以参看这篇文章了解更多Docker内部存储结构(devicemapper)解析(下篇)
data目录包含了各个container的mountpoint, 可以df
命令看到每个container的mount 信息。
thinpool的信息除了使用dmsetup
指令查看外,也可以通过docker info
直接输出:
[root@gaorong-pc ~]# docker info
Containers: 10
Running: 4
Paused: 0
Stopped: 6
Images: 26
Server Version: 17.03.2-ce
Storage Driver: devicemapper
Pool Name: docker-253:2-812-pool
Pool Blocksize: 65.54 kB
Base Device Size: 10.74 GB
Backing Filesystem: xfs
Data file: /dev/vg_root/dmdata
Metadata file: /dev/vg_root/dmmeta
Data Space Used: 38.14 GB
Data Space Total: 214.7 GB
Data Space Available: 176.6 GB
Metadata Space Used: 47.07 MB
Metadata Space Total: 17.05 GB
Metadata Space Available: 17 GB
Thin Pool Minimum Free Space: 21.47 GB
Udev Sync Supported: false
Deferred Removal Enabled: false
Deferred Deletion Enabled: false
Deferred Deleted Device Count: 0
Library Version: 1.02.82 (2013-10-04)
Logging Driver: json-file
Cgroup Driver: cgroupfs
........
注意其中 Thin Pool Minimum Free Space
字段就是创建thinp时的$low_water_mark,它表示在当data device容量还剩下该阈值的时候就无法写入数据了,也就是docker info
中 "Data Space Available","Thin Pool Minimum Free Space"两个字段相等时此时就无法写入数据了。
在docker的官方文档里有详细介绍: How the devicemapper storage driver works
refs
docker官方介绍:Use the Device Mapper storage driver
moby repo: devicemapper - a storage backend based on Device Mapper 包含docker info dm 各个字段含义
docker device mapper flag配置
DOCKER基础技术:DEVICEMAPPER 左耳朵耗子出品, 五颗星
剖析Docker文件系统:Aufs与Devicemapper
device mapper Document 必看其中的thin-provisioning, snapshot两章,包含一些底层的使用方式,与参数细节
dockercon 各种storage driver的使用: Deep dive into Docker storage drivers: video PPT
2019.3.10 update: 使用 Device Mapper来改变Docker容器的大小
docker with devicemapper storage driver的更多相关文章
- Docker storage driver(十四)
目录 一.storage driver 作用 1.Images and layers 2.Container and layers Copy-on-Write 3.Data volumes and t ...
- Linux kernel support docker storage driver aufs
How to make docker use aufs in CentOS 7? - Server Faulthttps://serverfault.com/questions/650208/how- ...
- docker storage driver
docker默认有2种方式用于持久化数据,volumes和bind mounts,也可以使用tmpfs,其中使用volume是持久化数据的最好方式,volume由docker控制管理,使用docker ...
- Docker中的Cgroup Driver:Cgroupfs 与 Systemd
在安装kubernetes的过程中,会出现 failed to create kubelet: misconfiguration: kubelet cgroup driver: "cgrou ...
- TP框架中/ThinkPHP/Library/Think/Storage/Driver/File.class.php 错误
/ThinkPHP/Library/Think/Storage/Driver/File.class.php LINE: 48错误 这是一个将windows下运行正常的ThinkPHP框架移到L ...
- docker 存储驱动(storage driver)知识总结
http://www.sohu.com/a/101016494_116235 一,先看docker镜像是如何构建和存储. 下面是ubuntu:15.04的镜像分层.一共是4层,每一层都由一些只读并且描 ...
- docker中 devicemapper驱动挂载容器镜像文件
详解docker中容器devicemapper设备的挂载流程
- LINUX USB MASS STORAGE DRIVER流程图
- docker2
https://github.com/docker/distribution daocloud 数人云 时速云 http://jpetazzo.github.io/2014/06/23/docker- ...
随机推荐
- tomcat运行为什么要依靠jdk
问题1:为什么要装jdk 因为tomcat是用java写的,所以运行需要JRE,就是JAVA运行时刻环境,所以必须通过安装JDK来得到这个运行环境,不装JDK装JRE也行,sun的网站上有下载.但是J ...
- mybatis Generator 生成配置文件
<?xml version="1.0" encoding="UTF-8" ?><!DOCTYPE generatorConfiguration ...
- Servlet.service() for servlet UserServlet threw exception java.lang.NullPointerException 空指针异常
错误付现: 严重: Servlet.service() for servlet UserServlet threw exceptionjava.lang.NullPointerException at ...
- CoderForces 518C Anya and Smartphone (模拟)
题意:给定一个手机,然后一共有 n 个app,告诉你每个屏幕最多放 k 个,现在要你运行 m 个app,每次都从第一个屏幕开始滑动,每运行一个,它就和前一个交换位置,第一个就不换了,现在问你要滑动多少 ...
- SpringBoot学习:整合shiro自动登录功能(rememberMe记住我功能)
首先在shiro配置类中注入rememberMe管理器 /** * cookie对象; * rememberMeCookie()方法是设置Cookie的生成模版,比如cookie的name,cooki ...
- 浅析互联网系统和传统企业IT系统的异同
前不久,一则中行宕机的消息引起了网上IT人士的热议.其中对于大型机或者RISC系统的稳定性可靠性的质疑更是热议中的主流声音,很多人拿现在互联网系统做对比,认为大型机所谓的几个9都是吹出来的云云.在这里 ...
- [label][Apache] VirtualHost
<VirtualHost *:80> ServerName localhost DocumentRoot "D:\www"</VirtualHos ...
- [leetcode] 8. Maximum Depth of Binary Tree
可能是因为我是按难度顺序刷的原因,这个其实在之前的几道题里面已经写过了.题目如下: Given a binary tree, find its maximum depth. The maximum d ...
- [转发]RTH试用手记之“外场应用”
年初,罗德与施瓦茨公司(Rohde & Schwarz)推出了第一款的手持示波器,从指标上看,该示波器打破了传统手持器功能简单.指标水平低.结构粗糙的印象,取而代之达到了主流台式数字示波器的性 ...
- 如何在TortoiseGit中使用ssh-keygen生成的key
再windows 用TortoiseGit 时,git clone 项目时 提示 "Couldn't load this key (OpenSSH SSH-2 private key),如下 ...