搬个小板凳,我们扯扯Docker的前生
一、新瓶装旧酒
首先我们需要知道,Docker是一个“箩筐”:
1.存储:Device Mapper、BtrFS、AUFS
2.名字空间:UTS、IPC、Mount、PID、Network、User
3.网络:Veth、Bridge、Iptables
4.Cgroups:CPU、CPUset、Memory、Device
5.安全:Capability、SELinux、Seccomp
……
二、又是Jeffrey Dean
Docker的诞生其实跟Google有很大的渊源:那年,Jeffrey Dean还是一枚鲜肉。
众所周知MapReduce是现在通用大数据处理的理论基石,在Jeffrey Dean提出这个模型后,Google内部率先用这个模型在内部实现了大数据计算的统一模型。Jeffrey Dean在2004年的OSDI(Operating Systems Design and Implementation)会议上发表MapReduce论文之后,Hadoop按图索骥慢慢成为了开源界最为流行的大数据处理框架。
甚至在后面,Hadoop变成了一个生态系统和Android一起养活了一大批Java程序员。
Java程序在饭前都祷告:
“噢,感谢伟大的Hadoop,感谢Android赐予我们食物,Amen!”
但和Hadoop不一样的一点是:Hadoop需要搭建专属的集群,而Google的MapReduce离线计算是和线上的业务是共享计算资源的。
首先说一下Google这么做的必要性:
绝大多数线上的业务的繁忙程度是和业务类型、用户的作息、地理位置相关的。 例如:在中国`11.11`是一个大日子,所有电商都拼了命的在搞促销,而在欧美国家与之相对应是圣诞节;
传统的办法为了应对高峰期的流量往往要预备很多硬件资源备用,但这些资源在平时基本上是闲置状态。对于更新速度极快的IT设备来说,闲置就是浪费。
Google这样做的好处自然是能大大的提高计算资源的利用率。但之所以大多数公司没有这么做,是由于Linux Kernel对资源(CPU、内存、I/O)隔离设施的缺乏。谁也不愿意看到一个日志挖掘的任务导致线上业务宕机。
三、Google爸爸改内核
但Google毕竟是Google,Kernel不支持,那就改Kernel!!
于是Google的工程师就在Kernel里增加了一种可以做资源隔离的设施:Control Groups,再配合chroot实现了一套较为完善的机制来保证进程之间可以不互相影响。
作为这套系统的某后英雄之一的Borg就是Google内部的分布式计算调度系统,负责统一调度各种MapReduce的资源分配和线上服务。
当时Google之所以选择了这条路,也一定程度上是由于Xen、KVM这些虚拟化技术还不成熟。但即使后来外面的公司广泛的用Xen、KVM来做资源隔离,Google也并没有跟风,正是因为Google的这种方式省去了额外的Hypervisor和Guest OS的开销,可以达到更高的资源利用率。
四、Google Borg rocks!
Google几乎所有的机器都是混部的,在一台机器上,可能运行着不同jobs的tasks。根据Google在Borg论文里披露的数据:
Google的50%的机器运行了9个甚至更多的tasks;90%的机器运行着25个tasks,达到4500个线程。
当然Google也并不排斥KVM、Xen等虚拟化技术。对于外部运行在GAE(Google App Engine)和GCE(Google Compute Engine)上的代码,Google的做法就是让它们运行在虚拟机(KVM)上,KVM进程被作为Borg的task运行。也就是说,Borg是作为下层的,KVM运行在它之上。
资源隔离机制在Google内部使用的比较稳定了之后,就被毫无保留地贡献给了开源社区,并把它命名为Cgroups。
五、Docker
Cgroups出现后,Docker所需要的各种原材料就齐备了:
2010年,几个雄心勃勃的年轻人怀揣1000万美元的融资在旧金山成立了一家做PaaS平台的公司,起名为dotCloud。目标是做世界上最好的PaaS,打败他们:
Amazon AWS
Google GAE
IBM Bluemix
RedHat OpenShift
Microsoft Azure
VMware Cloud Foundry
Heroku
……
面对这些动辄千亿市值的大佬,绝大多数人都跟他们说:『呵呵
搬个小板凳,我们扯扯Docker的前生的更多相关文章
- 【面向对象】用大白话扯扯那"神奇"的面向对象编程思维(二)
前言: 上一章我们用大白话讲解了一下面向对象的编程思维,那么这一张我们来讲讲如何用面向对象来书写代码.终于到了激动人心的时刻了..... 传送门:https://www.cnblogs.com/sy1 ...
- 扯扯maven的蛋
同样是放在有道云笔记里,各种散乱加发霉,抽空来整理整理,分几个部分来扯扯maven. 一.Maven是啥求. Maven 为Apache 组织中的开源项目,主要服务于基于Java 平台的项目构建.依赖 ...
- Docker 部署前后端项目
Docker 部署前后端项目 平生不会相思,才会相思,便害相思. 简介:都是被逼的,从零开始一个Docker 部署九个微服务和三个前端项目.其中,这些服务需要用到Nacos.MySQL.Nginx.E ...
- 扯扯淡,写个更快的memcpy
写代码有时候和笃信宗教一样,一旦信仰崩溃,是最难受的事情.早年我读过云风的一篇<VC 对 memcpy 的优化>,以及<Efficiency geek 2: copying data ...
- Cocostudio学习笔记(1) 扯扯蛋 + 环境搭建
转眼七月份就到了,2014已经过了一半,而我也最终算是有"一年工作经验"了,开心ing. 回想这一年Cocos2dx的游戏开发经历,去年下半年重心主要在游戏的逻辑上,而今年上半年重 ...
- Android老司机搬砖小技巧
作为一名Android世界的搬运工,每天搬砖已经够苦够累了,走在坑坑洼洼的道路一不小心就掉坑里了. SDK常用工具类 Android SDK中本身就拥有很多轮子,熟悉这些轮子,可以提高我们的搬砖效率. ...
- 扯扯python的多线程的同步锁 Lock RLock Semaphore Event Condition
我想大家都知道python的gil限制,记得刚玩python那会,知道了有pypy和Cpython这样的解释器,当时听说是很猛,也就意味肯定是突破了gil的限制,最后经过多方面测试才知道,还是那德行… ...
- 用大白话扯扯那"神奇"的面向对象编程思维(一)
前言: 每当提到面向对象的时候,初学者肯定都是一脸懵逼的状态,到底什么是面向对象?会用面向对象后有什么牛逼之处吗?不会用是不是就会死掉?答案肯定不会死掉,我们可以来简单的举一 个栗子 1.当你想到熊猫 ...
- C语言小板凳(1)
①strlen()函数作用:计算字符串的长度,当遇到"\n"字符时结束,即遇到数值"0"时结束计算,有一点特别要注意当这个函数用来计算数组的长度的时候遇到数值0 ...
随机推荐
- Python笔记·第三章—— 逻辑运算
一.逻辑运算符的种类及优先级 ▷逻辑运算符包括 not and or ▷他们的优先级是 () > not > and > or 二.普通逻辑运算 ▷A and B ---> ...
- SpringMVC+ZTree实现树形菜单权限配置
计划在开源项目里加入权限配置的功能,打算加入zTree实现树形结构. Team的Github开源项目链接:https://github.com/u014427391/jeeplatform 欢迎sta ...
- SpringCloud四:hystrix-propagation
注:pom.xml 及配置文件配置与上篇相同 package com.itmuch.cloud.controller; import org.springframework.beans.factory ...
- Intellij idea 复制粘贴查找快捷键失效
遇到此问题,竟不能复制, 发现原因,是因为勾选了Vim模式, Tools,Vim Emulator,前面会有一个√,取消即可,如图: 我的是这个原因,复制粘贴快捷键失效,也有可能历史粘贴板的深度不够 ...
- ES6原生Promise的所有方法介绍(附一道应用场景题目)
JS的ES6已经出来很久了,作为前端工程师如果对此还不熟悉有点说不过去.不过如果要问,Promise原生的api一共有哪几个?好像真的可以难倒一票人,包括我自己也忽略了其中一个不常用的API Prom ...
- 小白的Python之路 day1 表达式if ... else ,while循环,for循环
表达式if ... else 一.用户登陆验证 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 # 提示输入用户名和密码 # 验 ...
- arcgis api for js之echarts开源js库实现地图统计图分析
前面写过一篇关于arcgis api for js实现地图统计图的,具体见:http://www.cnblogs.com/giserhome/p/6727593.html 那是基于dojo组件来实现图 ...
- Java解析word,获取文档中图片位置
前言(背景介绍): Apache POI是Apache基金会下一个开源的项目,用来处理office系列的文档,能够创建和解析word.excel.ppt格式的文档. 其中对word文档的处理有两个技术 ...
- 《重新定义公司 - Google 是如何运营的》重点摘录
赋能:创意时代的组织原则 未来企业的成功之道,是聚集一批聪明的创意精英,营造合适的氛围和支持环境,充分发挥他们的创造力,快速感知用户需求,愉快地创造响应的产品和服务.未来组织的最重要功能,那就是赋 ...
- java的运行机制(基础)
1:高级语言的运行机制: 我们编程都是用的高级语言(写汇编和机器语言的大牛们除外),计算机不能直接理解高级语言,只能理解和运行机器语言,所以必须要把高级语言翻译成机器语言,计算机才能运行高级语言所编写 ...