目录 简介 GPU驱动 Nvidia-docker Nvidia-device-plugin 在Kubernetes上运行GPU应用 附录 简介 伴随着人工智能技术的发展,机器学习的应用场景越来越广泛 深度学习的实现,需要多种技术进行支撑,比如服务器.GPU.集群.集群管理调度软件.深度学习框架.深度学习的具体应用等 随着Kubernetes的兴起,越来越多的训练任务也都直接运行在Kubernetes之上,这些基于GPU的应用也为Kubernetes的应用管理带了一定的挑战 我也一直在致力于推动…

1 前言 欢迎访问南瓜慢说 www.pkslow.com获取更多精彩文章! Docker & Kubernetes相关文章:容器技术 一直使用官方的Kubernetes Dashboard来管理k8s,也算很友好的一款UI工具,但显示的资源不全.查看日志有限.时间久了要重要登陆,所以找了一款外观漂亮,用户体验很好的管理平台Lens. 2 特性与安装 2.1 特性 Lens的优势主要有: 很强的可用性和优秀的用户体验: 多集群管理,可支持几百个集群: 独立应用,无须在集群安装任何东西: 可实时查看…

系列目录 前面我们讲解过使用go-template或者jsonpath格式(kubectl get 资源 --output go-tempalte(或jsonpath))来截取属性的值,并且我们比较了使用它们较使用grep,awk等字符串截取在准确获取属性值方面的优势.然而更多时候我们是查看属性,使用grep仅能定位到关键字所在行(或者前后若干行),并不能准确获取一个对象的完整属性.而使用go-template或者jsonpath来截取只能截取普通对象,如果是数组类型就会展示为map[xxx],…

一.Kubernetes 如何管理存储资源: 理解volume 首先我们学习 Volume,以及 Kubernetes 如何通过 Volume 为集群中的容器提供存储:然后我们会实践几种常用的 Volume 类型并理解它们各自的应用场景(常用的呢就是把本地宿主机的某个目录映射给pod里的容器):最后,我们会讨论 Kubernetes 如何通过 Persistent Volume(简称PV) 和 Persistent Volume Claim(简称PVC) 分离集群管理员与集群用户的职责,并实践…

一.启动应用安全信息的保护: Secret介绍: 应用启动过程中可能需要一些敏感信息,比如访问数据库的用户名密码或者秘钥.将这些信息直接保存在容器镜像中显然不妥,Kubernetes 提供的解决方案是 Secret. Secret 会以密文的方式存储数据,避免了直接在配置文件中保存敏感信息.Secret 会以 Volume 的形式被 mount 到 Pod,容器可通过文件的方式使用 Secret 中的敏感数据:此外,容器也可以环境变量的方式使用这些数据. Secret 可通过命令行或 YAML…

描述:crictl 是 CRI 兼容的容器运行时命令行对接客户端, 你可以使用它来检查和调试 Kubernetes 节点上的容器运行时和应用程序.由于该命令是为k8s通过CRI使用containerd而开发的(主要是调试工具), 其他非k8s的创建的 crictl 是无法看到和调试的, 简单的说用 ctr run 运行的容器无法使用 crictl 看到. Tips: crictl 命令工具 和 它的源代码在 cri-tools 代码库. Tips: crictl 默认使用命名空间 k8s.io.…

安装 在k8s 的master 上 yum install -y cockpit cockpit-ws cockpit-kubernetes cockpit-bridge cockpit-dashboard cockpit-pcp cockpit-storaged 启动 systemctl restart cockpit.socket systemctl enable cockpit.socket 登陆界面 master 机器用户账户密码 https://hostip:9090 参考效果 参考资…

http://www.chenshake.com/openstack-folsom-guide-for-ubuntu-12-04/ http://www.cnblogs.com/sammyliu/p/4627230.html…

常用命令是: ## 获取指定命名空间(rubikt)下所有的部署的服务 kubectl.exe get deployments --namespace rubikt ## 获取制定命名空间(rubikt)下所有的容器 kubectl.exe get pods --namespace rubikt ## 获取指定命名空间(rubikt)下所有的副本集 kubectl.exe get replicaset --namespace rubikt ## 删除指定(dynamic-698c8f6857-7…

作者 | 车漾  阿里巴巴高级技术专家 本文整理自<CNCF x Alibaba 云原生技术公开课>第 20 讲. 关注"阿里巴巴云原生"公众号,回复关键词"入门",即可下载从零入门 K8s 系列文章 PPT. 导读:2016 年,随着 AlphaGo 的走红和 TensorFlow 项目的异军突起,一场名为 AI 的技术革命迅速从学术圈蔓延到了工业界,所谓 AI 革命从此拉开了帷幕.该热潮的背后推手正是云计算的普及和算力的巨大提升. 需求来源 经过近几…

GPU 管理和 Device Plugin 工作机制 本文将主要分享以下几个方面的内容: 需求来源 GPU 的容器化 Kubernetes 的 GPU 管理 工作原理 课后思考与实践 需求来源 2016 年,随着 AlphaGo 的走红和 TensorFlow 项目的异军突起,一场名为 AI 的技术革命迅速从学术圈蔓延到了工业界,所谓 AI 革命从此拉开了帷幕. 经过三年的发展,AI 有了许许多多的落地场景,包括智能客服.人脸识别.机器翻译.以图搜图等功能.其实机器学习或者说是人工智能,并不是什…

背景 作为国内领先的生活服务平台,美团点评很多业务都具有非常显著.规律的”高峰“和”低谷“特征.尤其遇到节假日或促销活动,流量还会在短时间内出现爆发式的增长.这对集群中心的资源弹性和可用性有非常高的要求,同时也会使系统在支撑业务流量时的复杂度和成本支出呈现指数级增长.而我们需要做的,就是利用有限的资源最大化地提升集群的吞吐能力,以保障用户体验. 本文将介绍美团点评Kubernetes集群管理与使用实践,包括美团点评集群管理与调度系统介绍.Kubernetes管理与实践.Kubernetes优化与…

一.  Kubernetes 介绍 Kubernetes是一个全新的基于容器技术的分布式架构领先方案, 它是Google在2014年6月开源的一个容器集群管理系统,使用Go语言开发,Kubernetes也叫K8S.K8S是Google内部一个叫Borg的容器集群管理系统衍生出来的,Borg已经在Google大规模生产运行十年之久.K8S主要用于自动化部署.扩展和管理容器应用,提供了资源调度.部署管理.服务发现.扩容缩容.监控等一整套功能.2015年7月,Kubernetes v1.0正式发布,截…

kubernetes和docker的作用这里就不作介绍了,直接进入主题. 本文的目的是搭建docker集群,并使用kubernetes管理它们. 文中的软件环境除了kubernetes和docker,还用到了etcd和flannel.etcd服务运行在master机器上与minion机器上的flannel配套使用,作用是使每台minion上运行的 docker拥有不同的ip段,最终目的是使不同minion上正在运行的docker containner都有一个与别的任意一个containner(别…

系列目录 前面两节我们由浅入深介绍了不少kubernetes管理比较常用的命令.本节我们通过案例讲解一些需要更为复杂的操作才能完成的命令. 选择一个deployment下的所有pod 前面讲到过,kubernetes的deployment和pod的命令上有关联关系,我们可以通过查看deployment的名称,然后记下来,然后再查找所有的pod通过grep输入deploy的名称为关键字进行过滤. 比如集群中有以下deployment [centos@k8s-master ~]$ kubectl g…

点击下载<不一样的 双11 技术:阿里巴巴经济体云原生实践> 本文节选自<不一样的 双11 技术:阿里巴巴经济体云原生实践>一书,点击上方图片即可下载! 作者 | 汤志敏,阿里云容器服务高级技术专家 在 2019 年 双11 中,容器服务 ACK 支撑了阿里巴巴内部核心系统容器化和阿里云的云产品本身,也将阿里巴巴多年的大规模容器技术以产品化的能力输出给众多围绕 双11 的生态公司.通过支撑来自全球各行各业的容器云,容器服务沉淀了支持单元化全球化架构和柔性架构的云原生应用托管中台能力…

什么是Pod Pod是kubernetes中你可以创建和部署的最小也是最简的单位.Pod代表着集群中运行的进程. Pod中封装着应用的容器(有的情况下是好几个容器),存储.独立的网络IP,管理容器如何运行的策略选项.Pod代表着部署的一个单位:kubernetes中应用的一个实例,可能由一个或者多个容器组合在一起共享资源. Docker是kubernetes中最常用的容器运行时,但是Pod也支持其他容器运行时. 在Kubernetes集群中Pod有如下两种方式: 一个Pod中运行一个容器.“每个…

两大容器管理平台,Kubernetes与OpenShift有什么区别? https://www.sohu.com/a/327413642_100159565 原来openshift 就是 k8s的一个加强实现版本 红帽研发的. 容器化是开发和部署应用的热门趋势,因为它们是加速开发的有效方式.容器的使用量在过去几年呈指数增长. 但是,跨基础架构管理容器可能会变得十分复杂,所以容器管理平台对于任何企业来说都是必不可少的工具.Kubernetes和OpenShift是市场上最受欢迎的两个容器管理平台.…

今天给大家介绍目前市面上常用的kubernetes管理工具,总有一款适合您~~~ 简介 Kubectl K9s Kubernetes-Dashboard Rancher Kuboard Lens Octant Kubenav Infra.App Kubectl 官方自带的kubernetes 命令行客户端工具,最原始也是最好用的工具,不多介绍~~~ K9s 另一款kubernetes 命令行管理工具,对于喜欢使用命令行的人,k9s是很好的一个客户端工具,它可以看做kubectl的增强版. 使用k…

Kubernetes 将自身边界内的事物都抽象为资源.其中的主要部分,是以 Deployment.StatefulSet 为代表的 workload 工作负载控制器,其他各类资源都围绕这些主要的资源工作.这些资源合并起来,可以为 IT 技术工作者展现出一个以 workload 为中心的模型.Kubernetes 中所有的资源,都通过声明式配置文件来编辑描述,一条条的 Yaml 字段定义,给了 IT 技术人员最大的自由度的同时,也对技术人员的能力提出了极高的要求. 通过应用模型简化Kubernet…

在前面的四篇文章中,我以 Docker 项目为例,一步步剖析了 Linux 容器的具体实现方式.通过这 些讲解你应该能够明白:一个“容器”,实际上是一个由 Linux Namespace.Linux Cgroups 和 rootfs 三种技术构建出来的进程的隔离环境. 从这个结构中我们不难看出,一个正在运行的 Linux 容器,其实可以被“一分为二”地看待: 1. 一组联合挂载在 /var/lib/docker/aufs/mnt 上的 rootfs,这一部分我们称为“容器镜 像”(Contain…

如今大数据和机器学习已经有了很大的结合,在机器学习里面,因为计算迭代的时间可能会很长,开发人员一般会选择使用 GPU.FPGA 或 TPU 来加速计算.在 Apache Hadoop 3.1 版本里面已经开始内置原生支持 GPU 和 FPGA 了.作为通用计算引擎的 Spark 肯定也不甘落后,来自 Databricks.NVIDIA.Google 以及阿里巴巴的工程师们正在为 Apache Spark 添加原生的 GPU 调度支持,该方案填补了 Spark 在 GPU 资源的任务调度方面的空白…

k8s是什么 Kubernetes简称为k8s,它是 Google 开源的容器集群管理系统.在 Docker 技术的基础上,为容器化的应用提供部署运行.资源调度.服务发现和动态伸缩等一系列完整功能,提高了大规模容器集群管理的便捷性.k8s是容器到容器云后的产物.但是k8s并不是万能,并不一定适合所有的云场景.官方有一段"What Kubernetes is not"的解释可能更有利我们的理解. Kubernetes 不是一个传统意义上,包罗万象的 PaaS (平台即服务) 系统.我们保…

(一)  背景资料 GPU就是图形处理器,是Graphics Processing Unit的缩写.电脑显示器上显示的图像,在显示在显示器上之前.要经过一些列处理,这个过程有个专有的名词叫"渲染" ,曾经计算机上是没有GPU的,都是通过CPU来进行"渲染"处理的,这些涉及到"渲染"的计算工作很耗时.占用了CPU的大部分时间.之后出现了GPU,是专门为了实现"渲染"这样的计算工作的.用来将CPU解放出来,GPU是专为运行复杂的数…

1. 背景 在部门内容组织了一次K8s的培训,普及了下K8s的概念.框架.操作等,为便于后期查阅,也为了进一步深究K8s,因此开展K8s系列,周期不定- 2. 概念 (1) 含义:来自希腊语,意为"舵手",又称K8s (2) 历史:2014年由Google创建,是十多年大规模容器管理技术Borg的开源版 (3) 功能:为容器化应用提供资源调度,即容器编排 严格意义:容器是将代码以及所有的依赖打包,以便应用能够快速运行,以及在环境间的可靠移植. 通俗意义:容器就像一个集装箱,将应用封装起…

22款让Kubernetes锦上添花的开源工具 http://soft.zhiding.cn/software_zone/2019/0506/3117650.shtml 找时间尝试一下. 至顶网软件频道消息: Kubernetes已经成为大规模部署容器化应用的一个标准方式.但是,如果Kubernetes能帮助我们驯服庞大而复杂的容器部署,那么有什么能帮助我们去驯服Kubernetes呢?Kubernetes也是很复杂.很混乱且难以管理的. 在Kubernetes发展的过程中,一些难题可能会从内部…

根据 Gartner 对全球 CIO 的调查结果显示,人工智能将成为 2019 年组织革命的颠覆性力量.对于人工智能来说,算力即正义,成本即能力,利用 Docker 和 Kubernetes 代表云原生技术为 AI 提供了一种新的工作模式,将 GPU 机器放到统一的资源池进行调度和管理,这避免了GPU 资源利用率低下和人工管理的成本.因此,全球主要的容器集群服务厂商 Kubernetes 都提供了 Nvidia GPU 容器集群调度能力,但是通常都是将一个 GPU 卡分配给一个容器.这虽然可以实…

(一)  背景资料 GPU就是图形处理器,是Graphics Processing Unit的缩写.电脑显示器上显示的图像,在显示在显示器上之前,要经过一些列处理,这个过程有个专有的名词叫"渲染" ,以前计算机上是没有GPU的,都是通过CPU来进行"渲染"处理的,这些涉及到"渲染"的计算工作非常耗时,占用了CPU的大部分时间.之后出现了GPU,是专门为了实现"渲染"这种计算工作的,用来将CPU解放出来,GPU是专为执行复杂的数…

CUDA刷新:GPU计算生态系统 CUDA Refresher: The GPU Computing Ecosystem 这是CUDA Refresher系列的第三篇文章,其目标是刷新CUDA中的关键概念.工具和优化,以供初级或中级开发人员使用. 易于编程和性能的巨大飞跃是CUDA平台被广泛采用的关键原因之一.CUDA平台成功的第二大原因是拥有广泛而丰富的生态系统. 与任何新平台一样,CUDA的成功依赖于CUDA生态系统可用的工具.库.应用程序和合作伙伴.任何新的计算平台都需要开发人员将应用程序…

随着全球各大企业开始广泛采用Kubernetes,我们看到Kubernetes正在向新的阶段发展.一方面,Kubernetes被边缘的工作负载所采用并提供超越数据中心的价值.另一方面,Kubernetes正在驱动机器学习(ML)和高质量.高速的数据分析性能的发展. 我们现在所了解到的将Kubernetes应用于机器学习的案例主要源于Kubernetes 1.10中一个的功能,当时图形处理单元(GPUs)成为一个可调度的资源--现在这一功能处于beta版本.单独来看,这两个都是Kubernetes…