在docker容器中创建用户组和用户,并且多用户共用一个anaconda环境
背景:
实验室可以使用一个浪潮的AI计算平台,该平台运行的都是docker容器,并且不能联网,因此谁要是想要安装什么软件的话就需要自己单独打包镜像到平台上,大致步骤为:
1. 在平台的镜像管理中找到自己想要用的基础镜像,将其从云主机的docker镜像库中导出到云主机硬盘中
2. 将云硬盘中的镜像通过sftp下载到本地电脑上(Ubuntu18.04, 已安装docker)
3. 将下载到本地硬盘上的镜像导入到本地主机的docker库中
4. 将导入到本地主机docker库中的镜像启动为容器,并安装你所需要的软件
5. 将安装好软件的容器保存为新的镜像
6. 将保存好的新的镜像从本地docker库中导出到本地硬盘
7. 把新的镜像从本地硬盘通过sftp上传到云主机硬盘
8. 将保存在云主机硬盘上的新的镜像导入到云主机docker库中
9. 将云主机中docker库中新导入的镜像启动为容器
经过上述步骤,成功完成浪潮AI计算平台的docker容器内运行软件的更新。
不过上述方法教给实验室的师弟后,可谓是叫苦连天,太过于复杂的麻烦的更新步骤,难以推广开。
于是乎,我想到了一个新的解决方法, 如果我们不把docker镜像打包,而是直接把所用的软件打包,直接上传可不可以呢。因为实验室里的大家都是使用python及其第三方框架,没有太多的系统依赖,docker镜像之所以好用就是因为它可以很好的打包系统依赖,但是我们不需要系统依赖的软件是不是docker镜像的这种打包方式也显得笨重了呢。这就和你在A同学的windows10电脑上安装了个QQ,你想在B同学电脑上也安装个QQ,虚拟机的解决方法是直接把A同学电脑的系统打包成镜像然后安装到B同学电脑上,docker的解决方法是直接把QQ软件相关的依赖和QQ软件自身打包做成镜像然后再安装到B同学电脑上,但是如果QQ这个软件本身就不依赖系统组件或环境呢,换句话说如果QQ所依赖的系统环境是最基本的,只要是windows10系统都会满足这种依赖的情况下我们如何做呢?我们只需要把安装好的QQ程序(从exe中解压出的程序库等)直接copy到B同学电脑上,然后直接在B同学电脑上运行不就解决了嘛,这样花费较小的代价也是可以解决问题的。其实更简单的,或是大家实际的做法就是把A同学电脑上QQ安装程序(那个EXE文件)直接拷贝到B同学电脑上,然后安装运行。
由于AI计算平台同样是这个情况,我们所需要的python第三方包不能联网通过pip或aconda安装,但是这些python库根本就不依赖系统环境,那么我们直接把所要用的第三方包,包括不同版本的python打包,然后上传到容器中就可以了,完全不用上面那种花9个步骤来回导入导出docker镜像的方法。
------------------------------------------------------------
给出具体的操作:
(所有计算平台上的docker容器都挂载一个云主机目录,我的账号下面给的挂载目录为 /testsoft01 )
(以下操作都是在root权限下的)
0. 首先在/testsoft01 目录下安装 anaconda
1. 在挂载的目录下创建home目录
mkdir /testsoft01/home
2. 将docker容器挂载的目录更改权限
文件所属者可以rwx, 同组的rw, other也是rw权限。
chmod -R 755 /testsoft01/
3. 创建用户组名
addgroup wisdom
4. 创建用户 devil , 并指定用户组 wisdom, 指定主目录 /home/devil , 给出shell执行路径 /bin/bash
useradd -d /home/devil -s /bin/bash -m devil -g wisdom
5. 由于/home路径为容器的路径,如果销毁容器则就是该目录,因此将/home下的目录转移到挂载目录下
mv /home/devil/ /testsoft01/home/
6. 将devil用户的home目录移到挂载目录中后,为其创建软链接,目标目录设回原用户目录
ln -s /testsoft01/home/devil/ /home/devil
7. 为新创建的用户devil设置密码
passwd devil
(#删除创建的用户(如果创建错了用这个删) userdel -r devil )
8. 为新建的用户devil 配置aconda环境
# >>> conda initialize >>>
# !! Contents within this block are managed by 'conda init' !!
__conda_setup="$('/testsoft01/anaconda3/bin/conda' 'shell.bash' 'hook' 2> /dev/null)"
if [ $? -eq 0 ]; then
eval "$__conda_setup"
else
if [ -f "/testsoft01/anaconda3/etc/profile.d/conda.sh" ]; then
. "/testsoft01/anaconda3/etc/profile.d/conda.sh"
else
export PATH="/testsoft01/anaconda3/bin:$PATH"
fi
fi
unset __conda_setup
# <<< conda initialize <<< . /etc/aistationbc
cd /home/devil
结束配置, 配置成功。以上操作后,新创建的用户可以通过在 /testsoft01/anaconda3/envs 下面加入自己打包的环境,就可以正常运行了。(当然这个需要root权限,因为anaconda3文件加设置root可写,这样也防备用户胡乱更改或添加python环境)
-----------------------------------------------------------------
打包
可以看到 anaconda环境下面有个tf-14.0的环境, 我们先要把它打包,命令:
tar -cvf /tmp/x.tar ./tf-14.0/
或者:
tar -cvf /tmp/x2.tar anaconda3/envs/tf-14.0/
其中,
tar -cvf /tmp/x.tar ./tf-14.0/
命令打包后解压出来的直接就是 ./tf-14.0
tar -cvf /tmp/x2.tar anaconda3/envs/tf-14.0/
命令打包后解压出来的直接就是 anaconda3/envs/tf-14.0/
解压
tar -xvf x.tar
x.tar 解压出来直接是 tf-14.0
而:
tar -xvf x2.tar
x2.tar 解压出来是 anaconda3/envs/tf-14.0 :
----------------------------------------------
chmod -R 755 /testsoft01/ addgroup wisdom useradd -d /home/devil -s /bin/bash -m devil -g wisdom
mv /home/devil/ /testsoft01/home/
ln -s /testsoft01/home/devil/ /home/devil
passwd devil
#删除创建的用户(如果创建错了用这个删) userdel -r devil # >>> conda initialize >>>
# !! Contents within this block are managed by 'conda init' !!
__conda_setup="$('/testsoft01/anaconda3/bin/conda' 'shell.bash' 'hook' 2> /dev/null)"
if [ $? -eq 0 ]; then
eval "$__conda_setup"
else
if [ -f "/testsoft01/anaconda3/etc/profile.d/conda.sh" ]; then
. "/testsoft01/anaconda3/etc/profile.d/conda.sh"
else
export PATH="/testsoft01/anaconda3/bin:$PATH"
fi
fi
unset __conda_setup
# <<< conda initialize <<< . /etc/aistationbc
cd /home/devil
在docker容器中创建用户组和用户,并且多用户共用一个anaconda环境的更多相关文章
- Docker----与Asp.net core 的完美结合,在docker容器中创建Asp.Net Core 项目
在腾讯云上买了一个小容量的服务器,搭建一个docker环境后,可以尝试做一些单系统做起来很麻烦的东西.譬如说,你在windows OS或UbuntuOS中,突然想玩CentOS了,你可以选择将电脑再装 ...
- Docker容器中用户权限管理
在Linux系统中有一部分知识非常重要,就是关于权限的管理控制:Linux系统的权限管理是由uid和gid负责,Linux系统会检查创建进程的uid和gid,以确定它是否有足够的权限修改文件,而非是通 ...
- 隔离 docker 容器中的用户
笔者在前文<理解 docker 容器中的 uid 和 gid>介绍了 docker 容器中的用户与宿主机上用户的关系,得出的结论是:docker 默认没有隔离宿主机用户和容器中的用户.如果 ...
- 在 docker 容器中捕获信号
我们可能都使用过 docker stop 命令来停止正在运行的容器,有时可能会使用 docker kill 命令强行关闭容器或者把某个信号传递给容器中的进程.这些操作的本质都是通过从主机向容器发送信号 ...
- 理解 docker 容器中的 uid 和 gid
默认情况下,容器中的进程以 root 用户权限运行,并且这个 root 用户和宿主机中的 root 是同一个用户.听起来是不是很可怕,因为这就意味着一旦容器中的进程有了适当的机会,它就可以控制宿主机上 ...
- docker容器中Postgresql 数据库备份
查看运行的容器: docker ps 进入目标容器: docker exec -u root -it 容器名 /bin/bash docker 中,以root用户,创建备份目录,直接执行如下命令, p ...
- docker容器中oracle数据库导出dmp文件
Oracle数据库安装在docker容器中 1首先查看容器 docker ps 2进入oracle容器 docker exec -it 7f0f3f2d4f88 /bin/bash 3导出整个库:这个 ...
- 在docker容器中编译hadoop 3.1.0
在docker容器中编译hadoop 3.1.0 优点:docker安装好之后可以一键部署编译环境,不用担心各种库不兼容等问题,编译失败率低. Hadoop 3.1.0 的源代码目录下有一个 `sta ...
- docker_facenet_image在Docker容器中运行Facenet环境搭建
对开发和运维人员来说,可能最梦寐以求的就是一次性地创建或配置,可以在任意环境.任意时间让应用正常运行.而Docker恰恰是可以实现这一终极目标的瑞士军刀. 具体来说,Docker在开发和运维过程中,具 ...
- [docker] 管理docker容器中的数据
之前我们介绍了Docker的基本概念(前面的没翻译...),了解了如何使用Docker镜像进行工作,并且学习了网 络和容器之间的链接.这一节我们将讨论如何管理容器中及容器之间的数据. 我们将查看下面两 ...
随机推荐
- Flashcat与出行科技企业一起实践多云可观测
当前架构 某出行科技企业从单个公有云往多云转型,依托于国内领先的公有云提供商,采用多云架构,在可用性.弹性.成本.供应商依赖方面,拥有了显著的优势. 相应的,多云架构也给技术团队带来了一定的复杂度和技 ...
- Java实现延迟执行代码
Java实现延迟执行代码对于Java程序在它们的操作中添加延迟或暂停是比较常见的.这对于任务暂停直到另外任务完成执行场景比较有用.本文我们提供两类方法实现延迟执行. 1. 基于线程(Thread)方法 ...
- 博客更换新域名为52ecy.cn
Tips:当你看到这个提示的时候,说明当前的文章是由原emlog博客系统搬迁至此的,文章发布时间已过于久远,编排和内容不一定完整,还请谅解` 博客更换新域名为52ecy.cn 日期:2017-10-2 ...
- .NET 日志系统-3 结构化日志和集中日志服务
.NET 日志系统-3 结构化日志和集中日志服务 系列文章 认识.NET 日志系统 https://www.cnblogs.com/ZYPLJ/p/17663487.html .NET 认识日志系统- ...
- QT学习:03 信号与槽
--- title: framework-cpp-qt-03-信号与槽 EntryName: framework-cpp-qt-03-signal-slot date: 2020-04-09 13:5 ...
- ELK之Elastic-Search 整理(一):基础理论 与 DSL语法 及 Java操作ES
基础理论和DSL语法 准备工作 什么是ElasticSearch?它和Lucene以及solr的关系是什么? 这些是自己的知识获取能力,自行百度百科 下载ElasticSearch的window版 l ...
- AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望
AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望 1. AI Agent(LLM Agent)介绍 1.1. 术语 Agent:"代理&qu ...
- 解决方案 | 如何解决subprocess.Popen(cmd)代码中含有空格路径的问题?
一.背景 因为在python中需要用到subprocess.Popen(cmd),其中cmd由一堆连接的字符串构成:譬如,xxx.exe inputdir outputdir -arg1 -arg2 ...
- 背景色透明度兼容IE8的写法
本文为Echoyya.所创,转载请带上原文链接,感谢 https://www.cnblogs.com/echoyya/p/14236242.html 通常的做法 目前大多数浏览器都支持 CSS3,只需 ...
- oeasy教您玩转vim - 16 跳到某行
跳到某行 回忆上节课内容 上下行 向 下 是 j 向 上 是 k 上下行首 向 下 到行首非空字符 + 向 上 到行首非空字符 - 这些 motion 都可以加上 [count] 来翻倍 首尾行 首行 ...