Shell脚本实现---Swarm集群部署实例（Swarm Cluster）

一、机器环境（均是centos7.8）

IP	hostname	角色
192.168.10.200	manager-swarm	manager节点
192.168.10.201	node1-swarm	node节点
192.168.10.202	node2-swarm	node节点

1、设置主机名

在manager节点上

# hostnamectl --static set-hostname manager-swarm

在node1节点上

# hostnamectl --static set-hostname node1-swarm

在node2节点上

# hostnamectl --static set-hostname node2-swarm

2、相互域名解析（三台机都执行）

[root@manager-swarm ~]# cat >> /etc/hosts << EOF

> 192.168.10.200 manager-swarm

> 192.168.10.201 node1-swarm

> 192.168.10.202 node2-swarm

> EOF

3、关闭三台机器上的防火墙、selinux。

如果开启防火墙，则需要在所有节点的防火墙上依次放行2377/tcp(管理端口)、7946/udp(节点间通信端口)、4789/udp(overlay 网络端口)

# systemctl stop firewalld

# systemctl disable firewalld

# setenforce 0

# sed  -i '/^SELINUX=/c SELINUX=disabled' /etc/selinux/config

4、在manager-swarm节点上传公钥

https://www.cnblogs.com/user-sunli/p/13889477.html

二、部署安装

# vim swarm_cluster_install.sh

#!bin/bash

#auther:sunli

#mail:<1916989848@qq.com>

manager=192.168.10.200

node1=192.168.10.201

node2=192.168.10.202

cat >> docker_install.sh << EOF

#/bin/bash

#auther:sunli

#mail:<1916989848@qq.com>

#下载国内docker源，并安装

curl http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -o /etc/yum.repos.d/docker-ce.repo

yum -y install docker-ce

[ `echo $?` -ne 0 ] && echo "Please check your epel.repo" && exit

#配置阿里云镜像加速器

[ ! -d /etc/docker ] && mkdir /etc/docker

cat >> /etc/docker/daemon.json <<- EOF

{

"registry-mirrors": ["https://pf5f57i3.mirror.aliyuncs.com"]

}

EOF

#修改docker监听端口

#Swarm是通过监听2375端口进行通信的，所以在使用Swarm进行集群管理之前，需要设置一下2375端口的监听。所有主机节点docker开启2375,2377（swarm集群）监听，docker版本不同，配置方式不一样

sed -i '/^ExecStart/ s#.*#& -H tcp://0.0.0.0:2375 -H unix:///var/run/docker.sock#g' /usr/lib/systemd/system/docker.service

#启动并设置开机自启

systemctl enable docker

systemctl start docker

#拉取官方swarm镜像

docker pull swarm

EOF

#用ansible给node节点传递脚本并执行

[ ! -x /usr/bin/ansible ] && yum -y install ansible

cat >> /etc/ansible/hosts << EOF

[docker]

$node1

$node2

EOF

ansible docker -m script -a 'creates=/root/docker_install.sh /root/docker_install.sh'

sh /root/docker_install.sh

#创建swarm（要保存初始化后token保存至swarm_token.log

docker swarm init --advertise-addr $manager |tee swarm_token.log

#添加节点到swarm集群中

swarm_token=$(sed -n '/--token/p' swarm_token.log)

ssh $node1 "$swarm_token"

ssh $node2 "$swarm_token"

#在manager-swarm输出节点状态

docker node ls

执行最后输出：

三、日常运维中用到的Swarm相关命令

1) 初始化swarm manager并制定网卡地址

# docker swarm init --advertise-addr 182.48.115.237

2) 删除集群，强制退出需要加–force (针对manager节点). 到各个节点上执行退出集群的命令

# docker node rm swarm-node1

# docker swarm leave --force      //manager节点退出集群,需要加--force

3) 查看swarm worker的连接令牌

# docker swarm join-token worker

4)  加入docker swarm集群,作为worker节点

利用上面3)执行结果中的命令放在其他节点上执行,则该节点加入到swarm集群中作为worker节点

5) 查看swarm manager的连接令牌

# docker swarm join-token manager

6) 加入docker swarm集群,作为manager节点

利用上面5)执行结果中的命令放在其他节点上执行,则该节点加入到swarm集群中作为manager管理节点,状态为reachable.

备注：如果之前的leader状态的manager管理节点挂了后(假如systemctl stop docker, 然后再systemctl start docker),

则新加入的manager节点状态由reachable变为leader, 之前的manager节点状态为unreachable.

7) 使旧令牌无效并生成新令牌

# docker swarm join-token --rotate

8) 查看集群中的节点

# docker node ls

9) 查看集群中节点信息

# docker node inspect swarm-node1 --pretty

10) 调度程序可以将任务分配给节点

# docker node update --availability active swarm-node1

11) 调度程序不向节点分配新任务，但是现有任务仍然保持运行

# docker node update --availability pause swarm-node1

12) 调度程序不会将新任务分配给节点。调度程序关闭任何现有任务并在可用节点上安排它们. 也就是线下节点,不参与任务分配.

# docker node update --availability drain swarm-node1

13) 添加节点标签

# docker node update --label-add label1 --label-add bar=label2 swarm-node1

14) 删除节点标签

# docker node update --label-rm label1 swarm-node1

15) 将worker节点升级为manager节点

# docker node promote swarm-node1

16) 将manager节点降级为worker节点

# docker node demote swarm-manager-node

17) 查看服务列表

# docker service ls

18) 查看服务的具体信息

# docker service ps my-test

19) 创建一个不定义name，不定义replicas的服务. (如下的nginx是docker的nginx镜像名称,不是服务名称)

# docker service create nginx

20) 创建一个指定name的服务

# docker service create --name my-nginx nginx

21) 创建一个指定name、run cmd的服务

# docker service create --name my-nginx nginx ping www.baidu.com

22) 创建一个指定name、version、run cmd的服务

# docker service create --name my-redis redis:3.0.6

# docker service create --name my-nginx nginx:1.8 /bin/bash

23) 创建一个指定name、port、replicas的服务

# docker service create --name my-nginx --replicas 3 -p 80:80 nginx

24) 为指定的服务更新一个端口

# docker service update --publish-add 80:80 my-nginx

25) 为指定的服务删除一个端口

# docker service update --publish-rm 80:80 my-nginx

26) 将redis:3.0.6更新至redis:3.0.7

# docker service update --image redis:3.0.7 redis

27) 配置运行环境，指定工作目录及环境变量

# docker service create --name my-nginx --env MYVAR=myvalue --workdir /data/www --user my_user nginx ping www.baidu.com

28) 创建一个my-nginx的服务

# docker service create --name my-nginx nginx ping www.baidu.com

29) 更新my-nginx服务的运行命令

# docker service update --args "ping www.baidu.com" my-nginx

30) 删除一个服务

# docker service rm my-nginx

31) 在每个群组节点上运行web服务

# docker service create --name tomcat --mode global --publish mode=host,target=8080,published=8080 tomcat:latest

32) 创建一个overlay网络

# docker network create --driver overlay my-network

# docker network create --driver overlay --subnet 10.10.10.0/24 --gateway 10.10.10.1 haha-network

33) 创建服务并将网络添加至该服务

# docker service create --name my-test --replicas 3 --network my-network redis

34) 删除群组网络

# docker service update --network-rm my-network my-test

35) 更新群组网络

# docker service update --network-add haha-network my-test

36) 创建群组并配置cpu和内存

# docker service create --name my_nginx --reserve-cpu 2 --reserve-memory 512m --replicas 3 nginx

37) 更改所分配的cpu和内存

# docker service update --reserve-cpu 1 --reserve-memory 256m my_nginx

38) 创建服务时自定义的几个参数

指定每次更新的容器数量

--update-parallelism

指定容器更新的间隔

--update-delay

定义容器启动后监控失败的持续时间

--update-monitor

定义容器失败的百分比

--update-max-failure-ratio

定义容器启动失败之后所执行的动作

--update-failure-action

比如:创建一个服务并运行3个副本，同步延迟10秒，10%任务失败则暂停

# docker service create --name mysql_5_6_36 --replicas 3 --update-delay 10s --update-parallelism 1 --update-monitor 30s --update-failure-action pause --update-max-failure-ratio 0.1 -e MYSQL_ROOT_PASSWORD=123456 mysql:5.6.36

39) 回滚至之前版本

# docker service update --rollback mysql

自动回滚

如果服务部署失败，则每次回滚2个任务，监控20秒，回滚可接受失败率20%

# docker service create --name redis --replicas 6 --rollback-parallelism 2 --rollback-monitor 20s --rollback-max-failure-ratio .2 redis:latest

40) 创建服务并将目录挂在至container中

# docker service create --name mysql --publish 3306:3306 --mount type=bind,src=/data/mysql,dst=/var/lib/mysql --replicas 3 -e MYSQL_ROOT_PASSWORD=123456 mysql:5.6.36

需要注意使用bind绑定宿主机目录会带来的风险

- 绑定的主机路径必须存在于每个集群节点上，否则会有问题;

- 调度程序可能会在任何时候重新安排运行服务容器，如果目标节点主机变得不健康或无法访问;

- 主机绑定数据不可移植，当你绑定安装时，不能保证你的应用程序开发方式与生产中的运行方式相同;

41) 添加swarm配置

# echo "this is a mysql config" | docker config create mysql -

42) 查看配置

# docker config ls

查看配置详细信息

# docker config inspect mysql

43) 删除配置

# docker config rm mysql

44) 添加配置

# docker service update --config-add mysql mysql

45) 删除配置

# docker service update --config-rm mysql mysql

46) 添加配置

# docker config create kevinpage index.html

47) 启动容器的同时添加配置(target如果报错,就使用dst或destination)

# docker service create --name nginx --publish 80:80 --replicas 3 --config src=kevinpage,target=/usr/share/nginx/html/index.html nginx

遇到问题记录：

1、删除节点报错

Error response from daemon: rpc error: code = FailedPrecondition desc = node krngsansedm5pr6e6dziscs4e is not down and can't be removed

解决方法如下： -f 强制删除

# docker node rm -f node1-swarm

2、添加节点报错

Error response from daemon: This node is already part of a swarm. Use "docker swarm leave" to leave this swarm and join another one.

解决方法如下：根据提示先执行# docker swarm leave，再输入work节点令牌