首先介绍下环境部分,文章中共涉及到三台服务器,分别用 Gitlab,Jenkins,Deploy 三个名称代替,部署在内网环境,同时因为政策原因,服务器无法直接连通外网。下载 Jenkins 插件时需要添加代理,如服务器可直接联通外网,忽略即可。

其中服务器详细信息如下:

服务器名称 服务器 IP 作用
Gitlab http://10.124.207.51/ 代码管理
Jenkins http://10.124.205.60/ Jenkins 所在服务器
Deploy http://10.124.205.69/ UTC 部署环境

实现功能:

Jenkins 通过监听 GItlab 分支变化,实时更新代码,并将编译后的代码部署在 UTC 环境。

实现思路:

  1. 在 Jenkins 所在服务器,使用 docker 安装 Jenkins,启动并下载所需插件。

  2. 通过 Jenkins 提供的管理页面,创建管理员用户。并配置所需凭证。

    关于凭证这里详细说下,共需要配置如下凭证:

    • 配置用于访问 Gitlab 的凭证
    • 配置用于拉取 Gitlab 仓库代码的凭证
    • 配置用于访问 UTC 部署环境的凭证
  3. 创建任务,将三者连接起来。

Jenkins 安装

这里 docker 安装就不演示了,相关配置可参考这篇,使用 docker pull 镜像:

  1. docker pull jenkinsci/blueocean

运行 Jenkins :

  1. docker run \
  2. -u root \
  3. -d \
  4. -p 50001:8080 \
  5. -p 50000:50000 \
  6. -v /etc/localtime:/etc/localtime \
  7. -v jenkins-data:/var/jenkins_home \
  8. -v /var/run/docker.sock:/var/run/docker.sock \
  9. --name jenkins \
  10. jenkinsci/blueocean

Jenkins 插件安装

在浏览器输入 http://10.124.205.60:50001 进入 jenkins 管理页面,之后会提示输入密码。

jenkins 的初始登录密码可进入 docker 所在的容器中,可以通过 cat /root/.jenkins/secrets/initialAdminPassword 获取。

代理配置

由于公司 ACL 的限制,无法直接访问外网,这时会在页面上提示,当前 Jenkins 为离线版本,故需要配置代理:

  1. 在服务器输入框中输入代理地址:proxy.esl.cisco.com
  2. 端口:80
  3. 测试 URL:用于测试代理是否配置成功。
  4. 在下载插件后,可以将代理清掉,以免在内网访问时出现问题。

插件安装

在配置代理成功后,会提示安装插件,这里选择推荐的插件选项安装。

登录成功后,由于 Jenkins 自带的插件中,没有 Gitlab 和 Publish Over SSH ,需要我们手动安装下,在 系统管理/插件管理/可选插件目录下 ,搜索关键字即可。其中 GitLab Plugin 用于对 Gitlab 的访问,Publish Over SSH 用于传输文件以及在目标服务器上执行命令。

凭证配置

配置 Gitlab

系统管理/系统配置页面,向下滑动,找到 gitlab 的选项,该配置用于访问 Gitlab.

  1. Connection name: 随便起一个连接名称
  2. Gitlab host URL Gitlab 的地址
  3. Credentials:选择一个认证的方式。因为咱们是第一次,选择添加,类型为 Gitlab API token. gitlab token 粘贴到 API token 中。接着点击添加。最后通过,点击测试判断是否正常。

如果不知道如何获取 gitlab 的 token,可以参考下图,在 Gitlab 管理页面创建:

Git 配置

向下滑动,找到 git plugin 配置,配置上用户名和邮箱即可:

Publish over SSH 配置

该插件的作用主要是通过 SSH 命令,操作目标服务器,实现自动部署。

SSH 连接一般有两种方式,用户名密码或公私匙的方式,下面用公私匙的方式操作:

  1. # 首先进入 Jenkins 所在的 docker 容器
  2. docker exec -it jenkins /bin/bash
  3. # 生成公私匙,需要注意的是新版本的格式 Jenkins 插件不支持,请使用 PEM 这种格式
  4. ssh-keygen -t rsa -b 4096 -m PEM
  5. # 将公匙拷贝至目标服务器
  6. ssh-copy-id -i .ssh/id_rsa.pub root@10.124.205.69

下面开始配置 Jenkins:

  1. Passphrase: 这个是在生成 ssh key 时,输入的密码,不填写就行。
  2. Path to key: 这个是 ssh 私匙文件所在的绝对位置,当填写下面的 Key 不填写即可。
  3. Key:生成的私匙密码
  1. SSH Server 配置:
  2. Name:随便起名就可以
  3. Usernamessh 登录的用户名
  4. Remote Directory:这个一定要填写根路径,之后的操作都会基于该路径。
  5. 可点击 `Test Configuration` 是否配置成功,点击应用,保存即可。

Jenins Job 配置

在首页上,点击新建任务。输入任务名称,类型选择第一个,构建一个自由风格的软件项目,点击确定,任务就创建完成了。

然后将鼠标放在名称这列,可以看到一个小三角,点击展开后,对任务进行配置:

源码配置

选择源码管理,选择 Git,用于获取源代码。这里简单提一下,之前配置的 Gitlab 用于对 Gitlab 的访问,而这里配置的 GIt 用于对某个仓库进行访问。

这里需要将之前生成 ssh 公匙放到 Gitlab 的 SSH Keys 中,将 ssh 私匙放在当前的 key 中。用于拉取代码。

将公匙放入 Gitlab 中:

接着点击应用和保存。

构建触发器的配置

触发器的作用就是在什么情况下,会开始执行该任务。这里配置的是轮询 SCM 系统,也就是 Gitlab 分支的内容出现变化时,触发任务,轮询的时间为 1s.

构建配置

构建的作用在获取 SCM 上的代码后,执行的操作:

  1. 执行 shell: 注意这里编写的 shell 的运行环境是在 jenkins 所在容器内部的。

选择添加 Sendfiles or execute commands over SSH

  1. Name: 这里选择,之前建好用于访问目标服务器的凭证
  2. Source files: **/*.* 表示递归传输文件夹下的包含 . 的所有文件
  3. Remote directory: 表示传送的目标目录
  4. Exec command: 表示所有文件传输成功后,在目标服务器执行的 shell 命令。

下面是服务器中执行的脚本,用于编译代码以及重启服务。

  1. # 注意添加可执行权限
  2. chmod +x deploy_shell.sh
  3. cat deploy_shell.sh
  4. #!/bin/bash
  5. # constant
  6. containerName="ctg_backend"
  7. WORKING_DIR="/home/yuwzhang/docker-compose/project/temp_build"
  8. TODAY=`date +%Y-%m-%d.%H:%M:%S`
  9. echo "Enter deploy script..."
  10. echo "\nStep1: Copy data to docker web container.."
  11. # delete old dir
  12. if [ -d "$WORKING_DIR" ]; then rm -Rf $WORKING_DIR; fi
  13. # cp new dir
  14. cp -r /home/yuwzhang/jenkins/project /home/yuwzhang/docker-compose/project/temp_build
  15. echo "\nStep2: Enter web container and build py files to bytecode.."
  16. docker exec $containerName bash -c "cd /src/temp_build && python -m compileall -b . && find . -name '*.py' |xargs rm -rf && find . -name 'pycache' |xargs rm -rf"
  17. cp /home/yuwzhang/docker-compose/project/gunicorn_config.py /home/yuwzhang/docker-compose/project/temp_build/gunicorn_config.py
  18. cp -r /home/yuwzhang/docker-compose/project/frontend /home/yuwzhang/docker-compose/project/temp_build/frontend
  19. echo "\nStep3: Stop web services.."
  20. cd /home/yuwzhang/docker-compose
  21. docker-compose stop web
  22. echo "\nStep4: replace new project dir to old project dir.."
  23. mv project/temp_build new_build
  24. mv project project_`date +%Y-%m-%d.%H:%M:%S`
  25. mv new_build project
  26. echo "\nStep5: Start web services.."
  27. docker-compose start web
  28. echo "\nStep6: check web services status.."
  29. sleep 20s
  30. exist=`docker inspect --format '{{.State.Status}}' ${containerName}`
  31. echo "web status is $exist"

现在,一个基础版的 CI/CD 流程就搭建完了,可以通过 Blue Ocean 来观察任务的执行情况:

设置时间

在运行 Jenkins 容器时,已经挂载了宿主机的时间到容器内,可是发现 Jenkins 显示的时间还是不正确,在容器内查看时间是正常的,也许和 Jenkins 的配置有关,在系统管理/脚本命令行中执行如下命令,时间就恢复正常了。

  1. System.setProperty('org.apache.commons.jelly.tags.fmt.timeZone', 'Asia/Shanghai')

参考

Jenkins Book

Docker 集成 Jenkins Gitlab 实现 CI/CD的更多相关文章

  1. 持续集成指南:GitLab 的 CI/CD 工具配置与使用

    前言 写代码这项工作,本质就是将工作自动化,减少手工操作提供效率,因为人的本质都是懒狗,程序员也不能例外,为了各种意义的效率提升(懒),我们需要持续集成工具,将代码测试.编译.发布这些重复性很高的工作 ...

  2. Azure DevOps+Docker+Asp.NET Core 实现CI/CD(二.创建CI持续集成管道)

    前言 本文主要是讲解如何使用Azure DevOps+Docker 来实现持续集成Asp.NET Core项目(当然 也可以是任意项目). 上一篇: Azure DevOps+Docker+Asp.N ...

  3. 使用Gitlab的CI/CD功能自动化推送docker镜像到Nexus仓库出现的问题

    在服务器中可以直接使用命令行登录,推送docker镜像等 但是在使用Gitlab的CI/CD功能中,gitlab-ci.yml文件执行过程中出现如下错误: 原因分析: 服务器上之前使用命令行登陆过Ne ...

  4. 庐山真面目之十一微服务架构手把手教你搭建基于Jenkins的企业级CI/CD环境

    庐山真面目之十一微服务架构手把手教你搭建基于Jenkins的企业级CI/CD环境 一.介绍 说起微服务架构来,有一个环节是少不了的,那就是CI/CD持续集成的环境.当然,搭建CI/CD环境的工具很多, ...

  5. [转] gitlab 的 CI/CD 配置管理

    [From] http://blog.51cto.com/flyfish225/2156602 gitlab 的 CI/CD 配置管理 (二) 标签(空格分隔):运维系列 一:gitlab CI/CD ...

  6. Azure Data Factory(三)集成 Azure Devops 实现CI/CD

    一,引言 由于上一节文章内容过长,无法分享Azure Data Factory 的持续集成,持续发布.今天将着重介绍一下在使用 Azure DevOps Pipeline 发布,自动进行持续集成,并且 ...

  7. Kubernetes+Jenkins+Nexus+Gitlab进行CI/CD集成

    前面已经完成了 二进制部署Kubernetes集群,下面进行CI/CD集成. 一.流程说明 应用构建和发布流程说明: 1.用户向Gitlab提交代码,代码中必须包含Dockerfile: 2.将代码提 ...

  8. 基于docker搭建Jenkins+Gitlab+Harbor+Rancher架构实现CI/CD操作

    一.各个组件的功能描述: Docker 是一个开源的应用容器引擎. Jenkis 是一个开源自动化服务器. (1).负责监控gitlab代码.gitlab中配置文件的变动: (2).负责执行镜像文件的 ...

  9. docker | jenkins 实现自动化CI/CD,后端躺着把运维的钱挣了!(下)

    前言 在上一篇文章中,我们使用docker编写Dockerfile文件,将我们自己的项目构建成镜像,然后发布到Docker Hub中,并且用自己的云服务器拉取Docker Hub上我们自己上传的项目镜 ...

随机推荐

  1. 点击 QTableView,触发事件

    Here is an example of how you can get a table cell's text when clicking on it. Suppose a QTableView ...

  2. ES6特性之:参数默认值

    作为一个开发者,跟进行业步伐是非常需要的,不能躺在现有的知识和经验温床上做美梦.JavaScript的ES2015标准(即我们说的ES6)在2016年已经被广泛应用了,还没开始使用的朋友,赶紧来磨一下 ...

  3. mac OS nvm 常用命令

    nvm install stable ## 安装最新稳定版 node,当前是node v10.15.0 (npm v6.4.1) nvm install <version> ## 安装指定 ...

  4. 阿里巴巴年薪800k大数据全栈工程师成长记

    大数据全栈工程师一词,最早出现于Facebook工程师Calos Bueno的一篇文章 - Full Stack (需fanqiang).他把全栈工程师定义为对性能影响有着深入理解的技术通才.自那以后 ...

  5. FileZilla更新服务器文件后浏览器没有刷新的一种常见情况

    一.问题描述 在使用FileZilla更新服务器文件时,常出现的一种情况是: 刷新浏览器,发现该网页并未更新.但是检查网页源代码可以发现文件已经更新了,这就奇怪了,是服务器出了问题吗?还是FileZi ...

  6. Codeforces 1291 Round #616 (Div. 2) B

    B. Array Sharpening time limit per test1 second memory limit per test256 megabytes inputstandard inp ...

  7. 数学--数论--HDU 5223 - GCD

    Describtion In mathematics, the greatest common divisor (gcd) of two or more integers, when at least ...

  8. 51NOD 1006 最长公共子序列 Lcs 动态规划 DP 模板题 板子

    给出两个字符串A B,求A与B的最长公共子序列(子序列不要求是连续的). 比如两个串为: abcicba abdkscab ab是两个串的子序列,abc也是,abca也是,其中abca是这两个字符串最 ...

  9. P4430 小猴打架、P4981 父子

    prufer编码 当然你也可以理解为 Cayley 公式,其实这个公式就是prufer编码经过一步就能推出的 P4430 小猴打架 P4981 父子 这俩题差不多 先说父子,很显然题目就是让你求\(n ...

  10. 将A页面提交的数据id传递到B页面

    A页面 在A页面跳转到B页面的时候,在url后面可以拼接参数 例如: window.location.href = './B.html?' + id; 跳转到B页面之后,可以通过url地址获取到从A页 ...