通过静态分析和持续集成 保证代码的质量 (Helix QAC)1
前言
现代软件开发团队面临着很多挑战,这些挑战包括:产品交付期限越来越紧,团队的分布越来越广,软件的复杂度越来越高,而且对软件的质量要求越来越高。
本文分为两个章节。第一章讨论持续集成的原理,持续集成如何简化软件开发生命周期,以及静态分析如何配合持续集成。第二章研究特定的工具套件,以及在实际使 用中如何获得该套件。主要研究Jenkins持续集成和Perforce的静态分析工具(Helix QAC),并说明他们是怎样结合在一起使用,以及他们所生成的信息。
第一章
第一部分:持续集成和持续交付
持续集成(CI)和持续交付(CD)这两个术语常常一起使用。持续交付的最终目标是保证版本控制系统存储库中的代码始终是经过检测和验证的。代码要通过所有必要的测试(编码规范合规检查,单元测试,系统测试,代码覆盖率测试,验收测试,部署测试等)及所有的验证环节。这样,产品的发布时间就不是由该项目的开发方或工程方决定了,而是由产品经理决定。
在嵌入式领域,软件只是制成品的一个组件,所以保持软件始终处于可发布的状态好像并不是十分紧要,但是通过本文可以看出,这样做的确会带来很大帮助。另外,现在的消费品中常常带有需要用户购买之后自行更新的软件(笔者最近为了解决电视机的声音问题,对自己购买的LCD电视进行了更新),在这种情况下,保持软件始终处于可发布的状态就显得更加紧要了。对于很多产品而言,软件是设备的附加价值的体现,而且为产品增加新功能也是一种销售策略:可以经常性地为用户增加一些新功能,而不是非要在传统的发布周期中才发布新功能。
开发过程中的集成阶段往往比较困难,持续集成技术可使这一过程实现自动化,从而帮助实现持续交付。
问题
传统的开发模式(比如:瀑布式开发、V模式开发、较小程度的敏捷开发)由不同阶段组成。最先进行持续集成工作的应该是编码阶段,在该阶段,开发人员根据分派给自己的任务来编写代码。随着开发的不断进行,开发人员很可能要对存储库进行修改,但是他们只是更新自己开发的代码,不会同时更新其它开发人员的修改。所以,在所有的代码都开发完成之后,会有一个特别的集成阶段,将所有开发人员对代码所作的修改进行整合,以形成一个可测试的软件构建。
我们可以估算出该阶段的开始时间(根据对每项任务的判断进行估算),但是很难预测出截止日期,也就是说很难知道完成集成工作需要花费多长时间。开发人员编写的代码可能会相互冲突:每个开发人员编写的代码在独立运行时,也许能够运行得非常好,但是当该代码和其他开发人员的代码结合在一起时,可能就会发现它不能与其它开发人员对代码所作的修改相兼容。这种冲突必须要解决 —— 通常情况下,这都需要手动解决(也有工具可以帮忙),然后还必须重构代码。但是,代码重构过程中也可能会引进更多的矛盾,这样集成工作就会陷入不断重复的状态。
集成是一项非常重要的工作,在极端情况下,解决冲突所耗的精力要远远超乎一开始编写代码时所花费的精力。
这些可能出现的冲突和由此产生的工作量是开发人员不愿意更新存储库中的局部代码的原因之一:更新可能会破坏现在可以正常运行的代码构建。有些问题可能是其他开发人员的代码引起的,所以开发人员就不想花时间去解决这些由其他人的代码引进的问题。
有好多种解决代码冲突的方法。其中一种方法就是改善开发步骤:每次只允许一个开发人员对存储库进行修改。对存储库中的代码进行更新之后,要立刻解决所有的新问题,这样开发人员要做的就不仅仅只是提交代码那么简单了。这种方法可以避免冲突,但是代价很高。开发人员在提交代码的时候,必须保证只有他一个人可以访问这个存储库:在该开发人员解决好所有冲突之前,不能够有任何其它代码提交进来。(否则,所有的提交工作都要重新开始。)这种排外的访问限制有很大的瓶颈,而且很难实行:有些公司甚至利用实体对象来提示是否允许提交:如果桌子上没有该实物就不可以提交。如果团队比较大,不是只有几个开发人员,那么该方法就很难实施,如果团队分布在不同地区,那么这种方法就更不可行了。
完成集成之后就会生成供测试阶段使用的可执行程序——可能会有很多测试阶段——比如,编码规范合规检查,单元测试,集成测试,系统测试,覆盖率测试,验收测试,部署测试等。在各个测试阶段,如果测试失败,表示代码需要重新编写、重新集成,并且重新测试。这样会有一个潜在的问题,就是开发人员在编写代码时所花费的时间与重写代码时所花费的时间不同:这两者之间的时间差越大,开发人员重新熟悉这些代码的难度越大,因而修改阶段的工作量也会大大增加。
问题的根源在于对开发阶段的划分。软件的编写不是一个单向过程:不是集成工作一开始,编码工作就结束了。虽然将开发任务划分给可以平行地开展工作的开发人员相对而言比较简单,但是集成往往是系列性的,所以要将集成工作同时分配给多个开发人员就比较困难了。
解决方案
正如持续集成所推崇的那样,这个解决方案的部分内容就是用一系列小阶段(如图1)取代传统的编码测试、单元测试、集成测试、系统测试和验收环节。每个小阶段都包含编码测试、单元测试、集成测试、系统测试和验收环节——开发人员每次对存储库进行修改时都要执行这些步骤。每次更改之后都要对代码进行集成、测试和验证,代码每通过一项测试,其质量就越接近于可发布版本。
图1:将大阶段转化成小步骤
将集成工作扩展到整个开发阶段意味着繁重的集成工作被分割成了一个个更小、更易操作的任务。当问题能够尽早被发现并独立解决时,就不会得到恶化,因而就不可能形成严重的集成问题——所谓的“集成地狱”。这就是持续集成。可以将这个过程视为从瀑布式向V模型开发模式发展,从敏捷开发向持续集成发展。
这种方法只有在大多数测试过程和任务都可进行实现自动化操作的情况下才可行。因为如果每次存储库中有增量提交时,都要手动完成那些任务,很明显是不可行。
提交之前要进行测试
持续集成模式存在的一个问题就是,它无法防止不能运行的、坏的或不兼容的代码进入存储库中:这种模式只能做到在这类代码提交之后,立刻发现它们。开发人员在处理及修复这类代码造成的问题时,必须严格遵守规则。
在提交之前对代码进行测试的做法是为了保证只有正常的、可运行的、经过测试的代码才被提交到核心存储库中(存储待发布代码的库),因此,这一做法也是实现持续交付的关键所在。这一概念就是说,只有能够发布的代码才能进入存储库中——所以,在提交代码之前,必须对代码进行全面测试。虽然有很多方法可以帮助实现这一目标,但是最常见的做法就是保证未经测试的代码绝不会进入核心存储库。另一个方法就是同时使用临时存储库和核心存储库:在这里只是简单介绍一下这种方法,本文一直会提到这种方法。
当开发人员向存储库中提交代码时,代码不会自动提交到正式存储库,而是会到临时库中。这种做法对于开发人员来说很容易理解:他们提交代码时,和向正式存储库中提交代码一样。持续集成服务器会从临时库中检测到新提交的代码,然后构建并测试这些代码。如果这些代码能够通过所有的测试,那么本次提交就会被转移到正式存储库中,同时也会附上提交者的名字和日志文件。这个做法对于开发人员来说也很好理解:因为就和他们将代码直接提交到了正式存储库中一样(只是时间上有点滞后)。
如果代码未能通过所有的测试,那么本次提交就会保留在临时库中。开发人员会收到通知:他们可以采取必要的补救措施来修复存在的问题,而此时正式存储库中的代码则保持不变。
这一过程要求所有的测试都能够自动执行,而且定义明确。随着项目的成熟,测试也可能会有所改变:比如,贝塔测试可能主要着眼于基本功能,而对于待发布的代码会有更严格的测试标准,在维护阶段则会更加注重测试新功能。
持续集成系统
实现持续集成的关键在于测试阶段的自动化水平。自动化分析一旦开始,持续集成系统就能够运行相应的测试,并可以根据测试结果采取适当的措施。所以持续集成系统可以被看作一个精密的调度程序,可启动编译和测试程序。
持续集成系统的核心需求就是能够自动实现以下功能:
- 发现已提交的代码(既可通过监控存储库来发现提交的代码,也可通过接受一些外部刺激物来发现——通常在存储库中)
- 将存储库中的代码检出到配备所有必要构建和测试工具的机器上
- 构建代码
- 对产生的可执行文件进行全面测试
- 报告构建和测试的结果
- 选择性地启动其它测试组合,可能的话最好根据之前所作的测试的结果来选择进行什么样的附加测试。
这一工作可以利用一些脚本撰写工具和命令行工具来完成,实际上,很多公司一开始都是采用的这种方法。然而,管理特定程序中的特定脚本,本身也是一项工作,因此这也会分散开发人员编写代码的精力。
向持续集成演变
很多组织机构都是在夜间建模,先检出存储库中白天完成的代码库,然后进行构建和测试:这可以被视为持续集成的原始模式。第二天早上会检查夜间构建所产生的结果。
这种方法也有局限性:
- 首先,测试完代码之后不会立刻查看结果。开发人员可能早上才会去检查前一天进行夜间构建时出问题的那些代码。所以,开发人员在第二天才会发现代码存在的问题。而这时,他们可能已经开始进行另外一项工作了。
- 其次,也许这一点更为严重,就是构建和测试基本上都是由定制的脚本来控制的。这些脚本需要定期维护,而且他们本身也会存在问题。增加新测试会比较耗时间,而且这些脚本很难用于不同的项目中。
与大公司联系比较密切的一个问题是:基本只有开发人员,可能还有一些团队领导能看到这些夜间构建产生的结果。对于更高层次的管理人员而言,他们可能会希望知道哪些代码通过了测试,哪些代码没有通过测试 —— 但是,可能很难获取更高水平的摘要信息:因为这些信息主要集中在开发人员这边。紧接着,管理员可能还会想知道和上周相比,现在的代码是否通过了更多的测试,即:趋势分析信息。只有保存了之前的构建所获得的结果,才可能会有这些数据——这就意味着应该将一段时间内的结果都保存起来。
使用现成的持续集成系统是解决这些问题最简单的方法。图2 展示了一个典型的持续集成方案是如何工作的。
图2 持续集成概观
这个典型的系统流程是这样工作的:
- 开发人员将代码存放到版本控制系统(临时)库中
- 版本控制系统(VCS)通知持续集成服务器有新交的代码,或者持续集成服务器定期检查存储库,查看是否有新提交的代码。
- 持续集成服务器开始在构建服务器上进行构建
- 将存储库中最新提交的代码检出到构建服务器的本机工作区中
- 建立代码并根据预先设定好的的测试标准对代码进行测试。
- 重要的结果以及其它需要保存的重要文件会一起回传到持续集成服务器。
- 持续集成服务器会给出构建的最终结果——通过/未通过/不稳定。“不稳定”意味着所有的功能性测试都通过了,但是代码覆盖率可能还没有达到目标要求。
- 如果构建达到了成功的标准,那么就需要将临时存储库中的代码转移到正式存储库中。如果构建失败,就不能将代码检出到正式存储库中(正式存储库中只存放有用的、经过测试和验证的代码)。
- 持续集成服务器会通知所有在服务器中注册过并表示对构建感兴趣的人:他们可以登录持续集成服务器查看构建的状态以及更多其它的附加信息。
各个击破
的确可以将把测试代码时所需的所有步骤集成为一个大的整体任务,然后在有代码提交到存储库中的时候,只要执行这一任务就可以了。但是,通常情况下,将这些任务拆分成一个个小任务或事件,然后再按顺序执行这些事件会更好。我们可以对事件的执行顺序进行配置, 后面的事件如何执行,取决于前面的事件执行之后所取得的结果。这样,就可以将一系列执行不同测试的事件链接在一起,通过将很多简单的步骤结合在一起,来形成一系列复杂的任务。
分裂测试的基本原理在于:测试失败时,能够及时发现。如果单元测试早就失败了,就没有必要将软件下载到硬件上,并执行代码覆盖率测试。所以,在持续集成过程中,使用各个击破的测试方法是非常有效的。软件只有通过当前阶段的测试,才能进入到下一测试阶段。这样可以确保开发人员能够尽快得到反馈,从而尽快提出修复方案。
管理大量细小的事件要比管理一个庞大的整体事件容易一些,比如,添加一个新测试或改变测试的顺序。图3展示了如何运行一系列事件。如果代码通过,就可以进入下一阶段。如果代码通过所有阶段的测试,那么这个代码就能成为一个候选发布版本。
图3 典型的事件运行序列
第二部分 通过持续集成进行静态分析代码检测
静态分析是一个广义的概念,它包含了很多种对源代码进行分析的方法,进行静态分析时,不需要真正构建和运行代码(虽然好工具也可以显示出该项目在运行过程中的情况)。静态分析可以被看作代码质量谱的结构端的测试,动态测试则主要负责功能方面的测试。静态分析可保证代码遵循最佳编码惯例,还能够发现很多问题,包括未定义行为、可移植性问题、由语言误用产生的危险但是合法的构建、代码清晰度问题、代码的实际布局问题等。静态分析也可以发现动态测试不能发现的一些问题,还能够帮助简化脚本,使脚本更易于维护,更加高效。虽然自动化的静态分析不能完全取代代码评审,但是对于代码评审来说,它是非常重要的一部分。
静态分析一个非常重要的方面就在于:在完成第一行代码之后,就可以立即进行静态分析,这就将测试代码的重点放到了开发初期。
静态分析的关键在于,能够在早期和持续的应用程序代码评审中大量减少代码中存在的问题,确保在项目的编码阶段,能够遵循最佳编码惯例。为了提高效率,需要大部分代码评审工作都能够实现自动化:代码还是需要开发人员来评审,但是传统代码评审中找出的问题,大多数都能够自动检测到。“尽早、经常性”的代码评审策略与持续集成的概念非常吻合——因此,将自动代码检查与持续集成过程结合起来,是大有裨益的。
代码集成中存在的问题同样存在于执行编码规范的过程中:如果将问题一直留到代码编写完成,那这个做法一定是有问题的。
如果将新编码规范应用于之前未遵循该编码规范的代码,常常会发现很多违规行为。要解决所发现的问题不仅会耗费很多时间,而且在修改功能的过程中,还可能会使代码更加糟糕,甚至还可能引进更多严重的违规行为。
所以,在编写代码时就遵循编码规范会更加有效率、更加安全;开发人员在编码代码的时候,就应该及时解决所发现的编码问题。
因此,进行集成和执行编码规范时,都应该“尽早开始,并经常进行”。
增量执行编码规范最主要的优点就是能够保证代码的质量,但同时也会带来其它好处。可以将很多度量都收集起来,作为静态分析的一部分,而且增量测试可以形成一个趋势图,可以通过观察所形成的趋势图来判断项目是否健康。如果度量开始与期望偏离(可能是通过与“优质标准的项目”进行对比),就可以有针对性地采取措施,使项目回归正常。
(未完待续。。。)
通过静态分析和持续集成 保证代码的质量 (Helix QAC)1的更多相关文章
- 通过静态分析和持续集成 保证代码的质量 (Helix QAC)2
续上.... 第二章 部署示例:Jenkins and Helix QAC工具 第一节 Jenkins 作为持续集成系统 现在有很多持续集成工具,既有免费的,也有商业的.最近的研究显示,Jenkins ...
- 持续集成之代码质量管理-Sonar [三]
转载:https://www.abcdocker.com/abcdocker/2053 摘要 Sonar 是一个用于代码质量管理的开放平台.通过插件机制,Sonar 可以集成不同的测试工具,代码分析工 ...
- Jenkins+maven+git+sonar 系统持续集成&代码单測管理
Jenkins+maven+git+sonar 系统持续集成&代码单測管理 Jenkins的安装 Jenkins是基于Java开发的一种持续集成工具,用于监控持续反复的工作.功能包含: 1.持 ...
- 持续集成之代码质量管理-Sonar
原文:http://blog.csdn.net/abcdocker/article/details/53840582 Sonar介绍 Sonar 是一个用于代码质量管理的开放平台.通过插件机制,Son ...
- DevOps之持续集成SonarQube代码质量扫描
一.SonarQube介绍 SonarQube是一个用于代码质量检测管理的开放平台,可以集成不同的检测工具,代码分析工具,以及持续集成工具.SonarQube 并不是简单地把不同的代码检查 ...
- Jenkins+Sonar搭建持续集成和代码质量检查环境
Jenkins+Sonar搭建 一.相关环境及下载地址 系统:Ubuntu JDK:1.8 MySQL:5.7 软件包: jenkins_2.121.3_all.deb sonarqube-7.3.z ...
- jenkins持续集成原理
转载: 原文地址:http://www.2cto.com/kf/201609/544550.html 持续集成 开发中,我们经常遇到一些奇怪问题,比如本地可以编译成功的代码但是同事们更新代码后编译出错 ...
- Jenkins持续集成学习-Windows环境进行.Net开发4
目录 Jenkins持续集成学习-Windows环境进行.Net开发4 目录 前言 目标 Github持续集成 提交代码到Github 从Github更新代码 git上显示构建状态 自动触发构建 Gi ...
- 持续集成与Devops关系
什么是持续集成 持续集成(Continuous Integration,简称CI),是一种软件开发实践,在实践中指只要代码有变更,就自动运行构建和测试,反馈运行结果.通俗一点来讲,就是绑定项目的代码仓 ...
随机推荐
- 如何保证redis中存放的都是热点数据
当redis使用的内存超过了设置的最大内存时,会触发redis的key淘汰机制,在redis 3.0中有6种淘汰策略: noeviction: 不删除策略.当达到最大内存限制时, 如果需要使用更多内存 ...
- vue中使用echarts,地图上的涟漪特效大小设置
在使用echarts进行开发大屏时,使用到了地图这个组件 我们会根据返回的值来决定涟漪的大小 这时则使用 其它的value为返回的数组,一般格式为[经度,维度,值] 这样就能动态设置效果的大小了
- 算法学习->整数拆分问题
动态规划典型题目/ 00 题目 将正整数n无需拆分为最大数为k的拆分方案有多少种?要求所有的拆分方案不重复. 示例: 输入:n=5,k=5 输出:(5,5)=7 示例分析: 5=5 5=4+1 5= ...
- 使用nacos作为配置中心统一管理配置
基础环境 引入所需依赖包 <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>s ...
- int,double与机器字长
机器字长:计算机能直接处理的二进制数据的位数,它决定了计算机的运算精度想深入了解. 学好汇编语言对你帮助非常大.汇编语言中的,最基本的数据类型有: (1) byte (2)word (3)double ...
- [bzoj1044]木棍分割
第一个问题可以用贪心+二分解决第二个问题用f[i][j]表示i次分割后分割到j且满足条件的方案数,$f[i][j]=\sum_{k<j且sum[j]-sum[k]<=ans}f[i-1][ ...
- Plugin [id: 'org.jetbrains.kotlin.jvm'] was not found in any of the following sources: gradle配置:kotlin("jvm")后报错
本来打算兼容java和kotlin,可配置后,项目报错.查看之前项目 再打开当前报错项目: 很明显,报错的原因是jvm的运行文件没有加载进来,多次尝试无果... 只能重新搭建初始化项目了.
- 软虹sdk基本使用
虹软SDK的简单使用 Java实现人脸识别,但是又不会自己实现算法,找SDK时发现了虹软.虹软SDK具有免费.识别率高等优点,然后到网上搜这个SDK的教程,没搜到,就自己探索,发现它自带的官方文档其实 ...
- 【2020五校联考NOIP #6】三格缩进
题意: 给出 \(n\) 个数 \(a_1,a_2,\dots,a_n\),你要进行 \(m\) 次操作,每次操作有两种类型: \(1\ p\ x\):将 \(a_p\) 改为 \(x\). \(2\ ...
- WC 2007 剪刀石头布
WC 2007 剪刀石头布 看到这个三元环的问题很容易可以考虑到求不合法的三元环的数量的最小值. 什么情况不合法?既然不合法,当且仅当三元环中有一个人赢了另外两个人.所以我们考虑对于一个人而言,如果她 ...