自动化测试框架Cucumber和RobotFramework的实战对比
转自: http://www.infoq.com/cn/articles/cucumber-robotframework-comparison
一、摘要
自动化测试可以快速自动完成大量测试用例,节约巨大的人工测试成本;同时它需要拥有专业开发技能的人才能完成开发,且需要大量时间进行维护(在需求经常变化的情况下),所以大部分具有很好开发技能的人员不是很愿意编写自动化用例。但由于软件规模的高速增长,人力资源的逐步稀缺,自动化测试已是势在必行。
对于自动化测试首先需要保证其功能是对客户有价值的和正确可用的。而这一切的基础就是用例要能测试客户的需求,期望,最好能让客户参与到测试用例的开发过程中来或让客户评审测试用例,因此出现了ATDD、BDD等各种理论方法来支撑这一行为。现有很多自动化测试工具可支持ATDD、BDD等,比如Cucumber1、RobotFramework2、SpecFlow3、JBehave4、Fitness5、Concordion6等。其中Cucumber和RobotFramework是最流行的两个框架,但许多人在第一次选择测试框架时因缺乏实践经验而困惑,所以今天为大家分享这两款框架在几个项目上的经验及对比,方便大家在以后的项目上能正确地选择这两款测试框架。
首先看一下这两款工具的简单对比。
Cucumber |
RobotFramework |
|
编程语言支持 |
Java,Ruby,JavaScript etc.7 |
Python, Java, C |
支持的系统 |
所有主流系统 |
所有主流系统 |
主要的IDE |
IntelliJ,RubyMine, Eclipse |
RIDE, IntelliJ, PyCharm, Eclipse |
费用 |
免费 |
免费 |
多国语言支持 |
UTF-8 |
用户关键字及用例层面支持UTF-8 |
二、案例
Cucumber案例1:某社交网络系统
项目时间:4年前
项目背景:系统的主要功能是帮助用户能通过一个手机应用同时与Facebook,Twitter,Flickr等社交网络更新信息,并能一次性把自己更新的信息同步到这些社交网络。其中它有一个服务器端,用于和各个社交网络通信,一个Web应用和一个手机应用提供给最终客户使用。它的技术栈主要是Java Spring,Android,iOS,MySQL等。
被测系统构架图:
由于这个项目是中国团队和法国团队一起合作开发,当时法国团队的架构师提出选用Cucumber作为自动化测试框架来测试这个系统,项目需要支持多国语言,且需要同时做服务器和手机端的功能测试,甚至在一个测试场景中既包含服务器测试部分,又含手机端测试部分,而使用基于Cucumber的测试系统很好的满足了我们的需求,其中手机端的功能测试用的是Calabash8。Calabash是一个手机功能测试系统,它使用Cucumber将Android的测试框架Robotium9和iOS的测试框架Frank10封装了起来,使得Cucumber的Step可以调用Robotium和Frank进行测试。这样就可以实现一个测试场景里面既包含手机端测试,又包含服务器端测试,比如:
I "submit" update to "Facebook" with "I am happy today" on "Android" I "get" update on "Facebook” with "I am happy today" on "Server"
实现方式是在Calabash中使用Ruby实现一层胶水代码,和服务器测试功能测试代码连结起来,并根据不同的Step调用不同的测试驱动层代码从而实现同一个测试用例同时包含服务器端和手机端测试。虽然这样的测试用例不会很多,但它却有效的表达了端到端的系统集成测试,让测试集合更加丰满。
如果重新选择测试工具,我还是会选择Cucumber和Calabash,主要原因是它们可以方便的统一做手机和服务器的功能测试。虽然RobotFramework配合Selenium也能实现类似的功能,但是需要使用RobotFramework对Selenium重新进行封装,没有Calabash方便易用。
Cucumber案例2:某大型养老保险系统
项目时间:2年前
项目背景,主要功能是提供一个Web系统让用户可以购买养老保险,管理养老保险账户里面的资金等业务。主要的技术栈Java Spring, JSP, AngularJS, Oracle DB等。
被测系统构架图:
基于安全和开发成本原因,比如重用已有的服务器和容器环境,重用开发资源,所以公司绝大部分项目只用Java语言进行后台服务器端开发,导致公司大部分人员只熟悉Java语言,因此测试框架选择了Cucumber Java版11。
如果重新选择工具,由于技术栈和成本的原因,我仍然会选择Cucumber Java版,不会考虑RobotFramework。因为对于这种Java Spring商业应用项目,我不想引入一个Jython去加深项目的技术栈,只要能充分利用当前团队已有的技术栈就可以了,并且还更容易说服开发人员帮忙实现和维护自动化测试,从而促使整个团队都能对自动化测试负责。
RobotFramework案例1:某AC项目
项目时间:3年前
项目背景:该项目是WIFI系统的AC(Access Controller 接入控制器)部分,包含WIFI接入的认证、计费等功能。它也提供了配置界面,包括Web和命令行两种。AP(Access Point接入点)是与该系统交互的外部系统。通常来说AP会有很多个,放置在不同的空间区域,提供WIFI接入服务,AP和AC之间使用有线链路连接。
被测系统构架图:
该系统作为一个嵌入式设备,从用户的角度来看主要包括两部分功能。第一部分是操作管理员在命令行或者Web界面上进行功能配置,第二部分是AP与系统进行交互,完成网络接入等功能。
明确了被测对象和场景后,就需要寻找相应的测试库来完成这些用户(即包括人,也包AP)与系统之间的交互。对于Web来说,有成熟的Selenium可以使用,Selenium提供了多种语言的API,从这个角度来看RobotFramework和Cucumber都可以选择。对于命令行操作而言,可以选用RoboFramework的SSH库来完成,当然在这一点上其他的语言也有相应的类库。要想完成上述这个系统的测试,还需要完成报文的收发及编解码工作,Python的类库Scapy12能够很好地完成这部分工作,只需要在此之上做少量定制化开发,并将其封装成为RobotFramework关键字即可。经过上面的分析可以看到,使用基于Python的RobotFramework能够很好地处理报文相关的逻辑,加上团队在Python上有比较好的技术储备,因此RobotFramework成了最终的选择。
如果重新选择,我还是会选择RobotFramework,原因是其他平台上找不到类似Scapy这样好用的测试库。
RobotFramework案例2:某移动广告管理平台
项目时间:1年前
项目背景:该项目是一个Web系统,用于广告投放、查询、显示等功能。
测试思路是做端到端的测试,覆盖从广告投放、广告查询及广告显示等一系列功能。其中涉及到的测试库主要是Selenium,这点上与案例1类似。不同之处在于这个项目中参与自动化用例编写的主要是从不编写代码的测试人员,而RobotFramework有一个专用的用例编写环境—RIDE,其中用例编辑窗口如下图:
虽然它只是简单地把使用TAB符号隔开的一系列纯文本变成了可视的表格,但对于这些测试人员来说,他们以前工作的平台就是Excel中,所以很容易切换过来。再加上它提供的一些高亮、抽取关键字等特性,使得测试人员可以比较专注于测试用例的设计、编写和优化,而不用关心格式等细节问题。
在RIDE中导入相关测试库之后,可以通过F5快捷键查看所有关键字的文档,如下图所示:
关键字的概念很有趣,它们本质上就是一堆自由函数,或者是类的成员函数13,所以使用它们来编写用例事实上就是在编写代码,本质上和Cucumber的Step Definition是一样的。但由于RIDE以表格的形式呈现,并且有良好可视化的文档,在这种环境下写测试会给人一种“我不需要编写代码”或“我没在写代码”的感觉。在我们经历过的几个项目中,测试人员对这种形式都比较接受。当然从另一个角度看,用例的编写者失去了对测试代码的直接掌控权,这对于很多开发人员来说还是有些别扭,所以如果你不喜欢RIDE这种形式,可以尝试使用Pycharm来开发RobotFramework用例。
在这个项目中有不止一套测试运行环境,比如开发集成环境、CI环境、系统测试环境等。该项目包含了多个Web Portal,每套环境中Web Portal的IP地址都是不同的。如何保证一套测试代码能够在不同的环境中无差别的运行呢?简单的答案是配置文件或者环境变量,在RobotFramework中,解决方案是变量文件。比如我希望测试代码能够在开发集成环境和CI环境中运行,则可以按照下面的方式操作。
首先定义两个变量文件:
ci-env.py:
portal_ip = “192.168.1.1"
…… dev-share-env.py:
portal_ip = “192.168.1.4"
……
在用例文件中可以按照下面的方式引用上述变量文件中的变量:
……
open browser ${portal_ip}
……
然后在运行测试时加入如下的命令行参数即可针对CI环境运行测试:
pybot -V ci-env.py tests/
开发人员在自己编写调试测试或者定位问题时,在命令行中使用dev-share-env.py的配置即可针对另一套环境进行测试。
在这个项目中遇到的另一个问题是中文问题。客户非常在意用例是否能很好地处理中文,一方面是因为可读性,另一方面是要适配一些使用中文编写的Java代码。RobotFramework和Cucumber这些工具都有考虑国际化的问题,比如Cucumber Java版就支持使用类似于“给定”、“当”等中文关键字及中文的Step Definition,而RobotFramework对中文的支持也很好。但是如果从可用性的角度考虑,RobotFramework会比Cucumber好一些。原因是Cucumber本身并没有专用的IDE,只能求助于其它IDE插件,这些插件可以完成高亮、自动补全和Step Definition跳转等功能,但一旦使用了中文,有些功能就不好用了。而在RIDE中就不存在这个问题。所以如果你的团队因为某种原因对于中文用例的需求很旺盛,可以考虑RobotFramework。
如果重新选择,我还是会选择RobotFramework,主要从两个方面进行考虑:一方面是因为其“不用写代码”的方式更容易被测试人员接受,另一方面是对中文的支持更好。
通过上面四个案例,展示了在不同的项目中实际使用Cucumber和RobotFramework时的一些经验和选择它们的理由。但对于Cucumber和RobotFramework更多的知识点,下面有一个更为详细的对比表。
Cucumber |
RobotFramework |
|
亮点 |
· 使用自然语言,更易读 · 支持表格参数14 · 支持多种格式的Report:html、junit etc. · 支持多种语言 · 支持四种状态的测试步骤15:Passed、Failed、Skipped、Pending · 支持使用变形器消除重复16 · 一个商用的在线Cucumber系统:Cucumber Pro17 |
· 使用关键字的机制,更容易上手 · 提供了RIDE,对于不熟悉编码的人来说比较友好 · 能够精细的控制关键字的scope19 · Log和Report非常好20 · 使用变量文件的机制来描述不同的环境21 · 丰富的关键字库22 · 内置变量23 |
不足 |
· 缺乏类似RIDE对纯测试人员友好的专用工具 |
· 不支持类似于Cucumber中的表格参数14 · 使用Jython版本测试运行启动慢 |
Jenkins支持 |
支持 |
支持 |
Maven支持 |
支持 |
支持 |
开发效率 |
高效-Jetbrains系列的IDE |
高效-RIDE和Jetbrains系列的IDE |
商业支持 |
支持18 |
无 |
社区支持 |
广泛 |
广泛 |
三、测试工具选择的一般性原则
在上述的实战案例中,针对项目的具体情况我们对Cucumber和RobotFramework这两种工具进行了取舍。本节就来总结一下这些取舍的考虑因素。
首先来看一下自动化验收测试的层次:
然后对每层进行分析:
- 最下面是被测系统,需要明确它的形态,比如是Web系统、REST系统或者特定协议系统。
- 中间是测试库。比如Selenium、SSH、Scapy等,有了它们用例才能和被测系统进行交互,所以需要根据被测系统的形态来选择相应地测试库。该层的选择需要考虑几个因素:
- 测试库的易用程度。
- 测试库是否有良好的商业或者开源社区的支持。
- 团队成员是否熟悉测试库使用的编程语言。
- 最上层则是测试框架,也就是Cucumber和RobotFramework这一层。其作用包括用例管理、测试数据管理、测试运行、测试报告等。该层的选择需要考虑几个因素:
- 这一层会通过函数调用的方式和测试库打交道,因此测试框架必须支持测试库所使用的编程语言。
- 是否提供易用的测试用例开发环境,比如是否有如RIDE这样的专用工具,或者Intellij的IDE的插件。
- 引入某个测试框架之后对现有工作模式的影响程度,比如让不懂编程的测试人员写代码。
以上这些点是从RobotFramework和Cucumber的对比中总结出来的,但如果你想要选择这两者之外的其他框架,同样可以考虑上述这些原则。
四、总结
我们在银行、保险、社交、电信、物流、互联网等项目上实施过自动化功能以及验收测试。对于Cucumber和RobotFramework到底属于ATDD还是BDD,这里不做过多的讨论,因为当前在业界对于ATDD和BDD怎么区分还有一些争议,而对于我们来讲,它们只不过是两个名词而已。对于这两个工具本身来讲,只需要清楚它们各自的特点,根据项目本身的情况和需求选择就可以了,简单地说就是:知行合一。
自动化测试框架Cucumber和RobotFramework的实战对比的更多相关文章
- 自动化测试框架Cucumber和Robot Framework的实战对比
自动化测试框架Cucumber和RobotFramework的实战对比 一.摘要 自动化测试可以快速自动完成大量测试用例,节约巨大的人工测试成本:同时它需要拥有专业开发技能的人才能完成开发,且需要大量 ...
- 小白学 Python 爬虫:自动化测试框架 Selenium 从入门到实战
引言 前面连续几篇爬虫实战不知道各位同学玩的怎么样,小编是要继续更新了,本篇我们来介绍一个前面已将安装过的工具: Selenium ,如果说是叫爬虫工具其实并不合适,在业界很多时候是拿来做自动化测试的 ...
- BDD自动化测试框架cucumber(1): 最基本的demo
BDD(Behavior Driven Development),行为驱动开发, 对应自动化测试框架,python有behave,java有cucumber, 这次记录cucumber+springb ...
- 自动化测试框架的Step By Step搭建及测试实战(1)
1.1什么是自动化测试框架 1.什么是自动化框架 自动化框架是应用与自动化测试的程序框架,它提供了可重用的自动化测试模块,提供最基础的自动化测试功能,或提供自动化测试执行和管理功能的架构模块.它是由一 ...
- 移动APP自动化测试框架对比
转自微信公众号:腾讯移动品质中心TMQ 移动APP的UI自动化测试长久以来一直是一个难点,难点在于UI的”变”, 变化导致自动化用例的大量维护.从分层测试的角度,自动化测试应该逐层进行.最大量实现自动 ...
- Python接口自动化测试框架实战 从设计到开发
第1章 课程介绍(不要错过)本章主要讲解课程的详细安排.课程学习要求.课程面向用户等,让大家很直观的对课程有整体认知! 第2章 接口测试工具Fiddler的运用本章重点讲解如何抓app\web的htt ...
- Android自动化测试框架对比
1.Monkeyrunner:优点:操作最为简单,可以录制测试脚本,可视化操作:缺点:主要生成坐标的自动化操作,移植性不强,功能最为局限:2.Rubotium:主要针对某一个APK进行自动化测试,AP ...
- RobotFramework自动化测试框架-移动手机自动化测试AppiumLibrary介绍
在使用AppiumLibrary库时,需要预先安装好Appium自动化工具,Appium官网地址为:http://appium.io/ Appium的GitHub地址为:https://github. ...
- RobotFramework自动化测试框架-DatabaseLibrary库的使用(对数据库的操作)
在自动化过程中,我们经常需要连接不同的数据库,并且对数据库进行很多不同的操作,RobotFramework中,提供了DatabaseLibrary这个库来操作数据库,我们可以按照官网中的说明来安装Da ...
随机推荐
- 10 ref 和 out 之间的差别
(1) 两者都是按地址传递的,使用后都将改变原来的数值 (2) ref传进去的參数必须在调用前初始化,out不必 (3) ref传进去的參数在函数内部能够直接使用,而out不可 (4) ref传进去的 ...
- vue学习五之VueCLi
概念 通俗的说,Vue CLI是我们创建大型项目时的脚手架,所谓脚手架,就是帮助我们建设好了建造大厦的所需模板,建设者只需往模板里面填入实质内容,即可完成大厦的建设,对于程序开发来说,脚手架使程序员只 ...
- kernel下nand flash的文件系统总结
1.FLASH转换层(FTL) EXt2/EXT3/EXT4文件系统可以通过FTL实现对flash的支持,因为FTL可以将闪存flash模拟成磁盘结构. 在ext2文件系统的基础上上,为了保证数据的一 ...
- #C++初学记录(算法2)
A - Game 23 Polycarp plays "Game 23". Initially he has a number n and his goal is to trans ...
- head first java读书笔记
head first java读书笔记 1. 基本信息 页数:689 阅读起止日期:20170104-20170215 2. 标签 Java入门 3. 价值 8分 4. 主题 使用面向对象的思路介绍J ...
- React组件,React和生命周期
笔记,具体可以看看这个博客: https://segmentfault.com/a/1190000004168886?utm_source=tag-newest react 的jsx document ...
- sql when null 判断
Sql Server 中使用case when then 判断某字段是否为null,和判断是否为字符或数字时的写法不一样,如果不注意,很容易搞错 错误方法: CASE columnName WHEN ...
- 搭建Linux-java web运行环境之一:安装jdk+tomcat
环境 OS:Red Hat Enterprise Linux Server release 7.3 (Maipo) JDK:jdk-7u80-linux-x64.tar.gz Tomcat:apach ...
- Zookeeper学习记录(二):使用以及配置
zookeeper已经介绍了它的原理设计以及实现方式,我们接下来介绍zookeeper的使用方法以及简单配置. 下载 获取Zookeeper的发布包,从Apache下载映像中下载一个最新稳定版本. 单 ...
- nginx的权限问题(Permission denied)解决办法
nginx的权限问题(Permission denied)解决办法 一个nginx带多个tomcat集群环境,老是报如下错误:failed (13: Permission denied) while ...