Scala + Play + Sbt + Protractor = One Build

欢迎关注我的新博客地址:http://cuipengfei.me/

我所在的项目的技术栈选用的是Play framework做后端API,前端用Angular JS。

因为用了Scala和Play,构建工具很自然用的就是sbt。

而由于前端用了Angular,所以functional test就选用了和Angular结合较好的protractor。

这一切看起来似乎很美好,一个无状态的后端,一个数据和UI双向绑定的前端。What could possibly go wrong?

一开始也确实如此,没什么问题。我们为了让functional test在CI上跑起来,写了一个脚本来把play dist打出的包部署到CI所在机器上,然后运行protractor。

这个脚本运行还算ok,偶尔有点小问题,修一修也就好了。

不过,这也就是说有两个因素可能会使得我们的CI挂掉,一个是用sbt跑的specs2的测试,一个是protractor的测试。而protractor的测试是基于我们自己所写的脚本的,与sbt没啥关系。

麻烦来了

上周五的show case,我们一个小时后就要给客户演示现有产品的示例,但是CI挂掉了,新的代码没法走到QA和UAT的环境,bug fix也过不去。

最后我们不得不修改jenkins的配置,把sbt test和protractor的test都暂时禁掉,才让最新的代码到了UAT上去。而这一切,是在show case之前一分钟才解决掉的。

事情总是这样的,出一两次小问题,修修改改就好,我们不会注意到其危害,不会想到其风险。直到琐碎的积累导致了严重的后果,我们才会正视问题的存在。而这个时候问题或许已经复杂和严重到不可修复或者是要花很大成本修复的地步了。保持一个健康的CI是如此。写代码的每一个细节也是如此。

还好,很幸运,我们的问题还没有那么严重,还来得及修。

在决定要修之后,先

定义一下问题是啥

往简单里说,就是CI不稳定,动不动就随便挂。

说的再细一些,就是我们手写脚本去做部署和测试这件事算是重新发明了轮子。而这个轮子不如已有的经过打磨的轮子那么精巧细致,那么稳定好用。以至于我们的CI偶尔就要出格一次。

Ok,问题定义清楚了,那么想想解决方案吧。

但是,在提出具体的方案之前,先想想,如果把这个现时还未存在的解决方案作用在现有问题之上,会收获一个什么样的结果呢?

验证标准

基于以上所述,我想解决这个问题的方案要满足以下3点:

  1. 能让CI重回稳定
  2. 一条命令行执行整个build
  3. 不要再自己造轮子了

第1,2点毋庸赘言,这就是我们问题的核心。关于第3点,是因为我们没有时间精力,也实在没有必要造这个轮子,如果能找到现有的轮子能够解决问题,而且还比我们自己的木头胶皮轮子好用,那岂不妙哉?

于是,我要开始寻找一个能让CI重归稳定的神圣轮子了!让探险的旅途就此展开吧!

开始寻找轮子

我最初的想法是用play的test framework,其中已经集成了selenium,用来做functional test很是合适。但是由于我们基于protractor的测试数量已经不少了,全部重写成本较高,所以这个轮子就放弃了。

残念,再看下一个轮子

再然后我想到的是自定义一个sbt的task,这个task依赖于sbt已有的run。

这样就能在我的task启动之前把play跑起来,而task本身运行protractor的测试,再之后则杀掉正在运行的play app。

看起来不错,但是有问题:

第一,sbt run跑起来后是不会自己退出的,它会维持play一直在待命的状态,这也就是说我自己的task根本就没机会执行。

第二,即便能找到方法让我自己定义的task和run同时跑起来,protractor运行完毕后还要关掉run,免得占用端口。这又是一件麻烦事儿。

于是,这第二个轮子也被我自己给枪毙掉了。

再次残念,还有轮子吗?

会有的,总会有的,只要肯去找,还是会有的。

这次我想到,写sbt的task不成,那就写代码。我写个specs2测试,在case里用代码启动sbt run,然后再启动protractor,最后关闭sbt,总行了吧?

这样,确实是可以work的,而实际上我也把它做出来验证了可以work了,但是缺点很大。

第一,由于我们的specs2测试都是用sbt跑的,而在其中再启动sbt,相当于要开两个jvm,消耗很大。在我本地机器上可以压榨的只剩两位数的内存。

第二,在sbt已经编译好了产品代码和测试代码测试之后,再开始跑另一个sbt run,会导致sbt把代码重新编译一遍。而Scala的代码编译是很慢的。我试了一下,这两次启动sbt,两次编译所消耗的时间是四分钟左右。时间成本太高。CI的速度会被拉下来,受不了。

基于以上两点原因,我的第三个轮子也被我自己枪毙了。

命途多舛啊,三次尝试都失败,以你为我要放弃了吗?哼~~~

最后,我结合第一次的尝试和第三次的尝试找到了一个满意的答案。

来看代码吧:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
class ProtractorSpec extends Specification with NoTimeConversions {

  "my application" should {

    "pass the protractor tests" in {

      running(TestServer(9000)) {

        val resp = Await.result(WS.url("http://localhost:9000").get(), 2 seconds)
resp.status === 200 runProtractorTests === 0
}
} } private def runProtractorTests: Int = {
"protractor functional-test/config/ft.conf.js"
.run(getProcessIO)
.exitValue()
} private def getProcessIO: ProcessIO = {
new ProcessIO(_ => (),
stdout => fromInputStream(stdout).getLines().foreach(println),
_ => ())
} }

就只有这么一点点代码。

running和TestServer都是play的test framework所提供的API。顾名思义,其作用就是把play的app跑起来。

然后发一个get请求,assert它的response的status是200,以此来确保play真的是把server运行起来了的。

再然后运行shell脚本,把protractor跑起来。这里Scala会做implicit conversion,把字符串转换成ProcessBuilder,从而可以调用其run方法。

最后assert,protractor的shell脚本是返回了0的,意味着functional test跑成功了。如果protractor测试挂掉,返回了1,那么specs2的这个测试也会挂掉,从而挂掉整个build。而这,正是我想要的。

这个解决方案合规吗?

检验一下吧。

由于server的启动和关闭都是有play的test framework的API负责的,比自己手写得脚本要稳定,所以符合了重归稳定性这一点。

由于用了specs2的测试,它可以跑在sbt里,所以符合一条命令跑build这一点。

整个解决方案只用了specs2和play的test framework,没有重新发明轮子,所以这一点也符合了。

除了符合最初定下的三条标准之外,还有额外的好处:functional test所跑到的代码会被纳入到测试覆盖率里面去。因为和其他specs2的测试一样,protractor的测试也在sbt jacoco:cover的监视下跑的,所以自然就纳入了coverage的范围。

Takeaway

在解决这个问题之后,我想我会有三点takeaway:

  1. 多尝试几种方案,不要随便放弃。即便想,也不要。

  2. 不要屈就于working solution,要相信一定存在你现在还没想到的更好的方式。

  3. 重复发明轮子总是会显得很诱人,因为它看起来可以非常直接而且准确的解决我们的问题。而实际上它常常是直接而且准确的解决我们的问题的现象。如果能找到现象产生的原因,干死这个原因,问题的解决或许会更彻底。

Scala + Play + Sbt + Protractor的更多相关文章

  1. Scala + Play + Sbt + Protractor = One Build

    欢迎关注我的新博客地址:http://cuipengfei.me/ 我所在的项目的技术栈选用的是Play framework做后端API,前端用Angular JS. 因为用了Scala和Play,构 ...

  2. scala工具sbt的安装和使用;idea如何创建scala项目

    scala的sbt类似于java的maven mac:brew install sbt linux:yum Install sbt 或者下载二机制包 使用sbt需要想mvn一样搭建公司私服,不然,下载 ...

  3. Eclipse + Idea + Maven + Scala + Spark +sbt

    http://jingpin.jikexueyuan.com/article/47043.html 新的scala 编译器idea使用 https://www.jetbrains.com/idea/h ...

  4. Spark机器学习9· 实时机器学习(scala with sbt)

    1 在线学习 模型随着接收的新消息,不断更新自己:而不是像离线训练一次次重新训练. 2 Spark Streaming 离散化流(DStream) 输入源:Akka actors.消息队列.Flume ...

  5. 【知识积累】SBT+Scala+MySQL的Demo

    一.背景 由于项目需要,需要在Sbt+Scala项目中连接MySQL数据库.由于之前使用Maven+Java进行依赖管理偏多,在Sbt+Scala方面也在不断进行摸索,特此记录,作为小模块知识的积累. ...

  6. SBT 构建scala eclipse开发

    scala eclipse sbt 应用程序开发 搭建Eclipse开发Scala应用程序的一般步骤 一.环境准备: 1.Scala : http://www.scala-lang.org/ 2.Sc ...

  7. 使用SBT构建Scala应用(转自git)

    # 使用SBT构建Scala应用 ## SBT简介 SBT是Simple Build Tool的简称,如果读者使用过Maven,那么可以简单将SBT看做是Scala世界的Maven,虽然二者各有优劣, ...

  8. 【原】SBT构建Scala应用

    [转帖] 原文地址:https://github.com/CSUG/real_world_scala/blob/master/02_sbt.markdown 尊重版权,尊重他人劳动成果,转帖请注明原文 ...

  9. Spark开发环境搭建(IDEA、Scala、SVN、SBT)

    软件版本 软件信息 软件名称 版本 下载地址 备注 Java 1.8 https://www.oracle.com/technetwork/java/javase/downloads/jdk8-dow ...

随机推荐

  1. quick-cocos2d-x游戏开发【6】——制作您自己的自定义效果button菜单

    前面提到的主菜单使用,还是很easy的,但我们在商业产品.经常看到button他们人很好,照片不仅就好了,和动画也很不错.Candy Crash都玩过吧,他们看到,button.真的像果冻,效果确实非 ...

  2. Android4.4 Framework分析——startService创建过程

    我们经常使用context.startService()要启动service.下面就来分析这service启动过程,下图是service启动序列图: watermark/2/text/aHR0cDov ...

  3. java_linux_shell_定时kill 启动java程序

    #!/bin/bash #while truedo Process_ID=`ps -ef |grep 'LoginSinaWeiboCookie.jar' |grep -v grep |awk '{p ...

  4. mysql_SQL_按照日统计微博数

    主要备忘: DATE_FORMAT 函数 1:微博对比图(按日统计) SELECT DATE_FORMAT(tw.article_publish_time, '%Y-%m-%d'),count(pag ...

  5. Android - View Alpha值

    Android - View Alpha值 本文地址: http://blog.csdn.net/caroline_wendy Alpha值主要控制图像的透明度(0-1),0代表透明.1代表不透明. ...

  6. 笔记28 mssql的update :from语法

    原文:笔记28 mssql的update :from语法 笔记28 mssql的update :from语法 --mssql的update :from语法 --a表 b表 结构分别 id ,name ...

  7. POJ1258 基础最小生成树

    本文出自:http://blog.csdn.net/svitter 题意:给出一个数字n代表邻接矩阵的大小,随后给出邻接矩阵的值.输出最小生成树的权值. 题解: prime算法的基本解法: 1.选择一 ...

  8. 【转】简述什么是Web服务(Web Service)技术?

          Web Service 是在 Internet 上进行分布式计算的基本构造块,是组件对象技术在 Internet 中的延伸,是一种部署在Web 上的组件.它融合了以组件为基础的开发模式和 ...

  9. mysql 使用记号

    1. 避免重复入库的插入记录方法 向一个数据库中插入且在未存在的情况下插入一行记录.若有主键可以区分则可以使用 replace into 方法, 单偏偏很多时候数据库设计者会设计自增主键,replac ...

  10. .net mvc ajax list post

    http://stackoverflow.com/questions/13242414/passing-a-list-of-objects-into-an-mvc-controller-method- ...