Continuation-passing style

Continuation-passing style

参考书籍：

EOPL (  Essentials of Programming Languages, 3rd Edition )

作者：知乎用户
链接：https://www.zhihu.com/question/20259086/answer/141162748
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

要理解CPS，首先要理解 Continuation 是什么。

计算是有先后顺序的，比如要在 Racket 里计算1+2+3:

(+ 1 (+ 2 3))

显然需要首先计算 (+ 2 3)，再计算 (+ 1 5)，在得到 (+ 2 3) 的结果之前是无法计算 (+ 1 ...) 的。

我们把 (+ 1 ...) 这个表达式中缺少的部分叫做 hole，一个带有 hole 的表达式就是 continuation，它需要另一个东西来填补这个 hole 才能进行进一步的计算（这个其实就是 Evaluation Contexts 的概念）。

Continuation 是链式的，一个 continuation 还链接着另一个 continuation。可以把 continuation 表示为 <e_w_hole, cont> 构成的二元组，在完成当前的 e_w_hole 的求值后，其结果会被填补给下一个 cont 的 hole，直到 cont 是 halt 停机为止。比如

(+ 1 (+ 2 (+ 3 4)))

(+ 3 4)的 continuation 是 <(+ 2 ...), cont1>，而 cont1 则是 <(+ 1 ...), halt>。我们也可以把所有的 continuation 内联在一起得到完整的 continuation（或叫 evaluation context）：<(+ 2 ...), <(+ 1 ...), halt>>。

那么 CPS 作为一种编程方法就是人为地把 continuation 作为一个高阶函数显式地暴露出来，这个函数的参数就是hole，当我们apply这个 continuation（函数）就是在填补这个hole，并进行后续的计算。

上面的代码很容易转换为CPS（虽然加法操作是 primitive 的，但我们仍然可以自己编写一个CPS版本的 k+ 来模拟，同时我们还有一个 identity continuation 作为halt）：

(define k+ (lambda (x y k) (k (+ x y))))
(define id (lambda (x) x))
(k+ 2 3 (lambda (five) (k+ 1 five id)))

至于 call/cc 其实并不属于 CPS 的一部分，call/cc 是语言提供给程序员用以获得当前 continuation 的机制。在语言实现层面为了支持 call/cc 操作可以首先将程序进行CPS变换；或将解释器写为 CPS 形式。

上面的 (+ 1 (+ 2 3)) 例子也可以用 call/cc 来实现:

(+ 1 (call/cc (lambda (k) (k (+ 2 3)))))

这时候 k 便代表 (+ 2 3) 的 continuation，也就是 (+ 1 ...)。通过获取当前的 continuation，实际上获得了『此刻』以后所有的计算过程，于是便可以做一些有意思的事情，比如实现 non-deterministic 的 amb 操作符、线程和 coroutine 等。

因为最少形式的纯 CPS 的程序只需要有 lambda 和 function application，因此 CPS 程序中所有的递归函数调用都是尾递归。

比如正常 map 函数可以这样实现：

(define (map f xs)
  (if (empty? xs) '()
      (cons (f (first xs)) (map f (rest xs)))))
(map (λ (x) (+ x 1)) '(1 2 3))

但这个实现并不是尾递归，因为第3行在 (rest xs) 上调用完 map 之后我们仍然有continuation 要做，也就是将 (f (first xs)) 的结果 cons 起来。

而 CPS 版的 map 则是：

(define (map-k f xs k)
  (if (empty? xs) (k '())
      (f (first xs) (λ (v) (map-k f (rest xs)
                                  (λ (rest-v) (k (cons v rest-v))))))))
(map-k (λ (x k) (k (+ x 1))) '(1 2 3) (λ (x) x))

可以看到，在 map-k 中，所有的函数调用都是尾递归，也就不存在由递归引起的 stack 空间的消耗（在支持tail-call 优化的语言中）。

Continuation 作为程序语言研究中的一个基础概念，历史上被很多人以不同的形式反复发现，例如 SECD Machine 的 J Operator、goto、escape、Monad 等等。John Reynolds 的 The Discoveries of Continuations 和 Olivier Danvy 为 Peter Landin 写的纪念文都是非常好的阅读材料。

在 CPS 中，continuation 被表示为一个高阶函数，那么这个函数本身也可以有其 continuation（被称作 meta continuation）。泛化这个想法，我们便得到了一个可以有 n 级 continuations 的 CPS Hierachy。这种风格也被称作Extended Continuation-Passing Style，ECPS 可以用于方便地实现delimited control operators 比如 shift 和 reset。请参考 Abstracting Control。

(E)CPS 同 Monad 是“等价”的，理论上任何 Monad 都可以通过等价的 CPS 形式表达（或 shift/reset）出来，这部分可以看 The Essence of Functional Programming 和 Representing Monads。

CPS 在在过去是函数式语言编译器中常用的IR，在编译和程序分析中有很多应用。当程序被转换为 CPS 的时候，Continuation 是直接在 lexical scope 中暴露出来的，而全部的 control flow 转移都是通过调用 continuation 来实现，这样可以直接进行control flow analysis。在进行partial evaluation 的时候 CPS 变换后也可以获得更好的特化效果。

但是 CPS 的可读性太差了，后来 direct style 的 A-Normal Form 在编译和程序分析中流行起来。而 ANF 和 CPS 是等价的，A-Normalize 的过程等价于 CPS convert->Beta normalize->un-CPS convert，请参考 The Essence of Compiling with Continuation。

CPS 同 Static Single Assignment 也是同构的，在 CPS 中每个变量都通过 lambda 来引入，变量的 mutation 也是通过新的 continuation 来引入；正对应于SSA中每个变量只被赋值一次，并 dominate 接下来的 use，而 Phi node 则在 CPS 中通过对于同一个 cont 传入不同的值来实现。可参考 A Correspondence between Continuation Passing Style and Static Single Assignment Form。

==================== End