动态规划法（十）最长公共子序列（LCS）问题

问题介绍

给定一个序列\(X=<x_1,x_2,....,x_m>\)，另一个序列\(Z=<z_1,z_2,....,z_k>\)满足如下条件时称为X的子序列：存在一个严格递增的X的下标序列\(<i_1,i_2,...,i_k>\)，对所有的\(j=1,2,...,k\)满足\(x_{i_j}=z_j.\)

给定两个序列\(X\)和\(Y\),如果\(Z\)同时是\(X\)和\(Y\)的子序列，则称\(Z\)是\(X\)和\(Y\)的公共子序列。最长公共子序列（LCS）问题指的是：求解两个序列\(X\)和\(Y\)的长度最长的公共子序列。例如，序列\(X=<A,B,C,B,D,A,B>\)和\(Y=<B,D,C,A,B,A>\)的最长公共子序列为\(<B,C,B,A>\)，长度为4。

本文将具体阐释如何用动态规划法（Dynamic Programming）来求解最长公共子序列（LCS）问题。

算法分析

1. LCS的子结构

给定一个序列\(X=<x_1,x_2,....,x_m>\)，对\(i=0,1,...,m\)，定义\(X\)的第i前缀为\(X_i=<x_1,x_2,....,x_i>\),其中\(X_0\)为空序列。

（LCS的子结构）令\(X=<x_1,x_2,....,x_m>\)和\(Y=<y_1,y_2,....,y_n>\)为两个序列，\(Z=<z_1,z_2,....,z_k>\)为\(X\)和\(Y\)的任意LCS，则：

如果\(x_m=y_n,\)则\(z_k=x_m=y_n\)且\(Z_{k-1}\)是\(X_{m-1}\)和\(Y_{n-1}\)的一个LCS。
如果\(x_m\neq y_n,\)则\(z_k \neq x_m\)意味着\(Z_{k-1}\)是\(X_{m-1}\)和\(Y\)的一个LCS。
如果\(x_m\neq y_n,\)则\(z_k\neq y_n\)且\(Z_{k-1}\)是\(X\)和\(Y_{n-1}\)的一个LCS。

2. 构造递归解

在求\(X=<x_1,x_2,....,x_m>\)和\(Y=<y_1,y_2,....,y_n>\)的一个LCS时，需要求解一个或两个子问题：如果\(x_m=y_n\)，应求解\(X_{m-1}\)和\(Y_{n-1}\)的一个LCS，再将\(x_m=y_n\)追加到这个LCS的末尾，就得到\(X\)和\(Y\)的一个LCS；如果\(x_m\neq y_n\)，需求解\(X_{m-1}\)和\(Y\)的一个LCS与\(X\)和\(Y_{n-1}\)的一个LCS，两个LCS较长者即为\(X\)和\(Y\)的一个LCS。当然，可以看出，LCS问题容易出现重叠子问题，这时候，就需要用动态规划法来解决。

定义\(c[i,j]\)表示\(X_i\)和\(Y_j\)的LCS的长度。如果\(i=0\)或\(j=0\)，则\(c[i,j]=0.\)利用LCS的子结构，可以得到如下公式：

\[c[i,j]=\left\{
\begin{array}{lr}
0,\qquad 若i=0或j=0\\
c[i-1, j-1]+1,\qquad 若i,j>0且x_i=y_j\\
\max(c[i, j-1], c[i-1, j]),\qquad 若i,j>0且x_i\neq y_j
\end{array}
\right.
\]

3. 计算LCS的长度

计算LCS长度的伪代码为LCS-LENGTH. 过程LCS-LENGTH接受两个子序列\(X=<x_1,x_2,....,x_m>\)和\(Y=<y_1,y_2,....,y_n>\)为输入。它将\(c[i, j]\)的值保存在表\(c\)中，同时，维护一个表\(b\)，帮助构造最优解。过程LCS-LENGTH的伪代码如下：

LCS-LENGTH(X, Y):

m = X.length

n = Y.length

let b[1...m, 1...n] and c[0...m, 0...n] be new table

for i = 1 to m

    c[i, 0] = 0

for j = 1 to n

    c[0, j] = 0

for i = 1 to m

    for j = 1 to n

        if x[i] == y[j]

           c[i,j] = c[i-1, j-1]+1

           b[i,j] = 'diag'

        elseif c[i-1, j] >= c[i, j-1]

            c[i,j] = c[i-1, j]

            b[i,j] = 'up'

        else

            c[i,j] = c[i, j-1]

            b[i,j] = 'left'

return c and b

4. 寻找LCS

为了寻找\(X\)和\(Y\)的一个LCS，我们需要用到LCS-LENGTH过程中的表\(b\)，只需要简单地从\(b[m, n]\)开始，并按箭头方向追踪下去即可。当在表项\(b[i,j]\)中遇到一个'diag'时，意味着\(x_i=y_j\)是LCS的一个元素。按照这种方法，我们可以按逆序依次构造出LCS的所有元素。伪代码PRINT-LCS如下：

PRINT-LCS(b, X, i, j):

    if i == 0 or j == 0

        return

    if b[i,j] == 'diag'

        PRINT-LCS(b, X, i-1, j-1)

        print x[i]

    elseif b[i,j] == 'up':

        PRINT-LCS(b, X, i-1, j)

    else

        PRINT-LCS(b, X, i, j-1)

程序实现

有了以上对LCS问题的算法分析，我们不难写出具体的程序来实现它。下面将会给出Python代码和Java代码，供读者参考。

完整的Python代码如下：

import numpy as np

# using dynamic programming to solve LCS problem

# parameters: X,Y -> list

def LCS_LENGTH(X, Y):

    m = len(X) # length of X

    n = len(Y) # length of Y

    # create two tables, b for directions, c for solution of sub-problem

    b = np.array([[None]*(n+1)]*(m+1))

    c = np.array([[0]*(n+1)]*(m+1))

    # use DP to sole LCS problem

    for i in range(1, m+1):

        for j in range(1, n+1):

            if X[i-1] == Y[j-1]:

                c[i,j] = c[i-1,j-1]+1

                b[i,j] = 'diag'

            elif c[i-1,j] >= c[i, j-1]:

                c[i,j] = c[i-1,j]

                b[i,j] = 'up'

            else:

                c[i,j] = c[i,j-1]

                b[i,j] = 'left'

    #print(b)

    #print(c)

    return b,c

# print longest common subsequence of X and Y

def print_LCS(b, X, i, j):

    if i == 0 or j == 0:

        return None

    if b[i,j] == 'diag':

        print_LCS(b, X, i-1, j-1)

        print(X[i-1], end=' ')

    elif b[i,j] == 'up':

        print_LCS(b, X, i-1, j)

    else:

        print_LCS(b, X, i, j-1)

X = 'conservatives'

Y = 'breather'

b,c = LCS_LENGTH(X,Y)

print_LCS(b, X, len(X), len(Y))

输出结果如下：

e a t e

完整的Java代码如下：

package DP_example;

import java.util.Arrays;

import java.util.List;

public class LCS {

    // 主函数

    public static void main(String[] args) {

        // 两个序列X和Y

        List<String> X = Arrays.asList("A","B","C","B","D","A","B");

        List<String> Y = Arrays.asList("B","D","C","A","B","A");

        int m = X.size(); //X的长度

        int n = Y.size(); // Y的长度

        String[][] b = LCS_length(X, Y); //获取维护表b的值

        print_LCS(b, X, m, n); // 输出LCS

    }

    /*

    函数LCS_length：获取维护表b的值

    传入参数： 两个序列X和Y

    返回值： 维护表b

     */

    public static String[][] LCS_length(List X, List Y){

        int m = X.size(); //X的长度

        int n = Y.size(); // Y的长度

        int[][] c = new int[m+1][n+1];

        String[][] b = new String[m+1][n+1];

        // 对表b和表c进行初始化

        for(int i=1; i<m+1; i++){

            for(int j=1; j<n+1; j++){

                c[i][j] = 0;

                b[i][j] = "";

            }

        }

        // 利用自底向上的动态规划法获取b和c的值

        for(int i=1; i<m+1; i++){

            for(int j=1; j<n+1; j++){

                if(X.get(i-1) == Y.get(j-1)){

                    c[i][j] = c[i-1][j-1]+1;

                    b[i][j] = "diag";

                }

                else if(c[i-1][j] >= c[i][j-1]){

                    c[i][j] = c[i-1][j];

                    b[i][j] = "up";

                }

                else{

                    c[i][j] = c[i][j-1];

                    b[i][j] = "left";

                }

            }

        }

        return b;

    }

    // 输出最长公共子序列

    public static int print_LCS(String[][] b, List X, int i, int j){

        if(i == 0 || j == 0)

            return 0;

        if(b[i][j].equals("diag")){

            print_LCS(b, X, i-1, j-1);

            System.out.print(X.get(i-1)+" ");

        }

        else if(b[i][j].equals("up"))

            print_LCS(b, X, i-1, j);

        else

            print_LCS(b, X, i, j-1);

        return 1;

    }

}

输出结果如下：

B C B A

参考文献

算法导论（第三版）机械工业出版社
https://www.geeksforgeeks.org/longest-common-subsequence/

注意：本人现已开通两个微信公众号：因为Python（微信号为：python_math）以及轻松学会Python爬虫（微信号为：easy_web_scrape），欢迎大家关注哦~~