Dancing Links and Exact Cover

1. Exact Cover Problem

DLX是用来解决精确覆盖问题行之有效的算法。

在讲解DLX之前，我们先了解一下什么是精确覆盖问题(Exact Cover Problem)？

1.1 Polyomino

多联骨牌（Polyomino）是一种类似于七巧板的棋盘游戏：

如下图所示，除去中间$4$个方格不允许放置任何东西，这个棋盘总共有$8*8-4=60$个方格

将这$12$个由$5$个方格组成的图形全部放入到棋盘中，满足每个格子都被使用，而且只被使用一次。

每个格子都被覆盖，而且只能被覆盖一次，对，这就是精确覆盖问题！

(PS:因为$12*5=60$，而整个棋盘除去中间$4$格也刚好是$60$格，所以你应该很容易就明白"每个格子都被覆盖，而且只能被覆盖一次"的含义)

1.2 Sudoku

数独（Sudoku）这个游戏，大家应该都非常熟悉了。

我们以经典的$9*9$数独为例

每一个方格必须要放置一个数字，而且只能放置一次
每一行只能放置1-9，而且每个数字只能出现一次
每一列只能放置1-9，而且每个数字只能出现一次
每一宫只能放置1-9，而且每个数字只能出现一次

是的，这很明显也是一个精确覆盖问题。

1.3 Exact Cover Problem

我们下面将精确覆盖问题抽象一下。

给定一个仅由 $0$ 和 $1$ 组成的矩阵，

是否能找到一个行的集合，使得集合中每一列都恰好包含一个 $1$

下图的矩阵中，我们可以找到一个集合$(row1,row4,row5)$，使得每一列有且只有一个$1$

2 Dancing Links & X Algorithm

Algorithm X = “traditional” backtracking ( DFS )
Algorithm DLX = Dancing Links + Algorithm X

2.1 X algorithm

理解了精确覆盖问题，我们再来了解一下 X 算法。

X算法是由 Donald Knuth 提出的一个用来解决精确覆盖问题的算法。

它实际上就是一种传统意义上的回溯（Backtracking）。

假定我们需要求解的矩阵为A，我们来看一下它的主要流程：

如果矩阵 $A$ 为空，找到解；成功返回。
否则，选择一个列 $c$。
- 选择一个满足 $A[r][c]=1$行 $r$，把 $r$ 包含进部分解
  - 对于所有满足 $A[r][j]=1$ 的 $j$，从矩阵 $A$ 中删除第 $j$ 列；
- 对于所有满足 $A[i][j]=1$ 的 $i$，从矩阵 $A$ 中删除第 $i$ 行。
再不断减少的矩阵 $A$ 上递归地重复上述算法。

好，这是个递归的过程，但是看起来有些费解，让我们用图来解释吧。

如下图所示，假设当前我们选择的是第$3$列，那么第三列中含有$1$的行分别是$row1$和$row3$。

假设我们选择第一行(图片中被标红)，那么这行中，第3，5，6列都含有1，所以我们将列3，5和6标记，表示已经覆盖过。

由于3，5，6列已经被覆盖，所以其他行如果在列3，5或者6出现1，则一定不能选择，所以我们将第3行和第6行删去，因为第一行已经被我们选择了，所以第一行也删去，那么我们就会得到右边的新矩阵，它只包含$row2,row4,row5$三行。

好的，接下来我们再选择$row2$(在图中是第一行，但实际上它的标号是$row2$)，选择之后，覆盖第1，4，7列，同样做删除操作之后，将会得到右边的空矩阵。

但是我们会发现，第2列并没有被覆盖，但是矩阵已经为空，所以我们并没有找到答案。

这时候，我们就需要回溯。

刚才我们选择了$row2$，并确定$row2$是错误的，那么现在我们选择$row4$，它将会覆盖第1和第4列，删除操作后，得到右边的$(1,1)$矩阵，此时还剩下第2和第7列没有被覆盖，然而我们只剩下$row5$这一行，所以再次选择$row5$，矩阵为空，所有列全部被覆盖，OK，我们得到了一组正解，它就是$(row1,row4,row5)$

对，这就是X算法的核心思想了。

2.2 Dancing Links

没错，dancing links并不是一个算法，它实际上是一个数据结构，双向循环十字链表。

如下图所示，把十字链表变成双向十字链表，再加上头尾循环，就变成了$dancing \;links$

不过，实际上的dancing links，还有一个链表头（List header）

前面我们用到的矩阵 $A$,所对应的dancing links就如下图所示。

对于每一个元素，我们有5个fields，分别是$L[x],R[x],U[x],D[x],C[x]$

$L,R,U,D$分别代表x的左右和上下,$C$代表当前元素所在的列，实际上有时候我们还会再加上一个域，来表示当前元素所在的行。

对于每一列，我们还有一个链表头，除了拥有$L[y],R[y],U[y],D[y],C[y]$这5个基本的域之外，它还有一个额外的$S[y]$，用来表示当前列总过有多少个1，别入图中$x$所在的列，总共有两个1，所以$S[C[X]]=2$

2.2.1 Subsequent Operations

假设 $x$ 指向双向链的一个节点；$L[x]$和 $R[x]$分别表示 $x$ 的前驱节点和后继节点。

每个程序员都知道将 $x$ 从链表删除的操作：

$L[R[x]] ← L[x], R[L[x]] ← R[x]$

但是只有少数程序员意识到如下操作：

$L[R[x]] ← x, R[L[x]] ← x $

而这就是dancing links的精髓所在，在回溯的过程中，我们仅仅只是将某个元素移除，而不是将它彻底删除，所以用这种方式，我们不需要额外开辟空间去存储递归过程中的矩阵和位置信息，而是通过跳舞来解决这个问题！

2.3 DLX Algorithm

好的，还是刚才的矩阵 $A$, 我们把dancing links运用到X算法上，来看看DLX是如何进行的。

首先我们查看$R[head]$，发现它等于$A$,所以我们覆盖第一列，并进行$remove$操作。

因为第一列需要被覆盖，所以第一列存在1的行，都将被删去，我们将这些元素标记为红色。

我们选择$row2$, 那么$row2$除了覆盖第$2$列，还覆盖了第$4(D)$和第$7(G)$列。

于此同时，凡是也也覆盖第$4(D)$或者第$7(G)$列行，都将被删去，我们把这些元素用标记为黑色。

删去这些元素，我们继续遍历表头，这时候我们需要覆盖的是第$2(B)$列，同样进行$remove$操作。

这时候我们只能选择$row3$,继续做相应的$remove$操作。

最后我们发现还剩下第$5(E)$列没有被覆盖，但是矩阵 $A$ 中已经没有元素了。

这时候我们需要进行回溯，也就是这里的$resume$操作。

回溯回来发现，这里只有$row3$能选，那我们继续执行$resume$操作。

刚才我们选择了$row2$，这次我们选择$row4$, 如之前所述，再次执行$remove$操作。

这里又出现两个选择，$row3$和$row5$,我们会先选择$row3$,继而删光矩阵中的所有元素，发现无解，再次resume回来。

那我们继续选择$row5$，再次执行$remove$操作。

最后我们只能选择$row1$，执行$remove$操作。

这次我们发现，$R[head] = head$，矩阵中也没有任何元素，所有列均被覆盖。

因此我们得到了答案$(row4,row5,row1)$。

2.3.1 Heuristic

前面有提到过，我们还有一个叫做S的域，这个域是有作用的，我们不应该每次都选取$head$的右结点$R[head]$，我们应该去选择1的数量最少的列。

如下图所示的矩阵(假设为$B$)，第4列只有$S[y]=1$，说明我们必须要选择$row3$,而且$row3$一定是正确的，那连带图中紫色标出的另外4个1，也是正确的，于是矩阵$B$瞬间被$remove$操作删减为$(1,1)$，我们可以迅速通过2层的递归得到一个解$(row3,row5)$

另外，如果把链表的指针形式改写为静态数组形式，效率会更高。

3 Application & Comparison

3.1 Polyomino and Exact Cover

在最开始我们介绍的多联骨牌（Polyomino），我们来考虑如何将它转化为精确覆盖问题。

首先，我们将$60$个方格编号，为$1-60$。

那么，如果某个格子被覆盖到了，那么这一列就为1，

总共有$12$个图形，所以我们还需要标记是哪一个图形，这里我们用$61-72$来表示这$12$个图形。

如下图，我们用十字这个图形来覆盖，如果是左边这种情况，我们会覆盖$2，9，10，11，18$这$5$列，加上十字这个图形是编号$70$，所以我们还要覆盖列$70$。

如果是右边这种情况，我们会覆盖$3，10，11，12，19，70$这$6$列。

从这里可以看出，我们的矩阵会有$72$列，以及若干行，具体多少行，和$12$个图形的形状有关。

将它们完全转化为矩阵之后。就变成精确覆盖问题了，套用DLX模板，即可求解。

3.2 Sudoku and Exact Cover

数独问题怎么转化为精确覆盖问题呢？

我们需要构造的矩阵，行和列分别表示什么呢？

对于列$(4*n^2)$，一共有4个限制:
- 位置限制:每一格有且仅有一个数.
- 列限制:每一列中每个数仅出现一次.
- 行限制:每一行中每个数仅出现一次.
- 区域限制:每个区域每个数仅出现一次.
对于行$(n^3)$：
- 表示每个数放入每格中.

对于位置限制，每一个位置都需要出现一个数，且只能出现一个数，拿$4*4$的数独，那就是16个格子每个格子只能出现一个数，我们将它们在矩阵中编号为$1-16$。

如下图所示，2出现在第一行，第一列，所以在举证的列1，填上1，数字4出现在第一行第二列，所以在列2填上1。

对于列的限制，每一列中每个数仅出现一次。我们将它们在矩阵中编号为$17-32$。

如下图所示，2出现在数独的第一列，所以在矩阵的第18列(表示第1列出现2)填上1，数字4出现在数独第二列，所以在矩阵的第24列(表示第2列出现4)填上1。

对于行的限制，每一行中每个数仅出现一次。我们将它们在矩阵中编号为$33-48$。

如下图所示，2出现在数独的第一行，所以在矩阵的第34列(表示第1行出现2)填上1，数字4出现在数独第二列，所以在矩阵的第36列(表示第1行出现4)填上1。

对于宫的限制，每一宫中每个数仅出现一次。我们将它们在矩阵中编号为$48-64$。

如下图所示，2出现在数独的第一行，所以在矩阵的第50列(表示第1宫出现2)填上1，数字4出现在数独第二列，所以在矩阵的第52列(表示第1宫出现4)填上1。

那么最终，我们的矩阵共有$4*n^2=64$列

而每个格子最多有n总放置方法$(1-n)$，我们共有$n*n$个格子，所以最多会有$n^3=64$行。

对于$9*9$的数独,

我们将其转化为一个 $729*324$ 的矩阵，然后DLX模板套之即可！

struct DLX{

    int n, m, cnt;

    int L[maxnode], R[maxnode], U[maxnode], D[maxnode], row[maxnode], col[maxnode];

    int S[MAXC], H[MAXR], o[MAXR];

    void init( int _n, int _m ){

        n = _n; m = _m;

        for( int i = 0; i <= m; ++i ){

            S[i] = 0;

            U[i] = D[i] = i;

            L[i] = i - 1; R[i] = i + 1;

        }

        R[m] = 0; L[0] = m;

        cnt = m;

        for( int i = 1; i <= n; ++i ) H[i] = -1;

    }

    void link( int r, int  c ){

        S[c]++;

        col[++cnt] = c; row[cnt] = r;

        D[cnt] = D[c];  U[D[c]] = cnt;

        U[cnt] = c; D[c] = cnt;

        if( H[r] < 0 ) H[r] = L[cnt] = R[cnt] = cnt;

        else{

            R[cnt] = R[H[r]];

            L[R[H[r]]] = cnt;

            L[cnt] = H[r];

            R[H[r]] = cnt;

        }

    }

    void remove( int c ){

        L[R[c]] = L[c]; R[L[c]] = R[c];

        for( int i = D[c]; i != c; i = D[i] )

            for( int j = R[i]; j != i; j = R[j] ){

                U[D[j]] = U[j];

                D[U[j]] = D[j];

                --S[col[j]];

            }

    }

    void resume( int c ){

        for( int i = U[c]; i != c; i = U[i] )

            for( int j = L[i]; j != i; j = L[j] ){

                U[D[j]] = D[U[j]] = j;

                ++S[col[j]];

            }

        L[R[c]] = R[L[c]] = c;

    }

    bool dancing( int d ){

        if( R[0] == 0 )

            return true;

        int c = R[0];

        for( int i = R[0]; i != 0; i = R[i] )

            if( S[i] < S[c] )

                c = i;

        remove(c);

        for( int i = D[c]; i != c; i = D[i] ){

            o[d] = row[i];

            for( int j = R[i] ; j != i; j = R[j] ) remove( col[j] );

            if( dancing( d + 1 ) ) return true;

            for( int j = L[i] ; j != i; j = L[j] ) resume( col[j] );

        }

        resume(c);

        return false;

    }

}dlx;

3.2.1 test

我先使用 qqwing 生成的难度级分别别为简单，中等和困难的$9*9$数独各200个。

然后对DLX和DFS分别进行测试，得到如下图所示的结果，DLX要比DFS快了60-140倍！

3.3 N-queens and Exact Cover

N皇后问题，也可以转化为精确覆盖，然后DLX模板套之。。

通过前面的讲解你应该能够自己建模了吧？试一试SPOJ NQUEEN这道题目怎么样？

4 Conclusion

DLX is a simple and beautiful algorithm.
It can solve Exact Cover Problem（精确覆盖） efficiently.
It can also solve Overlapping Cover(重复覆盖) Problem.(虽然本文没有提及，但这也是DLX的重要运用，需要对remove和resume操作以及dancing部分进行略微的修改)
Thanks for Donald E. Knuth.

5 Reference

一些也许有用的链接
一些也许有用的资料下载

Let’s dance ! Thank you!