算法学习笔记(45): 快速沃尔什变换 FWT

遗憾的是 math 里面一直没有很好的讲这个东西……所以这次细致说说。

FWT 的本质

类似于多项式卷积中，利用 ntt 变换使得卷积 \(\to\) 点乘，fwt 也是类似的应用。

定义某种位运算 \(\oplus\)，那么 fwt 处理的位运算卷积形如：

\[H = F * G \implies H_k = \sum_{i \oplus j = k} F_i G_j
\]

那么我们需要构造出一种变换，使得：

\[H = F * G \iff fwt(H) = fwt(F) \cdot fwt(G)
\]

暂时我们还不得而知如何变换，考虑设 \(c(i, j)\) 表示变换系数，那么有：

\[fwt(F)_i = \sum c(i, j) F_j
\]

那么对应的点积：

\[fwt(H)_k = \sum_i \sum_j c(k, i) F_i c(k, j) G_j = \sum_i c(k, i) H_i
\]

根据卷积定义：

\[\sum_i c(k, i) H_i = \sum_i c(k, i) \sum_{x \oplus y = i} F_x G_y = \sum_x \sum_y F_x G_y c(k, x \oplus y)
\]

对比：

\[\sum_x \sum_y F_x G_y c(k, x \oplus y) = \sum_i \sum_j c(k, i) F_i c(k, j) G_j
\]

我们可以得知：

\[c(k, x \oplus y) = c(k, x) c(k, y)
\]

这个等式便是 fwt 的核心。

另外，考虑到位运算每一位是独立的，那么 \(c(x, y)\) 非常重要的性质是可以按位考虑。也就是说：

\[c(i, j) = c(i_0, j_0) c(i_1, j_1) \cdots
\]

其中 \(i_k\) 表示 \(i\) 的第 \(k\) 位。

那么我们只需要构造出 \(c(0/1, 0/1)\) 即可。

不妨假设我们已经构造出了 \(c\)，那么怎么求解呢？

类似 ntt 的考虑，分治：

\[fwt_i = \sum c(i, j) F_j = \sum_{j = 0}^{(n / 2) - 1} c(i, j) F_j + \sum_{j = n / 2}^{n - 1} c(i, j) F_j
\]

将最高位拆出来，分别记为 \(i', j'\)：

\[fwt_i = c(i_0, 0) \sum_{j = 0}^{(n / 2) - 1} c(i, j) F_j + c(i_0, 1) \sum_{j = n / 2}^{n - 1} c(i, j) F_j
\]

于是分半之后：

\[fwt(F)_i = c(i_0, 0) fwt(F_0)_i + c(i_0, 1) fwt(F_1)_i
\]

于是可以 \(O(n)\) 的合并两个规模减半的东西了，于是总复杂度 \(O(w 2^w)\)，其中 \(w\) 是位数。

对于逆变换，将 \(c\) 求个逆，变换回去即可。

FWT 的构造

现在我们对于 \(\texttt{or, and, xor}\) 尝试构造其 \(c\) 矩阵。

\(\texttt{or}\)

首先，注意到 \(c(0, 0) c(0, 0) = c(0, 0 | 0)\)，于是 \(c(0, 0) = 0/1\)。

同理，不难得出 \(c(0/1, 0/1) \in \{0, 1\}\)。

考虑 \(c(0, 0) c(0, 1) = c(0, 1)\) 可以得出 \(c(0, 0) = c(0, 1) = 1\) 或者 \(c(0, 1) = 0\)。

同理考虑 \(c(1, 0) c(1, 1) = c(1, 1)\) 也可以知道 \(c(1, 1) = 0\) 或者 \(c(1, 0) = c(1, 1) = 1\)。

注意到需要构造出的矩阵有逆，那么只能是：

\[\begin{bmatrix}
1 & 1 \\ 1 & 0
\end{bmatrix} \text{或者}
\begin{bmatrix}
1 & 0 \\ 1 & 1
\end{bmatrix}
\]

值得注意的是，第二种矩阵 \(c(i, j)\) 对应的等式为 \([i \& j = j]\)，也就是说：

\[fwt_i = \sum_{i \& j = j} F_j = \sum_{j \subseteq i} F_j
\]

相当于子集求和！

void fwtor(int n, int inv = {1, -1}) {
	for (int u = 2, k = 1; u <= n; u <<= 1, k <<= 1)
		for (int i = 0; i < n; i += u)
			for (int j = 0; j < k; ++j)
				fwt[i + j + k] += fwt[i + j] * inv;
}

\(\texttt{and}\)

首先还是注意到 \(c(0/1, 0/1) \in \{0, 1\}\)。

考虑 \(c(0, 0) c(0, 1) = c(0, 0)\) 得出 \(c(0, 0) = 0\) 或者 \(c(0, 0) = c(0, 1) = 1\)。

同理考虑 \(c(1, 0) c(1, 1) = c(1, 0)\) 得出 \(c(1, 0) = 0\) 或者 \(c(1, 0) = c(1, 1) = 1\)。

那么还是：

\[\begin{bmatrix}
1 & 1 \\ 0 & 1
\end{bmatrix} \text{或者}
\begin{bmatrix}
0 & 1 \\ 1 & 1
\end{bmatrix}
\]

值得注意的是，第一种矩阵 \(c(i, j)\) 对应的是 \([i \& j = i]\)，也就是说：

\[fwt_i = \sum_{i \& j = j} F_j = \sum_{i \subseteq j} F_j
\]

相当于超集求和！

void fwtand(int n, int inv = {1, -1}) {
	for (int u = 2, k = 1; u <= n; u <<= 1, k <<= 1)
		for (int i = 0; i < n; i += u)
			for (int j = 0; j < k; ++j)
				fwt[i + j] += fwt[i + j + k] * inv;
}

\(\texttt{xor}\)

考虑对于任意 \(x, y \in \{0, 1\}\) 存在 \(c(0, 0) c(x, y) = c(x, y)\)，那么一定存在 \(c(0, 0) = 1\)，否则 \(c(1, 1) = c(1, 0) = 0\) 显然没有逆，不可行。

考虑 \(c(0, 1) c(0, 1) = c(0, 0)\)，那么 \(c(0, 1) = \pm 1\)。

\(c(1, 0) c(1, 0) = c(1, 1) c(1, 1) = c(1, 0)\)，所以 \(c(1, 0) = 1\)，否则 \(c(1, 1) = c(1, 0) = 0\) 则显然没有逆。

\(c(1, 1) c(1, 1) = c(1, 0)\)，考虑到 \(c(1, 0) = 1\)，那么自然 \(c(1, 1) = \pm 1\)。

所以可行的矩阵为：

\[\begin{bmatrix}
1 & 1 \\ 1 & -1
\end{bmatrix}
\text{或者}
\begin{bmatrix}
1 & -1 \\ 1 & 1
\end{bmatrix}
\]

注意到对于第一个矩阵，实际上的系数为 \((-1)^{|i \& j|}\)。啥也不相当于。

void fwtxor(int n, int inv = {1, 1/2}) {
	for (int u = 2, k = 1; u <= n; u <<= 1, k <<= 1)
		for (int i = 0; i < n; i += u)
			for (int j = 0; j < k; ++j) {
				int x = fwt[i + j], y = fwt[i + j + k];
				fwt[i + j] = (x + y) * inv, fwt[i + j + k] = (x - y) * inv;
			}
}