H.264编码之DCT变换原理

DCT变换是一种与FFT变换紧密相连的数学运算，当函数为偶函数是，其傅立叶展开式只有余弦项，因些称为余弦变换，其离散化的过程称为DCT(离散余弦)变换。下面我们就推导下H.264的4x4整数DCT公式。

首先给出DCT变换的定义，其变换公式可以写成：Y = AXA^T,这里A为单位正交距阵，满足：I = AA^T，距阵A的公式如下：

这里N为距阵的阶数，在这里为N=4，因此，A可以写成如下形势：

对A做三角变换

设

则A距阵可以变为：

又因为A可以分解为

这里我们先算下d的值：

在H.264中，定义d=1/2,则可以根据正交距阵概念算出b=sqrt(2/5)，可得

对上述公式做一此变换

下面估计正变换输出值的范围

矩阵C行元素绝对值之和为6，因为乘了两次值，最大为36，log236=5.1699 = 6位

加上9位视频输入，共15位。因此，用16位的位深足以表示。