"Blessing of Dimisionality: High Dimensional Feature and Its Efficient Compression for Face Verification"学习笔记

这\(^{[1]}\)是一篇关于如何使用高维度特征在人脸验证中的文章，作者以主要LBP为例子，论述了高维特征和验证性能存在着正相关的关系，即人脸维度越高，验证的准确度就越高。由于那时候没有用DeepLearning在LAWF上测试精度就能达到很高的精度95+%，受到了很多人的关注。而有些开源库已经实现了这篇文章的特征提取方法，例如dlib，github的开源项目。注意他们只是实现了高维特征的提取，并没有实现降维的算法。接下来总结一下学习的笔记。

算法的主要内容和步骤如下：首先.提取高维特征；接着.学习降维矩阵；最后提取低维特征。

1.提取高维特征

如图下所示，提取高维特征的基本思路为：

　　a.检测人脸的对齐点（Landmarks，如图所示的黄色十字点）；Landmark是刻画人脸的重要表征，因此准确的检测它们，并在这些点上提取相应的特征是非常有利于人脸识别的。

　　b.对人脸图像构造若干层（4-5层不等）金字塔图像（即多尺度缩放人脸），在每层图像上采用不同数量的对齐点（如下图所示，一般不考虑人脸外围的Landmarks（背景的影响较大），而是使用人脸内部的Landmarks（更具代表人脸特征））

　　c.将各层提取得到的特征，按照顺序拼接起来便得到高维度的金字塔LBP特征向量。

　　具体的实现请参考例如dlib，github的开源项目。选取的Landmarks和文章略有不同。如此下来，高维度的特征向量\(X\)的维度可以达到非常高的维度，10k-100k不等。而降低维度更有利于分类器的学习和距离的比较。接下来就是如何学习一个有效的降维矩阵\(B\)，使得降维后的特征向量\(Y=BX\)。

2.学习降维矩阵

　　降维矩阵\(B\)的学习思路非常的简单，如下图所示，学习的步骤如下：

　　a. 假设参照1.提取高维特征提取特征方法，采集了若干个人的\(N\)张图片提取得到的高维度集合\( X=\left [ x_{1},x_{2},...,x_{N} \right ] \)。

　　b. 对\(  X \)利用PCA降维度，再用监督的子空间学习\(^{[2-3]}\)得到相应的特征集合\( Y=\left [ y_{1},y_{2},...,y_{N} \right ] \)。

　  c. 利用数据\(  X ，Y\)，最优化以下的目标函数，得到最优的变换矩阵\(B\):

\(\lim_{R,B} {\left | R^{T}Y-B^{T}X \right |_{2}^{2}} + \lambda \left | B \right |_{1} \quad  s.t. R^{T}R=I\)

　　　\(R\)表示旋转矩阵，使用\(R\)的主要原因是因为在子空间中的距离测度是具有旋转不变性的；\(B\)表示降维矩阵。求解的过程也很常用的手段，即固定\(R\)求解\(B\),固定\(B\)求解\(R\)，如此迭代多次就能达到收敛。

3. 提取低维特征

　　如上图所示，提取低纬度特征的步骤如下：

　　a. 对于测试图片，参照1.提取高维特征提取特征\(x_{t}\)。

　　b. 利用变换矩阵\(B\)，对\(x_{t}\)降维，得到\(y_{t} = B x_{t}\)。

参考论文

[1]. D. Chen, X. Cao, F. Wen, J. Sun. Blessing of Dimensionality: High-dimensional Feature and Its Efficient Compression for Face Verification. Computer Vision and Pattern Recognition (CVPR), 2013.

[2]. P. N. Belhumeur, J. P. Hespanha, and D. J. Kriegman. Eigenfaces vs. Fisherfaces: Recognition Using Class Specific Linear Projection. IEEE Trans on PAMI, 1997.

[3]. D. Chen, X. Cao, L. Wang, F. Wen, and J. Sun. Bayesian face revisited: A joint formulation. In European Conference on Computer Vision, pages 566–579, 2012.