【SVD、特征值分解、PCA关系】

一、SVD

   1.含义：

把矩阵分解为缩放矩阵+旋转矩阵+特征向量矩阵。

A矩阵的作用是将一个向量从V这组正交基向量的空间旋转到U这组正交基向量的空间，并对每个方向进行了一定的缩放，缩放因子就是各个奇异值，如果V维度比U大，则说明进行了投影。

SVD分解表示把旋转、缩放、特征向量分离出来。

二、SVD与奇异值  

1.计算上：

U的列为AA^T的正交特征向量

V的列为A^TA的正交特征向量

2.含义上：

都是抽取一个矩阵的主要部分

3.不同点：

特征值分解只有缩放，没有旋转；所有矩阵都可以奇异值分解。

三、SVD与PCA

四、参考

https://blog.csdn.net/MyArrow/article/details/53780972

https://www.zhihu.com/question/19666954/answer/54788626

五、用处

提取主要部分，用于：

压缩存储、去噪、解PCA、解线性方程组。