《Linear Algebra and Its Applications》-chaper6-正交性和最小二乘法-最小二乘问题

最小二乘问题：

结合之前给出向量空间中的正交、子空间W、正交投影、正交分解定理、最佳逼近原理，这里就可以比较圆满的解决最小二乘问题了。

首先我们得说明一下问题本身，就是在生产实践过程中，对于巨型线性方程组Ax=b，可能是无解的，但是我们就是迫切的需要一个解，满足这个解是方程的最近似解。

下面我们综合之前给出了一系列概念、定理，来解决这个问题。

首先我们需要给出最近似解的定义：

我们需要站在新的角度来解读线性方程组Ax=b，这样能够帮助我们更好的解决问题。

上文已经给出最小二乘问题最一般化的解法，但是考虑到具体计算好像有点麻烦，我们下面再探讨一种基于上面原理的算法。