最小二乘求解常数k使得kx=y（x,y为列向量）

直接求解法

取范数
\[
E(k)=\|kx-y\|^{2}\\
\]
构建最小二乘得出
\[
\arg \min (E(k))=k^2x^Tx+y^Ty-2x^Tyk
\]
对ｋ求导有
\[
2x^Txk-2x^Ty=0
\]
解得
\[
k =　\frac{x^Ty}{x^Tx}
\]

---

带初值的增量求解法

取ｋ的初始值为\(k_1\)，增量值为\(k_2\),由上述直接法可知
\[
k = k_1+k_2 =\frac{x^Ty}{x^Tx}\\
k_2 = \frac{x^Ty}{x^Tx}-k_1=\frac{x^Ty-k_1x^Tx}{x^Tx}=\frac{x^Ty-k_1x^Tx}{x^Tx}
\]
因此可利用\(k_1\)求解\(k_2\)进而得到\(k\)