Qr分解最小二乘法

QR分解是最小二乘法的一種有效算法，用於解決線性方程組 Ax = b 的問題，其中 A 是 m × n 的矩陣，b 是 m 維的向量，x 是 n 維的向量。當方程組沒有精確解時，最小二乘法的目標是找到一個解 x ，使得 || Ax - b || 最小。

QR分解是將矩陣 A 分解為正交矩陣 Q 和上三角矩陣 R 的乘積，即 A = QR。這個過程可以通過Gram-Schmidt過程或者Householder反射來實現。

最小二乘法的QR分解算法如下：

1. 對矩陣 A 進行QR分解，得到 Q 和 R。
2. 解方程組 Rx = Q^Tb，這裡 Q^T 是 Q 的轉置矩陣，R 是上三角矩陣。
3. 如果有多個解，選擇一個滿足 || x || 最小的解。

這個算法的優點是，對於上三角矩陣 R 的解可以通過直接方法（如高斯消元法）或者疊代方法（如共軛梯度法）快速求解。此外，如果 A 是滿秩的，那麼這個解是唯一的。

在實際套用中，QR分解是最小二乘法的常用算法之一，因為它具有良好的數值穩定性。在某些情況下，QR分解還可以用於奇異值分解（SVD）或者廣義最小二乘法（GLS）等問題。