正規方程式最小二乗法

正規方程法（Normal equations）是一種求解線性回歸模型的方法，其中最小二乘法是最常用的方法之一。正規方程法通過直接求解正規方程組來求解模型的參數。

正規方程最小二乘法的步驟如下：

1. 計算誤差的平方和（SS）：計算因變數y對自變數x的預測值與實際值之間的誤差平方和。
2. 計算回歸係數B的平方和（SB）：計算回歸係數B的平方和，即所有回歸係數乘積的平方和。
3. 計算偏差平方和（SSresiduals）：計算每個觀測值與預測值之間的偏差平方和。
4. 計算回歸模型的自由度（df）：回歸模型的自由度等於自變數的數量減一。
5. 求解正規方程組：將偏差平方和、誤差平方和與回歸係數平方和相加，得到總平方和（SST）。將總平方和除以自由度，得到均方根誤差（RMSE）。正規方程組由此得出模型的參數估計值。

需要注意的是，正規方程法通常適用於解釋變數較多的回歸模型，因為它可以提供每個解釋變數對因變數的直接效應。對於解釋變數較少的簡單線性回歸模型，也可以通過普通最小二乘法求解。