最小二乘

最小二乘是一種數學最佳化技術，用於找到數據集中最佳的擬合直線（對於一維數據）或平面（對於二維數據）。在統計學中，最小二乘法通常用於線性回歸模型，以找到最佳擬合直線，使得所有數據點到直線的距離和最小。

最小二乘法的原理是找到一組參數，使得這些參數與數據之間的誤差平方和最小。這個誤差平方和稱為總離差平方和（Total Sum of Squares, TSS），通常表示為：

TSS = Σ(y_i - \hat{y_i})^2

其中，y_i是實際觀測值，\hat{y_i}是使用模型預測的值，i是數據點的索引。

最小二乘法的目標是找到模型參數，使得TSS最小。線上性回歸模型中，\hat{y_i}可以表示為：

\hat{y_i} = \beta_0 + \beta_1 x_i

其中，\beta_0和\beta_1是模型的參數，x_i是自變數。通過最小化TSS，我們可以得到最佳的\beta_0和\beta_1值。

最小二乘法的好處是它不僅考慮了數據點在直線（或平面）上的偏差，還考慮了這些偏差的大小。因此，最小二乘法可以找到一個模型，使得數據點與模型之間的誤差最小。

最小二乘法在許多領域都有套用，例如氣象學、工程學、經濟學和生物學等。在數據分析和機器學習中，最小二乘法是線性回歸模型的基礎。