加權最小二乘法

加權最小二乘法（Weighted Least Squares, WLS）是一種統計學方法，用於在數據中有不同的誤差或信噪比時進行線性迴歸。在傳統的最小二乘法中，所有的數據點都被賦予了相同的權重，但是在加權最小二乘法中，數據點的權重會根據它們的可靠性或重要性進行調整。

假設我們有一組數據點{(xi, yi)}，其中xi是自變量，yi是因變量，我們想要找到一條線 y = a + bx 來最佳地擬合這些數據點。在加權最小二乘法中，我們最小化以下目標函數：

[ \sum_{i=1}^{n} w_i (y_i - a - bx_i)^2 ]

這裡，wi是數據點(xi, yi)的權重。權重的選擇可以基於各種因素，例如數據點的信噪比、數據點的重要性、數據點的可靠性等。

加權最小二乘法可以用以下公式來計算線性模型的參數：

[ \hat{a} = \frac{\sum_{i=1}^{n} w_i x_i yi - \sum{i=1}^{n} w_i xi \sum{i=1}^{n} w_i yi}{\sum{i=1}^{n} w_i xi^2 - \left(\sum{i=1}^{n} w_i x_i\right)^2} ]

[ \hat{b} = \frac{\sum_{i=1}^{n} w_i x_i yi - \sum{i=1}^{n} w_i xi \sum{i=1}^{n} w_i yi}{\sum{i=1}^{n} w_i xi^2 - \left(\sum{i=1}^{n} w_i x_i\right)^2} ]

這裡，(\hat{a})和(\hat{b})是加權最小二乘法得到的線性模型的參數。

加權最小二乘法在許多領域都有應用，例如經濟學、工程學、物理學等。在這些領域中，數據的可靠性可能不是均勻的，因此使用加權最小二乘法可以得到更準確的模型。