最尤推定正規分佈

在統計學中,最尤推定(Maximum Likelihood Estimation, MLE)是一種用來估計參數的方法,它通過尋找能夠最大化模型機率分布的參數值來估計未知參數。對於常態分配(也稱為高斯分布),這是一種廣泛使用的估計方法。

常態分配的密度函式為:

$$ f(x; \mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x - \mu)^2}{2\sigma^2}} $$

其中,$\mu$是均值,$\sigma$是標準差,$x$是隨機變數。

為了使用最大似然估計來估計常態分配的參數,我們需要考慮模型的似然函式,即在給定參數值的情況下,觀察到數據的可能性。對於一組獨立同分布的數據點$x_1, x_2, \dots, x_n$,其似然函式為:

$$ L(\mu, \sigma^2 \mid x_1, x_2, \dots, xn) = \prod{i=1}^n f(x_i; \mu, \sigma^2) $$

為了找到最大似然估計,我們需要找到使得似然函式最大的參數值。這通常通過求解似然函式對參數的偏導數等於零的方程組來實現。

對於常態分配,我們可以通過以下步驟進行最大似然估計:

  1. 寫出似然函式。
  2. 求解似然函式對均值和標準差的偏導數,並令其等於零。
  3. 解得的參數值就是最大似然估計。

在實際套用中,通常使用數值方法(如梯度上升法或牛頓法)來找到最大似然估計,因為對於複雜的模型,很難直接解出解析解。

需要注意的是,最大似然估計只是參數估計的一種方法,還有其他方法如最小二乘法、貝葉斯估計等。選擇哪種方法取決於具體的問題和數據。