最尤法正規分布

最尤法（Maximum Likelihood Estimation, MLE）是一種統計學方法，用於估計參數的最大似然估計。對於常態分配（也稱為高斯分布），其機率密度函式（PDF）為：

$$ f(x; \mu, \sigma) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}} $$

其中，$\mu$是均值，$\sigma$是標準差。

假設我們有一組獨立同分布（i.i.d.）的觀測值$x_1, x_2, \dots, x_n$，它們服從常態分配。我們想要估計$\mu$和$\sigma$的值。

最尤法的基本思想是找到使觀測值出現的機率最大的參數值。在常態分配的情況下，這等價於找到使似然函式最大的參數值。似然函式是機率密度函式的乘積，對於常態分配，其似然函式為：

$$ L(\mu, \sigma; x_1, x_2, \dots, xn) = \prod{i=1}^n \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x_i-\mu)^2}{2\sigma^2}} $$

為了找到最大值，我們可以對$\mu$和$\sigma$求偏導數，並設它們為零。這個過程通常通過最佳化算法（如梯度上升、牛頓法等）來完成。

對於$\mu$，我們有：

$$ \frac{\partial \log L}{\partial \mu} = \sum_{i=1}^n \frac{x_i - \mu}{\sigma^2} = 0 $$

解這個方程得到：

$$ \hat{\mu} = \frac{\sum_{i=1}^n x_i}{n} $$

對於$\sigma$，我們有：

$$ \frac{\partial \log L}{\partial \sigma} = - \frac{n}{2\sigma} + \frac{\sum_{i=1}^n (x_i - \mu)^2}{2\sigma^3} = 0 $$

解這個方程得到：

$$ \hat{\sigma}^2 = \frac{\sum_{i=1}^n (x_i - \hat{\mu})^2}{n} $$

因此，通過最尤法，我們可以估計常態分配的均值和標準差。在實際套用中，通常使用軟體包（如R、Python的scipy等）來計算這些估計值。