何謂最大似然估計

最大似然估計(Maximum Likelihood Estimation, MLE)是一種統計學的方法,用來估計一個模型參數的值,這些參數控制著一個機率分布,而這個分布的樣本已經被觀察到。最大似然估計的目標是找到使觀察到的樣本數據出現的可能性最大的那些參數值。

在最大似然估計中,我們首先假設一個機率模型,這個模型由一些未知的參數控制。接著,我們觀察到一些數據,這些數據被認為是從這個模型中隨機抽取的。我們想要找到那些參數的值,使得在給定這些參數值的情況下,觀察到的數據樣本發生的機率最大。

具體來說,我們會計算模型的機率密度函數或者機率分佈函數對於每個可能的參數值的對數似然值(log-likelihood),然後找到最大化這個對數似然值的參數值。這個過程就是最大似然估計。

最大似然估計有一個重要的性質,那就是它是不偏估計量(unbiased estimator),這意味著它的期望值等於真值。此外,在某些條件下,最大似然估計也是有效估計量(efficient estimator),這意味著在所有不偏估計量中,它的方差最小。

最大似然估計是一種廣泛使用的統計學方法,可以用於各種場合,包括頻率學派統計學和貝葉斯統計學。在頻率學派中,最大似然估計是用來估計參數的值,而在貝葉斯統計學中,最大似然估計可以用來設定參數的先驗分佈。