最大可能值準則

最大可能值準則(Maximum Likelihood Principle, MLE)是一種統計學方法,用於估計參數值。它基於這樣一個概念:給定觀察到的數據,我們要找到參數值,使得這些數據的機率最大。這個機率是通過模型的機率分布來計算的。

具體來說,假設我們有數據集D,它是由模型分布產生的。模型分布由參數θ控制。最大可能值準則要求我們找到參數θ的值,使得在給定D的情況下,模型分布的機率最大。這個機率被稱為似然函式(likelihood function),通常表示為L(θ|D)。

最大可能值估計(Maximum Likelihood Estimate, MLE)就是找到參數θ的值,使得L(θ|D)最大。這個值可以通過對似然函式求解最大值來找到。

最大可能值準則在許多統計模型中都有套用,包括線性模型、邏輯斯蒂回歸、樸素貝葉斯分類器等。它是一種常用的參數估計方法,尤其是在大數據和機器學習領域。