最小均方值

最小均方值(Minimum Mean Squared Error, MMSE)是一種最佳化準則,用於尋找信號估計中的最佳估計量,其目標是使估計信號的均方誤差最小化。在統計學和信號處理中,均方誤差(MSE)被定義為估計值與真實值之間差異的平方的平均值。

假設有一個隨機變數X,其真實值未知,但可以通過觀測得到另一個隨機變數Y,Y是X的觀測值,可能受到噪聲或其他干擾的影響。我們的目標是找到一個函式f(Y),它可以將觀測值Y映射到一個估計值,這個估計值儘可能接近X的真實值。

最小均方誤差估計量的數學表達式可以表示為:

[ \hat{X} = f(Y) ]

其中,(\hat{X})是X的估計值,f()是估計函式。最小均方誤差估計量的目標是最小化以下均方誤差(MSE):

[ \text{MSE}(\hat{X}) = \mathbb{E}\left[(\hat{X} - X)^2\right] ]

其中,(\mathbb{E})表示數學期望,((\hat{X} - X)^2)是估計誤差,即估計值與真實值之間的差異。

為了找到最小均方誤差估計量,我們可以通過求解以下最佳化問題來實現:

[ \min{\hat{X}} \text{MSE}(\hat{X}) = \min{\hat{X}} \mathbb{E}\left[(\hat{X} - X)^2\right] ]

在許多情況下,最小均方誤差估計量可以通過數學推導得到,特別是線上性模型和某些特定的機率模型中。例如,在Gaussian噪聲模型下,最小均方誤差估計量是線性估計量,其形式為:

[ \hat{X} = \muX + \frac{\sigma{XY}}{\sigma_X} (Y - \mu_Y) ]

其中,(\mu_X)和(\muY)分別是X和Y的數學期望,(\sigma{XY})是X和Y之間的協方差,(\sigma_X)是X的方差。這個估計量也被稱為Wiener濾波器,在通信系統和信號處理中有著廣泛的套用。