最小均方估計

最小均方估計(Minimum Mean Squared Error, MMSE)是一種估計理論,用於在有雜訊的信號中估計出原始信號。在信號處理、通訊和統計學中,這個概念非常重要。MMSE估計的目標是找到一個估計量,使得均方誤差(MSE)最小化。均方誤差是估計值和真實值之間的平方誤差的平均值。

假設我們有一個信號x,它受到加性高斯白雜訊n的影響,得到觀察值y:

y = x + n

其中x是我們想要估計的信號,n是均值為0、方差為σ^2的高斯白雜訊。

最小均方估計量是通過最小化均方誤差來找到的:

E[(x - \hat{x})^2]

其中\hat{x}是我們的估計量,E[]表示對所有可能的x和n取期望值。

為了找到MMSE估計量,我們可以使用以下公式:

\hat{x}{MMSE} = E[x|y] = \int{-\infty}^{\infty} x p(x|y) dx

其中p(x|y)是條件機率密度函數,給定觀察值y的信號x的後驗機率。

在許多情況下,直接計算MMSE估計量是困難的,因此通常會使用近似方法或尋找線性MMSE估計量,即估計量是信號的一個線性函數:

\hat{x}_{LMMSE} = A y

其中A是通過MMSE條件得到的係數。

線性MMSE估計量的係數A可以通過信號x和觀察值y的相關性來計算:

A = \frac{E[xy]}{E[y^2]}

線性MMSE估計量僅當信號x和觀察值y之間的關係是線性的時候才有效。如果關係是非線性的,則需要使用更複雜的方法來找到MMSE估計量。