最小均方誤差公式

最小均方誤差（Minimum Mean Squared Error, MMSE）是一個在信號處理和統計學中用來估計一個變量或信號的最佳估計量的方法。在給定觀察值和一些先驗信息的情況下，MMSE估計量是通過最小化均方誤差的期望值來獲得的。均方誤差（Mean Squared Error, MSE）是估計值與真實值之間的平方誤差的平均值。

假設我們想要估計一個變量 ( x )，我們有觀察值 ( y ) 和一個先驗機率密度函數 ( p(x) )。MMSE估計量 ( \hat{x} ) 是通過以下公式來獲得的：

[ \hat{x} = \int x p(x|y) dx ]

其中 ( p(x|y) ) 是條件機率密度函數，表示在給定觀察值 ( y ) 下變量 ( x ) 的後驗機率分布。

在許多情況下，直接計算 ( \hat{x} ) 是困難的，因此我們通常會尋找一個線性估計器 ( \hat{x} = w^T y )，其中 ( w ) 是權重向量，( y ) 是觀察向量。在這種情況下，MMSE線性估計器 ( w ) 是由以下規範方程來確定的：

[ w = (C{yy})^{-1} C{xy} ]

其中 ( C{yy} ) 是觀察向量的協方差矩陣，( C{xy} ) 是觀察向量與真實變量之間的相關向量，這些都是建立在先驗信息上的。

最小均方誤差是一個廣泛應用於無線通訊、信號處理、機器學習和統計學等領域的概念，它提供了一個框架來設計和評估估計器的性能。