最尤推定値例題

最尤推定（Maximum Likelihood Estimation, MLE）は統計學の手法の1つで、データからパラメータを推定する際に使用されます。MLEの基本となる考え方は、パラメータの値を見つけることで、そのデータが生じた確率が最大となるようにすることです。このように、最尤推定値は、データが生じた確率が最大となるパラメータの値です。

例題を見てみましょう。

例題1: 正規分布の平均と分散を推定する

データ：1, 2, 3, 4, 5

このデータは、平均がμ、分散がσ^2の正規分布に従ったものとしています。このデータから平均μと分散σ^2を推定するには、次のように計算します。

平均μの最尤推定値は、データの平均をとることで求めます。

[ \hat{\mu} = \frac{1}{n} \sum_{i=1}^{n} x_i ]

ここで、( n )はデータの個數で、( x_i )は各データ點です。

[ \hat{\mu} = \frac{1}{5} (1 + 2 + 3 + 4 + 5) = \frac{15}{5} = 3 ]

分散σ^2の最尤推定値は、次の式で求めます。

[ \hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i - \hat{\mu})^2 ]

計算してみます。

[ \hat{\sigma}^2 = \frac{1}{5} [(1 - 3)^2 + (2 - 3)^2 + (3 - 3)^2 + (4 - 3)^2 + (5 - 3)^2] ]

[ \hat{\sigma}^2 = \frac{1}{5} [(-2)^2 + (-1)^2 + 0^2 + (1)^2 + (2)^2] ]

[ \hat{\sigma}^2 = \frac{1}{5} [4 + 1 + 0 + 1 + 4] ]

[ \hat{\sigma}^2 = \frac{1}{5} [10] ]

[ \hat{\sigma}^2 = 2 ]

したがって、平均μの最尤推定値は3で、分散σ^2の最尤推定値は2です。

例題2: 二項分布の成功確率を推定する

データ：成功5回、失敗10回

このデータは、成功確率pで、最大試行回數が無限大の二項分布に従ったものとしています。このデータから成功確率pを推定するには、次のように計算します。

成功回數の最尤推定値は、次の式で求めます。

[ \hat{p} = \frac{n_s}{n} ]

ここで、( n_s )は成功回數で、( n )は試行回數です。

[ \hat{p} = \frac{5}{15} = \frac{1}{3} ]

したがって、成功確率pの最尤推定値は1/3です。

これらは、最尤推定の基本的な例題です。実際のデータ分析では、データの分布やモデルの設定に応じて、最尤推定の手法を適用します。