中学生でも分かる！？統計数学〜点推定・区間推定・対数尤度・ベイズ推定〜

突然ですが、あなたは「この村に住む1000人の平均身長を知りたい！」と思ったことはありますか？

~~え？そんなの思ったことはない？困ったなぁ…~~

村に住む1000人全員の身長を測るのはとても大変ですよね。

そこで役に立つのが統計学です。
一部の人を調べるだけで、村全体の平均を予測できるんです。

今回はその方法を「点推定」「区間推定」、さらに「対数尤度（「たいすいゆうど」と読みます）」と「ベイズ推定」まで、やさしく紹介します！

点推定（まずは1つの数字で予想）

1000人の村から100人をランダムに選んで測ってみたら、平均は 160cm でした。

「ほほう…それなら村全体の平均も160cmだな！」
そう、この考え方が点推定です。

ただし、選んだ100人の集まり方によって結果がブレる可能性があります。
例えば、偶然身長が高い人ばかり100人集まった可能性も否定できません。

しかし、得られたデータだけから計算可能なので、お手軽です。これは大きなメリットですね。

点推定の数式はこちら。

$\hat{\mu} = \frac{1}{n} \sum_{i=1}^n x_i$

登場人物：

：「推定した平均（母平均の予想値）」
：「データの数（今回なら調べた人数）」
：「身長のデータを全て足したもの」

つまり「調べた人数で割った平均 = 村全体の平均の予想値」という意味です。

区間推定（幅を持たせた安心感）

点推定だけだと心もとないので、「幅を持たせた予想」をします。
この「幅を持たせた予想」を、信頼区間（Confidence Interval） と呼びます。

たとえば「村の平均身長は95%の確率で158〜162cmの間にある」というのではなく、
「もし何度も100人をランダムに測って区間を作れば、その95%が本当の平均を含む」 という意味になります。
（ここが後述するベイズの「信用区間」との大きな違いです。ベイズでは「この範囲にある確率が95%」と言えるのです。）

この信頼区間の仕組みを使ったのが区間推定です。

信頼区間は「毎回の推測は少しブレるけど、その95%は本当の答えを捕まえられる網」のようなイメージです。

図式化すると、このようになります。

数式はこちら。

$\bar{x} \pm z_{\alpha/2} \cdot \frac{\sigma}{\sqrt{n}}$

登場人物：

：「標本平均（100人を測った平均身長）」
：「プラスマイナスの幅を持たせる」
：「どれくらいの確率で当てたいかを決める数字（信頼係数）」
：「身長のばらつきの大きさ（標準偏差）」
：「人数が多いほどブレが小さくなることを表す」

つまり「標本平均 ± 誤差」で、「村の平均はこの範囲にありそう！」 と示せます。

では、これまでで点推定と区間推定を学んだので、図にしてみました。
点と区間の意味がこれでイメージしやすくなると思います。

対数尤度（一番もっともらしい数字を探す）

データから「どの平均が一番それっぽいか？」を調べるのが尤度で、
計算をラクにするために「対数」をとったものが対数尤度です。

イメージ：

平均160cmと仮定したら、データにすごく合う。
平均150cmと仮定したら、ちょっと合わない。

グラフにすると山の形になり、山の頂上が「最尤推定値（点推定の一種）」です。

※確率は 0〜1 の間にあるので、対数を取るとどうしても 0 以下になります。でも大事なのは「どの μ（母平均）のときに一番大きな値を取るか」で、それが最尤推定値です。

数式はこちら。

$\ell(\mu) = \sum_{i=1}^n \ln f(x_i|\mu)$

登場人物：

：「平均 $\mu$ のときの対数尤度」
：「全部のデータを足し合わせる」
：「対数（log）のこと。計算を簡単にする道具」
：「平均が $\mu$ だとしたときに、データ $x_i$ が出る確率」

つまり、「この平均が一番もっともらしいかどうかを計算するための式」です。
頂上が一番高いところ（最尤推定値）が「これだ！」という点推定になります。

※ここでは分布を正規分布と仮定しているので、最尤推定値は標本平均になります。他の分布（指数分布など）だと別の式になることもあります（後述）。

正規分布VS指数分布の対数尤度

正規分布の場合

確率密度関数

$f(x \mid \mu) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\!\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)$

これは「平均が μ の正規分布」の形を表す式です。
ここでいう μ は 村全員の平均身長（母平均）の候補 です。σ² は広がり（ばらつき）を表します。

正規分布については、「中学生でも分かる！？統計数学〜正規分布・二項分布・t分布〜」で詳しく説明していますので、よろしければこちらもどうぞ。

尤度関数

$L(\mu) = \prod_{i=1}^N f(x_i \mid \mu)$

よく分からない記号が出ましたね（~~私だけか？~~）。
登場人物を紹介します。

$f(x_i \mid \mu)$ ：個別の確率（1人分）
→これは「データx_i（i番目の人の身長）が、平均 μ の正規分布から出る確率の大きさ」を表しています。
$\prod_{i=1}^N f(x_i \mid \mu)$ ：全員分の掛け算
→この「Π（パイ）」記号は「全部掛け算する」という意味です。
つまり、N人分の「もっともらしさ」をまとめて掛け算しています。
$L(\mu)$ ：尤度
→この掛け算の結果が「尤度」と呼ばれます。
つまり「もし平均が μ だとしたら、N人分のデータがそろって出る確率の大きさ」です。