統計的仮説検定
概要
統計的仮説検定（statistical hypothesis testing）とは、統計モデルの母数についての帰無仮説を、データから計算した値に応じて棄却するかどうか決める手続き（検定）と、その誤りの確率を扱う理論である。帰無仮説のもとで棄却する確率（大きさ）を有意水準以下に抑え、そのうえで対立仮説のもとで棄却する確率（検出力）を大きくすることを目指す。2 つの分布を見分けるどの検定でも、2 種類の誤りの確率の和は 1 から全変動距離を引いた値より小さくできない。分散が未知の正規分布の平均の検定では、尤度比検定は両側 $t$ 検定と一致し、その大きさは分散によらずちょうど有意水準になる。
前提知識: 確率論, 仮説検定（高校数学）, t分布, Radon–Nikodymの定理
統計的仮説検定 は、データを見て、分布についての仮説を「棄却する」か「棄却しない」かを決める手続きと、その手続きの誤りの確率を扱う理論である。高校の 仮説検定（高校数学） では、硬貨の表の確率や母平均について、正規分布の近似を使った手順を学ぶ。大学の統計学では、これを一般の統計モデルの上の 検定 として定式化し、誤りの確率を関数として扱う。帰無仮説のもとで誤って棄却する確率を有意水準以下に抑え、そのうえで対立仮説のもとで正しく棄却する確率（検出力）を大きくすることが目標になる。
この記事では、まず検定・検出力関数・大きさ・一致性を定義する。次に 2 つの主定理を証明する。1 つ目は、どんな検定を使っても 2 種類の誤りの確率の和は 2 つの分布の全変動距離で決まる値より小さくできない、という限界である。2 つ目は、分散が未知の正規分布の平均の検定で、尤度比による検定の原理が両側 $t$ 検定を導き、その検定の大きさが分散によらずちょうど $\alpha$ になることである。単純仮説どうしの最強力検定は Neyman–Pearsonの補題、$p$ 値は p値、多くの仮説を同時に検定するときの補正は 多重比較 で扱う。
定義
統計モデル $(\mathcal X,\mathcal A,\{P_\theta\}_{\theta\in\Theta})$ を考える（統計学 の定義「統計モデル・統計量・推定量」）。データ $X$ の分布は、ある未知の $\theta\in\Theta$ について $P_\theta$ である。
$\Theta$ を、空でない互いに交わらない 2 つの部分集合 $\Theta_0,\Theta_1$ の和に分ける。主張 $H_0\colon\theta\in\Theta_0$ を 帰無仮説、$H_1\colon\theta\in\Theta_1$ を 対立仮説 という。$\Theta_i$ が 1 点からなるとき $H_i$ を 単純仮説、そうでないとき 複合仮説 という。
- 可測関数 $\varphi\colon\mathcal X\to[0,1]$ を 検定 という。$X=x$ を観測したら、確率 $\varphi(x)$ で $H_0$ を棄却すると読む。値が $0,1$ だけのとき、すなわち $\varphi=\mathbf 1_R$（$R\in\mathcal A$）のとき 非乱択検定 といい、$R$ を 棄却域 という。
- $\beta_\varphi(\theta):=E_\theta[\varphi(X)]$（$\theta\in\Theta$）を $\varphi$ の 検出力関数 という。$\theta\in\Theta_0$ での値は誤って棄却する確率（第 1 種の誤り の確率）、$\theta\in\Theta_1$ での $1-\beta_\varphi(\theta)$ は棄却しそこなう確率（第 2 種の誤り の確率）である。
- $\sup_{\theta\in\Theta_0}\beta_\varphi(\theta)$ を $\varphi$ の 大きさ という。$0\le\alpha\le1$ について、大きさが $\alpha$ 以下の検定を 水準 $\alpha$ の検定 という。
- 水準 $\alpha$ の検定 $\varphi$ が、すべての $\theta\in\Theta_1$ で $\beta_\varphi(\theta)\ge\alpha$ を満たすとき 不偏 であるという。水準 $\alpha$ のすべての検定 $\varphi'$ とすべての $\theta\in\Theta_1$ について $\beta_\varphi(\theta)\ge\beta_{\varphi'}(\theta)$ となるとき、$\varphi$ を水準 $\alpha$ の 一様最強力検定 という。
- 標本の大きさ $n$ ごとに検定 $\varphi_n$ が与えられているとき、すべての $\theta\in\Theta_1$ で $\beta_{\varphi_n}(\theta)\to1$（$n\to\infty$）となるなら、検定の列 $(\varphi_n)$ は 一致性 をもつという。
乱択を許すのは、離散分布のデータで大きさをちょうど $\alpha$ にするためである（Neyman–Pearsonの補題 の例「硬貨の検定と乱択」）。実際の手続きでは非乱択検定を使い、大きさを $\alpha$ 以下に抑えることが多い。
$H_0$ と $H_1$ は対称に扱わない。第 1 種の誤りの確率には上限 $\alpha$ を課し、第 2 種の誤りの確率はその条件のもとで小さくする。このため「棄却しない」は「$H_0$ が正しいと示された」ことを意味しない（仮説検定（高校数学） の反例「棄却しなくても帰無仮説が正しいとは限らない」）。
次の表は、よく使う検定と、その帰無仮説のもとでの分布を扱っている記事の一覧である。
| 検定 | 帰無仮説の例 | 検定統計量の分布 | 記事 |
|---|---|---|---|
| 正規分布の平均の検定（分散既知） | 平均が $\mu_0$ | 標準正規分布 | 仮説検定（高校数学）, Neyman–Pearsonの補題 |
| $t$ 検定（分散未知） | 平均が $\mu_0$ | $t$ 分布 | thm-sht-lrt-t, t分布 |
| 適合度のカイ二乗検定 | 多項分布の確率が指定の値 | 漸近的にカイ二乗分布 | カイ二乗分布 |
| 回帰係数の $F$ 検定 | 一部の係数が $0$ | $F$ 分布 | 回帰分析 |
| Fisher の正確検定 | 2×2 の分割表で 2 群の確率が等しい | 超幾何分布（周辺度数で条件付け） | Fisherの正確検定 |
主定理 1：2 種類の誤りの限界
2 つの確率分布 $P_0,P_1$ の 全変動距離 を
$$
d(P_0,P_1):=\sup_{A\in\mathcal A}\lvert P_0(A)-P_1(A)\rvert
$$
で定める。$P_0,P_1$ がともに測度 $\mu$ に関して密度 $p_0,p_1$ をもつとする。たとえば $\mu:=P_0+P_1$ とすれば、Radon–Nikodymの定理 によりつねにそのような密度がとれる。
$P_0,P_1$ を $(\mathcal X,\mathcal A)$ 上の確率分布とし、測度 $\mu$ に関する密度を $p_0,p_1$ とする。$E_i$ を $P_i$ による期待値とする。
- $d(P_0,P_1)=\displaystyle\int(p_1-p_0)^+\,d\mu$ である。ここで $a^+:=\max\{a,0\}$。
- どの検定 $\varphi$ についても
$$ E_0[\varphi]+E_1[1-\varphi]\ge1-d(P_0,P_1) $$
であり、等号は $\varphi^*:=\mathbf 1\{p_1>p_0\}$ で成り立つ。 - どの検定 $\varphi$ についても $E_1[\varphi]\le E_0[\varphi]+d(P_0,P_1)$ である。
1。 $A\in\mathcal A$ について、$P_1(A)-P_0(A)=\int_A(p_1-p_0)\,d\mu\le\int(p_1-p_0)^+\,d\mu$ であり、$A=\{p_1>p_0\}$ で等号が成り立つ。同様に $P_0(A)-P_1(A)\le\int(p_0-p_1)^+\,d\mu$ である。$\int p_0\,d\mu=\int p_1\,d\mu=1$ より
$$
\int(p_1-p_0)^+\,d\mu-\int(p_0-p_1)^+\,d\mu=\int(p_1-p_0)\,d\mu=0
$$
なので、2 つの上界は等しい。よって $\lvert P_0(A)-P_1(A)\rvert$ の上限は $\int(p_1-p_0)^+\,d\mu$ である。
2。 $E_0[\varphi]+E_1[1-\varphi]=1-\int\varphi\,(p_1-p_0)\,d\mu$ である。$0\le\varphi\le1$ なので、各点で $\varphi\,(p_1-p_0)\le(p_1-p_0)^+$ であり、1 により右辺は $1-d(P_0,P_1)$ 以上である。$\varphi^*$ では各点で $\varphi^*(p_1-p_0)=(p_1-p_0)^+$ なので等号が成り立つ。
3。 $E_1[\varphi]-E_0[\varphi]=\int\varphi\,(p_1-p_0)\,d\mu\le\int(p_1-p_0)^+\,d\mu=d(P_0,P_1)$ である。$\square$
3 を複合仮説に使うと、水準 $\alpha$ のどの検定 $\varphi$ も、すべての $\theta_0\in\Theta_0$、$\theta_1\in\Theta_1$ について
$$
\beta_\varphi(\theta_1)\le\alpha+d(P_{\theta_0},P_{\theta_1})
$$
を満たす。対立仮説の分布が帰無仮説の分布に全変動距離で近ければ、どんなに工夫しても検出力は $\alpha$ をほとんど超えない。
$X_1,\dots,X_n$ が互いに独立で正規分布 $N(\theta,1)$ に従うとし、$P_0$ を $\theta=0$、$P_1$ を $\theta=h>0$ のときの $X=(X_1,\dots,X_n)$ の分布とする。Lebesgue 測度に関する密度の比は $p_1(x)/p_0(x)=\exp\bigl(h\sum_ix_i-nh^2/2\bigr)$ なので、$\{p_1>p_0\}=\{\bar x>h/2\}$ である（$\bar x$ は標本平均）。$\bar X$ は $P_0$ のもとで $N(0,1/n)$、$P_1$ のもとで $N(h,1/n)$ に従うので、標準正規分布の分布関数を $\Phi$ として
$$
d(P_0,P_1)=P_1(\bar X>h/2)-P_0(\bar X>h/2)=2\Phi\bigl(\sqrt n\,h/2\bigr)-1
$$
である。$h=1/\sqrt n$ なら右辺は $2\Phi(0.5)-1=0.382\ldots$ で、$n$ によらない。したがって、$H_0\colon\theta=0$ の水準 $0.05$ のどの検定も、$\theta=1/\sqrt n$ での検出力は $0.433$ 未満である。より一般に、定数 $a>0$ についてずれが $h=a/\sqrt n$ なら、水準 $\alpha$ のどの検定の検出力も $\alpha+2\Phi(a/2)-1$ 以下で、$n$ をいくら大きくしても $1$ に近づかない。
主定理 2：尤度比検定と $t$ 検定
帰無仮説が複合仮説のときには、Neyman–Pearsonの補題 のような最強力検定はふつう存在しない。広く使われる構成の原理が尤度比検定である。
各 $P_\theta$ が測度 $\mu$ に関して密度 $p_\theta$ をもつとする。観測値 $x$ について
$$
\Lambda(x):=\frac{\sup_{\theta\in\Theta_0}p_\theta(x)}{\sup_{\theta\in\Theta}p_\theta(x)}\in[0,1]
$$
を 尤度比統計量 といい（分母が $0$ でも $\infty$ でもないときに定める）、定数 $k$ について $\Lambda(x)\le k$ のとき棄却する検定を 尤度比検定 という。
$\Lambda(x)$ は、帰無仮説の範囲で最もよくデータを説明する分布と、全体で最もよくデータを説明する分布の、データの説明のよさの比である。比が小さいほど $H_0$ に不利な証拠とみる。次の定理は、最も基本的な複合仮説で尤度比検定を具体的に求め、その大きさが正確に計算できることを示す。
$n\ge2$ とし、$X_1,\dots,X_n$ が互いに独立で、どれも正規分布 $N(\mu,\sigma^2)$ に従うとする。母数は $\theta=(\mu,\sigma^2)\in\mathbb R\times(0,\infty)$ で、$\mu_0\in\mathbb R$ を固定し、$H_0\colon\mu=\mu_0$、$H_1\colon\mu\ne\mu_0$ とする。標本平均を $\bar x$、$S^2:=\frac1{n-1}\sum_{i=1}^n(x_i-\bar x)^2$、$T(x):=\sqrt n\,(\bar x-\mu_0)/S$ とおく。
- $x_1,\dots,x_n$ がすべて等しくはないとき、Lebesgue 測度に関する密度について
$$ \Lambda(x)=\Bigl(1+\frac{T(x)^2}{n-1}\Bigr)^{-n/2} $$
である。とくに尤度比検定は、定数 $c$ について $\lvert T(x)\rvert\ge c$ のとき棄却する検定と一致する。 - $0< \alpha< 1$ とし、$c$ を自由度 $n-1$ の $t$ 分布の上側 $\alpha/2$ 点とする。$\lvert T\rvert>c$ で棄却する検定は、すべての $\sigma>0$ について $P_{(\mu_0,\sigma^2)}(\lvert T\rvert>c)=\alpha$ を満たす。すなわち大きさはちょうど $\alpha$ である。
1。 $Q(m):=\sum_{i=1}^n(x_i-m)^2$ とおくと、密度は
$$
p_{(m,v)}(x)=(2\pi v)^{-n/2}\exp\Bigl(-\frac{Q(m)}{2v}\Bigr)\qquad(m\in\mathbb R,\ v>0)
$$
である。$x_i$ がすべて等しくはないので、どの $m$ でも $Q(m)>0$ である。
$m$ を固定して $v$ について最大化する。$\ell(v):=\log p_{(m,v)}(x)=-\frac n2\log(2\pi v)-\frac{Q(m)}{2v}$ の導関数は $\ell'(v)=\frac{Q(m)-nv}{2v^2}$ で、$v< Q(m)/n$ で正、$v>Q(m)/n$ で負である。よって最大値は $v=Q(m)/n$ でとられ、
$$
\sup_{v>0}p_{(m,v)}(x)=\Bigl(\frac{2\pi Q(m)}n\Bigr)^{-n/2}e^{-n/2}
$$
である。これは $Q(m)$ について狭義減少である。
$Q(m)=\sum_i(x_i-\bar x)^2+n(\bar x-m)^2$（$\sum_i(x_i-\bar x)=0$ による）なので、$Q$ は $m=\bar x$ で最小値 $Q(\bar x)=(n-1)S^2$ をとる。分母の上限は $m=\bar x$ での値、分子の上限は $m=\mu_0$ での値なので、
$$
\Lambda(x)=\Bigl(\frac{Q(\bar x)}{Q(\mu_0)}\Bigr)^{n/2}=\Bigl(\frac{(n-1)S^2}{(n-1)S^2+n(\bar x-\mu_0)^2}\Bigr)^{n/2}=\Bigl(1+\frac{T(x)^2}{n-1}\Bigr)^{-n/2}
$$
である。右辺は $\lvert T(x)\rvert$ について狭義減少なので、$\Lambda(x)\le k$（$0< k< 1$）は $\lvert T(x)\rvert\ge c$（$c=\sqrt{(n-1)(k^{-2/n}-1)}$）と同値である。
2。 $X_1,X_2$ は独立で連続分布に従うので $P(X_1=X_2)=0$ であり、確率 $1$ で 1 の仮定が成り立つ。$\mu=\mu_0$ のとき、t分布 の定理「Student の定理」の 4 により、$T$ は $\sigma$ によらず自由度 $n-1$ の $t$ 分布に従う。$t$ 分布は原点について対称な連続分布なので、$P(\lvert T\rvert>c)=2P(T>c)=\alpha$ である。$\square$
2 で大きさが $\sigma$ によらないことが要点である。帰無仮説 $\mu=\mu_0$ は $\sigma^2$ を決めない複合仮説だが、$T$ の分布が $H_0$ のもとで 1 つに決まるので、どの $\sigma$ に対しても誤りの確率がちょうど $\alpha$ になる。尤度比検定の原理からは、分散の値を知らなくてよい検定統計量 $T$ が自然に現れる。
thm-sht-lrt-t の設定で、標本の大きさ $n$ の $t$ 検定（$\lvert T\rvert>c_n$ で棄却、$c_n$ は自由度 $n-1$ の $t$ 分布の上側 $\alpha/2$ 点）の列は一致性をもつ。すなわち $\mu\ne\mu_0$ と $\sigma>0$ を固定すると、$P_{(\mu,\sigma^2)}(\lvert T\rvert>c_n)\to1$（$n\to\infty$）である。
要点：棄却の境目 $c_n$ は有界にとどまり、$\lvert T\rvert$ は $\sqrt n$ の速さで大きくなる。
詳しい証明を開く
境目の上界。 $n\ge4$ とし、$\nu:=n-1\ge3$ とする。$V\sim t_\nu$ なら $E[V^2]=\nu/(\nu-2)\le3$ である（t分布 の命題「$t$ 分布の積率」）。Markov の不等式により $\alpha=P(\lvert V\rvert>c_n)\le E[V^2]/c_n^2\le3/c_n^2$ なので、$c_n\le\sqrt{3/\alpha}$ である。
$\lvert T\rvert$ の下からの評価。 $\Delta:=\lvert\mu-\mu_0\rvert>0$ とし、事象 $A_n:=\{\lvert\bar X-\mu\rvert< \Delta/2\}\cap\{S^2< 2\sigma^2\}$ を考える。$A_n$ の上では $\lvert\bar X-\mu_0\rvert>\Delta/2$、$S< \sqrt2\,\sigma$ なので $\displaystyle \lvert T\rvert=\frac{\sqrt n\,\lvert\bar X-\mu_0\rvert}{S}>\frac{\sqrt n\,\Delta}{2\sqrt2\,\sigma}$ であり、$n$ が十分大きければ右辺は $\sqrt{3/\alpha}\ge c_n$ を超える。
$A_n$ の確率。 $\bar X\sim N(\mu,\sigma^2/n)$ なので、Chebyshevの不等式 により $P(\lvert\bar X-\mu\rvert\ge\Delta/2)\le4\sigma^2/(n\Delta^2)$ である。Student の定理の 2 により $(n-1)S^2/\sigma^2$ は自由度 $n-1$ のカイ二乗分布に従い、その分散は $2(n-1)$ である（カイ二乗分布 の定理「積率母関数と積率」）。よって $E[S^2]=\sigma^2$、$\mathrm{Var}(S^2)=2\sigma^4/(n-1)$ であり、Chebyshev の不等式により $P(S^2\ge2\sigma^2)\le P(\lvert S^2-\sigma^2\rvert\ge\sigma^2)\le2/(n-1)$ である。したがって $P(A_n^c)\le4\sigma^2/(n\Delta^2)+2/(n-1)\to0$ であり、十分大きい $n$ で $P(\lvert T\rvert>c_n)\ge P(A_n)\to1$ となる。$\square$
例
ある部品の長さの規格が $10$ mm で、$9$ 個を測ったところ $\bar x=10.6$、$S=1.2$ だった。長さが正規分布に従うとして、$H_0\colon\mu=10$ を水準 $0.05$ で検定する。$T=\sqrt9\cdot(10.6-10)/1.2=1.5$ であり、自由度 $8$ の $t$ 分布の上側 $0.025$ 点は $2.306$ なので、$\lvert T\rvert< 2.306$ で棄却しない。尤度比は $\Lambda=(1+1.5^2/8)^{-9/2}=0.327\ldots$ である。$\bar x$ と $S$ が同じまま個数が $36$ 個なら $T=6\cdot0.6/1.2=3.0$ で、自由度 $35$ の上側 $0.025$ 点 $2.030$ を超え、棄却する。
反例：条件を外したとき
thm-sht-lrt-t の 2（大きさがちょうど $\alpha$）は、観測の独立性と正規性の両方を使っている。どちらか 1 つを外すと、帰無仮説が正しくても棄却の確率が $\alpha=0.05$ を大きく超えうる。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| $X_1,\dots,X_n$ が互いに独立 | $X_i:=\mu_0+Z+\varepsilon_i$（$Z\sim N(0,10^2)$、$\varepsilon_i\sim N(0,1)$ がすべて独立、$n=10$）。各 $X_i$ は $N(\mu_0,101)$ に従う | 棄却の確率が $0.94$ 以上 |
| 各 $X_i$ が正規分布に従う | $n=2$、$\mu_0=0$、$X_i:=B_i+U_i/20$（$B_i=\pm1$ が確率 $\frac12$ ずつ、$U_i$ は $[-1,1]$ の一様分布、すべて独立）。$X_1,X_2$ は独立で同じ分布、平均 $0$ | 棄却の確率が $\frac12$ 以上 |
1 行目：$X_i-\bar X=\varepsilon_i-\bar\varepsilon$ なので $S$ は $\varepsilon_i$ だけから計算した標本標準偏差 $S_\varepsilon$ に等しく、$T=\sqrt n\,(Z+\bar\varepsilon)/S_\varepsilon$ である。$c=2.262$（自由度 $9$ の上側 $0.025$ 点）とする。$\varepsilon_1,\dots,\varepsilon_n$ の値を固定すると、$Z$ が長さ $2cS_\varepsilon/\sqrt n$ の区間 $\lvert Z+\bar\varepsilon\rvert\le cS_\varepsilon/\sqrt n$ に入る確率は、$Z$ の密度が $1/(\sqrt{2\pi}\cdot10)$ 以下であることから $2cS_\varepsilon/(\sqrt{2\pi n}\cdot10)$ 以下である。$Z$ と $\varepsilon$ は独立なので、$\varepsilon$ について期待値をとり、$E[S_\varepsilon]\le\sqrt{E[S_\varepsilon^2]}=1$ を使うと
$$
P(\lvert T\rvert>c)\ge1-\frac{2c}{\sqrt{2\pi n}\cdot10}=1-\frac{4.524}{79.26\ldots}>0.94.
$$
2 行目：$n=2$ では $S=\lvert X_1-X_2\rvert/\sqrt2$ なので $T=(X_1+X_2)/\lvert X_1-X_2\rvert$ であり、$c=12.706$（自由度 $1$ の上側 $0.025$ 点）である。確率 $\frac12$ で $B_1=B_2$ となり、このとき $\lvert X_1+X_2\rvert\ge2-\frac1{10}=1.9$、$\lvert X_1-X_2\rvert=\lvert U_1-U_2\rvert/20\le\frac1{10}$ である。$X_1\ne X_2$（確率 $1$）なら $c\,\lvert X_1-X_2\rvert\le1.2706< 1.9\le\lvert X_1+X_2\rvert$ なので棄却する。よって棄却の確率は $\frac12$ 以上である。$\square$
1 行目のように観測が共通の要因を通じて相関すると、標本のばらつき $S$ が平均のばらつきを過小に見積もる。2 行目のように分布の山が分かれていると、2 つの観測が近い値をとったときに $S$ が極端に小さくなる。
補足：他の記事との関係
- 単純仮説 $H_0\colon\theta=\theta_0$ と単純仮説 $H_1\colon\theta=\theta_1$ の水準 $\alpha$ の最強力検定は、尤度比が大きい点から棄却する検定であり（Neyman–Pearsonの補題）、thm-sht-tv の $\varphi^*$ は、その特別な場合（尤度比の閾値が $1$）である。
- 入れ子の棄却域の族から、棄却できる最小の有意水準として $p$ 値が定まる（p値）。
- 信頼集合は各母数値での検定で棄却されない値の全体と一致する（信頼区間 の定理「信頼集合と検定の双対性」）。
- 多くの仮説を同時に検定するときは、誤りの確率を族全体で抑える補正が要る（多重比較）。
関連項目
- 前提: 統計学, 確率論, 仮説検定（高校数学）
- 理論: Neyman–Pearsonの補題, p値, 多重比較, 信頼区間
- 個別の検定: t分布, カイ二乗分布, 回帰分析, Fisherの正確検定
- 高校数学: 仮説検定の考え方, 仮説検定（高校数学）
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
