Fisherの正確検定
概要
Fisherの正確検定（Fisher's exact test）とは、2 つの群の成功の割合を比べる 2×2 の分割表で、行と列の合計を固定した条件付き分布を使い、近似なしに $p$ 値を計算する検定である。2 群の観測が互いに独立な二項分布に従うとき、列の合計を固定した左上のます目の条件付き分布はオッズ比だけで決まる非心超幾何分布であり、2 群の成功確率が等しければ、共通の成功確率によらない超幾何分布になる。このため検定の大きさは成功確率によらず有意水準以下に保たれ、片側の対立仮説に対しては、周辺度数ごとに水準を守る検定のなかで乱択した Fisher の検定の検出力が最大になる。
前提知識: 統計的仮説検定, 二項分布, 条件付き確率, Neyman–Pearsonの補題
2 つの群で「成功」の割合を比べたいことはよくある。薬を飲んだ群と飲まなかった群で回復した人の割合、2 種類の双子で兄弟がともに有罪になった割合などである。結果は次のような 2×2 の分割表 にまとめられる。割合の差を正規分布で近似する方法では、標本が小さいときや棄却の境目の近くで、近似の誤差で結論が変わることがある（仮説検定（高校数学） の注意「境目では近似の仕方で結論が変わる」）。Fisher の正確検定 は、表の行と列の合計（周辺度数）を固定して条件付けると、2 群の成功確率が等しいという帰無仮説のもとで、表の分布が未知の成功確率によらない 超幾何分布 になることを使い、近似なしに $p$ 値を計算する検定である。
| 成功 | 失敗 | 計 | |
|---|---|---|---|
| 群 1 | $a$ | $m-a$ | $m$ |
| 群 2 | $s-a$ | $n-s+a$ | $n$ |
| 計 | $s$ | $m+n-s$ | $m+n$ |
周辺度数 $m,n,s$ が決まると、表は左上のます目の値 $a$ だけで決まる。Fisher はこの考えを、双子の有罪判決のデータ（ex-fet-twins）で説明している（Fis35 Example 1、pp. 48–50）。
この記事では、まず条件付き分布が超幾何分布（帰無仮説が正しくないときは、オッズ比をもつ非心超幾何分布）になることを証明する。次に、検定の定義と、その大きさが有意水準以下になることを示し、片側の対立仮説に対して、周辺度数ごとに水準 $\alpha$ を守る検定のなかで乱択した Fisher の検定の検出力が最大であることを証明する。
超幾何分布と条件付き分布
整数 $m,n\ge1$ と $0\le s\le m+n$ について、$L:=\max\{0,s-n\}$、$U:=\min\{m,s\}$ とおく。$a$ がとりうる値は $L\le a\le U$ の整数である。
$\psi>0$ とする。$\{L,L+1,\dots,U\}$ 上の確率分布
$$
H_{m,n,s;\psi}(a):=\frac{\binom ma\binom n{s-a}\psi^a}{\sum_{j=L}^U\binom mj\binom n{s-j}\psi^j}\qquad(L\le a\le U)
$$
を Fisher の非心超幾何分布 という。$\psi=1$ のときを 超幾何分布 といい、$H_{m,n,s}:=H_{m,n,s;1}$ と書く。$(1+z)^m(1+z)^n=(1+z)^{m+n}$ の $z^s$ の係数を比べると $\sum_{j=L}^U\binom mj\binom n{s-j}=\binom{m+n}s$ なので、
$$
H_{m,n,s}(a)=\frac{\binom ma\binom n{s-a}}{\binom{m+n}s}
$$
である。これは、$m+n$ 個から $s$ 個を無作為に選んだとき、選んだもののうち最初の $m$ 個に属するものがちょうど $a$ 個である確率である。
成功確率 $p_1,p_2\in(0,1)$ について、
$$
\psi:=\frac{p_1/(1-p_1)}{p_2/(1-p_2)}=\frac{p_1(1-p_2)}{p_2(1-p_1)}
$$
を オッズ比 という。$p\mapsto p/(1-p)$ は狭義増加なので、$\psi=1$ は $p_1=p_2$ と、$\psi>1$ は $p_1>p_2$ と同値である。
$A,B$ が独立で、$A$ は二項分布 $B(m,p_1)$、$B$ は二項分布 $B(n,p_2)$（$0< p_1,p_2< 1$）に従うとし、$S:=A+B$ とおく。$0\le s\le m+n$ について、$L\le a\le U$ なら
$$
P(A=a\mid S=s)=H_{m,n,s;\psi}(a)
$$
である（$\psi$ はオッズ比）。とくに $p_1=p_2$ なら、$S=s$ のもとでの $A$ の条件付き分布は超幾何分布 $H_{m,n,s}$ で、共通の成功確率によらない。
$q_i:=1-p_i$ とおく。$A$ と $B$ は独立なので、$L\le a\le U$ について
$$
P(A=a,\ S=s)=P(A=a)\,P(B=s-a)=\binom ma p_1^aq_1^{m-a}\binom n{s-a}p_2^{s-a}q_2^{n-s+a}
$$
である。$a$ によらない部分 $q_1^m\,p_2^s\,q_2^{n-s}$ をくくり出すと
$$
P(A=a,\ S=s)=q_1^m\,p_2^s\,q_2^{n-s}\cdot\binom ma\binom n{s-a}\Bigl(\frac{p_1q_2}{q_1p_2}\Bigr)^a=q_1^m\,p_2^s\,q_2^{n-s}\cdot\binom ma\binom n{s-a}\psi^a
$$
となる。$a$ がこの範囲の外にあれば $P(A=a,S=s)=0$ である。$P(S=s)=\sum_{j=L}^UP(A=j,S=s)$ は正なので、割り算すると共通の因子 $q_1^mp_2^sq_2^{n-s}$ が消え、$H_{m,n,s;\psi}(a)$ が残る。$p_1=p_2$ なら $\psi=1$ である。$\square$
表の作り方は 2 つの群の大きさを先に決める場合に限らない。全体の人数だけを決めて、各人を 2 つの性質で分類する場合も、性質が独立なら同じ条件付き分布が現れる。
$N\ge1$ 人のそれぞれが、互いに独立に、確率 $\pi_{ij}$（$i,j\in\{1,2\}$、$\sum_{i,j}\pi_{ij}=1$）でます目 $(i,j)$ に入るとし、ます目 $(i,j)$ に入った人数を $N_{ij}$ とする。行の性質と列の性質が独立、すなわち $\pi_{ij}=r_ic_j$（$r_1+r_2=c_1+c_2=1$、すべて正）とする。このとき、行の合計 $m,n\ge1$ と列の合計 $s$ を固定した条件付き分布で、$N_{11}$ は超幾何分布 $H_{m,n,s}$ に従う。
表 $(n_{ij})$ の確率は、多項分布 により
$$
\frac{N!}{\prod_{i,j}n_{ij}!}\prod_{i,j}(r_ic_j)^{n_{ij}}=\frac{N!}{\prod_{i,j}n_{ij}!}\,r_1^{m}r_2^{n}c_1^{s}c_2^{N-s}
$$
である（$m=n_{11}+n_{12}$、$n=n_{21}+n_{22}$、$s=n_{11}+n_{21}$）。周辺度数を固定すると、右辺のうち $\prod n_{ij}!$ 以外は定数である。$n_{11}=a$ のとき
$$
\frac1{\prod_{i,j}n_{ij}!}=\frac1{a!\,(m-a)!\,(s-a)!\,(n-s+a)!}=\frac{\binom ma\binom n{s-a}}{m!\,n!}
$$
なので、条件付き確率は $\binom ma\binom n{s-a}$ に比例し、和が $1$ になるよう正規化すると $H_{m,n,s}(a)$ になる。$\square$
Fisher の正確検定
thm-fet-conditional の設定で、帰無仮説 $H_0\colon p_1=p_2$ を検定する。観測した表の左上の値を $a$、列の合計を $s$ とし、$h(j):=H_{m,n,s}(j)$ とおく。
- 片側（対立仮説 $p_1>p_2$）：$p^+(a):=\sum_{j\ge a}h(j)$ を $p$ 値とし、$p^+(a)\le\alpha$ なら $H_0$ を棄却する。
- 両側（対立仮説 $p_1\ne p_2$）：$p^{\pm}(a):=\sum_{j\colon h(j)\le h(a)}h(j)$ を $p$ 値とし、$p^{\pm}(a)\le\alpha$ なら $H_0$ を棄却する。
和は $L\le j\le U$ の範囲でとる。
両側の $p$ 値は、観測した表と同じかそれより起こりにくい表の確率をすべて足したものである。片側の $p$ 値を 2 倍する方法もあるが、超幾何分布は一般に左右対称でないので、両者は一致しない。
$0< \alpha< 1$ とする。$p_1=p_2$ ならば、共通の成功確率が何であっても、すべての $s$ について
$$
P\bigl(p^+(A)\le\alpha\mid S=s\bigr)\le\alpha,\qquad P\bigl(p^{\pm}(A)\le\alpha\mid S=s\bigr)\le\alpha
$$
であり、したがって $P(p^+(A)\le\alpha)\le\alpha$、$P(p^{\pm}(A)\le\alpha)\le\alpha$ である。すなわち片側・両側の Fisher の正確検定は、どちらも水準 $\alpha$ の検定である。
$s$ を固定する。thm-fet-conditional により、$S=s$ のもとで $A$ は成功確率によらない分布 $h=H_{m,n,s}$ に従う。$p^+$ は、検定統計量 $A$ による単純仮説の $p$ 値 $P_h(A\ge a)$ であり、$p^{\pm}$ は、検定統計量 $-h(A)$ による $p$ 値 $P_h(-h(A)\ge-h(a))$ である。p値 の定理「$p$ 値の妥当性」の 2 により、どちらも $P_h(p\le\alpha)\le\alpha$ を満たす。最後に、$P(p\le\alpha)=\sum_sP(S=s)\,P(p\le\alpha\mid S=s)\le\alpha\sum_sP(S=s)=\alpha$ である。$\square$
$A$ は離散的なので、条件付きの大きさはふつう $\alpha$ より真に小さい。たとえば $m=n=s=4$ で片側の水準 $0.05$ なら、棄却するのは $a=4$（$p^+=1/70$）のときだけで、大きさは $1/70=0.014\ldots$ である。
片側検定の最適性
周辺度数ごとに水準 $\alpha$ を守る検定のなかでは、乱択を許した Fisher の検定がどの対立仮説に対しても最も検出力が高い。ここで検定は表の関数 $\varphi(a,s)\in[0,1]$ で、確率 $\varphi(A,S)$ で棄却するものとする（統計的仮説検定 の定義「検定・検出力関数・大きさ」）。
$0< \alpha< 1$ とする。各 $s$ について、$h=H_{m,n,s}$ とし、$\sum_{j>c_s}h(j)\le\alpha\le\sum_{j\ge c_s}h(j)$ を満たす整数 $c_s\in\{L,\dots,U\}$ と、$\sum_{j>c_s}h(j)+\gamma_sh(c_s)=\alpha$ を満たす $\gamma_s\in[0,1]$ をとり、
$$
\varphi^*(a,s):=\begin{cases}1&(a>c_s)\\ \gamma_s&(a=c_s)\\ 0&(a< c_s)\end{cases}
$$
とおく。検定 $\varphi$ が、すべての $s$ について $\sum_{a}\varphi(a,s)H_{m,n,s}(a)\le\alpha$（$p_1=p_2$ のもとでの条件付きの大きさが $\alpha$ 以下）を満たすなら、$p_1>p_2$ を満たすすべての $(p_1,p_2)$ について
$$
E_{p_1,p_2}[\varphi(A,S)]\le E_{p_1,p_2}[\varphi^*(A,S)]
$$
である。
$s$ を固定し、$\{L,\dots,U\}$ 上の分布の族 $\{H_{m,n,s;\psi}\}_{\psi>0}$ を考える。定義から
$$
H_{m,n,s;\psi}(a)=\frac{\psi^a}{M(\psi)}H_{m,n,s}(a),\qquad M(\psi):=\sum_{j=L}^U\psi^jH_{m,n,s}(j)
$$
であり、どの $\psi$ とどの $a$ でも正である。$\psi>1$ なら $a\mapsto\psi^a/M(\psi)$ は狭義増加である。また、系の境目は $H_{m,n,s}$ のもとでの $1-\alpha$ 分位点 $Q(1-\alpha)$ であり、$c_s$ がこれと異なるのは $\sum_{j\ge c_s}h(j)=\alpha$ のときだけで、そのとき $c_s=Q(1-\alpha)+1$、$\gamma_s=1$ なので、$\varphi^*(\cdot,s)$ は系の検定（$\gamma=0$）と同じ関数である。よって Neyman–Pearsonの補題 の系「単調尤度比と片側検定」（母数を $\psi$、$\theta_0=1$、統計量を $a$ とする）により、$\varphi^*(\cdot,s)$ はこの族で $\psi=1$ 対 $\psi>1$ の水準 $\alpha$ の一様最強力検定であり、仮定を満たす $\varphi$ について、すべての $\psi>1$ で
$$
\sum_a\varphi(a,s)H_{m,n,s;\psi}(a)\le\sum_a\varphi^*(a,s)H_{m,n,s;\psi}(a)
$$
が成り立つ。
$p_1>p_2$ ならオッズ比 $\psi$ は $1$ より大きく、thm-fet-conditional により $S=s$ のもとでの $A$ の条件付き分布は $H_{m,n,s;\psi}$ である。条件付き期待値で分けると
$$
E_{p_1,p_2}[\varphi(A,S)]=\sum_sP(S=s)\sum_a\varphi(a,s)H_{m,n,s;\psi}(a)\le\sum_sP(S=s)\sum_a\varphi^*(a,s)H_{m,n,s;\psi}(a)=E_{p_1,p_2}[\varphi^*(A,S)]
$$
である。$\square$
$\varphi^*$ の乱択の部分 $\gamma_s$ を $0$ に置き換えた非乱択検定は、$a>c_s$ のときだけ棄却する。$P_h(A\ge c_s)>\alpha$ なら境目の $a=c_s$ では $p^+(c_s)>\alpha$ なので、これは片側の Fisher の正確検定（def-fet-test の 1）と一致する。$P_h(A\ge c_s)=\alpha$ のときは $\gamma_s=1$ で、$\varphi^*$ がそのまま非乱択の Fisher の検定になる。
例
仮説検定の考え方 の紅茶の実験では、8 杯のうち 4 杯がミルクを先に入れたもので、飲む人は 4 杯を選ぶ。行を「本当にミルクが先か」、列を「ミルクが先と答えたか」とすると、周辺度数は $m=n=s=4$ で、実験の作り方から行の合計も列の合計も固定されている。でたらめに選ぶという帰無仮説のもとでは、選び方 $\binom84=70$ 通りが同じ確率なので、正しく選んだ杯数 $A$ は超幾何分布 $H_{4,4,4}$ に従う。
$$
h(0),\dots,h(4)=\frac1{70},\ \frac{16}{70},\ \frac{36}{70},\ \frac{16}{70},\ \frac1{70}
$$
である。4 杯すべて正しければ片側の $p$ 値は $1/70=0.014\ldots$、両側の $p$ 値は $h(j)\le h(4)$ となる $j=0,4$ の和で $2/70=0.028\ldots$ である。3 杯正しいときの片側の $p$ 値は $17/70=0.242\ldots$ である。
Fisher が扱った表は次のとおりである（Fis35 Example 1）。犯罪者の双子の兄弟が有罪になったかどうかを、一卵性と二卵性に分けて数えたものである。
| 有罪 | 有罪でない | 計 | |
|---|---|---|---|
| 一卵性 | $10$ | $3$ | $13$ |
| 二卵性 | $2$ | $15$ | $17$ |
| 計 | $12$ | $18$ | $30$ |
$m=13$、$n=17$、$s=12$、$a=10$ である。$\binom{30}{12}=86493225$ で、$a=10,11,12$ の $\binom{13}a\binom{17}{12-a}$ は $38896$、$1326$、$13$ なので、片側の $p$ 値は
$$
p^+(10)=\frac{38896+1326+13}{86493225}=\frac{40235}{86493225}=\frac{619}{1330665}=0.000465\ldots
$$
で、およそ $2150$ 回に $1$ 回である。Fisher はこれを、周辺度数を固定した条件のもとで、観測と同じかそれ以上の比例からのずれが $6653325$ 回のうち $3095$ 回起こる、と述べている（同じ値である）。両側の $p$ 値では、$h(j)\le h(10)$ となる $j$ は $0,10,11,12$ で（$a=0$ の分子は $6188$）、$p^{\pm}(10)=46423/86493225=0.000536\ldots$ である。
反例：条件を外したとき
thm-fet-conditional は、すべての観測が互いに独立であることと、同じ群の中では成功確率が等しいことを使っている。どちらかを外すと、周辺度数で条件付けた分布が超幾何分布にならず、thm-fet-validity の根拠が崩れる。どちらの反例も $m=n=4$ で、各人の成功確率は両群とも平均して $\frac12$ である。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 観測が互いに独立 | 各群の 4 人が必ず同じ結果になる（群 1 の結果 $Y_1$、群 2 の結果 $Y_2$ が独立で、どちらも確率 $\frac12$ で成功） | 片側の水準 $0.05$ の検定が確率 $\frac14$ で棄却する |
| 同じ群の中で成功確率が等しい | どちらの群でも、2 人は確率 $1$ で成功し、2 人は確率 $1$ で失敗する（全員が独立） | $S=4$ のもとで $A=2$ が確率 $1$ で、$H_{4,4,4}(2)=\frac{36}{70}$ と合わない |
1 行目：$A=4Y_1$、$B=4Y_2$ である。$(Y_1,Y_2)=(1,0)$ なら $s=4$、$a=4$ で $p^+=1/70\le0.05$ なので棄却する。$(0,1)$ なら $a=0$ で $p^+=1$、$(1,1)$ なら $s=8$ で $a$ は $4$ しかとれず $p^+=1$、$(0,0)$ なら $s=0$ で $p^+=1$ である。よって棄却の確率は $P(Y_1=1,Y_2=0)=\frac14$ で、$0.05$ を超える。
2 行目：どちらの群でも成功はちょうど 2 人なので、確率 $1$ で $A=B=2$、$S=4$ である。各人は独立だが、群の中で成功確率が $1$ と $0$ に分かれている。条件付き分布は $A=2$ に集中し、超幾何分布 $H_{4,4,4}$ とは異なる。この場合の検定は決して棄却しない（$p^+(2)=53/70$）。$\square$
1 行目は、家族や病院のように、まとまりの中で結果が似る抽出をしたときに起こる。人数を数えた表だけを見ると独立な観測と区別がつかないので、データの集め方を確かめてから使う必要がある。
補足
- thm-fet-optimal は、周辺度数ごとに水準を守る検定の範囲での最適性である。周辺度数 $S$ の分布は共通の成功確率に依存するが、$S=s$ のもとでの $A$ の分布はオッズ比 $\psi$ だけで決まる。この分離が、未知の共通の成功確率を消し去る仕組みである。
- 両側の検定には、def-fet-test の 2 の形のほかに、片側の $p$ 値の小さい方を 2 倍する形もある。どちらも thm-fet-validity と同じ議論で水準 $\alpha$ の検定である（2 倍する形では、2 つの片側の $p$ 値がそれぞれ $\alpha/2$ 以下になる確率の和で評価する）。
- 帰無仮説を $\psi=\psi_0$ に変えると、非心超幾何分布 $H_{m,n,s;\psi_0}$ で同じ形の検定ができ、thm-fet-conditional と thm-fet-validity の証明と同じ議論で水準 $\alpha$ の検定になる。真のオッズ比が棄却される確率は $\alpha$ 以下なので、棄却されない $\psi_0$ の全体は、確率 $1-\alpha$ 以上で真のオッズ比を含む（信頼区間 の定理「信頼集合と検定の双対性」と同じ考え方）。
関連項目
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
