二項分布

同義語：binomial distribution

概要

前提知識: 確率変数, 二項係数, 二項定理, 独立性(確率論)

定義

公平な硬貨を 10 回投げて、表がちょうど 5 回出る確率はいくらか。表と裏の出方は $2^{10}=1024$ 通りあって、どれも同じ確率で起こる。そのうち表がちょうど 5 回のものは、10 回のうちどの 5 回が表かを選ぶ方法の数 $\binom{10}5=252$ 通りなので、確率は $\frac{252}{1024}=0.2461\ldots$ である。最も起こりやすい「5 回」でさえ 4 回に 1 回も起こらない。別の例として、当たる確率が $2\%$ のくじを、毎回ほかの回とは無関係に 100 回引くとき、1 回も当たらない確率は $0.98^{100}=0.1326\ldots$ である。この値は $e^{-2}=0.1353\ldots$ に近い。これは、平均の当たり回数 $100\times0.02=2$ を使った Poisson 近似（thm-bindist-poisson）で説明される。
このように、成功の確率が同じ試行を互いに独立に $n$ 回繰り返したときの成功の回数が従う分布を二項分布（binomial distribution）という。
成功か失敗かの 2 通りの結果をもち、成功の確率が $p$（$0\leq p\leq1$）である試行を、互いに独立に $n$ 回繰り返すことを Bernoulli 試行という（GrS06 Definition 3.5、p. 96）。これは次の離散確率空間で表される。$\Omega:=\{0,1\}^n$（$\omega_i=1$ が $i$ 回目の成功）とし、$\omega=(\omega_1,\dots,\omega_n)$ のうち $1$ の個数が $k$ のものに確率
$$ p(\omega):=p^k(1-p)^{n-k} $$
を割り当てる。これは $\{0,1\}$ 上の確率 $p(1)=p$、$p(0)=1-p$ の $n$ 個の積であり、独立性(確率論) の記事の定理「積の確率空間の座標は互いに独立」により、$i$ 回目の結果を表す確率変数 $X_i(\omega):=\omega_i$ は互いに独立で、$P(X_i=1)=p$ である。以下、$0^0=1$ と約束する（$p=0$ や $p=1$ の場合のため）。

二項分布

$n\geq1$ を整数、$0\leq p\leq1$ とする。$k=0,1,\dots,n$ について
$$ b(n,p,k):=\binom nkp^k(1-p)^{n-k} $$
と定める。確率変数 $X$ が、すべての $k=0,1,\dots,n$ について $P(X=k)=b(n,p,k)$ を満たすとき、$X$ は二項分布 $B(n,p)$ に従うという。$n$ を試行回数、$p$ を成功確率という。$B(1,p)$ を Bernoulli 分布という。

$b(n,p,k)$ という記号は GrS06（Definition 3.6、p. 99）による。本記事では、確率変数は離散確率空間の上で考える。$\sum_kb(n,p,k)=1$（prop-bindist-count）なので、$B(n,p)$ に従う確率変数は確率 $1$ で $\{0,1,\dots,n\}$ の値をとる。

成功の回数の分布

離散確率空間の上の確率変数 $X_1,\dots,X_n$ が $0$ と $1$ だけを値にとり、互いに独立で、どれも $P(X_i=1)=p$ を満たすとする。このとき成功の回数 $X:=X_1+\cdots+X_n$ は二項分布 $B(n,p)$ に従う。また
$$ \sum_{k=0}^nb(n,p,k)=1 $$
である。

成功する回を選ぶ

$P(X_i=0)=1-p$ である。値の列 $\varepsilon=(\varepsilon_1,\dots,\varepsilon_n)\in\{0,1\}^n$ について、互いに独立であることから、独立性(確率論) の記事の命題「同時分布による判定」により
$$ P(X_1=\varepsilon_1,\dots,X_n=\varepsilon_n)=\prod_{i=1}^nP(X_i=\varepsilon_i)=p^k(1-p)^{n-k} $$
である。ここで $k$ は $\varepsilon$ の中の $1$ の個数である（ある $\varepsilon_i$ が $X_i$ の値の集合に属さない場合は、左辺の事象は空で、右辺も因子 $P(X_i=\varepsilon_i)=0$ を含むので、等式は両辺 $0$ として成り立つ）。事象 $\{X=k\}$ は、$1$ をちょうど $k$ 個含む列 $\varepsilon$ についての事象の互いに交わらない和集合であり、そのような列は、$1$ を置く $k$ 個の位置を $n$ 個から選ぶ方法の数、すなわち $\binom nk$ 個ある（二項係数の記事の命題「部分集合による特徴づけ」）。よって $P(X=k)=\binom nkp^k(1-p)^{n-k}$ である。和については、二項定理により
$$ \sum_{k=0}^n\binom nkp^k(1-p)^{n-k}=\bigl(p+(1-p)\bigr)^n=1 $$
である。

Bernoulli 試行の確率空間 $\{0,1\}^n$ の上の成功の回数 $X=X_1+\cdots+X_n$ は、この命題により $B(n,p)$ に従う。この計算は GrS06 Theorem 3.6（p. 98）、Sho08 Example 8.18（pp. 222–223）にある。

直感

二項分布は「独立に繰り返したときの成功の回数」の分布である。$b(n,p,k)$ の式は 2 つの因子からなる。$p^k(1-p)^{n-k}$ は、成功と失敗の特定の並び（たとえば「成功・失敗・成功…」）が起こる確率で、独立性のおかげで各回の確率の積になる。$\binom nk$ は、成功がちょうど $k$ 回になる並びの個数である。
平均の成功回数は $np$ で、確率は $np$ のあたりで最大になり（prop-bindist-mode）、そこから離れると急速に小さくなる。散らばりの幅を表す標準偏差は $\sqrt{np(1-p)}$ で、$n$ に比べてゆっくりしか増えない。このため成功の割合 $X/n$ は $p$ の近くに集中し（大数の法則）、$n$ が大きいと分布の形は釣鐘形の正規分布に近づく（中心極限定理）。一方、$n$ が大きく $p$ が小さく、平均 $np$ がほどほどの大きさのときは、Poisson 分布で近似できる（thm-bindist-poisson）。

例と反例

公平な硬貨を 10 回投げる

$B(10,\frac12)$ では $b(10,\frac12,k)=\binom{10}k/1024$ で、$k=0,1,\dots,10$ に対する分子は
$$ 1,\ 10,\ 45,\ 120,\ 210,\ 252,\ 210,\ 120,\ 45,\ 10,\ 1 $$
である。表が 4〜6 回になる確率は $\frac{210+252+210}{1024}=\frac{21}{32}=0.65625$ で、それ以外（3 回以下か 7 回以上）になることも $3$ 回に $1$ 回ほど起こる。分布は $k=5$ について左右対称である。一般に $b(n,p,k)=b(n,1-p,n-k)$ であり（成功と失敗を入れ替える）、$p=\frac12$ なら $k$ と $n-k$ で確率が等しい。

さいころで 6 の目が出る回数

さいころを 4 回振り、6 の目が出ることを成功とすると、成功の回数は $B(4,\frac16)$ に従う。6 の目がちょうど 1 回出る確率は
$$ b\Bigl(4,\frac16,1\Bigr)=4\cdot\frac16\cdot\Bigl(\frac56\Bigr)^3=\frac{125}{324}=0.3858\ldots $$
である（GrS06 Example 3.9、p. 98）。少なくとも 1 回出る確率は $1-b(4,\frac16,0)=1-(\frac56)^4=\frac{671}{1296}=0.5177\ldots$ で、$\frac12$ を少し超える。

反例：非復元抽出の赤玉の個数

赤玉 4 個と白玉 6 個が入った袋から、玉を戻さずに 3 個取り出し、赤玉の個数を $X$ とする。3 個の選び方 $\binom{10}3=120$ 通りが同じ確率で起こるとすると、
$$ P(X=x)=\frac{\binom4x\binom6{3-x}}{120}\qquad(x=0,1,2,3) $$
で、値は $\frac16,\frac12,\frac3{10},\frac1{30}$ である。玉を 1 個ずつ順に取り出すと考え、順序をつけた取り出し方 $10\cdot9\cdot8=720$ 通りが同じ確率で起こるとしても、各組は $3!=6$ 通りの順序に対応するので $X$ の分布は変わらない。このとき $i$ 回目（$i=1,2,3$）に取り出す玉は 10 個のどれも同じ確率 $\frac1{10}$ なので、$i$ 回目が赤である確率はどの回でも $\frac4{10}$ である。しかし $X$ は $B(3,\frac25)$ に従わない。たとえば $b(3,\frac25,3)=0.064$ だが $P(X=3)=\frac1{30}=0.0333\ldots$ である。1 回目と 2 回目がともに赤である確率は $\frac4{10}\cdot\frac39=\frac2{15}$ で $\bigl(\frac25\bigr)^2=\frac4{25}$ と異なり、各回の結果が独立でないからである。この $X$ は「各回の成功確率がどれも $\frac25$」という性質を満たすが、「各回が互いに独立」という性質を満たさず、二項分布にならない。$X$ の分布を超幾何分布という（GrS06 §5.1、p. 193）。期待値は線形性により $3\cdot\frac25=\frac65$ で二項分布と同じだが、分散は $E[X^2]-E[X]^2=2-\frac{36}{25}=0.56$ で、$B(3,\frac25)$ の分散 $3\cdot\frac25\cdot\frac35=0.72$ より小さい。

反例：成功確率が回ごとに違う場合

互いに独立な $X_1,X_2$ で、$X_1$ は $0,1$ を確率 $\frac12$ ずつとり、$X_2$ はつねに $1$ をとる（$P(X_2=1)=1$）とする。$X_1+X_2$ は $1,2$ を確率 $\frac12$ ずつとる。もしこれが $B(2,q)$ に従うなら、$b(2,q,0)=(1-q)^2=0$ から $q=1$ となり、$b(2,1,2)=1\ne\frac12$ となって矛盾する。したがって $X_1+X_2$ はどんな $q$ についても二項分布に従わない。この 2 つの確率変数は「互いに独立」という性質を満たすが、「成功確率が共通」という性質を満たさない。独立性がない場合も同様で、$X_1$ を公平な硬貨の表の指示確率変数とし $X_2:=X_1$ とすると、$X_1+X_2=2X_1$ は $0,2$ を確率 $\frac12$ ずつとり、$P(X_1+X_2=1)=0$ なので $2q(1-q)=0$、すなわち $q\in\{0,1\}$ となるが、そのとき $P(X_1+X_2=0)$ は $1$ か $0$ で $\frac12$ にならない。prop-bindist-count の 2 つの仮定（独立性と共通の成功確率）はどちらも外せない。

条件を 1 つ外した反例を表にまとめる。各行の確認は上の反例の箱にある。

外す条件	反例	成り立たなくなること
各回が互いに独立（prop-bindist-count）	赤玉 4・白玉 6 から戻さずに 3 個取り出したときの赤玉の個数	成功の回数が $B(n,p)$ に従う
成功確率が共通（prop-bindist-count）	独立な $X_1$（$0,1$ を確率 $\frac12$ ずつ）と $X_2\equiv1$	和が二項分布に従う
互いに独立（prop-bindist-sum の型の和）	$X_2:=X_1$（公平な硬貨の表の指示確率変数）	和が二項分布に従う

性質

以下、$n\geq1$、$0\leq p\leq1$ とし、$b(k):=b(n,p,k)$ と略記することがある。

期待値と分散

二項分布の期待値と分散

確率変数 $X$ が $B(n,p)$ に従うならば
$$ E[X]=np,\qquad V[X]=np(1-p) $$
である。

二項係数の等式で分布から直接計算する

$1\leq k\leq n$ で $k\binom nk=n\binom{n-1}{k-1}$、$2\leq k\leq n$ で $k(k-1)\binom nk=n(n-1)\binom{n-2}{k-2}$ である（階乗で書けば両辺とも $\frac{n!}{(k-1)!(n-k)!}$、$\frac{n!}{(k-2)!(n-k)!}$）。$X$ は確率 $1$ で有限集合 $\{0,\dots,n\}$ の値をとるので、期待値は分布から計算できる（確率変数の記事の命題「確率変数の関数の分布と期待値」）。$k=0$ の項は $0$ なので、$j=k-1$ とおいて
$$ E[X]=\sum_{k=1}^nk\binom nkp^k(1-p)^{n-k}=np\sum_{j=0}^{n-1}\binom{n-1}jp^j(1-p)^{n-1-j}=np $$
である。最後の等号は二項定理による（$n=1$ のときも和は $1$）。同様に、$n\geq2$ なら
$$ E[X(X-1)]=\sum_{k=2}^nk(k-1)\binom nkp^k(1-p)^{n-k}=n(n-1)p^2\sum_{j=0}^{n-2}\binom{n-2}jp^j(1-p)^{n-2-j}=n(n-1)p^2 $$
であり、$n=1$ なら $X(X-1)$ はつねに $0$ なので、この式は $n=1$ でも成り立つ。よって
$$ V[X]=E[X^2]-E[X]^2=E[X(X-1)]+E[X]-E[X]^2=n(n-1)p^2+np-n^2p^2=np(1-p) $$
である（分散の記事の命題「分散の基本公式」の 1 と、期待値の記事の定理「期待値の線形性」）。

同じ結果は、$X$ を独立な指示確率変数の和とみて、期待値の線形性（期待値の記事の例「表の回数」）と独立な確率変数の分散の加法性（分散の記事の例「二項分布の分散」）からも得られる。上の証明は、分布 $b(n,p,k)$ だけを使っており、$X$ がどの確率空間の上にあるかによらない。公平な硬貨 100 回の表の回数では $E[X]=50$、$V[X]=25$、標準偏差は $5$ である。

最も起こりやすい値

隣り合う確率の比と最頻値

$0< p<1$ とし、$m:=\lfloor(n+1)p\rfloor$（$(n+1)p$ 以下の最大の整数）とする。

$1\leq k\leq n$ について
$$ \frac{b(k)}{b(k-1)}=\frac{(n-k+1)p}{k(1-p)} $$
であり、$b(k)>b(k-1)$、$b(k)=b(k-1)$、$b(k)< b(k-1)$ はそれぞれ $k<(n+1)p$、$k=(n+1)p$、$k>(n+1)p$ と同値である。
$(n+1)p$ が整数でなければ、$b(k)$ は $k=m$ でだけ最大値をとる。$(n+1)p$ が整数ならば、$b(k)$ は $k=m-1$ と $k=m$ の 2 か所でだけ最大値をとる。
$np-(1-p)< m\leq np+p$ であり、特に $|m-np|<1$ である。

比が 1 を超えるかどうかを調べる

1：$0< p<1$ なので $b(k)>0$ である。$\binom nk\Big/\binom n{k-1}=\frac{n-k+1}k$ なので、比は主張の式になる。分母を払うと、$b(k)>b(k-1)$ は $(n-k+1)p>k(1-p)$、すなわち $(n+1)p>k$ と同値である。等号・逆向きの不等号も同様である。
2：$0<(n+1)p< n+1$ なので $0\leq m\leq n$ である。$(n+1)p$ が整数でないとき、$1\leq k\leq m$ なら $k\leq m<(n+1)p$ なので $b(k)>b(k-1)$、$m+1\leq k\leq n$ なら $k>(n+1)p$ なので $b(k)< b(k-1)$ である。よって $b(0)< b(1)<\cdots< b(m)>b(m+1)>\cdots>b(n)$ であり、最大値をとるのは $k=m$ だけである。$(n+1)p$ が整数のとき、$m=(n+1)p$ は $1\leq m\leq n$ を満たし、$1\leq k\leq m-1$ で $b(k)>b(k-1)$、$k=m$ で $b(m)=b(m-1)$、$m+1\leq k\leq n$ で $b(k)< b(k-1)$ である。よって最大値をとるのは $k=m-1,m$ だけである。
3：$m$ の定義から $(n+1)p-1< m\leq(n+1)p$ であり、$(n+1)p-1=np-(1-p)$、$(n+1)p=np+p$ である。$0< p<1$ なので両端は $np$ から $1$ 未満しか離れていない。

$B(10,\frac12)$ では $(n+1)p=5.5$ で最大は $k=5$ だけである。$B(9,\frac12)$ では $(n+1)p=5$ が整数で、$b(9,\frac12,4)=b(9,\frac12,5)=\frac{126}{512}$ の 2 か所が最大である。冒頭のくじ（$B(100,0.02)$）では $(n+1)p=2.02$ で、当たりが 2 回の確率 $0.2734\ldots$ が最大であり、1 回の確率 $0.2706\ldots$ をわずかに上回る。GrS06 p. 99 は、グラフから最大の確率が $np$ のあたりで起こることを観察している。

独立な二項分布の和

同じ離散確率空間の上の確率変数 $X,Y$ が互いに独立で、$X$ が $B(m,p)$、$Y$ が $B(n,p)$ に従う（成功確率 $p$ が共通）ならば、$X+Y$ は $B(m+n,p)$ に従う。

畳み込みと Vandermonde の公式

$X,Y$ は確率 $1$ でそれぞれ $\{0,\dots,m\}$、$\{0,\dots,n\}$ の値をとる。$0\leq s\leq m+n$ について、独立な確率変数の和の分布の式（確率変数の記事の命題「周辺分布と和の分布」の 3）により、範囲外の二項係数を $0$ として
$$ P(X+Y=s)=\sum_{k=0}^{s}\binom mkp^k(1-p)^{m-k}\binom n{s-k}p^{s-k}(1-p)^{n-s+k}=p^s(1-p)^{m+n-s}\sum_{k=0}^s\binom mk\binom n{s-k} $$
である（確率 $0$ の値は和に寄与しない）。二項係数の記事の系「二変数の Vandermonde の公式」により右辺の和は $\binom{m+n}s$ なので、$P(X+Y=s)=b(m+n,p,s)$ である。

これは「$m$ 回の Bernoulli 試行のあとに、独立に $n$ 回続ける」と成功の回数が足し合わされることを表す。成功確率が共通でない場合や独立でない場合には、和は二項分布にならない（ex-bindist-unequal）。

Poisson の少数の法則

Poisson分布

$\lambda>0$ とする。確率変数 $X$ が、すべての整数 $k\geq0$ について
$$ P(X=k)=e^{-\lambda}\frac{\lambda^k}{k!} $$
を満たすとき、$X$ はパラメータ $\lambda$ の Poisson 分布に従うという。

指数関数の記事の定義「指数関数」により $\sum_{k\geq0}\lambda^k/k!=e^\lambda$ なので、右辺の $k$ についての和は $1$ であり、この右辺は $\{0,1,2,\dots\}$ の上の離散確率空間を定める。

Poissonの少数の法則

$\lambda>0$ を固定し、$n>\lambda$ について $p_n:=\lambda/n$ とする。このとき、すべての整数 $k\geq0$ について
$$ \lim_{n\to\infty}b(n,p_n,k)=e^{-\lambda}\frac{\lambda^k}{k!} $$
である。

3 つの因子に分ける

$k$ を固定し、$n>\max(k,\lambda)$ とする。$\binom nk=\frac{n(n-1)\cdots(n-k+1)}{k!}$ と $p_n=\lambda/n$ を代入して並べ替えると
$$ b(n,p_n,k)=\frac{\lambda^k}{k!}\cdot\prod_{j=0}^{k-1}\Bigl(1-\frac jn\Bigr)\cdot\Bigl(1-\frac\lambda n\Bigr)^n\cdot\Bigl(1-\frac\lambda n\Bigr)^{-k} $$
である（$k=0$ のとき積は $1$）。$n\to\infty$ で、有限個（$k$ 個）の因子の積 $\prod_j(1-\frac jn)$ は $1$ に、$(1-\frac\lambda n)^{-k}$ も $1$ に収束する。指数関数の記事の命題「複利の極限」を $x=-\lambda$ に使うと $(1-\frac\lambda n)^n\to e^{-\lambda}$ である。極限の積は積の極限なので主張を得る。

GrS06 §5.1（pp. 188–189）は、一定の時間に稀な出来事が起こる回数を、時間を $n$ 等分した Bernoulli 試行で表し、隣り合う確率の比 $\frac{b(n,p,k)}{b(n,p,k-1)}=\frac{\lambda-(k-1)p}{kq}$（$q=1-p$、$np=\lambda$）が $\lambda/k$ に近いことから同じ近似を導いている。同書 Table 5.1（p. 190）には数値の比較があり、たとえば $n=100$、$p=0.01$ で $b(100,0.01,0)=0.3660$、$e^{-1}=0.3679$ である。冒頭のくじでは $\lambda=np=2$ で、当たりの回数 $k=0,1,2,3$ の確率は二項分布で $0.1326$、$0.2707$、$0.2734$、$0.1823$、Poisson 分布で $0.1353$、$0.2707$、$0.2707$、$0.1804$ である（小数第 5 位を四捨五入）。成功が稀で試行の回数が多いときは、$n$ と $p$ を別々に知らなくても平均 $\lambda=np$ だけで分布が近似できる。

正規分布による近似

$p$ を固定して $n$ を大きくすると、$B(n,p)$ に従う $X$ を標準化した $\frac{X-np}{\sqrt{np(1-p)}}$ の分布は標準正規分布に近づく。これが de Moivre–Laplace の定理で、中心極限定理の記事で Stirlingの公式から証明する。公平な硬貨 100 回で表が 40〜60 回になる確率は正確に $0.9648\ldots$ で、正規分布による近似でもほぼ同じ値が得られる（中心極限定理の記事の例「硬貨 100 回で表が 40 回以上 60 回以下」）。Poisson 近似は $np$ が一定のまま $n\to\infty$ とする場合、正規近似は $p$ が一定のまま $n\to\infty$ とする場合の近似であり、状況が異なる。

補足

確率母関数による見方

$B(n,p)$ に従う $X$ について $E[t^X]=\sum_kb(n,p,k)t^k=(1-p+pt)^n$ である（二項定理）。$(1-p+pt)^n$ は $B(1,p)$ の $1-p+pt$ の $n$ 乗であり、prop-bindist-sum は $(1-p+pt)^m(1-p+pt)^n=(1-p+pt)^{m+n}$ に対応する。このような多項式・冪級数を使う方法は母関数の記事の「確率母関数」の節で扱う。