負の二項分布(negative binomial distribution)とは、成功の確率 $p\in(0,1]$ の独立な試行で $r$ 回目の成功までの回数 $k\ge r$ に確率 $\binom{k-1}{r-1}p^r(1-p)^{k-r}$ をおく分布である。失敗の回数 $j$ の確率 $\binom{r+j-1}{j}p^r(1-p)^j$ は実数 $r>0$ でも分布をなし、名前は $p^r(1-(1-p))^{-r}$ の二項展開に由来する。整数の $r$ では同じ $p$ の独立な幾何分布 $r$ 個の和であり、失敗の回数の平均 $\mu=r(1-p)/p$ に対し分散は $\mu+\mu^2/r$ である。$p< 1$ なら失敗の回数はガンマ混合の Poisson 分布に従い、$\mu$ を固定して $r\to\infty$ とすると Poisson 分布に近づく。
前提知識: 幾何分布, 二項係数, Bernoulli試行, 確率母関数
成功の確率が $p$ の試行を互いに独立にくり返し、成功がちょうど $r$ 回出るまで続ける。かかった回数 $T_r$ がちょうど $k$ になるのは、$k$ 回目が成功で、それまでの $k-1$ 回のうちちょうど $r-1$ 回が成功のときなので、その確率は $\binom{k-1}{r-1}p^r(1-p)^{k-r}$ である。この分布を 負の二項分布(negative binomial distribution)という。$r=1$ のときは幾何分布である。
名前は、失敗の回数 $j=T_r-r$ で書いた確率 $\binom{r+j-1}{j}p^r(1-p)^j$ が、指数が負の二項展開 $p^r\bigl(1-(1-p)\bigr)^{-r}$ の各項になることに由来する。この形にすると $r$ は正の実数でよくなり、平均より分散が大きい数え上げのモデルとして広く使われる。この記事では、2 つの流儀の定義と、確率の総和が $1$ になることを一般二項定理から示したあと、整数の $r$ について $T_r$ が独立な幾何分布の和であること(成功と成功の間の待ち時間が独立であること)、二項分布との関係、平均・分散と再生性を証明する。さらに、Poisson 分布の平均をガンマ分布で混ぜると負の二項分布になること、平均を固定して $r\to\infty$ とすると Poisson 分布に近づくことを示す。
以下、確率空間 $(\Omega,\mathcal F,P)$ の上で考え、$0< p\le1$、$q:=1-p$ とし、$0^0=1$ と約束する。実数 $x$ と整数 $j\ge0$ について、一般化二項係数を $\binom xj:=\frac{x(x-1)\cdots(x-j+1)}{j!}$($\binom x0=1$)と書く(二項係数 の定義「一般化二項係数」)。
$r$ が整数なら $\binom{r+j-1}{j}=\binom{r+j-1}{r-1}$ なので、$T\sim\mathrm{NB}(r,p)$ と $T-r\sim\mathrm{NB}_0(r,p)$ は同値である。$\mathrm{NB}(1,p)$ は幾何分布 $\mathrm{Geo}(p)$、$\mathrm{NB}_0(1,p)$ は失敗の回数の流儀の幾何分布 $\mathrm{Geo}_0(p)$ である(幾何分布)。$p=1$ のとき、$\mathrm{NB}(r,1)$ は $r$ に、$\mathrm{NB}_0(r,1)$ は $0$ に確率 $1$ をおく。文献によっては、成功と失敗の役を入れ替えたり、平均 $\mu$ と $r$ で母数を表したりするので、引用するときは確率の式を確かめる必要がある。
$\binom{r+j-1}j$ は、分子の各因子から $-1$ を括り出すと
$$
\binom{r+j-1}{j}=\frac{r(r+1)\cdots(r+j-1)}{j!}=(-1)^j\frac{(-r)(-r-1)\cdots(-r-j+1)}{j!}=(-1)^j\binom{-r}{j}
$$
と書ける。したがって $\mathrm{NB}_0(r,p)(\{j\})=p^r\binom{-r}j(-q)^j$ であり、これが「負の二項」の意味である。$r$ が正の整数なら、$\binom{r+j-1}j$ は $r$ 種類のものから重複を許して $j$ 個選ぶ方法の数($j$ 個の元の多重集合の個数)に等しい(Sta12 §1.2 の式 (1.20)・(1.21))。
実数 $r>0$ と $0< p\le1$ について、$\lvert z\rvert< 1$ を満たす実数 $z$ で
$$
\sum_{j\ge0}\binom{r+j-1}{j}z^j=\frac1{(1-z)^r}
$$
が成り立ち、左辺は絶対収束する。とくに $\mathrm{NB}_0(r,p)$ は確率分布であり、$Y\sim\mathrm{NB}_0(r,p)$ の確率母関数は、$\lvert s\rvert< 1/q$($q=0$ ならすべての実数 $s$)で
$$
G_Y(s)=E[s^Y]=\Bigl(\frac p{1-qs}\Bigr)^r
$$
である。$T\sim\mathrm{NB}(r,p)$($r$ は整数)なら $G_T(s)=\bigl(\frac{ps}{1-qs}\bigr)^r$ である。
二項定理と組合せの恒等式 の定理「一般二項定理」を $\alpha=-r$、$x=-z$($\lvert x\rvert< 1$)で使うと、$\sum_j\binom{-r}j(-z)^j$ は絶対収束して $(1-z)^{-r}$ に等しい。上の式により $\binom{-r}j(-z)^j=\binom{r+j-1}jz^j$ である。
$0\le q< 1$ なので $z=q$ とおけて、$\sum_j\binom{r+j-1}jp^rq^j=p^r(1-q)^{-r}=1$ である。$r>0$ なので各項 $\binom{r+j-1}jp^rq^j$ は $0$ 以上であり、$\mathrm{NB}_0(r,p)$ は確率分布である。$\lvert s\rvert< 1/q$ なら $z=qs$ とおけて、$G_Y(s)=p^r\sum_j\binom{r+j-1}j(qs)^j=p^r(1-qs)^{-r}$ である。$T=Y+r$ なら $G_T(s)=s^rG_Y(s)$ である。$\square$
$r$ が正の整数のときは一般二項定理を使わずに済む。等比級数 の定理「等比級数の冪の展開」は $\sum_{n\ge0}\binom{n+k}kz^n=(1-z)^{-(k+1)}$($k\ge0$ は整数)であり、$k=r-1$ とおけば上の式である。
| 試行の回数の流儀 $T$ | 失敗の回数の流儀 $Y$ | |
|---|---|---|
| $r$ の範囲 | 正の整数 | 正の実数 |
| 値 | $r,r+1,\dots$ | $0,1,2,\dots$ |
| 確率 | $\binom{k-1}{r-1}p^rq^{k-r}$ | $\binom{r+j-1}jp^rq^j$ |
| 確率母関数 | $\bigl(\frac{ps}{1-qs}\bigr)^r$ | $\bigl(\frac p{1-qs}\bigr)^r$ |
| 期待値 | $\frac rp$ | $\frac{rq}p$ |
| 分散 | $\frac{rq}{p^2}$ | $\frac{rq}{p^2}$ |
期待値と分散の行は thm-nbd-moments で示す。
成功と成功の間の待ち時間に区切ると、$r$ 回目の成功までの回数は、独立で同じ幾何分布に従う $r$ 個の待ち時間の和になる。
$r\ge1$ を整数とする。
正の整数 $k_1,\dots,k_r$ と $k:=k_1+\cdots+k_r$ について $\pi(k_1,\dots,k_r):=\prod_{i=1}^rq^{k_i-1}p=p^rq^{k-r}$ とおく。和が $k$ になる正の整数の組 $(k_1,\dots,k_r)$ の個数は $\binom{k-1}{r-1}$ である。実際、$1,\dots,k$ を並べて左から $k_1,k_2,\dots$ 個ずつに区切ると考えると、組は $k-1$ 個のすき間から区切りを入れる $r-1$ 個を選ぶ方法と 1 対 1 に対応する。
1:独立性により $P(G_1=k_1,\dots,G_r=k_r)=\pi(k_1,\dots,k_r)$ である。事象 $\{G_1+\cdots+G_r=k\}$ は、和が $k$ の組 $(k_1,\dots,k_r)$ にわたる事象 $\{G_1=k_1,\dots,G_r=k_r\}$ の互いに交わらない和なので、その確率は $\binom{k-1}{r-1}p^rq^{k-r}$ である。
2:正の整数 $k_1,\dots,k_r$ をとり、$k:=\sum k_i$、$t_i:=k_1+\cdots+k_i$ とおく。事象 $\{D_1=k_1,\dots,D_r=k_r\}$ は「$X_1,\dots,X_k$ のうち値 $1$ をとるのがちょうど $t_1,\dots,t_r$ 番目である」という事象に等しい。これは長さ $k$ の $0,1$ の並び 1 つを指定する事象で、$1$ が $r$ 個、$0$ が $k-r$ 個なので、Bernoulli試行 の定義により確率は $p^rq^{k-r}=\pi(k_1,\dots,k_r)$ である。すべての組にわたって足すと、各因子の和が $\sum_{k_i\ge1}q^{k_i-1}p=1$ なので和は $1$ であり、$D_1,\dots,D_r$ は確率 $1$ で正の整数の値をとる(とくに $T_1,\dots,T_r$ は有限である)。$i$ 以外の $k_j$ について足すと $P(D_i=k_i)=q^{k_i-1}p$ であり、同時分布 $\pi$ は周辺分布の積なので、$D_1,\dots,D_r$ は独立で $\mathrm{Geo}(p)$ に従う。最後の主張は 1 による。$\square$
$T_r$ の分布そのものは Bernoulli試行 の命題「$r$ 回目の成功までの回数」でも直接数えて求めているが、2 は待ち時間の独立性まで含む。2 は「成功した時点から先の試行は、新たに始めた試行と同じ」ことの最も簡単な形である。
thm-nbd-sum の 2 の状況で、$S_n:=X_1+\cdots+X_n$($n$ 回までの成功の回数)とおく。整数 $n\ge r\ge1$ について $\{T_r\le n\}=\{S_n\ge r\}$ であり、
$$
P(T_r\le n)=\sum_{k=r}^n\binom nkp^kq^{n-k}
$$
である。
$T_r\le n$ は「$n$ 回目までに $r$ 回以上成功している」ことと同じなので、2 つの事象は等しい。$S_n$ は二項分布 $B(n,p)$ に従うので、右辺の式を得る。$\square$
A と B が勝負をくり返し、各回 A が勝つ確率は $p$(引き分けはない)、各回の勝敗は独立とする。先に $r$ 勝したほうを優勝とする。勝負を $2r-1$ 回まで続けたと考えると、A が優勝するのは A の $r$ 勝目が $2r-1$ 回目以内に来るときなので、prop-nbd-binomial により A の優勝の確率は $\sum_{k=r}^{2r-1}\binom{2r-1}kp^kq^{2r-1-k}$ である。$r=4$(7 回戦で 4 勝)、$p=0.6$ なら
$$
35\cdot0.6^4\cdot0.4^3+21\cdot0.6^5\cdot0.4^2+7\cdot0.6^6\cdot0.4+0.6^7=0.710208
$$
である。勝負がちょうど $k$ 回($r\le k\le2r-1$)で終わる確率は、A か B の $r$ 勝目が $k$ 回目に来る確率の和 $\binom{k-1}{r-1}(p^rq^{k-r}+q^rp^{k-r})$ である。$r=4$、$p=\frac12$ なら $k=4,5,6,7$ に対して $\frac18,\frac14,\frac5{16},\frac5{16}$ で、和は $1$ になる。
$r>0$ を実数とし、$Y\sim\mathrm{NB}_0(r,p)$ とする。整数 $m\ge1$ について
$$
E[Y(Y-1)\cdots(Y-m+1)]=r(r+1)\cdots(r+m-1)\,\frac{q^m}{p^m}
$$
である。とくに $E[Y]=\dfrac{rq}p$、$\mathrm{Var}(Y)=\dfrac{rq}{p^2}$ である。$r$ が整数で $T\sim\mathrm{NB}(r,p)$ なら、$E[T]=\dfrac rp$、$\mathrm{Var}(T)=\dfrac{rq}{p^2}$ である。
$j\ge m$ について
$$
j(j-1)\cdots(j-m+1)\binom{r+j-1}{j}=\frac{r(r+1)\cdots(r+j-1)}{(j-m)!}=r(r+1)\cdots(r+m-1)\binom{(r+m)+(j-m)-1}{j-m}
$$
である(分子の最初の $m$ 個の因子を取り出した)。$j< m$ では左辺の階乗の積は $0$ である。項はすべて $0$ 以上なので、$i:=j-m$ とおき、thm-nbd-total を $r+m$ と $z=q$ で使うと
$$
E[Y(Y-1)\cdots(Y-m+1)]=r(r+1)\cdots(r+m-1)\,p^rq^m\sum_{i\ge0}\binom{(r+m)+i-1}{i}q^i=r(r+1)\cdots(r+m-1)\,\frac{p^rq^m}{p^{r+m}}
$$
である。$m=1$ で $E[Y]=\frac{rq}p$、$m=2$ で $E[Y(Y-1)]=\frac{r(r+1)q^2}{p^2}$ なので
$$
\mathrm{Var}(Y)=E[Y(Y-1)]+E[Y]-E[Y]^2=\frac{r(r+1)q^2}{p^2}+\frac{rq}p-\frac{r^2q^2}{p^2}=\frac{rq(q+p)}{p^2}=\frac{rq}{p^2}
$$
である。$T=Y+r$ なので $E[T]=\frac{rq}p+r=\frac rp$ であり、分散は変わらない。$\square$
$\mu:=E[Y]=rq/p$ とおくと $\mathrm{Var}(Y)=\mu/p=\mu+\mu^2/r$ である。$0< p< 1$ なら分散は平均より真に大きい。平均と分散が等しい Poisson分布 と比べて、ばらつきの大きい(過分散の)数え上げのデータに負の二項分布が使われるのはこのためである。平均 $\mu$ を固定して $r$ を大きくすると、分散は平均に近づく(thm-nbd-poisson)。
$r_1,r_2>0$ を実数とし、$Y_1\sim\mathrm{NB}_0(r_1,p)$、$Y_2\sim\mathrm{NB}_0(r_2,p)$ が独立なら、$Y_1+Y_2\sim\mathrm{NB}_0(r_1+r_2,p)$ である。
確率母関数 の定理「独立な和の確率母関数」と thm-nbd-total により、$0\le s\le1$(このとき $\lvert qs\rvert< 1$)で
$$
G_{Y_1+Y_2}(s)=\Bigl(\frac p{1-qs}\Bigr)^{r_1}\Bigl(\frac p{1-qs}\Bigr)^{r_2}=\Bigl(\frac p{1-qs}\Bigr)^{r_1+r_2}
$$
であり、右辺は $\mathrm{NB}_0(r_1+r_2,p)$ に従う確率変数の確率母関数である。確率母関数 の命題「係数の取り出しと一意性」の 2 により、$Y_1+Y_2\sim\mathrm{NB}_0(r_1+r_2,p)$ である。$\square$
$r$ が整数なら、これは thm-nbd-sum の 1 から「独立な幾何分布 $r_1$ 個の和と $r_2$ 個の和を足す」と読める。$r$ が整数でないときも成り立つことは、負の二項分布が「何個でも独立な同じ分布の和に分けられる」分布(無限分解可能な分布)であることを示している。
形のパラメータ $\alpha>0$、率 $\beta>0$ の ガンマ分布 $\mathrm{Gamma}(\alpha,\beta)$ は、$(0,\infty)$ 上の密度 $f_{\alpha,\beta}(\ell):=\frac{\beta^\alpha}{\Gamma(\alpha)}\ell^{\alpha-1}e^{-\beta\ell}$ をもつ分布である(ガンマ分布)。$\Gamma$ は Γ関数 で、$a>0$、$z>0$ について $\int_0^\infty u^{z-1}e^{-au}\,du=\Gamma(z)/a^z$(Γ関数 の例「尺度変換と Laplace 型積分」)である。
$\alpha,\beta>0$ とし、正の値をとる確率変数 $\Lambda$ と、$\{0,1,2,\dots\}$ に値をとる確率変数 $K$ が、すべての Borel 集合 $A\subset(0,\infty)$ と整数 $k\ge0$ について
$$
P(\Lambda\in A,\ K=k)=\int_Ae^{-\ell}\frac{\ell^k}{k!}\,f_{\alpha,\beta}(\ell)\,d\ell
$$
を満たすとする($\Lambda$ を $\mathrm{Gamma}(\alpha,\beta)$ に従って選び、$\Lambda=\ell$ のもとで $K$ を平均 $\ell$ の Poisson 分布に従って選ぶ)。このとき
$$
K\sim\mathrm{NB}_0\Bigl(\alpha,\ \frac\beta{1+\beta}\Bigr)
$$
である。
$A=(0,\infty)$ とし、Γ関数 の例「尺度変換と Laplace 型積分」の式を $z=\alpha+k$、$a=1+\beta$ で使うと
$$
P(K=k)=\frac{\beta^\alpha}{k!\,\Gamma(\alpha)}\int_0^\infty\ell^{\alpha+k-1}e^{-(1+\beta)\ell}\,d\ell=\frac{\Gamma(\alpha+k)}{k!\,\Gamma(\alpha)}\cdot\frac{\beta^\alpha}{(1+\beta)^{\alpha+k}}
$$
である。$\Gamma(z+1)=z\Gamma(z)$ を $k$ 回使うと $\Gamma(\alpha+k)=\alpha(\alpha+1)\cdots(\alpha+k-1)\Gamma(\alpha)$ なので、第 1 因子は $\binom{\alpha+k-1}k$ に等しい。$p:=\frac\beta{1+\beta}$ とおくと $q=\frac1{1+\beta}$ で、第 2 因子は $p^\alpha q^k$ である。よって $P(K=k)=\binom{\alpha+k-1}kp^\alpha q^k$ である。$\square$
ガンマ分布 の例「Poisson 分布の平均をガンマ分布で混ぜる」は、同じ計算に加えて、$K=k$ を観測したあとの $\Lambda$ の分布が $\mathrm{Gamma}(\alpha+k,\beta+1)$ であることを示している。平均 $\Lambda$ がガンマ分布に従って個体ごとにばらつく Poisson 分布の数え上げは、全体として見ると負の二項分布になる。thm-nbd-moments の値 $E[K]=\alpha q/p=\alpha/\beta=E[\Lambda]$ はこの見方とも合う。
$\lambda>0$ を固定し、実数 $r>0$ について $p_r:=\frac r{r+\lambda}$ とおく(このとき $\mathrm{NB}_0(r,p_r)$ の平均は $\lambda$ である)。各整数 $j\ge0$ について
$$
\lim_{r\to\infty}\mathrm{NB}_0(r,p_r)(\{j\})=e^{-\lambda}\frac{\lambda^j}{j!}
$$
である。
$q_r=1-p_r=\frac\lambda{r+\lambda}$ なので、平均は $rq_r/p_r=\lambda$ であり、
$$
\mathrm{NB}_0(r,p_r)(\{j\})=\frac{r(r+1)\cdots(r+j-1)}{j!}\cdot\frac{\lambda^j}{(r+\lambda)^j}\cdot\Bigl(\frac r{r+\lambda}\Bigr)^r=\frac{\lambda^j}{j!}\prod_{i=0}^{j-1}\frac{r+i}{r+\lambda}\cdot\Bigl(1+\frac\lambda r\Bigr)^{-r}
$$
である。$j$ を固定すると、有限個の因子 $\frac{r+i}{r+\lambda}$ はどれも $1$ に近づく。$\log\bigl(1+\frac\lambda r\bigr)^{-r}=-\lambda\cdot\frac{\log(1+\lambda/r)}{\lambda/r}$ で、$\frac{\log(1+x)}x\to1$($x\to+0$)なので、最後の因子は $e^{-\lambda}$ に近づく。$\square$
分散 $\lambda+\lambda^2/r$ が平均 $\lambda$ に近づくこととも合う。ガンマ混合の見方では、$r=\alpha\to\infty$ で平均 $\alpha/\beta=\lambda$ を固定すると $\Lambda$ の分散 $\alpha/\beta^2=\lambda^2/\alpha$ が $0$ に近づき、混ぜる前の Poisson 分布に戻る。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 成功の確率が共通(thm-nbd-sum の 1) | 独立な $G_1\sim\mathrm{Geo}(1)$、$G_2\sim\mathrm{Geo}(\frac12)$ | $G_1+G_2$ はどの $\mathrm{NB}(2,p)$ にも従わない |
| 独立性(thm-nbd-sum の 1) | $G\sim\mathrm{Geo}(\frac12)$、$G_1=G_2=G$ | $G_1+G_2=2G$ はどの $\mathrm{NB}(2,p)$ にも従わない |
| $r>0$(def-nbd-main の 2) | $r=-1$ | $\binom{r+j-1}jp^rq^j$ の $j=1$ の値が負で、確率分布にならない |
| $p< 1$(分散が平均より大きいこと) | $p=1$ | $Y=0$ が確率 $1$ で、分散と平均はともに $0$ |
1 行目:$G_1=1$ が確率 $1$ で成り立つので、$S:=G_1+G_2=1+G_2$ について $P(S=2)=\frac12$、$P(S=3)=\frac14$ である。$S\sim\mathrm{NB}(2,p)$ とすると $P(S=2)=p^2=\frac12$ から $p=\frac1{\sqrt2}$ で、$P(S=3)=\binom21p^2q=1-\frac1{\sqrt2}\approx0.293\ne\frac14$ となり、矛盾する。
2 行目:$2G$ は偶数の値しかとらないので $P(2G=3)=0$ である。$0< p< 1$ なら $\mathrm{NB}(2,p)(\{3\})=2p^2q>0$ であり、$p=1$ なら $\mathrm{NB}(2,1)(\{2\})=1$ だが $P(2G=2)=P(G=1)=\frac12$ である。どちらでも一致しない。
3 行目:$j=1$ では $\binom{r}{1}p^rq=r\,p^rq=-p^{-1}q< 0$($0< p< 1$)である。
4 行目:$p=1$ なら $q=0$ で、$\mathrm{NB}_0(r,1)$ は $0$ に確率 $1$ をおく。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する