確率母関数

同義語:確率生成関数probability generating function

概要

確率母関数(probability generating function)とは、$0$ 以上の整数の値をとる確率変数 $X$ について $G_X(s)=\sum_kP(X=k)s^k=E[s^X]$($-1\le s\le1$)で定まる関数で、分布の列を係数とする冪級数として分布を決める。独立な確率変数の和の確率母関数は積に、独立に同じ分布に従う確率変数をそれらと独立なランダムな個数だけ足した和の確率母関数は合成になり、階乗積率は $s\to1$ での微分係数の左極限として求まる。分布の収束は $[0,1)$ での各点収束と同値であり、Galton–Watson 過程の絶滅確率は $G(s)=s$ の $[0,1]$ での最小の解で、子の数がちょうど $1$ である確率が $1$ 未満なら、それが $1$ になるのは子の数の平均が $1$ 以下のときに限る。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 母関数, 期待値, 確率変数, 冪級数

$0$ 以上の整数の値をとる確率変数 $X$ について、分布の列 $P(X=0),P(X=1),P(X=2),\dots$ を係数に並べた冪級数
$$ G_X(s)=\sum_{k=0}^\infty P(X=k)\,s^k=E\bigl[s^X\bigr] $$
を $X$ の 確率母関数(probability generating function)という。さいころの目、成功の回数、待ち時間の回数、子孫の個体数のように、数を数える確率変数の分布を 1 つの関数にまとめたものである。
確率母関数を使うと、確率の計算を関数の計算に置き換えられる。独立な確率変数の和の分布(畳み込み)は確率母関数の積に、期待値は $s\uparrow1$ での微分係数の極限に、独立なランダムな個数だけ独立同分布の確率変数を足した和は関数の合成になる。最後の性質から、分枝過程が絶滅する確率が方程式 $G(s)=s$ の最小の解として求まる。
この記事では、一般の確率空間の上で確率母関数を定め、分布を決めること(prop-pgf-coeff)、独立な和が積になること(thm-pgf-sum)、階乗積率が微分係数の極限になること(thm-pgf-moments)、独立なランダムな個数の和が合成になること(thm-pgf-compound)、分布の収束が $[0,1)$ での各点収束と同値であること(thm-pgf-continuity)を証明し、Galton–Watson 過程の絶滅確率を求める(thm-pgf-extinction)。

定義

以下、$(\Omega,\mathcal F,P)$ を確率空間とし、$\mathbb Z_{\ge0}:=\{0,1,2,\dots\}$ と書く。確率変数 $X$ が $\mathbb Z_{\ge0}$ に値をとる とは、すべての $\omega$ で $X(\omega)\in\mathbb Z_{\ge0}$ であることをいう。このとき $p_k:=P(X=k)$ は $0$ 以上で、$\Omega$ は互いに交わらない事象 $\{X=k\}$($k\ge0$)の和集合なので、可算加法性から $\sum_kp_k=1$ である。

確率母関数

$X$ を $\mathbb Z_{\ge0}$ に値をとる確率変数とする。$-1\le s\le1$ を満たす実数 $s$ について
$$ G_X(s):=\sum_{k=0}^\infty P(X=k)\,s^k $$
を $X$ の 確率母関数 という($0^0=1$ とする)。

$\sum_kP(X=k)\lvert s\rvert^k\le1$ なので級数は絶対収束し、$\lvert G_X(s)\rvert\le1$、$G_X(1)=1$ である。$\bigl\lvert\sum_{k>K}P(X=k)s^k\bigr\rvert\le P(X>K)\to0$ が $s$ によらないので、$G_X$ は多項式の一様収束極限で、$[-1,1]$ の上で連続である。$G_X$ は収束半径が $1$ 以上の 冪級数 の和である。$s^X=\sum_ks^k\mathbf 1_{\{X=k\}}$($\mathbf 1_A$ は事象 $A$ の指示関数)の部分和は絶対値が $1$ 以下なので、Lebesgue積分 の定理「優収束定理」により
$$ G_X(s)=E\bigl[s^X\bigr]\qquad(-1\le s\le1) $$
である。$G_X$ は $X$ の分布だけで決まる。形式的冪級数とみれば、分布の列の通常母関数(母関数)である。

係数の取り出しと一意性

$X,Y$ を $\mathbb Z_{\ge0}$ に値をとる確率変数とする。

  1. $G_X$ は $(-1,1)$ の上で何回でも微分でき、$P(X=k)=\dfrac{G_X^{(k)}(0)}{k!}$ である。
  2. $(-1,1)$ の $0$ でない点からなり $0$ に収束する点列 $(s_j)$ で $G_X(s_j)=G_Y(s_j)$ となるものがあれば、$X$ と $Y$ は同じ分布に従う。とくに、ある $0< \varepsilon\le1$ について $[0,\varepsilon)$ の上で $G_X=G_Y$ なら同じ分布に従う。
冪級数の係数の公式を使う

1:$G_X$ は収束半径が $1$ 以上の冪級数の和なので、冪級数 の系「何回でも微分できることと係数の公式」により $(-1,1)$ の上で何回でも微分でき、係数は $G_X^{(k)}(0)/k!$ である。
2:$G_X-G_Y$ は係数が $P(X=k)-P(Y=k)$ で収束半径が $1$ 以上の冪級数の和であり、点列 $(s_j)$ の上で $0$ になる。冪級数 の命題「中心に近づく点列の上で0になる冪級数」により係数はすべて $0$ なので、すべての $k$ で $P(X=k)=P(Y=k)$ である。後半は $s_j:=\varepsilon/(j+1)$ ととればよい。$\blacksquare$

直感

$0\le s\le1$ のとき、$X$ 個のものそれぞれを互いに独立に確率 $s$ で「白」に塗ると、$X$ の値で場合分けして、すべてが白になる確率は $G_X(s)$ である。独立な $X,Y$ の和が全部白になるのは両方の側が全部白になるときなので、確率母関数が積になること(thm-pgf-sum)が自然に見える。絶滅確率の方程式(thm-pgf-extinction)も、「最初の個体の子の系統がどれも絶滅する」という同じ読み方から来ている。

基本性質

独立な和は積になる

確率変数 $X_1,\dots,X_n$ が 互いに独立 であるとは、すべての Borel集合 $B_1,\dots,B_n\subset\mathbb R$ について $P(X_1\in B_1,\dots,X_n\in B_n)=\prod_iP(X_i\in B_i)$ が成り立つことをいう。$\mathbb Z_{\ge0}$ に値をとる確率変数では、これはすべての $k_i\in\mathbb Z_{\ge0}$ について $P(X_1=k_1,\dots,X_n=k_n)=\prod_iP(X_i=k_i)$ となることと同値である($\{X_i\in B_i\}$ を値ごとの事象に分けて可算加法性を使う)。

独立な和の確率母関数

$X_1,\dots,X_n$ が $\mathbb Z_{\ge0}$ に値をとり互いに独立なら、$S:=X_1+\cdots+X_n$ について
$$ G_S(s)=G_{X_1}(s)\,G_{X_2}(s)\cdots G_{X_n}(s)\qquad(-1\le s\le1) $$
である。

畳み込みを冪級数の積とみる

$n$ についての帰納法で示す。$n=1$ は明らかである。$n\ge2$ とし、$S':=X_1+\cdots+X_{n-1}$ とおく。
事象 $\{S'=m\}$ は、$k_1+\cdots+k_{n-1}=m$ を満たす有限個の組についての互いに交わらない事象 $\{X_1=k_1,\dots,X_{n-1}=k_{n-1}\}$ の和集合なので、独立性から
$$ P(S'=m,\,X_n=k)=\sum_{k_1+\cdots+k_{n-1}=m}\prod_{i< n}P(X_i=k_i)\cdot P(X_n=k)=P(S'=m)\,P(X_n=k) $$
である。帰納法の仮定から $G_{S'}=G_{X_1}\cdots G_{X_{n-1}}$ である。
次に、$a_m:=P(S'=m)$、$b_k:=P(X_n=k)$ とおく。$\{S=j\}$ は互いに交わらない事象 $\{S'=m,\,X_n=j-m\}$($0\le m\le j$)の和集合なので
$$ P(S=j)=\sum_{m=0}^ja_m\,b_{j-m} $$
である。$\lvert s\rvert< 1$ では、収束半径が $1$ 以上の冪級数の積の公式(冪級数 の命題「冪級数の和・定数倍・積」)により
$$ G_S(s)=\sum_{j=0}^\infty\Bigl(\sum_{m=0}^ja_mb_{j-m}\Bigr)s^j=\Bigl(\sum_ma_ms^m\Bigr)\Bigl(\sum_kb_ks^k\Bigr)=G_{S'}(s)\,G_{X_n}(s) $$
となる。両辺は $[-1,1]$ の上で連続なので(定義の後の段落)、$s\to\pm1$ の極限をとれば $s=\pm1$ でも等しい。よって $G_S=G_{X_1}\cdots G_{X_n}$ を得る。$\blacksquare$

独立性を外すと成り立たない(反例の表の 1 行目)。逆に、$G_{X+Y}=G_XG_Y$ でも $X$ と $Y$ が独立とは限らない(ex-pgf-converse)。

微分と階乗積率

$X$ と $k\ge1$ について、$E\bigl[X(X-1)\cdots(X-k+1)\bigr]$ を $X$ の $k$ 次の 階乗積率 という。被積分関数は $0$ 以上($X< k$ のとき $0$)なので、値は $[0,\infty]$ に定まる。$k=1$ は期待値である。

階乗積率と微分

$X$ を $\mathbb Z_{\ge0}$ に値をとる確率変数とし、$k\ge1$ とする。

  1. $0\le s< 1$ について $G_X^{(k)}(s)=\sum_{n\ge k}n(n-1)\cdots(n-k+1)\,P(X=n)\,s^{n-k}$ であり、これは $s$ について単調非減少である。
  2. $s\to1$ の左極限について
    $$ \lim_{s\uparrow1}G_X^{(k)}(s)=E\bigl[X(X-1)\cdots(X-k+1)\bigr]\in[0,\infty] $$
    である。とくに $E[X]=\lim_{s\uparrow1}G_X'(s)$ であり、$E[X^2]< \infty$ のとき分散 $V[X]:=E[(X-E[X])^2]$ は
    $$ V[X]=G_X''(1-)+G_X'(1-)-G_X'(1-)^2 $$
    である。ここで $G_X^{(k)}(1-)$ は 2 の左極限を表す。
項が 0 以上の級数の単調な極限

$p_n:=P(X=n)$、$c_n:=n(n-1)\cdots(n-k+1)p_n\ge0$ とおく。
1:式は 冪級数 の系「何回でも微分できることと係数の公式」である。各項 $c_ns^{n-k}$ は $s\in[0,1)$ について単調非減少なので、和も単調非減少である。
2:$L:=\sum_nc_n\in[0,\infty]$ とおく。$0\le s< 1$ では $G_X^{(k)}(s)\le L$ であり、どの $N$ についても $G_X^{(k)}(s)\ge\sum_{n\le N}c_ns^{n-k}\to\sum_{n\le N}c_n$($s\uparrow1$)なので、左極限(1 により存在する)は $L$ に等しい。一方 $f(x):=x(x-1)\cdots(x-k+1)$ について、$f(X)=\sum_nf(n)\mathbf 1_{\{X=n\}}$ の部分和は $0$ 以上で単調に増えるので、Lebesgue積分 の定理「単調収束定理」により $E[f(X)]=\sum_nf(n)p_n=L$ である。
分散の式は、$E[X^2]=E[X(X-1)]+E[X]$ と $V[X]=E[X^2]-E[X]^2$ に 2 を代入したものである。$\blacksquare$

収束半径が $1$ より大きいとき(値が有限個の場合、Poisson 分布、幾何分布など)は、左極限はふつうの微分係数 $G_X^{(k)}(1)$ に等しい。期待値が無限大なら左極限は $\infty$ である(ex-pgf-infinite-mean)。

代表的な分布

表で $0< p\le1$、$q:=1-p$、$\lambda>0$、$r\ge1$ は整数である。幾何分布・負の二項分布は、はじめて・$r$ 回目に成功するまでの試行の回数の分布である。

分布$P(X=k)$$G_X(s)$$E[X]$$V[X]$
Bernoulli 分布$P(X=1)=p$、$P(X=0)=q$$q+ps$$p$$pq$
二項分布 $B(n,p)$$\binom nkp^kq^{n-k}$($0\le k\le n$)$(q+ps)^n$$np$$npq$
Poisson 分布$e^{-\lambda}\lambda^k/k!$$e^{\lambda(s-1)}$$\lambda$$\lambda$
幾何分布$q^{k-1}p$($k\ge1$)$\dfrac{ps}{1-qs}$$1/p$$q/p^2$
負の二項分布$\binom{k-1}{r-1}p^rq^{k-r}$($k\ge r$)$\Bigl(\dfrac{ps}{1-qs}\Bigr)^r$$r/p$$rq/p^2$
表の確率母関数の確かめ

二項分布は互いに独立な $n$ 個の Bernoulli 分布の和の分布なので、thm-pgf-sum により確率母関数は $(q+ps)^n$ である。負の二項分布の確率母関数が幾何分布の確率母関数の $r$ 乗であることも、同じく「独立な和は積」の現れであり、展開すると分布が読み取れる。

各行の計算を開く

Poisson 分布は $e^{-\lambda}\sum_k(\lambda s)^k/k!=e^{\lambda(s-1)}$ である。幾何分布は等比級数 $\sum_{k\ge1}q^{k-1}ps^k=\frac{ps}{1-qs}$ である。$G'(s)=\frac p{(1-qs)^2}$、$G''(s)=\frac{2pq}{(1-qs)^3}$ から $G'(1)=\frac1p$、$G''(1)=\frac{2q}{p^2}$ で、thm-pgf-moments により $V[X]=\frac{2q}{p^2}+\frac1p-\frac1{p^2}=\frac q{p^2}$ である。

負の二項分布:二項定理と組合せの恒等式 の定理「一般二項定理」により、$\lvert qs\rvert< 1$ で $\bigl(\frac{ps}{1-qs}\bigr)^r=p^rs^r\sum_{j\ge0}\binom{-r}j(-qs)^j=\sum_{j\ge0}\binom{r+j-1}{j}p^rq^js^{r+j}$ である($\binom{-r}j(-1)^j=\binom{r+j-1}j$)。$k=r+j$ とおくと $s^k$ の係数は $\binom{k-1}{r-1}p^rq^{k-r}$ で、prop-pgf-coeff によりこれが分布である。期待値と分散:$H(s):=\frac{ps}{1-qs}$、$G=H^r$、$K:=\log G=r\log H$($s=1$ の近く)とおく。$G(1)=1$ から $K'(1)=G'(1)$、$K''(1)=G''(1)-G'(1)^2$ なので、分散は $K''(1)+K'(1)$ である。$K=r\log H$ なので、期待値と分散は幾何分布の値 $\frac1p$、$\frac q{p^2}$ の $r$ 倍である。

負の二項分布を、成功の並べ方を数えて直接求める方法は Bernoulli試行 にある。

ランダムな個数の和

独立に同じ分布に従う確率変数を、ランダムな個数だけ足すことがある。来店する客の数 $N$ がランダムで、客 $i$ の購入点数が $X_i$ のとき、総購入点数は $X_1+\cdots+X_N$ である。

ランダムな個数の和の確率母関数

$N,X_1,X_2,\dots$ を $\mathbb Z_{\ge0}$ に値をとる確率変数とし、どの有限個も互いに独立で、$X_1,X_2,\dots$ は同じ分布に従うとする。$G:=G_{X_1}$ とし、
$$ S(\omega):=\sum_{i=1}^{N(\omega)}X_i(\omega)\qquad(N(\omega)=0\text{ なら }S(\omega)=0) $$
とおく。このとき

  1. $G_S(s)=G_N\bigl(G(s)\bigr)$($-1\le s\le1$)である。
  2. $E[S]=E[N]\,E[X_1]$ である。ここで値は $[0,\infty]$ にあり、$0\cdot\infty=0$ と約束する。
N の値で場合を分ける

$S_n:=X_1+\cdots+X_n$($S_0:=0$)とおく。thm-pgf-sum により $G_{S_n}=G^n$ である。
1:$\{S=m\}$ は互いに交わらない事象 $\{N=n,\,S_n=m\}$($n\ge0$)の和集合である。事象 $\{S_n=m\}$ は $X_1,\dots,X_n$ の値を指定する事象の有限個の互いに交わらない和なので、prf-pgf-sum の前半と同じ計算で $P(N=n,\,S_n=m)=P(N=n)P(S_n=m)$ である。よって
$$ G_S(s)=\sum_{m\ge0}\sum_{n\ge0}P(N=n)P(S_n=m)s^m=\sum_{n\ge0}P(N=n)\sum_{m\ge0}P(S_n=m)s^m=\sum_{n\ge0}P(N=n)\,G(s)^n $$
である。2 番目の等号で和の順序を交換したが、絶対値の二重和は $\sum_n\sum_mP(N=n)P(S_n=m)=1$ 以下で有限なので、数え上げ測度についての Fubiniの定理 の定理「Fubiniの定理」により交換してよい。右辺は $G_N(G(s))$ である($\lvert G(s)\rvert\le1$)。
2:要点は、1 を合成関数の微分で $G_S'(s)=G_N'(G(s))\,G'(s)$($0\le s< 1$)とし、$s\uparrow1$ として thm-pgf-moments を使うことである。

極限の扱いを開く

$P(X_1=0)=1$ または $P(N=0)=1$ なら $S=0$ で両辺とも $0$ である。以下どちらでもないとする。ある $k\ge1$ で $P(X_1=k)>0$ なので、$0\le s< 1$ では $0\le G(s)< 1$ であり、上の微分の式が成り立つ。$s\uparrow1$ のとき $G(s)$ は単調に増えて $G(1)=1$ に近づき、$G_N'$ は $[0,1)$ の上で単調非減少なので $G_N'(G(s))\to G_N'(1-)=E[N]$ であり、$G'(s)\to E[X_1]$ である。$G_N'$ と $G'$ は単調非減少で、どちらも正の値をとる点があるので、2 つの極限はどちらも $0$ でなく、$[0,\infty]$ での積の極限は極限の積である。よって $E[S]=G_S'(1-)=E[N]E[X_1]$ である。$\blacksquare$

2 は Wald の等式の、$N$ が $X_i$ と独立な場合である。

Poisson 分布の間引き

$N$ がパラメータ $\lambda$ の Poisson 分布に、$X_i$ が $P(X_i=1)=p$、$P(X_i=0)=1-p$ に従うとする(来店した客がそれぞれ確率 $p$ で購入する)。thm-pgf-compound により購入者数 $S$ の確率母関数は $e^{\lambda((1-p+ps)-1)}=e^{\lambda p(s-1)}$ なので、prop-pgf-coeff により $S$ はパラメータ $\lambda p$ の Poisson 分布に従う(同時分布による証明は Poisson分布 の定理「Poisson 分布の色分け」)。

分布の収束と連続性定理

確率母関数の連続性定理

$X_1,X_2,\dots$ と $X$ を $\mathbb Z_{\ge0}$ に値をとる確率変数とする。次は同値である。

  1. すべての $k\in\mathbb Z_{\ge0}$ について $P(X_n=k)\to P(X=k)$($n\to\infty$)。
  2. すべての $s\in[0,1)$ について $G_{X_n}(s)\to G_X(s)$($n\to\infty$)。
尾の評価と部分列の議論

$p_n(k):=P(X_n=k)$、$p(k):=P(X=k)$ とおく。$0\le s< 1$ では、$[0,1]$ に値をとる数列 $(a_k)$ について $(*)$:$0\le\sum_{k\ge K}a_ks^k\le\frac{s^K}{1-s}$ が成り立つ。
1 ⇒ 2:$s\in[0,1)$ と $\varepsilon>0$ をとり、$\frac{s^K}{1-s}< \varepsilon$ となる $K$ を選ぶ。$(*)$ により
$$ \lvert G_{X_n}(s)-G_X(s)\rvert\le\sum_{k< K}\lvert p_n(k)-p(k)\rvert+2\varepsilon $$
であり、右辺の有限和は 1 により $n\to\infty$ で $0$ に近づく。$\varepsilon$ は任意なので 2 が成り立つ。
2 ⇒ 1:1 が成り立たないと仮定する。ある $k_0$ と $\delta>0$ と部分列 $(n_j)$ で、すべての $j$ について $\lvert p_{n_j}(k_0)-p(k_0)\rvert\ge\delta$ となるものがある。各 $k$ について $(p_{n_j}(k))_j$ は $[0,1]$ の数列なので、Bolzano–Weierstrassの定理 の定理「Bolzano–Weierstrass の定理」で収束する部分列がとれる。$k=0$ で収束する部分列をとり、その中から $k=1$ で収束する部分列をとり、… と続け、$i$ 番目の部分列の $i$ 番目の項を並べる(対角線の議論)と、部分列 $(m_i)$ と $q(k)\in[0,1]$ で、すべての $k$ について $p_{m_i}(k)\to q(k)$($i\to\infty$)となるものが得られる。$Q(s):=\sum_kq(k)s^k$ は $0\le s< 1$ で収束し、1 ⇒ 2 と同じ議論($(*)$ を $p_{m_i}$ と $q$ に使う)で $G_{X_{m_i}}(s)\to Q(s)$ である。2 により $Q(s)=G_X(s)$($0\le s< 1$)である。$Q-G_X$ は係数 $q(k)-p(k)$ で収束半径が $1$ 以上の冪級数の和で、点列 $s_j=\frac1{j+1}$ の上で $0$ なので、冪級数 の命題「中心に近づく点列の上で0になる冪級数」によりすべての $k$ で $q(k)=p(k)$ である。とくに $p_{m_i}(k_0)\to p(k_0)$ だが、これは $(m_i)$ が $(n_j)$ の部分列であることと $\lvert p_{n_j}(k_0)-p(k_0)\rvert\ge\delta$ に反する。$\blacksquare$

1 は、値が整数の確率変数の分布収束である。2 は $s=1$ だけでは何も言えず(どの確率母関数も $1$ になる)、極限の関数がある確率変数の確率母関数であることも仮定に含まれる。$X_n:=n$ なら $G_{X_n}(s)=s^n\to0$ だが、極限の $0$ は確率母関数でなく、確率は無限の遠くへ逃げる(節「条件を外したときの反例」の表の 3・4 行目)。

二項分布から Poisson 分布へ

$\lambda>0$ とし、$np_n\to\lambda$ となる $p_n\in[0,1]$ をとり、$X_n\sim B(n,p_n)$ とする。$s\in[0,1)$ について $G_{X_n}(s)=(1-p_n(1-s))^n\to e^{\lambda(s-1)}$ であり、右辺はパラメータ $\lambda$ の Poisson 分布の確率母関数なので、thm-pgf-continuity により各 $k$ について $P(X_n=k)\to e^{-\lambda}\lambda^k/k!$ である。$p_n=\lambda/n$ の場合を確率の式から直接示したのが 二項分布 の定理「Poissonの少数の法則」である。

極限の計算を開く

$p_n\to0$ なので、$n$ が大きければ $p_n< 1$ で $\log G_{X_n}(s)=n\log(1-p_n(1-s))$ である。$\log(1-x)=-x+O(x^2)$($x\to0$)から、これは $-np_n(1-s)+n\cdot O(p_n^2)$ で、$np_n\to\lambda$、$np_n^2=(np_n)p_n\to0$ より $-\lambda(1-s)$ に近づく。

応用:分枝過程の絶滅確率

1 個体から始め、各個体が独立に、同じ分布に従う数の子を残して世代を交代するモデルを考える。

Galton–Watson 過程

$(p_k)_{k\ge0}$ を $\mathbb Z_{\ge0}$ 上の確率分布(子の数の分布)とし、$\xi_{n,i}$($n,i\ge1$)を、互いに独立にこの分布に従う確率変数の族とする。$Z_0:=1$、
$$ Z_{n+1}:=\sum_{i=1}^{Z_n}\xi_{n+1,i}\qquad(Z_n=0\text{ なら }Z_{n+1}=0) $$
で定まる列 $(Z_n)_{n\ge0}$ を Galton–Watson 過程 という。$Z_n$ は第 $n$ 世代の個体数、$\xi_{n+1,i}$ は第 $n$ 世代の $i$ 番目の個体の子の数である。$G(s):=\sum_kp_ks^k$ とし、$\mu:=\sum_kkp_k\in[0,\infty]$ を子の数の平均とする。

$\mathbb Z_{\ge0}$ は可算な離散空間なので、このような独立な族は Kolmogorovの拡張定理 の例「独立な確率変数の族」により存在する。いったん $Z_n=0$ となれば以後ずっと $0$ であり、この事象を 絶滅 という。

世代の大きさの確率母関数

$G_{Z_n}=G\circ G\circ\cdots\circ G$($n$ 個の合成、$n=0$ では恒等関数)であり、$E[Z_n]=\mu^n$ である($\mu=\infty$ なら $n\ge1$ で $E[Z_n]=\infty$)。

1 世代ごとにランダムな個数の和を使う

事象 $\{Z_n=z\}$ は $\xi_{m,i}$($m\le n$)の有限個の値を指定する事象の可算個の互いに交わらない和なので、prf-pgf-sum の前半と同じ計算で、$Z_n,\xi_{n+1,1},\xi_{n+1,2},\dots$ のどの有限個も互いに独立である。thm-pgf-compound を $N=Z_n$、$X_i=\xi_{n+1,i}$ に使うと $G_{Z_{n+1}}=G_{Z_n}\circ G$ と $E[Z_{n+1}]=E[Z_n]\mu$ を得る。$G_{Z_0}(s)=s$、$E[Z_0]=1$ から、帰納法で主張が従う。$\blacksquare$

絶滅確率

$q:=P(\text{ある }n\text{ で }Z_n=0)$ を絶滅確率とする。

  1. $q$ は方程式 $G(s)=s$ の $[0,1]$ における最小の解である。
  2. $p_1< 1$ とする。$q=1$ であることと $\mu\le1$ は同値である。
原点からの反復と凸性

1:$q_n:=P(Z_n=0)=G_{Z_n}(0)$ とおく。$\{Z_n=0\}\subset\{Z_{n+1}=0\}$ で、絶滅の事象はその和集合なので、確率の連続性(確率空間 の命題「確率の連続性」)により $q_n\uparrow q$ である。thm-pgf-gw-iterate により $q_{n+1}=G(q_n)$ で、$G$ は $[0,1]$ の上で連続なので、極限をとって $q=G(q)$ である。$r\in[0,1]$ を $G(r)=r$ の任意の解とする。$G$ は係数が $0$ 以上なので $[0,1]$ の上で単調非減少であり、$q_0=0\le r$ から帰納法で $q_n=G(q_{n-1})\le G(r)=r$ である。よって $q\le r$ で、$q$ は最小の解である。
2:$h(s):=G(s)-s$ とおくと $h(1)=0$ である。
(a) $p_0+p_1=1$ の場合。$p_1< 1$ なので $p_0>0$ で、$h(s)=p_0(1-s)$ の $[0,1]$ での零点は $1$ だけだから $q=1$ である。$\mu=p_1< 1$ なので主張は成り立つ。
(b) $p_0+p_1< 1$ の場合。ある $k\ge2$ で $p_k>0$ なので、$0< s< 1$ で $G''(s)\ge k(k-1)p_ks^{k-2}>0$ であり、$G'$ は $[0,1)$ の上で狭義単調増加である。thm-pgf-moments により $G'(1-)=\mu$ である。
$\mu\le1$ なら、$0\le s< 1$ で $h'(s)=G'(s)-1< G'(1-)-1\le0$ なので、$h$ は $[0,1]$ の上で狭義単調減少(端点 $1$ では連続性による)であり、零点は $s=1$ だけである。よって $q=1$ である。
$\mu>1$($\mu=\infty$ を含む)なら、$G'(s_0)>1$ となる $s_0\in[0,1)$ がある。$[s_0,1)$ で $h'>0$ なので、平均値の定理 により $h(s_0)< h(1)=0$ である。$h(0)=p_0\ge0$ なので、中間値の定理 により $[0,s_0)$ に $h$ の零点がある。1 により $q\le s_0< 1$ である。$\blacksquare$

$\mu=1$ でも($p_1< 1$ なら)確率 $1$ で絶滅することが要点で、平均の個体数は一定($E[Z_n]=1$)なのに、家系は確率 $1$ で途絶える。$p_1=1$ を除く理由は節「条件を外したときの反例」の表の 5 行目にある。この定理は Dur19 Theorem 4.3.10–4.3.12(pp. 231–233)にあり、そこでは $\mu=1$ の場合を非負のマルチンゲールの収束で示している。上の証明は確率母関数だけで完結させたものである。

子の数が 0・1・2 の場合

$p_0=\frac14$、$p_1=\frac14$、$p_2=\frac12$ とすると $\mu=\frac14+1=\frac54>1$ である。$G(s)=\frac14+\frac s4+\frac{s^2}2=s$ は $2s^2-3s+1=0$、すなわち $(2s-1)(s-1)=0$ なので、最小の解は $q=\frac12$ である。最初の個体の家系は確率 $\frac12$ で途絶え、確率 $\frac12$ で永続する。子の数が $B(3,\frac12)$ に従う場合は $\mu=\frac32$ で、$q=\sqrt5-2=0.2360\ldots$ である。

B(3, 1/2) の場合の計算を開く

$G(s)=\bigl(\frac{1+s}2\bigr)^3=s$ は $s^3+3s^2-5s+1=0$、すなわち $(s-1)(s^2+4s-1)=0$ と因数分解でき、$[0,1)$ の解は $\sqrt5-2$ である。$q_n$ を $q_0=0$ から順に計算すると $q_1=0.125$、$q_2=G(0.125)=0.1779\ldots$、$q_3=0.2043\ldots$、$q_8=0.2342\ldots$ と増えながら $q$ に近づく。

条件を外したときの反例

反例:確率母関数は積になるが独立でない組

$\Omega:=\{0,1,2\}^2$ の各点 $(i,j)$ に、次の表の確率 $w(i,j)$ を与え、$X(i,j):=i$、$Y(i,j):=j$ とする。

$w(i,j)$$j=0$$j=1$$j=2$
$i=0$$1/9$$2/9$$0$
$i=1$$0$$1/9$$2/9$
$i=2$$2/9$$0$$1/9$

各行・各列の和は $\frac13$ なので、$X$ と $Y$ はどちらも $\{0,1,2\}$ の上の一様分布に従う。$X+Y=m$ となる点の確率を足すと、$m=0,1,2,3,4$ について $\frac19,\frac29,\frac39,\frac29,\frac19$ で、独立な場合と同じなので
$$ G_{X+Y}(s)=\frac{1+2s+3s^2+2s^3+s^4}9=\Bigl(\frac{1+s+s^2}3\Bigr)^2=G_X(s)\,G_Y(s) $$
である。しかし $P(X=0,Y=2)=0\ne\frac19=P(X=0)P(Y=2)$ なので、$X$ と $Y$ は独立でない。表は、一様な表 $\frac19$ に、各行・各列・各斜め($i+j$ が一定の線)の和が $0$ になる表を加えて作った。

期待値が無限大の確率母関数

$P(X=k)=\frac1{k(k+1)}=\frac1k-\frac1{k+1}$($k\ge1$)とすると、和は $1$ に収束するので確率分布である。$0< s< 1$ で $G_X'(s)=\sum_{k\ge1}\frac{s^{k-1}}{k+1}=\frac{-\log(1-s)-s}{s^2}$ は $s\uparrow1$ で $\infty$ に発散し、thm-pgf-moments により $E[X]=\sum_k\frac1{k+1}=\infty$ である。一方 $G_X(s)=1+\frac{(1-s)\log(1-s)}s\to1$ で、$G_X$ そのものは $[0,1]$ で連続である。

外す条件・誤った推論反例成り立たなくなること
和の公式で独立性$X=Y$、$P(X=0)=P(X=1)=\frac12$$G_{X+Y}(s)=\frac{1+s^2}2\ne\bigl(\frac{1+s}2\bigr)^2$
積の等式から独立を結論するex-pgf-converse$G_{X+Y}=G_XG_Y$ でも独立でない
連続性定理で、極限が確率母関数であること$X_n=n$$G_{X_n}\to0$ と各点収束するが、極限の分布がない
連続性定理で、$[0,1)$ の全体での収束$X_n=0$、$X=1$$s=1$ では $G_{X_n}(1)=G_X(1)=1$ だが、分布は収束しない
絶滅確率の定理の $p_1< 1$$p_1=1$$\mu=1$ だが $Z_n=1$ がずっと続き、$q=0$
表の反例の確かめ
1・3・4・5 行目の確かめを開く

1 行目:$X+Y=2X$ は $0$ と $2$ を確率 $\frac12$ ずつとるので $G_{X+Y}(s)=\frac{1+s^2}2$ である。$\bigl(\frac{1+s}2\bigr)^2=\frac{1+2s+s^2}4$ とは $s$ の係数が違う。独立でない組では、prf-pgf-sum の $P(S'=m,X_n=k)=P(S'=m)P(X_n=k)$ が成り立たない。

3 行目:$G_{X_n}(s)=s^n$ は $0\le s< 1$ で $0$ に近づく。極限の関数 $0$ は $G(1)=1$ を満たさないので、どの $\mathbb Z_{\ge0}$ に値をとる確率変数の確率母関数でもない。$P(X_n=k)$ は $n>k$ で $0$ なので、各 $k$ で $0$ に近づき、極限の「分布」の和は $0$ である。

4 行目:$P(X_n=0)=1$、$P(X=0)=0$ である。$G_{X_n}(s)=1$、$G_X(s)=s$ は $s=1$ でだけ一致し、$[0,1)$ では一致しない。

5 行目:$p_1=1$ ならすべての個体がちょうど 1 個の子を残すので、$Z_n=1$(すべての $n$)である。$G(s)=s$ なので $[0,1]$ のすべての点が解であり、最小の解 $0$ が $q$ である(1 は成り立つ)。2 の「$\mu\le1$ なら $q=1$」が成り立たない。

補足

積率母関数・特性関数との関係。 $X$ が $\mathbb Z_{\ge0}$ に値をとるとき、$t\le0$ について $E[e^{tX}]=G_X(e^t)$ であり、$G_X$ の収束半径 $R$ が $1$ より大きければ $t< \log R$ でも同じ式が成り立つ(積率母関数)。$\lvert z\rvert\le1$ の複素数の冪級数とみれば、特性関数(確率論) は $\varphi_X(t)=G_X(e^{it})$ である。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する