Borel–Cantelliの補題(Borel–Cantelli lemmas)とは、事象の列 $A_n$ のうち無限個が起こる確率についての 2 つの主張の総称で、第 1 の補題は、$\sum_nP(A_n)<\infty$ なら無限個が起こる確率は $0$ だと述べ、独立性を要さず一般の測度空間で成り立つ。第 2 の補題は、$A_n$ が互いに独立で $\sum_nP(A_n)=\infty$ なら無限個が起こる確率は $1$ だと述べ、独立性は対ごとの独立に弱められる。互いに独立な事象の列ではこの確率は $0$ か $1$ で、確率の和が有限かどうかで決まる。ほとんど確実な収束を示す基本の道具で、確率収束する列の部分列、硬貨投げの表の最長の連続、大数の強法則などに使われる。
Borel–Cantelliの補題(Borel–Cantelli lemmas)とは、事象の列 $A_1,A_2,\dots$ のうち無限個が起こる確率についての、次の 2 つの主張の総称である。
$(X,\mathcal{S},\mu)$ を測度空間、$(\Omega,\mathcal{F},P)$ を確率空間とする。集合 $E$ の補集合を $E^c$、指示関数を $\mathbf{1}_E$ と書く。
集合の列 $E_1,E_2,\dots$ に対し
$$
\limsup_{n\to\infty}E_n:=\bigcap_{m=1}^{\infty}\bigcup_{n\ge m}E_n,\qquad \liminf_{n\to\infty}E_n:=\bigcup_{m=1}^{\infty}\bigcap_{n\ge m}E_n
$$
を、それぞれ上極限・下極限という。確率論では $\limsup_nA_n$ を $\{A_n\ \text{i.o.}\}$(infinitely often)と書き、「$A_n$ が無限回起こる」事象と読む。
1.$x\in\limsup_nE_n$ は「すべての $m$ について、ある $n\ge m$ で $x\in E_n$」と同じで、これは $x\in E_n$ となる $n$ が上に有界でない、すなわち無限個あることである。下極限は「ある $m$ があって、すべての $n\ge m$ で $x\in E_n$」である。2 は de Morgan の法則による。3 は、$\sigma$-代数が可算個の和集合・共通部分で閉じていること(σ-代数 の命題「σ-代数で閉じている演算」)による。4 は、両辺の値が $1$ になる条件がどちらも「$x\in E_n$ となる $n$ が無限個ある」ことであることから従う。$\square$
$\{A_n\ \text{i.o.}\}$ の補事象は、2 により「有限個を除くすべての $n$ で $A_n$ が起こらない」事象、すなわち「起こる $A_n$ は有限個だけ」という事象である。
$E_1,E_2,\dots\in\mathcal{S}$ が $\sum_n\mu(E_n)<\infty$ を満たすならば、$\mu\bigl(\limsup_nE_n\bigr)=0$ である。すなわち、$\mu$-ほとんどすべての $x$ は有限個の $E_n$ にしか属さない。確率空間では、$\sum_nP(A_n)<\infty$ ならば $P(A_n\ \text{i.o.})=0$ である。
すべての $m$ について $\limsup_nE_n\subset\bigcup_{n\ge m}E_n$ なので、測度の単調性と可算劣加法性(測度 の命題「測度の基本性質」)により
$$
\mu\Bigl(\limsup_{n\to\infty}E_n\Bigr)\le\mu\Bigl(\bigcup_{n\ge m}E_n\Bigr)\le\sum_{n\ge m}\mu(E_n)
$$
である。右辺は収束する級数の第 $m$ 項以降の和なので、$m\to\infty$ で $0$ に近づく。左辺は $m$ によらないので $0$ である。$\square$
$\mu$ が有限である必要も、$E_n$ が互いに独立である必要もない。
$N(x):=\sum_n\mathbf{1}_{E_n}(x)$ は $x$ が属する $E_n$ の個数($\infty$ もとる)である。非負関数の級数は項別に積分できる(Lebesgue積分 の定理「単調収束定理」を部分和に使う)ので
$$
\int_XN\,d\mu=\sum_n\mu(E_n)
$$
である。右辺が有限なら $N$ は可積分で、$N<\infty$ が $\mu$-ほとんどいたるところで成り立つ。これは第 1 の補題の言い換えであり、さらに「属する個数の平均は有限」という量的な情報も与える(確率空間では $E[N]=\sum_nP(A_n)$)。Dur19 Theorem 2.3.1 はこの形で証明している。
第 1 の補題の逆は成り立たない。$[0,1)$ 上の Lebesgue 測度 $\lambda$ で $A_n:=[0,1/n)$ とおくと、$\sum_n\lambda(A_n)=\sum_n1/n=\infty$ だが、$x>0$ は $n>1/x$ となる $A_n$ には属さず、$\limsup_nA_n=\{0\}$ の測度は $0$ である(Dur19 Example 2.3.6 と同じ型の例)。逆を得るには独立性のような仮定が要る。
事象の族の独立性は 独立性(確率論) の定義「事象の族の独立性」の意味(互いに独立)とする。すなわち、相異なる有限個の添字 $n_1,\dots,n_r$ のすべてについて $P(A_{n_1}\cap\cdots\cap A_{n_r})=P(A_{n_1})\cdots P(A_{n_r})$ が成り立つことである。
事象 $A_1,A_2,\dots\in\mathcal{F}$ が互いに独立で、$\sum_nP(A_n)=\infty$ ならば、$P(A_n\ \text{i.o.})=1$ である。
prop-bc-limsup-basic の 2 により、補事象 $\liminf_nA_n^c=\bigcup_m\bigcap_{n\ge m}A_n^c$ の確率が $0$ であることを示せばよい。可算劣加法性により、各 $m$ について $P\bigl(\bigcap_{n\ge m}A_n^c\bigr)=0$ を示せば十分である。
$m\le N$ とする。独立な事象をその補事象に取り替えても独立なので(独立性(確率論) の定理「補事象に取り替えても独立」)、$A_m^c,\dots,A_N^c$ は互いに独立であり、
$$
P\Bigl(\bigcap_{n=m}^NA_n^c\Bigr)=\prod_{n=m}^N\bigl(1-P(A_n)\bigr)\le\prod_{n=m}^Ne^{-P(A_n)}=\exp\Bigl(-\sum_{n=m}^NP(A_n)\Bigr)
$$
である。ここで実数 $t$ についての不等式 $1-t\le e^{-t}$($e^{-t}$ は凸で、$t=0$ での接線が $1-t$)を使った。$\sum_nP(A_n)=\infty$ なので、右辺は $N\to\infty$ で $0$ に近づく。$\bigcap_{n=m}^NA_n^c$ は $N$ について減少し、共通部分は $\bigcap_{n\ge m}A_n^c$ なので、確率の連続性(確率空間 の命題「確率の連続性」)により $P\bigl(\bigcap_{n\ge m}A_n^c\bigr)=\lim_{N\to\infty}P\bigl(\bigcap_{n=m}^NA_n^c\bigr)=0$ である。$\square$
2 つの補題を合わせると、次の 0-1 法則が得られる。
事象 $A_1,A_2,\dots$ が互いに独立ならば
$$
P(A_n\ \text{i.o.})=\begin{cases}0&\bigl(\sum_nP(A_n)<\infty\bigr),\\ 1&\bigl(\sum_nP(A_n)=\infty\bigr)\end{cases}
$$
である。特に $P(A_n\ \text{i.o.})$ は $0$ か $1$ である。
和が有限なら thm-bc-first、無限なら thm-bc-second による。$\square$
$P(A_n\ \text{i.o.})$ が $0$ か $1$ であること自体は、$\{A_n\ \text{i.o.}\}$ が互いに独立な事象の列の末尾事象であることから Kolmogorovの0-1法則 でも分かる(同じ記事の節「独立な事象の列と級数」)。この系は、そのどちらになるかを $\sum_nP(A_n)$ で決めている。
指示関数で言い換えると、互いに独立な事象について $\mathbf{1}_{A_n}\to0$ がほとんど確実に成り立つことと、$\sum_nP(A_n)<\infty$ は同値である($\mathbf{1}_{A_n}(\omega)\to0$ は $\omega$ が有限個の $A_n$ にしか属さないことと同じ)。一方 $P(A_n)\to0$ は $\mathbf{1}_{A_n}$ が $0$ に確率収束することと同値なので、たとえば互いに独立で $P(A_n)=1/n$ なら、$\mathbf{1}_{A_n}$ は $0$ に確率収束するが、$P(A_n\ \text{i.o.})=1$ なので、ほとんど確実に $0$ に収束することはない。
$[0,1)$ 上の Lebesgue 測度 $\lambda$ を確率とし、$\omega\in[0,1)$ の 2 進展開の第 $k$ 桁を $d_k(\omega):=\lfloor2^k\omega\rfloor-2\lfloor2^{k-1}\omega\rfloor$ とする。$d_1,d_2,\dots$ は互いに独立で、$\lambda(d_k=1)=\frac12$ である(確率論 の命題「2 進展開の桁は独立な公平な硬貨投げ」)。同じ命題の 1 の式を、指定しない桁の値すべてにわたって足すと、相異なる有限個の桁 $k_1,\dots,k_r$ の値を指定した事象の確率は $2^{-r}$ である。
第 2 の補題の仮定「互いに独立」は、「対ごとに独立」($i\ne j$ なら $P(A_i\cap A_j)=P(A_i)P(A_j)$)に弱められる。対ごとに独立でも互いに独立でない事象の族はある(独立性(確率論) の例「反例:対ごとに独立だが互いに独立でない事象」)。次の定理は、起こる個数の増え方まで決める。
事象 $A_1,A_2,\dots$ が対ごとに独立で、$\sum_nP(A_n)=\infty$ とする。$S_n:=\sum_{k=1}^n\mathbf{1}_{A_k}$(最初の $n$ 個のうち起こった個数)、$s_n:=\sum_{k=1}^nP(A_k)$ とおくと、ほとんど確実に
$$
\lim_{n\to\infty}\frac{S_n}{s_n}=1
$$
である。特に $P(A_n\ \text{i.o.})=1$ である。
要点:分散が $s_n$ 以下であることから Chebyshev の不等式で $S_n/s_n$ が $1$ に近いことを確率で評価し、$s_{n_k}\approx k^2$ となる部分列では評価の和が有限になるので第 1 の補題が使える。部分列の間は $S_n$ と $s_n$ の単調性で挟む。
$s_n\to\infty$ なので、$n$ が十分大きければ $s_n>0$ である。$S_n$ は有限個の値をとる確率変数で、$E[S_n]=s_n$、$E[S_n^2]=\sum_{i,j\le n}P(A_i\cap A_j)$ である。対ごとの独立性から $i\ne j$ の項は $P(A_i)P(A_j)$ なので、分散は $$V[S_n]=E[S_n^2]-s_n^2=\sum_{k=1}^n\bigl(P(A_k)-P(A_k)^2\bigr)\le s_n$$ である。$\delta>0$ を固定すると、Chebyshevの不等式 の定理「Chebyshev の不等式」により $$P\bigl(\lvert S_n-s_n\rvert\ge\delta s_n\bigr)\le\frac{V[S_n]}{\delta^2s_n^2}\le\frac1{\delta^2s_n}$$ である。
$k\ge1$ について $n_k:=\min\{n\mid s_n\ge k^2\}$ とおく。$s_n$ の増分は $P(A_n)\le1$ なので $k^2\le s_{n_k}< k^2+1$ であり($n_k=1$ のときも $s_1\le1< k^2+1$)、$k^2+1\le(k+1)^2$ だから $n_k< n_{k+1}$ である。上の評価から $\sum_kP\bigl(\lvert S_{n_k}-s_{n_k}\rvert\ge\delta s_{n_k}\bigr)\le\sum_k\frac1{\delta^2k^2}<\infty$ なので、thm-bc-first により、ほとんど確実に、十分大きいすべての $k$ で $\lvert S_{n_k}/s_{n_k}-1\rvert<\delta$ である。$\delta=1/j$($j=1,2,\dots$)の可算個について同時に成り立つ事象をとれば、ほとんど確実に $S_{n_k}/s_{n_k}\to1$ である。
$n_k\le n< n_{k+1}$ なら、$S_n$ と $s_n$ が $n$ について単調非減少であることから $$\frac{s_{n_k}}{s_{n_{k+1}}}\cdot\frac{S_{n_k}}{s_{n_k}}\le\frac{S_n}{s_n}\le\frac{S_{n_{k+1}}}{s_{n_{k+1}}}\cdot\frac{s_{n_{k+1}}}{s_{n_k}}$$ である。$1\le s_{n_{k+1}}/s_{n_k}<\frac{(k+1)^2+1}{k^2}\to1$ なので、両端は $1$ に収束し、$S_n/s_n\to1$ がほとんど確実に成り立つ。このとき $S_n\to\infty$ なので、無限個の $A_n$ が起こる。$\square$
互いに独立な事象は対ごとに独立なので、この定理は thm-bc-second を含み、さらに「起こる個数は確率の和とほぼ同じ速さで増える」ことを示している。証明の形は Dur19 Theorem 2.3.9 と同じである。
確率変数の列 $X_n$ が確率変数 $X$ に確率収束するとは、すべての $\varepsilon>0$ について $P(\lvert X_n-X\rvert>\varepsilon)\to0$ となることである。
$X_n$ が $X$ に確率収束するならば、部分列 $X_{n_1},X_{n_2},\dots$($n_1< n_2<\cdots$)で、ほとんど確実に $X_{n_k}\to X$ となるものがある。
$k=1,2,\dots$ について順に、$n_k>n_{k-1}$($n_0:=0$)かつ $P(\lvert X_{n_k}-X\rvert>1/k)\le2^{-k}$ となる $n_k$ をとる(確率収束の定義から、十分大きい $n$ はこれを満たす)。$\sum_k2^{-k}<\infty$ なので、thm-bc-first により、ほとんどすべての $\omega$ について $\lvert X_{n_k}(\omega)-X(\omega)\rvert>1/k$ となる $k$ は有限個しかない。そのような $\omega$ では、十分大きいすべての $k$ で $\lvert X_{n_k}(\omega)-X(\omega)\rvert\le1/k$ なので、$X_{n_k}(\omega)\to X(\omega)$ である。$\square$
部分列に移ることは避けられない。測度 の例「区間を往復する列」の集合 $E_n$ の指示関数は $0$ に確率収束するが、すべての点で $0$ に収束しない。この命題は Dur19 Theorem 2.3.2 の前半である。
ex-bc-binary の桁 $d_k$ を公平な硬貨投げの結果($1$ を表)とみる。最初の $n$ 回の中で表が続いた最長の回数を
$$
L_n:=\max\{j\ge0\mid\text{ある }m\text{ で }m+j-1\le n,\ d_m=\cdots=d_{m+j-1}=1\}
$$
とする。$\log_2$ を 2 を底とする対数とする。
ほとんど確実に $\displaystyle\lim_{n\to\infty}\frac{L_n}{\log_2n}=1$ である。
指定した $r$ 個の桁を $1$ とする事象の確率は $2^{-r}$ であり、互いに交わらない桁の集まりについてのそうした事象は互いに独立である(ex-bc-binary の 2 と同じ計算)。
上からの評価.$m$ 回目から始まる表の連続の長さを $\ell_m:=\max\{j\ge0\mid d_m=\cdots=d_{m+j-1}=1\}$ とする($d_k$ の定義から、$\omega$ の 2 進展開は 1 が限りなく続くことがないので有限)。$\varepsilon>0$ を固定し、$k_m:=\lceil(1+\varepsilon)\log_2m\rceil$ とおくと
$$
P(\ell_m\ge k_m)=2^{-k_m}\le2^{-(1+\varepsilon)\log_2m}=m^{-(1+\varepsilon)}
$$
であり、これは $m$ について和が有限である。thm-bc-first により、ほとんど確実に、ある $M$ があって $m\ge M$ なら $\ell_m<(1+\varepsilon)\log_2m$ である。$C:=\max_{m< M}\ell_m$($M=1$ なら $C:=0$)とおくと、$n\ge M$ のとき最初の $n$ 回の中の連続は、$m< M$ から始まるなら長さ $C$ 以下、$m\ge M$ から始まるなら長さ $(1+\varepsilon)\log_2n$ 未満なので、$L_n\le\max\{C,(1+\varepsilon)\log_2n\}$ である。よって $\limsup_nL_n/\log_2n\le1+\varepsilon$ であり、$\varepsilon=1/j$($j=1,2,\dots$)について合わせて $\limsup_nL_n/\log_2n\le1$ を得る。
下からの評価.$0<\varepsilon<1$ を固定する。$n\ge2$ について $k:=\lfloor(1-\varepsilon)\log_2n\rfloor+1$ とおき、最初の $n$ 回を長さ $k$ の互いに交わらない $r:=\lfloor n/k\rfloor$ 個の区間に分ける。どの区間もすべて表ではない事象は、各区間がすべて表である(確率 $2^{-k}$ の、互いに独立な)事象の補事象の共通部分なので、独立性(確率論) の定理「補事象に取り替えても独立」により
$$
P(L_n< k)\le(1-2^{-k})^r\le\exp(-r2^{-k})
$$
である。$2^{-k}\ge2^{-(1-\varepsilon)\log_2n-1}=\frac12n^{-(1-\varepsilon)}$、$k\le\log_2n+1\le2\log_2n$ であり、$n$ が大きければ $r\ge\frac n{2\log_2n}-1\ge\frac n{4\log_2n}$ なので、
$$
P\bigl(L_n< (1-\varepsilon)\log_2n\bigr)\le P(L_n< k)\le\exp\Bigl(-\frac{n^\varepsilon}{8\log_2n}\Bigr)
$$
である。$n$ が大きければ $\frac{n^\varepsilon}{8\log_2n}\ge2\ln n$($\ln$ は自然対数)なので、右辺は $n^{-2}$ 以下で、和は有限である。thm-bc-first により、ほとんど確実に、十分大きいすべての $n$ で $L_n\ge(1-\varepsilon)\log_2n$ である。$\varepsilon=1/j$($j\ge2$)について合わせて $\liminf_nL_n/\log_2n\ge1$ を得る。$\square$
上からの評価は、事象 $\{\ell_m\ge k_m\}$ が互いに独立でなくても使える第 1 の補題だけで済んでいる。下からの評価では、独立な区間を並べて「どの区間も失敗する」確率を小さくしたうえで、やはり第 1 の補題を使っている。同じ議論は Dur19 Example 2.3.12 にある。
| 外す条件・替える条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 第 1 の補題の $\sum_n\mu(E_n)<\infty$ を $\mu(E_n)\to0$ に弱める | 測度 の例「区間を往復する列」 | $\mu(\limsup_nE_n)=0$ |
| 第 2 の補題の独立性 | $A_n:=A$(すべての $n$ で同じ事象、$P(A)=\frac12$) | $P(A_n\ \text{i.o.})=1$ |
| 第 2 の補題の独立性 | $[0,1)$ 上で $A_n:=[0,1/n)$ | $P(A_n\ \text{i.o.})=1$ |
| 第 2 の補題の $\sum_nP(A_n)=\infty$ | ex-bc-binary の 2 の $B_n$ | $P(B_n\ \text{i.o.})=1$ |
| thm-bc-pairwise の対ごとの独立性 | $A_n:=A$、$P(A)=\frac12$ | $S_n/s_n\to1$ |
各行の確認を示す。
1 行目:$\lambda(E_n)=2^{-k}\to0$ だが、$\limsup_nE_n=[0,1]$ で測度は $1$ である(その例の確かめ)。$\sum_n\lambda(E_n)=\infty$ である。
2 行目:$\sum_nP(A_n)=\infty$ だが、$\limsup_nA_n=A$ なので $P(A_n\ \text{i.o.})=\frac12$ である。$i\ne j$ で $P(A_i\cap A_j)=\frac12\ne\frac14$ なので独立でない。0 と 1 以外の値をとるので、cor-bc-zero-one の 0-1 法則も成り立たない。
3 行目:$\sum_n1/n=\infty$ だが、$\limsup_nA_n=\{0\}$ で確率は $0$ である。$A_2\cap A_3=A_3$ なので $P(A_2\cap A_3)=\frac13\ne\frac12\cdot\frac13$ であり、独立でない。
4 行目:$B_n$ は互いに独立で $\sum_n2^{-n}<\infty$ であり、第 1 の補題により $P(B_n\ \text{i.o.})=0$ である。
5 行目:$s_n=n/2$、$S_n=n\mathbf{1}_A$ なので、$S_n/s_n$ は $A$ の上で $2$、$A$ の外で $0$ であり、$1$ に収束しない。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する