確率変数の収束

同義語:確率変数列の収束convergence of random variables

概要

確率変数の収束(convergence of random variables)とは、確率変数の列が極限に近づく仕方の総称で、確率 $1$ で値が収束する概収束、ずれが $\varepsilon$ 以上になる確率が $0$ に近づく確率収束、$E[\lvert X_n-X\rvert^p]\to0$ となる $L^p$ 収束、分布関数が極限の分布関数の連続点で収束する分布収束がある。概収束と $L^p$ 収束から確率収束が、確率収束から分布収束が従い、定数への分布収束は確率収束と同値である。分布収束は Skorokhod の表現定理により同じ分布の概収束列に取り直せ、有界連続関数の期待値の収束と同値で、Slutsky の定理により確率収束で定数に近づく列との和と積で保たれる。大数の法則は確率収束・概収束、中心極限定理は分布収束の主張である。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 確率空間, 確率変数, 可測関数列の収束, 優収束定理

確率論の極限定理は、どれも「確率変数の列 $X_n$ がある確率変数に近づく」と述べるが、その「近づく」の意味は定理ごとに違う。強大数の法則 は標本平均が確率 $1$ で平均に収束すると述べ、大数の法則 の弱法則は標本平均が平均から離れる確率が $0$ に近づくと述べ、中心極限定理 は標準化した和の分布関数が正規分布の分布関数に近づくと述べる。最後の主張は確率変数の値ではなく分布だけについてのもので、そこで使われる分布収束は、前の 2 つの主張の収束(概収束と確率収束)より弱い(thm-rv-implications)。
この記事では、確率変数の収束(convergence of random variables)の 4 種類、すなわち概収束・確率収束・$L^p$ 収束・分布収束を定義し、含意の関係を証明する。前の 3 つは 可測関数列の収束 の収束を確率空間で読んだものであり、主に新しいのは分布収束である。分布収束については、同じ分布の確率変数を取り直して概収束にできるという Skorokhod の表現定理(実数値の場合)を証明し、それを使って、分布収束が有界連続関数の期待値の収束と同値であること、連続写像で保たれること、Slutsky の定理 を示す。最後に、含意の逆や定理の仮定を 1 つ外すと結論が崩れる例を挙げる。

定義

確率変数はすべて実数値とする。確率変数 $X$ の分布関数を $F_X(x):=P(X\le x)$($x\in\mathbb{R}$)と書く。$F_X$ は単調非減少で右連続であり、$x\to-\infty$ で $0$、$x\to\infty$ で $1$ に近づく。単調な関数なので不連続点は高々可算個であり、連続点の全体は $\mathbb{R}$ で稠密である。

確率変数の収束の 4 種類

1〜3 では $X_1,X_2,\ldots$ と $X$ は同じ確率空間 $(\Omega,\mathcal{F},P)$ の上の確率変数とする。

  1. $X_n$ が $X$ に 概収束(almost sure convergence)するとは、$P(\{\omega\mid X_n(\omega)\to X(\omega)\})=1$ となることをいう。
  2. $X_n$ が $X$ に 確率収束(convergence in probability)するとは、任意の $\varepsilon>0$ について $P(\lvert X_n-X\rvert\ge\varepsilon)\to0$ となることをいう。
  3. $0< p<\infty$ について、$X_n$ が $X$ に $L^p$ 収束($p$ 次平均収束)するとは、$E[\lvert X_n-X\rvert^p]\to0$ となることをいう。
    4 では $X_n$ と $X$ は別々の確率空間の上にあってよい。
  4. $X_n$ が $X$ に 分布収束(convergence in distribution、法則収束)するとは、$F_X$ のすべての連続点 $x$ で $F_{X_n}(x)\to F_X(x)$ となることをいい、$X_n\Rightarrow X$ と書く。

1〜3 は、確率空間を測度空間とみたときの 可測関数列の収束 の定義「可測関数列の収束の 7 種類」の 3・6・7 である($\{X_n\to X\}$ が事象であることは、$\{\limsup_n\lvert X_n-X\rvert=0\}$ と書けることによる)。4 は確率変数そのものではなく、その分布(または分布関数)の収束であり、特性関数(確率論) の定義「弱収束と分布収束」と同じである。分布収束の極限 $X$ は分布だけが決まり、確率変数としては決まらない。
連続点に限るのは、たとえば $X_n:=1/n$(定数)が $X:=0$ に近づくとみなしたいからである。$F_{X_n}(0)=0$ は $F_X(0)=1$ に近づかないが、$x\ne0$ ではどの点でも $F_{X_n}(x)\to F_X(x)$ であり、$0$ は $F_X$ の不連続点である。

含意の関係

4 種類の収束の含意
  1. 概収束 ⇒ 確率収束。
  2. $L^p$ 収束 ⇒ 確率収束($0< p<\infty$)。$0< q< p$ なら $L^p$ 収束 ⇒ $L^q$ 収束。
  3. 確率収束 ⇒ 分布収束。
  4. 定数 $c$ について、$X_n\Rightarrow c$ ならば $X_n$ は $c$ に確率収束する。

1・2:$P(\Omega)=1<\infty$ なので、可測関数列の収束 の定理「有限測度での含意」の 1・3 と、定理「一般の測度での含意」の 3 による。
3:$x\in\mathbb{R}$ と $\varepsilon>0$ をとる。$X_n\le x$ かつ $\lvert X_n-X\rvert<\varepsilon$ なら $X< x+\varepsilon$ であり、$X\le x-\varepsilon$ かつ $\lvert X_n-X\rvert<\varepsilon$ なら $X_n< x$ である。よって
$$ F_X(x-\varepsilon)-P(\lvert X_n-X\rvert\ge\varepsilon)\le F_{X_n}(x)\le F_X(x+\varepsilon)+P(\lvert X_n-X\rvert\ge\varepsilon) $$
である。$n\to\infty$ とすると $F_X(x-\varepsilon)\le\liminf_nF_{X_n}(x)\le\limsup_nF_{X_n}(x)\le F_X(x+\varepsilon)$ であり、$x$ が $F_X$ の連続点なら $\varepsilon\to0$ として両端は $F_X(x)$ に近づく。
4:定数 $c$ の分布関数は $x< c$ で $0$、$x\ge c$ で $1$ であり、$c$ 以外の点はすべて連続点である。$\varepsilon>0$ について
$$ P(\lvert X_n-c\rvert\ge\varepsilon)\le P(X_n\le c-\varepsilon)+P(X_n>c+\varepsilon/2)=F_{X_n}(c-\varepsilon)+1-F_{X_n}(c+\varepsilon/2) $$
であり、右辺は $0+1-1=0$ に近づく。$\square$

確率空間の上では、確率収束は部分列による概収束で言い換えられる。

部分列による確率収束の判定

$X_n$ が $X$ に確率収束するための必要十分条件は、$(X_n)$ のどの部分列も、$X$ に概収束するさらなる部分列をもつことである。とくに、確率収束する列は概収束する部分列をもつ。

確率空間は有限測度空間なので、可測関数列の収束 の定理「部分列による測度収束の判定」の 1 と 3 の同値そのものである。後半は同じ記事の定理「Rieszの部分列定理」である。$\square$

この判定は Dur19 Theorem 2.3.2(p. 68)にある。可測関数列の収束 の系「ほとんどいたるところ収束は位相の収束でない」と同じ理由で、$(0,1)$ 上の Lebesgue 測度の確率空間などでは概収束はどの位相の収束でもないが、確率収束は擬距離 $E[\min\{1,\lvert X-Y\rvert\}]$ の収束である(同じ記事の命題「測度収束の擬距離」)。

Skorokhodの表現定理

分布収束は、別々の確率空間の上の確率変数についての弱い主張である。しかし、同じ分布をもつ確率変数を 1 つの確率空間の上に取り直すと、概収束という強い形にできる。取り直しには、分布関数の「逆関数」を使う。

分位点関数による実現

$F$ を分布関数(単調非減少・右連続で、$-\infty$ で $0$、$\infty$ で $1$ に近づく関数)とし、$u\in(0,1)$ について
$$ Q(u):=\sup\{y\in\mathbb{R}\mid F(y)< u\} $$
とおく。$Q(u)$ は実数であり、すべての $u\in(0,1)$ と $x\in\mathbb{R}$ について「$Q(u)\le x$ ⇔ $u\le F(x)$」が成り立つ。とくに、$(0,1)$ 上の Lebesgue 測度 $\lambda$ を確率とする確率空間で、$Q$ は分布関数 $F$ をもつ確率変数である。

$F(y)\to0$($y\to-\infty$)なので集合 $\{y\mid F(y)< u\}$ は空でなく、$F(y)\to1>u$($y\to\infty$)なので上に有界である。よって $Q(u)$ は実数である。
$u\le F(x)$ とする。$F(y)< u$ なら $F(y)< F(x)$ なので、単調性から $y< x$ である。よって $Q(u)\le x$ である。逆に $Q(u)\le x$ とする。$\delta>0$ について $x+\delta>Q(u)$ なので $x+\delta$ は集合 $\{y\mid F(y)< u\}$ に属さず、$F(x+\delta)\ge u$ である。$\delta\to0$ とすると右連続性から $F(x)\ge u$ である。
したがって $\{u\in(0,1)\mid Q(u)\le x\}=(0,F(x)]\cap(0,1)$ は区間であり、$Q$ は Borel 可測で、$\lambda(Q\le x)=F(x)$ である。$\square$

Skorokhodの表現定理(実数値の場合)

$X_n\Rightarrow X$ とする。このとき、$(0,1)$ 上の Lebesgue 測度を確率とする確率空間の上に、$Y_n$ が $X_n$ と同じ分布、$Y$ が $X$ と同じ分布をもち、$Y_n\to Y$ が概収束となる確率変数 $Y_n,Y$ がある。

$F_n:=F_{X_n}$、$F:=F_X$ とし、lem-rv-quantile の分位点関数を $Y_n:=Q_{F_n}$、$Y:=Q_F$ とおく。同じ補題により $Y_n$ の分布関数は $F_n$ であり、分布関数が等しい確率変数は同じ分布をもつ(区間 $(-\infty,x]$ の全体は共通部分で閉じていて Borel 集合族を生成するので、Dynkinのπ-λ定理 による)。$Y_n(u)\to Y(u)$ が高々可算個を除くすべての $u$ で成り立つことを示せばよい。
$u\in(0,1)$ について $a_u:=Q_F(u)=\sup\{y\mid F(y)< u\}$、$b_u:=\inf\{y\mid F(y)>u\}$ とおく。$F(y)< u< F(z)$ なら単調性から $y< z$ なので、$a_u\le b_u$ である。$u< v$ なら $b_u\le a_v$ である($y>a_v$ なら $F(y)\ge v>u$ なので $y\ge b_u$)。よって開区間 $(a_u,b_u)$ のうち空でないものは互いに交わらず、それぞれが別の有理数を含むので、$a_u< b_u$ となる $u$ は高々可算個である。以下 $a_u=b_u$ とする。
$y< a_u$ を $F$ の連続点とする。$y< a_u$ なので $y< y'$、$F(y')< u$ となる $y'$ があり、$F(y)< u$ である。$F_n(y)\to F(y)$ なので十分大きい $n$ で $F_n(y)< u$ となり、lem-rv-quantile の同値($Q_{F_n}(u)\le y$ ⇔ $u\le F_n(y)$)から $Y_n(u)>y$ である。連続点は稠密なので $\liminf_nY_n(u)\ge a_u$ である。
$y>b_u$ を $F$ の連続点とする。$y>b_u$ なので $y'< y$、$F(y')>u$ となる $y'$ があり、$F(y)>u$ である。十分大きい $n$ で $F_n(y)>u$ となり、同じ同値から $Y_n(u)\le y$ である。よって $\limsup_nY_n(u)\le b_u=a_u=Y(u)$ である。$\square$

この証明は Dur19 Theorem 3.2.8(pp. 118–119)の証明と同じ筋である。

有界連続関数による特徴づけ

分布収束の特徴づけ

確率変数 $X_n,X$ について、次は同値である。

  1. $X_n\Rightarrow X$。
  2. すべての有界連続関数 $g\colon\mathbb{R}\to\mathbb{R}$ について $E[g(X_n)]\to E[g(X)]$。
  3. すべての有界な Lipschitz 連続関数 $g\colon\mathbb{R}\to\mathbb{R}$ について $E[g(X_n)]\to E[g(X)]$。

1 ⇒ 2:thm-rv-skorokhod の $Y_n,Y$ をとる。$E[g(X_n)]$ は $X_n$ の分布だけで決まる(像測度についての積分の変数変換)ので $E[g(X_n)]=E[g(Y_n)]$、$E[g(X)]=E[g(Y)]$ である。$g$ は連続なので概収束で $g(Y_n)\to g(Y)$ であり、$\lvert g\rvert\le M$ なら定数 $M$ が可積分な優関数になるので、優収束定理 により $E[g(Y_n)]\to E[g(Y)]$ である。
2 ⇒ 3 は明らかである。
3 ⇒ 1:$x\in\mathbb{R}$、$\delta>0$ について、$y\le x$ で $1$、$y\ge x+\delta$ で $0$、その間で 1 次関数となる関数を $h_{x,\delta}$ とおく。$h_{x,\delta}$ は値が $[0,1]$ の、Lipschitz 定数 $1/\delta$ の関数であり、$1_{(-\infty,x]}\le h_{x,\delta}\le1_{(-\infty,x+\delta]}$ を満たす。よって
$$ \limsup_nF_{X_n}(x)\le\lim_nE[h_{x,\delta}(X_n)]=E[h_{x,\delta}(X)]\le F_X(x+\delta) $$
であり、$\delta\to0$ として右連続性から $\limsup_nF_{X_n}(x)\le F_X(x)$ を得る。同様に $h_{x-\delta,\delta}\le1_{(-\infty,x]}$ から $\liminf_nF_{X_n}(x)\ge E[h_{x-\delta,\delta}(X)]\ge F_X(x-\delta)$ であり、$x$ が $F_X$ の連続点なら $\delta\to0$ として $\liminf_nF_{X_n}(x)\ge F_X(x)$ を得る。$\square$

1 と 2 の同値は Dur19 Theorem 3.2.9(p. 119)にある。2 の形は分布関数を使わないので、$\mathbb{R}^d$ や一般の距離空間の上の確率測度の弱収束の定義として使われる。

連続写像とSlutskyの定理

連続写像による収束の保存

$g\colon\mathbb{R}\to\mathbb{R}$ を連続関数とする。

  1. $X_n$ が $X$ に概収束するなら、$g(X_n)$ は $g(X)$ に概収束する。
  2. $X_n$ が $X$ に確率収束するなら、$g(X_n)$ は $g(X)$ に確率収束する。
  3. $X_n\Rightarrow X$ なら、$g(X_n)\Rightarrow g(X)$ である。

1:$X_n(\omega)\to X(\omega)$ となる $\omega$ では、$g$ の連続性から $g(X_n(\omega))\to g(X(\omega))$ である。
2:thm-rv-subsequence により、$(g(X_n))$ の任意の部分列 $(g(X_{n_j}))$ について、$(X_{n_j})$ のさらなる部分列が $X$ に概収束し、1 によりその像は $g(X)$ に概収束する。もう一度 thm-rv-subsequence を使えばよい。
3:$h$ を有界連続関数とすると $h\circ g$ も有界連続なので、thm-rv-bounded-continuous の 1 ⇒ 2 により $E[h(g(X_n))]\to E[h(g(X))]$ である。同じ定理の 2 ⇒ 1 により $g(X_n)\Rightarrow g(X)$ である。$\square$

$g$ の連続性は、$X$ の値がほとんど確実に $g$ の連続点にある、と弱めてもよい(Dur19 Theorem 3.2.10、p. 120)。この記事では使わない。
分布収束する列に、確率収束で定数に近づく列を足したり掛けたりしても、分布収束は保たれる。証明には、分布収束する列の値が無限遠へ逃げないことを使う。

分布収束する列の緊密性

$X_n\Rightarrow X$ とする。任意の $\varepsilon>0$ に対し $K>0$ と $n_0$ があって、$n\ge n_0$ ならば $P(\lvert X_n\rvert>K)\le\varepsilon$ である。

$F:=F_X$ とする。$F(x)\to0$($x\to-\infty$)、$F(x)\to1$($x\to\infty$)であり、$F$ の連続点は稠密なので、$K$ と $-K$ がともに $F$ の連続点で $F(-K)+1-F(K)<\varepsilon/2$ となる $K>0$ がある。$P(\lvert X_n\rvert>K)\le F_{X_n}(-K)+1-F_{X_n}(K)$ であり、右辺は $F(-K)+1-F(K)<\varepsilon/2$ に近づくので、十分大きい $n$ で $\varepsilon$ 以下である。$\square$

Slutskyの定理

各 $n$ について $X_n,Y_n$ は同じ確率空間の上の確率変数とし、$X_n\Rightarrow X$、$Y_n$ は定数 $c$ に確率収束するとする。このとき
$$ X_n+Y_n\Rightarrow X+c,\qquad Y_nX_n\Rightarrow cX $$
である。

thm-rv-bounded-continuous の 3 ⇒ 1 により、有界な Lipschitz 連続関数 $g$ について期待値の収束を示せばよい。$\lvert g\rvert\le M$、Lipschitz 定数を $L$ とし、$\delta>0$ とする。
和:$\lvert g(X_n+Y_n)-g(X_n+c)\rvert\le\min\{2M,L\lvert Y_n-c\rvert\}$ なので、$\lvert Y_n-c\rvert<\delta$ と $\lvert Y_n-c\rvert\ge\delta$ に分けて
$$ \bigl\lvert E[g(X_n+Y_n)]-E[g(X_n+c)]\bigr\rvert\le L\delta+2M\,P(\lvert Y_n-c\rvert\ge\delta) $$
である。$y\mapsto g(y+c)$ は有界連続なので、thm-rv-bounded-continuous の 1 ⇒ 2 により $E[g(X_n+c)]\to E[g(X+c)]$ である。よって $\limsup_n\lvert E[g(X_n+Y_n)]-E[g(X+c)]\rvert\le L\delta$ であり、$\delta\to0$ とすればよい。
積:$\varepsilon>0$ について lem-rv-tight の $K$ をとる。$\lvert X_n\rvert\le K$ かつ $\lvert Y_n-c\rvert<\delta$ の上では $\lvert g(Y_nX_n)-g(cX_n)\rvert\le L\lvert X_n\rvert\lvert Y_n-c\rvert\le LK\delta$ であり、それ以外では $2M$ 以下なので
$$ \bigl\lvert E[g(Y_nX_n)]-E[g(cX_n)]\bigr\rvert\le LK\delta+2M\bigl(P(\lvert X_n\rvert>K)+P(\lvert Y_n-c\rvert\ge\delta)\bigr) $$
である。$y\mapsto g(cy)$ は有界連続なので $E[g(cX_n)]\to E[g(cX)]$ であり、$\limsup_n\lvert E[g(Y_nX_n)]-E[g(cX)]\rvert\le LK\delta+2M\varepsilon$ となる。$\varepsilon$ を固定して $K$ を決めてから $\delta\to0$ とし、最後に $\varepsilon\to0$ とすればよい。$\square$

$c=0$ の和の場合から、$X_n\Rightarrow X$ で $Z_n-X_n$ が $0$ に確率収束するなら $Z_n\Rightarrow X$ である。「確率収束で無視できる差を加えても分布収束は変わらない」というこの形が、統計学で漸近分布を求めるときによく使われる。

例

大数の法則と中心極限定理

$X_1,X_2,\ldots$ を独立で同じ分布に従う確率変数とし、$S_n:=X_1+\cdots+X_n$ とする。

  • $E[\lvert X_1\rvert]<\infty$ なら $S_n/n$ は $\mu:=E[X_1]$ に確率収束する(弱法則。Dur19 Theorem 2.2.14、p. 64)。強大数の法則 によれば概収束もする。
  • さらに分散 $\sigma^2$ が正で有限なら、$Z_n:=(S_n-n\mu)/(\sigma\sqrt n)$ は標準正規分布に従う確率変数 $Z$ に分布収束する(中心極限定理 の定理「中心極限定理」。標準正規分布の分布関数 $\Phi$ は連続なので、すべての $x$ で $P(Z_n\le x)\to\Phi(x)$ となることがそのまま分布収束である)。
    弱法則と強法則の違いは確率収束と概収束の違いであり、中心極限定理の主張は分布収束である。$Z_n$ は同じ確率空間の上のどの確率変数にも確率収束しない(ex-rv-clt-not-in-probability)。
標本分散を使った標準化

ex-rv-lln-clt の仮定のもとで、$V_n:=\frac1n\sum_{i=1}^n(X_i-\bar X_n)^2$($\bar X_n:=S_n/n$)とおくと、$\sqrt n(\bar X_n-\mu)/\sqrt{V_n}\Rightarrow Z$ である($V_n=0$ となる確率は $0$ に近づくので、そこでは比を $0$ と定めておく)。

確かめを開く

$V_n=\frac1n\sum_iX_i^2-\bar X_n^2$ である。$E[X_1^2]<\infty$ なので、弱法則を $X_i^2$ と $X_i$ に当てると $\frac1n\sum_iX_i^2$ は $E[X_1^2]$ に、$\bar X_n$ は $\mu$ に確率収束する。thm-rv-continuous-mapping の 2 により $\bar X_n^2$ は $\mu^2$ に確率収束し、確率収束する 2 つの列の差は極限の差に確率収束する($\lvert a-b\rvert\ge\varepsilon$ なら $\lvert a\rvert\ge\varepsilon/2$ か $\lvert b\rvert\ge\varepsilon/2$)ので、$V_n$ は $E[X_1^2]-\mu^2=\sigma^2$ に確率収束する。$\sigma^2>0$ なので $x\mapsto1/\sqrt{\max\{x,\sigma^2/2\}}$ に thm-rv-continuous-mapping の 2 を当てて、$W_n:=1/\sqrt{\max\{V_n,\sigma^2/2\}}$ は $1/\sigma$ に確率収束する。$P(V_n< \sigma^2/2)\to0$ である。$\sqrt n(\bar X_n-\mu)=\sigma Z_n\Rightarrow\sigma Z$ なので、thm-rv-slutsky の積により $W_n\sqrt n(\bar X_n-\mu)\Rightarrow Z$ であり、これと目的の比は確率 $P(V_n< \sigma^2/2)\to0$ の事象の外で一致する。差は $0$ に確率収束するので、Slutsky の定理の和($c=0$)により目的の比も $Z$ に分布収束する。$\square$

含意の逆と仮定を外した反例

以下、$U$ を $(0,1)$ 上の一様分布に従う確率変数とし($(0,1)$ 上の Lebesgue 測度を確率とする確率空間で $U(u)=u$ とすればよい)、$R$ を $P(R=1)=P(R=-1)=\frac12$ となる確率変数とする。

主張外す条件例満たす成り立たない
確率収束 ⇒ 概収束(逆向き)部分列に移ること(thm-rv-subsequence)走り書きの列 $X_n:=1_{I_n}(U)$確率収束・$L^1$ 収束概収束
確率収束 ⇒ $L^1$ 収束(thm-rv-implications の 2 の逆向き。概収束しても成り立たない)優関数(可測関数列の収束 の定理「測度収束する列の優収束定理」)$X_n:=n\,1_{\{U<1/n\}}$概収束$L^1$ 収束
thm-rv-implications の 4極限が定数$X:=R$、$X_n:=-R$分布収束確率収束
thm-rv-slutsky$Y_n$ の分布収束の極限が定数$X_n:=R$、$Y_n:=-R$、$Y_n\Rightarrow R'$$X_n\Rightarrow R$、$Y_n\Rightarrow R'$$X_n+Y_n\Rightarrow R+R'$
thm-rv-continuous-mapping の 3$g$ の連続性$X_n:=1/n$、$g:=1_{(0,\infty)}$$X_n\Rightarrow0$$g(X_n)\Rightarrow g(0)$
thm-rv-bounded-continuous の 2$g$ の有界性$X_n:=n\,1_{\{U<1/n\}}$、$g(x):=x$$X_n\Rightarrow0$$E[g(X_n)]\to E[g(0)]$
反例:表の各行の確かめ

1 行目の $I_n$ は、$n=2^k+j$($k\ge0$、$0\le j< 2^k$)について $I_n:=[j2^{-k},(j+1)2^{-k}]$ とする。4 行目の $R'$ は $R$ と独立で同じ分布に従う確率変数である。

確かめを開く

1 行目:$X_n$ は 可測関数列の収束 の例「4 つの典型的な列」の走り書きの列を $(0,1)$ に制限したものであり、同じ記事の表の確かめのとおり、$P(X_n\ne0)=2^{-k}\to0$ で確率収束と $L^1$ 収束をするが、$(0,1)$ のどの点でも収束しない。確率空間は有限測度で、ほかの仮定はない。

2 行目:$u\in(0,1)$ について $n>1/u$ なら $X_n(u)=0$ なので、すべての点で $0$ に収束する。$E[X_n]=n\cdot\frac1n=1$ なので $L^1$ 収束しない。$\lvert X_n\rvert\le g$ となる可積分な $g$ があれば、$\{1/(n+1)\le U<1/n\}$ の上で $g\ge n$ となり $E[g]\ge\sum_n\frac{n}{n(n+1)}=\infty$ となるので、優関数はない。

3 行目:$-R$ と $R$ は分布関数が等しいので $X_n\Rightarrow R$ である。$\lvert X_n-R\rvert=2$ なので確率収束しない。極限 $R$ が定数でないことだけが thm-rv-implications の 4 の仮定に反する。

4 行目:$Y_n=-R$ と $R'$ は分布が等しいので $Y_n\Rightarrow R'$ である。定数 $c$ への分布収束は確率収束と同値なので(thm-rv-implications の 3・4)、thm-rv-slutsky の仮定は「$Y_n\Rightarrow c$」と言い換えられ、この例はその極限が定数でないことだけを破る。$X_n+Y_n=0$ だが、$P(R+R'=2)=\frac14$ なので $0$ は $R+R'$ と同じ分布をもたず、$X_n+Y_n\Rightarrow R+R'$ は成り立たない(定数列の分布収束の極限は、分布関数が連続点で決まり右連続なので、その定数の分布に限る)。

5 行目:$X_n\Rightarrow0$ は定義のあとの段落で確かめた。$g(X_n)=1$、$g(0)=0$ であり、定数 $1$ は定数 $0$ に分布収束しない($x=\frac12$ で $F_{g(X_n)}(\frac12)=0$、$F_{g(0)}(\frac12)=1$)。$g$ は $0$ で不連続で、極限 $0$ はその点に確率 $1$ で値をとる。

6 行目:2 行目と同じく $X_n$ は $0$ に概収束するので、thm-rv-implications の 1・3 により $X_n\Rightarrow0$ である。$g(x)=x$ は連続だが有界でなく、$E[X_n]=1$ は $0$ に近づかない。$\square$

標準化した和は確率収束しない

ex-rv-lln-clt の $Z_n=(S_n-n\mu)/(\sigma\sqrt n)$($\sigma^2>0$)は、同じ確率空間の上のどの確率変数 $W$ にも確率収束しない。分布収束はするが確率収束はしない例である。

確かめを開く

$Z_n$ が $W$ に確率収束するとする。thm-rv-implications の 3 により $Z_n\Rightarrow W$ であり、中心極限定理により $Z_n\Rightarrow Z$ である。$F_W$ と $\Phi$ の共通の連続点(補集合は高々可算)で両者は等しく、そのような点は稠密で両者は右連続なので、$F_W=\Phi$ である。とくに $W$ はほとんど確実に定数というわけではない。

$Z_n':=(X_{n+1}+\cdots+X_{2n}-n\mu)/(\sigma\sqrt n)$ とおくと $Z_{2n}=(Z_n+Z_n')/\sqrt2$ なので $Z_n'=\sqrt2Z_{2n}-Z_n$ であり、$Z_{2n}\to W$ と $Z_n\to W$(確率収束)から、$Z_n'$ は $V:=(\sqrt2-1)W$ に確率収束する。$a:=\sqrt2-1$ とおくと $aZ_n$ も $V$ に確率収束する。$Z_n$ は $X_1,\ldots,X_n$ の関数、$Z_n'$ は $X_{n+1},\ldots,X_{2n}$ の関数なので独立であり(Dur19 Theorem 2.1.10、p. 47)、$\varphi:=\arctan$ について $E[\varphi(aZ_n)\varphi(Z_n')]=E[\varphi(aZ_n)]\,E[\varphi(Z_n')]$ である(Dur19 Theorem 2.1.12、p. 48)。

$A_n\to A$ が確率収束なら、$\varphi$ は値が $(-\frac\pi2,\frac\pi2)$ で Lipschitz 定数 $1$ なので、$\delta>0$ について $E[\lvert\varphi(A_n)-\varphi(A)\rvert]\le\delta+\pi P(\lvert A_n-A\rvert\ge\delta)$ であり、$E[\lvert\varphi(A_n)-\varphi(A)\rvert]\to0$ である。$\lvert\varphi(a)\varphi(b)-\varphi(a')\varphi(b')\rvert\le\frac\pi2(\lvert\varphi(a)-\varphi(a')\rvert+\lvert\varphi(b)-\varphi(b')\rvert)$ と合わせると、上の等式の両辺の極限から $E[\varphi(V)^2]=(E[\varphi(V)])^2$ を得る。よって $\varphi(V)$ の分散は $0$ であり、$\varphi(V)$ はほとんど確実に定数で、$\varphi$ は単射なので $V$ も、$a\ne0$ なので $W$ もほとんど確実に定数である。これは $F_W=\Phi$ に反する。$\square$

補足

文献

4 種類の収束の定義と含意は Dur19 の Lemma 2.2.2(p. 57、$L^p$ 収束から確率収束)、Theorem 2.3.2(p. 68、部分列による判定)、§3.2(pp. 116–125)にある。分布収束の定義は同書 p. 116、Skorokhod の表現定理(実数値の場合)は Theorem 3.2.8(pp. 118–119)、有界連続関数による特徴づけは Theorem 3.2.9(p. 119)、連続写像定理の一般形は Theorem 3.2.10(p. 120)である。この記事の thm-rv-bounded-continuous の 3(Lipschitz 関数への制限)、thm-rv-slutsky の証明、ex-rv-clt-not-in-probability の証明は独自に組み立てた。

分布収束には、ほかにも同値な言い換えがある。開集合 $G$ について $\liminf_nP(X_n\in G)\ge P(X\in G)$ となること、閉集合 $K$ について $\limsup_nP(X_n\in K)\le P(X\in K)$ となることなどである(Dur19 Theorem 3.2.11、p. 120)。特性関数の各点収束による判定(Lévy の連続性定理)は 特性関数(確率論) にあり、分布関数の列から分布収束する部分列を取り出す議論は Hellyの選出定理 にある。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する