特性関数(確率論)
概要
特性関数(確率論)（characteristic function）とは、実数値の確率変数 $X$ に対して $\varphi_X(t)=E[e^{itX}]$ で定まる関数で、分布の Fourier 変換にあたり（部分集合の特性関数とは別の概念）、すべての分布に定まり、独立な確率変数の和の特性関数は積になる。反転公式により特性関数から区間の確率が復元でき、特性関数は分布を決める。Lévy の連続性定理により、特性関数が各点で収束して極限が $t=0$ で連続なら、分布は弱収束する。$E[X^2]<\infty$ なら $\varphi_X(t)=1+itE[X]-t^2E[X^2]/2+o(t^2)$ であり、これらを合わせると分散が正で有限な独立同分布の和の中心極限定理が証明できる。
前提知識: 確率変数, 期待値, 独立性(確率論), Lebesgue積分
確率論の 特性関数（characteristic function）は、実数値の確率変数 $X$ に対して $\varphi_X(t)=E[e^{itX}]$（$t\in\mathbb R$）で定まる複素数値の関数である。$X$ の分布の Fourier変換 にあたり、どんな確率変数についても定まり、独立な確率変数の和の特性関数はそれぞれの特性関数の積になる。部分集合に対して定まる特性関数（指示関数）は別の概念である（特性関数(集合)）。
特性関数が確率論の道具になるのは、次の 2 つの定理による。反転公式（主定理 1）により、特性関数から分布を復元でき、特性関数が等しい 2 つの分布は等しい。Lévy の連続性定理（主定理 2）により、特性関数の各点収束から分布収束が従う（極限が $t=0$ で連続なとき）。この記事ではこの 2 つを証明し、積率と微分の関係を示したあと、応用として、独立で同じ分布に従い分散が正で有限な確率変数の和についての 中心極限定理 を証明する。
定義
以下、確率変数は確率空間 $(\Omega,\mathcal F,P)$ の上で考える。複素数値の確率変数 $Z=V+iW$（$V,W$ は実数値）について、$V,W$ が可積分のとき $E[Z]:=E[V]+iE[W]$ と定める。$\lvert E[Z]\rvert\le E[\lvert Z\rvert]$ である（$E[Z]=re^{i\theta}$、$r\ge0$ と書くと $\lvert E[Z]\rvert=E[\operatorname{Re}(e^{-i\theta}Z)]\le E[\lvert Z\rvert]$）。
実数値の確率変数 $X$ に対し
$$
\varphi_X(t):=E\bigl[e^{itX}\bigr]=E[\cos tX]+iE[\sin tX]\qquad(t\in\mathbb R)
$$
を $X$ の 特性関数 という。$\mathbb R$ の Borel 集合の上の確率測度 $\mu$ に対しては $\varphi_\mu(t):=\int e^{itx}\,\mu(dx)$ と定め、$\mu$ の特性関数という。
$\cos tX$ と $\sin tX$ は絶対値が $1$ 以下なので、特性関数はすべての確率変数について定まる。積率母関数 $E[e^{sX}]$ は有限とは限らない（Cauchy 分布では $s\ne0$ でつねに $\infty$）ことと対照的である。$X$ の分布を $P_X$ とすると、分布による期待値の計算（Dur19 Theorem 1.6.9（p. 32））により $\varphi_X=\varphi_{P_X}$ であり、特性関数は分布だけで決まる。
$X$ が密度 $f$ をもつとき $\varphi_X(t)=\int f(x)e^{itx}\,dx$ であり（確率密度関数 の定理「密度による期待値の公式」）、Fourier変換 の定義「Fourier変換」の規格化では $\varphi_X(t)=\widehat f(-t/2\pi)$ である。同じ記事の命題「有界性・連続性・無限遠での減衰」により、このとき $\varphi_X(t)\to0$（$\lvert t\rvert\to\infty$）となる。
$X$ を実数値の確率変数、$\varphi=\varphi_X$ とする。
- $\varphi(0)=1$、$\lvert\varphi(t)\rvert\le1$、$\varphi(-t)=\overline{\varphi(t)}$ である。
- $\varphi$ は $\mathbb R$ 上で一様連続である。
- 実数 $a,b$ について $\varphi_{aX+b}(t)=e^{itb}\varphi(at)$ である。
- $X$ と $Y$ が独立なら $\varphi_{X+Y}=\varphi_X\varphi_Y$ である。
要点：2 は $\lvert\varphi(t+h)-\varphi(t)\rvert\le E[\lvert e^{ihX}-1\rvert]$ の右辺が $t$ によらないこと、4 は独立な確率変数の有界な関数の積の期待値が期待値の積になることによる。
詳しい証明を開く
1：$e^{i0X}=1$ であり、$\lvert\varphi(t)\rvert\le E[\lvert e^{itX}\rvert]=1$ である。$\cos$ は偶関数、$\sin$ は奇関数なので $\varphi(-t)=E[\cos tX]-iE[\sin tX]$ である。
2：$\lvert\varphi(t+h)-\varphi(t)\rvert=\lvert E[e^{itX}(e^{ihX}-1)]\rvert\le E[\lvert e^{ihX}-1\rvert]$ であり、右辺は $t$ によらない。$\lvert e^{ihX}-1\rvert\le2$ で、$h\to0$ のとき各点で $0$ に近づくので、優収束定理 により右辺は $0$ に近づく。
3：$e^{it(aX+b)}=e^{itb}e^{i(at)X}$ の期待値をとればよい。
4：$e^{itX}e^{itY}=(\cos tX\cos tY-\sin tX\sin tY)+i(\sin tX\cos tY+\cos tX\sin tY)$ であり、各項は $X$ の有界な関数と $Y$ の有界な関数の積である。$X,Y$ が独立なのでその期待値は期待値の積になり（Dur19 Theorem 2.1.12（p. 48））、まとめると $E[e^{itX}]E[e^{itY}]$ になる。$\square$
4 を繰り返すと、独立な $X_1,\dots,X_n$ の和の特性関数は $\varphi_{X_1}\cdots\varphi_{X_n}$ である（$X_1+\cdots+X_{k-1}$ と $X_k$ が独立であることは Dur19 Theorem 2.1.10（p. 47）による）。分布の畳み込みが特性関数の積に変わることが、特性関数を使う最大の理由である。
| 分布 | 特性関数 $\varphi(t)$ |
|---|---|
| 点 $c$ に確率 $1$ | $e^{itc}$ |
| $1$ を確率 $p$、$0$ を確率 $1-p$ | $1-p+pe^{it}$ |
| 二項分布 $B(n,p)$ | $(1-p+pe^{it})^n$ |
| Poisson 分布 $\mathrm{Po}(\mu)$ | $\exp(\mu(e^{it}-1))$ |
| $(a,b)$ 上の一様分布 | $\dfrac{e^{itb}-e^{ita}}{it(b-a)}$（$t\ne0$）、$1$（$t=0$） |
| 正規分布 $N(m,\sigma^2)$ | $\exp(imt-\sigma^2t^2/2)$（正規分布 の定理「積率母関数と特性関数」） |
| ガンマ分布 $\mathrm{Gamma}(\alpha,\lambda)$ | $(1-it/\lambda)^{-\alpha}$（ガンマ分布 の定理「特性関数」） |
| 両側指数分布（密度 $\frac12e^{-\lvert x\rvert}$） | $\dfrac1{1+t^2}$ |
| Cauchy 分布（密度 $\frac1{\pi(1+x^2)}$） | $e^{-\lvert t\rvert}$（ex-cf-cauchy） |
表の確かめを開く
2 行目は定義どおり。3 行目は二項定理により $\sum_k\binom nkp^k(1-p)^{n-k}e^{itk}=(1-p+pe^{it})^n$。4 行目は $\sum_ke^{-\mu}\frac{\mu^k}{k!}e^{itk}=e^{-\mu}e^{\mu e^{it}}$。5 行目は $\frac1{b-a}\int_a^be^{itx}\,dx$ を計算すればよい。8 行目は、ガンマ分布 の定理「特性関数」の $\alpha=\lambda=1$ の場合 $\int_0^\infty e^{itx}e^{-x}\,dx=\frac1{1-it}$ と、$x\mapsto-x$ で $\int_{-\infty}^0e^{itx}e^{x}\,dx=\frac1{1+it}$ を使い、$\frac12\bigl(\frac1{1-it}+\frac1{1+it}\bigr)=\frac1{1+t^2}$ となる。
主定理 1：反転公式
$S(T):=\int_0^T\frac{\sin x}{x}\,dx$（$T\ge0$）とおくと、$\sup_{T\ge0}\lvert S(T)\rvert< \infty$ であり、$T\to\infty$ で $S(T)\to\pi/2$ である。
要点：$\frac1x=\int_0^\infty e^{-xy}\,dy$ を代入して積分の順序を入れ替える。
詳しい証明を開く
$T>0$ とする。$[0,T]\times[0,\infty)$ の上で $\int_0^T\int_0^\infty\lvert\sin x\rvert e^{-xy}\,dy\,dx=\int_0^T\frac{\lvert\sin x\rvert}x\,dx\le T$ なので、Fubiniの定理 により$$S(T)=\int_0^\infty\Bigl(\int_0^Te^{-xy}\sin x\,dx\Bigr)dy$$である。$\frac{d}{dx}\Bigl(-\frac{e^{-xy}(y\sin x+\cos x)}{1+y^2}\Bigr)=e^{-xy}\sin x$ なので、内側の積分は $\frac{1-e^{-Ty}(y\sin T+\cos T)}{1+y^2}$ であり、$\int_0^\infty\frac{dy}{1+y^2}=\frac\pi2$ から$$S(T)=\frac\pi2-R(T),\qquad R(T):=\int_0^\infty e^{-Ty}\,\frac{y\sin T+\cos T}{1+y^2}\,dy$$となる。$\lvert y\sin T+\cos T\rvert\le1+y\le2(1+y^2)$ なので $\lvert R(T)\rvert\le2\int_0^\infty e^{-Ty}\,dy=\frac2T$ である。よって $S(T)\to\frac\pi2$ で、$T\ge1$ では $\lvert S(T)\rvert\le\frac\pi2+2$ である。$0\le T\le1$ では $\lvert\frac{\sin x}x\rvert\le1$ から $\lvert S(T)\rvert\le1$ である。$\square$
$\mu$ を $\mathbb R$ 上の確率測度、$\varphi$ をその特性関数とする。$a< b$ なら
$$
\lim_{T\to\infty}\frac1{2\pi}\int_{-T}^T\frac{e^{-ita}-e^{-itb}}{it}\,\varphi(t)\,dt=\mu((a,b))+\frac12\mu(\{a\})+\frac12\mu(\{b\})
$$
である（極限が存在することも主張に含む）。被積分関数の $t=0$ での値は $b-a$ とする。
段 1（積分の順序の入れ替え）。 $\frac{e^{-ita}-e^{-itb}}{it}=\int_a^be^{-ity}\,dy$ なので、この関数の絶対値は $b-a$ 以下である。$T>0$ を固定すると、$[-T,T]\times\mathbb R$ の上の関数 $\frac{e^{-ita}-e^{-itb}}{it}e^{itx}$ は有界で、測度 $dt\otimes\mu$ は有限なので、Fubiniの定理 により
$$
I_T:=\int_{-T}^T\frac{e^{-ita}-e^{-itb}}{it}\,\varphi(t)\,dt=\int\Bigl(\int_{-T}^T\frac{e^{it(x-a)}-e^{it(x-b)}}{it}\,dt\Bigr)\mu(dx)
$$
である。
段 2（内側の積分）。 内側の被積分関数の実部 $\frac{\sin t(x-a)-\sin t(x-b)}{t}$ は $t$ の偶関数、虚部 $-\frac{\cos t(x-a)-\cos t(x-b)}{t}$ は $t$ の奇関数で、どちらも $[-T,T]$ で有界である。奇関数の部分の積分は $0$ なので、$R(\theta,T):=\int_{-T}^T\frac{\sin\theta t}{t}\,dt$ とおくと、内側の積分は $R(x-a,T)-R(x-b,T)$ に等しい。$\theta>0$ なら置換 $u=\theta t$ により $R(\theta,T)=2S(\theta T)$、$R(-\theta,T)=-R(\theta,T)$、$R(0,T)=0$ であり、符号関数 $\operatorname{sgn}$ を使うと $R(\theta,T)=2\operatorname{sgn}(\theta)\,S(T\lvert\theta\rvert)$ である。
段 3（極限）。 lem-cf-dirichlet により、$T\to\infty$ で $R(\theta,T)\to\pi\operatorname{sgn}\theta$ であり、$\lvert R(\theta,T)\rvert\le2\sup_{T'}\lvert S(T')\rvert< \infty$ である。よって
$$
R(x-a,T)-R(x-b,T)\to\begin{cases}2\pi & (a< x< b)\\ \pi & (x=a\text{ または }x=b)\\ 0 & (x< a\text{ または }x>b)\end{cases}
$$
であり、この関数列は $x$ について一様に有界である。$\mu$ は有限測度なので 優収束定理 により
$$
\frac1{2\pi}I_T\to\mu((a,b))+\frac12\mu(\{a\})+\frac12\mu(\{b\})
$$
である。$\square$
$\mathbb R$ 上の確率測度 $\mu,\nu$ の特性関数が一致すれば $\mu=\nu$ である。とくに、特性関数が等しい 2 つの確率変数は同じ分布に従う。
要点：原子にならない端点の区間の確率が一致し、そこから分布関数が一致する。
詳しい証明を開く
$\mu(\{x\})>0$ または $\nu(\{x\})>0$ となる $x$ の集合 $D$ は可算である（確率が $1/k$ より大きい点は各測度について $k$ 個未満しかない）。$a< b$ がどちらも $D$ に入らなければ、thm-cf-inversion の左辺は $\mu$ と $\nu$ で同じなので $\mu((a,b))=\nu((a,b))$ である。$b\notin D$ を固定し、$D$ に入らない $a_n\downarrow-\infty$ をとると、確率の連続性により $\mu((-\infty,b))=\nu((-\infty,b))$ で、$b\notin D$ なので分布関数 $F_\mu(b)=F_\nu(b)$ である。$D$ の補集合は稠密なので、任意の $x$ に右から近づく $b_n\notin D$ がとれ、分布関数の右連続性により $F_\mu(x)=F_\nu(x)$ である。半直線 $(-\infty,x]$ の全体は共通部分について閉じていて Borel 集合族を生成するので、Dynkinのπ-λ定理 の定理「π系の上で一致する測度の一意性」により $\mu=\nu$ である。$\square$
$\int_{-\infty}^\infty\lvert\varphi(t)\rvert\,dt< \infty$ なら、$\mu$ は有界で連続な密度
$$
f(y)=\frac1{2\pi}\int_{-\infty}^\infty e^{-ity}\varphi(t)\,dt
$$
をもつ。
要点：被積分関数が可積分なので thm-cf-inversion の極限は $\mathbb R$ 全体の積分になり、Fubiniの定理 で $y$ の積分と入れ替える。
詳しい証明を開く
$\bigl\lvert\frac{e^{-ita}-e^{-itb}}{it}\varphi(t)\bigr\rvert\le(b-a)\lvert\varphi(t)\rvert$ は可積分なので、thm-cf-inversion の左辺は $\frac1{2\pi}\int_{-\infty}^\infty\frac{e^{-ita}-e^{-itb}}{it}\varphi(t)\,dt$ に等しく、絶対値は $\frac{b-a}{2\pi}\int\lvert\varphi\rvert$ 以下である。$a=x-h$、$b=x+h$ として $h\to0$ とすると $\mu(\{x\})=0$ がすべての $x$ で分かる。よって $\mu((x,x+h))=\frac1{2\pi}\int\bigl(\int_x^{x+h}e^{-ity}\,dy\bigr)\varphi(t)\,dt=\int_x^{x+h}f(y)\,dy$ である（$\lvert e^{-ity}\varphi(t)\rvert$ は $[x,x+h]\times\mathbb R$ で可積分なので Fubiniの定理 が使える）。$\lvert f\rvert\le\frac1{2\pi}\int\lvert\varphi\rvert$ で、$f$ の連続性は 優収束定理 による。すべての区間で $\int_x^{x+h}f$ が $0$ 以上の実数なので、連続な $\operatorname{Im}f$ は恒等的に $0$、$\operatorname{Re}f$ は $0$ 以上である。原子がないので $\mu((a,b])=\int_a^bf$ であり、確率密度関数 の定理「分布関数による特徴づけ」の 3 により $f$ は $\mu$ の密度である。$\square$
両側指数分布の特性関数 $\frac1{1+t^2}$ は可積分なので、cor-cf-density の連続な密度 $\frac1{2\pi}\int\frac{e^{-ity}}{1+t^2}\,dt$ は、確率密度関数 の定理「密度の一意性」により $\frac12e^{-\lvert y\rvert}$ とほとんど至る所で等しく、どちらも連続なのですべての $y$ で等しい。$y=-u$ とおいて $2$ を掛けると $\int e^{iut}\frac{dt}{\pi(1+t^2)}=e^{-\lvert u\rvert}$ であり、Cauchy 分布の特性関数は $e^{-\lvert t\rvert}$ である（Dur19 Example 3.3.16（p. 131））。独立にこの Cauchy 分布に従う $X_1,\dots,X_n$ の平均の特性関数は、prop-cf-basic の 3・4 により $(e^{-\lvert t\rvert/n})^n=e^{-\lvert t\rvert}$ なので、cor-cf-unique により標本平均はまた同じ Cauchy 分布に従う（Cauchy分布 の系「1 次結合と標本平均」の別証明）。
主定理 2：Lévy の連続性定理
$\mathbb R$ 上の確率測度 $\mu_n$（$n\ge1$）と $\mu$ について、分布関数 $F_n(x):=\mu_n((-\infty,x])$ が、$\mu$ の分布関数 $F$ の連続点 $x$ のすべてで $F(x)$ に収束するとき、$\mu_n$ は $\mu$ に 弱収束 するといい、$\mu_n\Rightarrow\mu$ と書く。確率変数 $X_n$ の分布が $X$ の分布に弱収束するとき、$X_n$ は $X$ に 分布収束 するといい、$X_n\Rightarrow X$ と書く。
中心極限定理 の収束はこの意味の収束である。連続点に限るのは、たとえば点 $1/n$ に確率 $1$ をおく分布が点 $0$ に確率 $1$ をおく分布に近づくと考えたいのに、$x=0$ では $F_n(0)=0$ が $F(0)=1$ に収束しないからである。確率測度の列 $\mu_n$ は、任意の $\varepsilon>0$ に対して $M>0$ があって $\limsup_{n\to\infty}\mu_n(\{x:\lvert x\rvert>M\})\le\varepsilon$ となるとき 緊密（tight）であるという。
次の 3 つはこの記事では証明しない。
- $\mu_n\Rightarrow\mu$ であることと、すべての有界連続関数 $g\colon\mathbb R\to\mathbb R$ について $\int g\,d\mu_n\to\int g\,d\mu$ であることは同値である（Dur19 Theorem 3.2.9（p. 119））。
- （Helly の選出定理）分布関数の列 $F_n$ には、部分列 $F_{n(k)}$ と、右連続で単調非減少な関数 $G$ で、$G$ のすべての連続点 $x$ で $F_{n(k)}(x)\to G(x)$ となるものがある（同書 Theorem 3.2.12（p. 121））。
- $\mu_n$ が緊密なら、2 の $G$ はつねにある確率測度の分布関数である（同書 Theorem 3.2.13（p. 122））。
確率測度 $\mu$ の特性関数を $\varphi$ とすると、$u>0$ について $\frac1u\int_{-u}^u(1-\varphi(t))\,dt$ は $0$ 以上の実数で
$$
\mu\Bigl(\Bigl\{x:\lvert x\rvert>\frac2u\Bigr\}\Bigr)\le\frac1u\int_{-u}^u\bigl(1-\varphi(t)\bigr)\,dt
$$
である。
$x\ne0$ なら $\int_{-u}^u(1-e^{itx})\,dt=2u-\frac{2\sin ux}{x}$ であり、$x=0$ なら $0$ である。被積分関数 $1-e^{itx}$ は $[-u,u]\times\mathbb R$ で有界なので、Fubiniの定理 により
$$
\frac1u\int_{-u}^u(1-\varphi(t))\,dt=\int2\Bigl(1-\frac{\sin ux}{ux}\Bigr)\mu(dx)
$$
である（$x=0$ での被積分関数の値は $0$）。$\lvert\sin y\rvert\le\lvert y\rvert$ なので被積分関数は $0$ 以上であり、$\lvert x\rvert>2/u$ では $\frac{\sin ux}{ux}\le\frac1{\lvert ux\rvert}< \frac12$ なので被積分関数は $1$ より大きい。よって右辺は $\mu(\{\lvert x\rvert>2/u\})$ 以上である。$\square$
特性関数が $t=0$ の近くで $1$ に近いほど、分布の裾は小さい。
$\mu_n$（$n\ge1$）と $\mu$ を $\mathbb R$ 上の確率測度とし、特性関数をそれぞれ $\varphi_n$、$\varphi_\mu$ とする。
- $\mu_n\Rightarrow\mu$ なら、すべての実数 $t$ で $\varphi_n(t)\to\varphi_\mu(t)$ である。
- すべての実数 $t$ で $\varphi_n(t)$ がある複素数 $\varphi(t)$ に収束し、関数 $\varphi$ が $t=0$ で連続なら、確率測度 $\nu$ で $\varphi=\varphi_\nu$ となるものがあり、$\mu_n\Rightarrow\nu$ である。
1。 $x\mapsto\cos tx$ と $x\mapsto\sin tx$ は有界連続なので、rem-cf-weak-facts の 1 により $\varphi_n(t)=\int\cos tx\,\mu_n(dx)+i\int\sin tx\,\mu_n(dx)\to\varphi_\mu(t)$ である。
2、段 1（緊密性）。 $\varphi_n(0)=1$ なので $\varphi(0)=1$ である。$\varepsilon>0$ とする。$\varphi$ は $0$ で連続なので、$u>0$ を十分小さくとれば $\lvert t\rvert\le u$ で $\lvert1-\varphi(t)\rvert< \varepsilon/2$ となり、$\bigl\lvert\frac1u\int_{-u}^u(1-\varphi(t))\,dt\bigr\rvert< \varepsilon$ である。$\lvert1-\varphi_n(t)\rvert\le2$ で $\varphi_n\to\varphi$ が各点で成り立つので、優収束定理 により $\frac1u\int_{-u}^u(1-\varphi_n)\to\frac1u\int_{-u}^u(1-\varphi)$ である。よってある $N$ があり、$n\ge N$ なら lem-cf-tail により
$$
\mu_n\Bigl(\Bigl\{\lvert x\rvert>\frac2u\Bigr\}\Bigr)\le\frac1u\int_{-u}^u(1-\varphi_n(t))\,dt< 2\varepsilon
$$
である。$\varepsilon$ は任意なので $(\mu_n)$ は緊密である。
段 2（部分列の極限は 1 つ）。 部分列 $(\mu_{n(k)})$ を任意にとる。rem-cf-weak-facts の 2 と 3 により、さらに部分列 $(\mu_{n(k_j)})$ と確率測度 $\rho$ で $\mu_{n(k_j)}\Rightarrow\rho$ となるものがある。1 により $\varphi_{n(k_j)}\to\varphi_\rho$ が各点で成り立つが、左辺は $\varphi$ にも収束するので $\varphi_\rho=\varphi$ である。とくに $\varphi$ はある確率測度 $\nu$ の特性関数であり、cor-cf-unique により、このようにして現れる $\rho$ はどれも $\nu$ に等しい。
段 3（列全体の収束）。 $\mu_n\Rightarrow\nu$ でないとすると、$\nu$ の分布関数 $F_\nu$ の連続点 $x$ と $\varepsilon>0$ と部分列 $n(k)$ で、すべての $k$ について $\lvert F_{n(k)}(x)-F_\nu(x)\rvert\ge\varepsilon$ となるものがある。段 2 によりさらに部分列で $\mu_{n(k_j)}\Rightarrow\nu$ となり、$x$ は $F_\nu$ の連続点なので $F_{n(k_j)}(x)\to F_\nu(x)$ となって矛盾する。$\square$
2 の「$t=0$ で連続」という仮定は外せない（反例の節の 1 行目）。極限 $\varphi$ が $0$ で連続であることは、確率が無限遠へ逃げないことを特性関数の側から保証している。この定理は Dur19 Theorem 3.3.17（p. 132）にある。
積率と微分
実数 $x$ について
$$
\lvert e^{ix}-1\rvert\le\min\{\lvert x\rvert,2\},\qquad\Bigl\lvert e^{ix}-1-ix+\frac{x^2}2\Bigr\rvert\le\min\Bigl\{\frac{\lvert x\rvert^3}6,\ x^2\Bigr\}
$$
である。
要点：部分積分で剰余を積分の形に書き、2 通りに評価する。
詳しい証明を開く
$e^{ix}-1=i\int_0^xe^{is}\,ds$ なので $\lvert e^{ix}-1\rvert\le\lvert x\rvert$ であり、$\lvert e^{ix}-1\rvert\le2$ は明らかである。部分積分により $\int_0^xe^{is}\,ds=x+i\int_0^x(x-s)e^{is}\,ds$、$\int_0^x(x-s)e^{is}\,ds=\frac{x^2}2+\frac i2\int_0^x(x-s)^2e^{is}\,ds$ なので$$e^{ix}-1-ix=-\int_0^x(x-s)e^{is}\,ds$$である。$\frac{x^2}2=\int_0^x(x-s)\,ds$ を足すと、2 通りの表示$$e^{ix}-1-ix+\frac{x^2}2=-\int_0^x(x-s)(e^{is}-1)\,ds=-\frac i2\int_0^x(x-s)^2e^{is}\,ds$$を得る。$\lvert e^{is}-1\rvert\le2$ から 1 つめの絶対値は $2\cdot\frac{x^2}2=x^2$ 以下、$\lvert e^{is}\rvert=1$ から 2 つめの絶対値は $\frac12\cdot\frac{\lvert x\rvert^3}3=\frac{\lvert x\rvert^3}6$ 以下である。$\square$
$X$ を実数値の確率変数、$\varphi=\varphi_X$ とする。
- $E[\lvert X\rvert]< \infty$ なら、$\varphi$ は連続微分可能で $\varphi'(t)=E[iXe^{itX}]$ であり、$\varphi'(0)=iE[X]$ である。
- $E[X^2]< \infty$ なら、$\varphi$ は 2 回連続微分可能で $\varphi''(t)=-E[X^2e^{itX}]$ であり、すべての実数 $t$ について
$$ \Bigl\lvert\varphi(t)-1-itE[X]+\frac{t^2}2E[X^2]\Bigr\rvert\le t^2\,E\Bigl[\min\Bigl\{\frac{\lvert t\rvert\,\lvert X\rvert^3}6,\ X^2\Bigr\}\Bigr] $$
である。右辺を $t^2$ で割ったものは $t\to0$ で $0$ に近づく。
要点：差分商を期待値の中に入れ、lem-cf-taylor で押さえて 優収束定理 を使う。
詳しい証明を開く
1：$h\ne0$ について $\frac{\varphi(t+h)-\varphi(t)}h=E\bigl[e^{itX}\frac{e^{ihX}-1}h\bigr]$ であり、lem-cf-taylor により被積分関数の絶対値は $\lvert X\rvert$ 以下で、$h\to0$ で $iXe^{itX}$ に各点で近づく。優収束定理 により $\varphi'(t)=E[iXe^{itX}]$ であり、$t$ について連続であることも同じ定理による。
2：1 の式に同じ議論を使うと、$\frac{\varphi'(t+h)-\varphi'(t)}h=E\bigl[iXe^{itX}\frac{e^{ihX}-1}h\bigr]$ の被積分関数は絶対値が $X^2$ 以下で $-X^2e^{itX}$ に近づくので、$\varphi''(t)=-E[X^2e^{itX}]$ である。評価は、lem-cf-taylor の 2 つめの不等式を $x=tX$ に使って期待値をとり、$\lvert E[Z]\rvert\le E[\lvert Z\rvert]$ を使えばよい。最後の主張は、$\min\{\lvert t\rvert\lvert X\rvert^3/6,X^2\}$ が $X^2$ 以下で $t\to0$ のとき各点で $0$ に近づくことと 優収束定理 による。$\square$
一般に $E[\lvert X\rvert^n]< \infty$ なら $\varphi$ は $n$ 回連続微分可能で $\varphi^{(n)}(t)=E[(iX)^ne^{itX}]$ である（Dur19 Theorem 3.3.18（p. 134））。逆向きには、$\limsup_{h\downarrow0}(\varphi(h)-2\varphi(0)+\varphi(-h))/h^2>-\infty$ なら $E[X^2]< \infty$ である（同書 Theorem 3.3.21（p. 136））。これらはこの記事では証明しない。ex-cf-cauchy の $e^{-\lvert t\rvert}$ は $t=0$ で微分できないので、1 により Cauchy 分布は $E[\lvert X\rvert]=\infty$ を満たす。
応用：中心極限定理
中心極限定理 の記事の定理「中心極限定理」は、そこでは二項分布の場合だけが証明されている。特性関数を使うと一般の場合が証明できる。$\Phi$ を標準正規分布の分布関数とする。
$X_1,X_2,\dots$ が独立で同じ分布に従い、$E[X_1]=m$、$0< \mathrm{Var}(X_1)=\sigma^2< \infty$ とする。$Z_n:=(X_1+\cdots+X_n-nm)/(\sigma\sqrt n)$ とおくと、すべての実数 $x$ について $P(Z_n\le x)\to\Phi(x)$ である。
$Y_k:=(X_k-m)/\sigma$ とおき、$Y_1$ の特性関数を $\psi$ とする。$Y_1,Y_2,\dots$ は独立で同じ分布に従い、$E[Y_1]=0$、$E[Y_1^2]=1$ であり、$Z_n=(Y_1+\cdots+Y_n)/\sqrt n$ である。prop-cf-basic の 3・4 とその後の注意により $\varphi_{Z_n}(t)=\psi(t/\sqrt n)^n$ である。
$t$ を固定する。thm-cf-moments の 2 を $t/\sqrt n$ で使うと
$$
\Bigl\lvert\psi\Bigl(\frac t{\sqrt n}\Bigr)-\Bigl(1-\frac{t^2}{2n}\Bigr)\Bigr\rvert\le\frac{t^2}n\,\varepsilon_n,\qquad\varepsilon_n:=E\Bigl[\min\Bigl\{\frac{\lvert t\rvert\,\lvert Y_1\rvert^3}{6\sqrt n},\ Y_1^2\Bigr\}\Bigr]
$$
であり、優収束定理 により $\varepsilon_n\to0$ である。絶対値が $1$ 以下の複素数 $z,w$ について $z^n-w^n=(z-w)\sum_{k=0}^{n-1}z^kw^{n-1-k}$ から $\lvert z^n-w^n\rvert\le n\lvert z-w\rvert$ である。$n\ge t^2/4$ なら $w_n:=1-\frac{t^2}{2n}$ は $[-1,1]$ に入り、$\lvert\psi\rvert\le1$ なので
$$
\Bigl\lvert\varphi_{Z_n}(t)-w_n^{\,n}\Bigr\rvert\le n\cdot\frac{t^2}n\,\varepsilon_n=t^2\varepsilon_n\to0
$$
である。$\log(1-y)=-y+O(y^2)$（$y\to0$）により $n\log w_n\to-t^2/2$ なので $w_n^{\,n}\to e^{-t^2/2}$ であり、$\varphi_{Z_n}(t)\to e^{-t^2/2}$ を得る。
$e^{-t^2/2}$ は連続で、正規分布 の定理「積率母関数と特性関数」により標準正規分布の特性関数である。thm-cf-continuity の 2 により $Z_n$ の分布はこの特性関数をもつ確率測度に弱収束し、cor-cf-unique によりその測度は標準正規分布である。$\Phi$ はすべての点で連続なので、すべての $x$ で $P(Z_n\le x)\to\Phi(x)$ である。$\square$
3 次の積率を仮定しなくてよいのは、lem-cf-taylor の 2 つめの評価に $x^2$ の側があるからである。この証明は Dur19 Theorem 3.4.1（p. 144）の証明と同じ筋道である。
反例：条件を外したとき
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 極限が $t=0$ で連続（thm-cf-continuity の 2） | $\mu_n=N(0,n)$ | $\varphi_n(t)=e^{-nt^2/2}$ は各点で収束するが、$\mu_n$ はどの確率測度にも弱収束しない |
| $\int\lvert\varphi\rvert< \infty$（cor-cf-density） | 点 $0$ に確率 $1$ をおく分布 | $\varphi\equiv1$ で、分布は密度をもたない |
| $E[\lvert X\rvert]< \infty$（thm-cf-moments の 1） | Cauchy 分布 | $\varphi(t)=e^{-\lvert t\rvert}$ は $t=0$ で微分できない |
| 独立（thm-cf-clt） | $X_1=X_2=\cdots=X$、$X$ は $\pm1$ を確率 $\frac12$ ずつとる | $Z_n=\sqrt nX$ で、$P(Z_n\le x)\to\frac12$（すべての $x$） |
1 行目：正規分布 の定理「積率母関数と特性関数」により $\varphi_n(t)=e^{-nt^2/2}$ は $t\ne0$ で $0$、$t=0$ で $1$ に近づき、極限は $t=0$ で連続でない。分布関数は $F_n(x)=\Phi(x/\sqrt n)\to\frac12$ である。もし $\mu_n\Rightarrow\nu$ なら、$\nu$ の分布関数は稠密な連続点の集合の上で $\frac12$ となり、右連続性からいたる所で $\frac12$ となって、$x\to\infty$ で $1$ に近づかない。
2 行目：$\int e^{itx}\,\delta_0(dx)=1$ である。点 $0$ の確率が $1$ なので密度はない。3 行目は ex-cf-cauchy による。$t>0$ で $(e^{-t}-1)/t\to-1$、$t< 0$ で $(e^{t}-1)/t\to1$ となる。
4 行目：$m=0$、$\sigma=1$ で $Z_n=nX/\sqrt n=\sqrt nX$ である。$P(Z_n\le x)=\frac12\mathbf 1_{\{-\sqrt n\le x\}}+\frac12\mathbf 1_{\{\sqrt n\le x\}}$ は、$n>x^2$ なら $\frac12$ に等しい。
補足
- 確率ベクトルの特性関数。 $\mathbb R^d$ に値をとる確率ベクトル $X$ には $\varphi_X(t):=E[e^{it^{\top}X}]$（$t\in\mathbb R^d$）を定める。$d$ 次元の反転公式があり、特性関数は $\mathbb R^d$ 上の分布を決める（Dur19 Theorem 3.10.4（p. 199）。この記事では証明しない）。多変量正規分布 はこの事実を使って特性関数で特徴づけられる。
- 特性関数であるための条件。 $\varphi$ が実数値の偶関数で $\varphi(0)=1$、$(0,\infty)$ で単調非増加な凸関数であり、$\lim_{t\downarrow0}\varphi(t)=1$、$\lim_{t\to\infty}\varphi(t)=0$ なら、$\varphi$ はある確率測度の特性関数である（Pólya の判定法、Dur19 Theorem 3.3.22（p. 137）。この記事では証明しない）。$e^{-\lvert t\rvert}$ や $(1-\lvert t\rvert)^+$ はこの条件を満たす。
関連項目
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
