Cauchy分布(Cauchy distribution)とは、位置 $\mu$ と尺度 $\gamma>0$ について密度 $\gamma/(\pi(\gamma^2+(x-\mu)^2))$ をもつ確率分布であり、中央値は $\mu$、四分位点は $\mu\pm\gamma$ で、密度が $\lvert x\rvert^{-2}$ の程度でしか減らないため平均も分散ももたない。独立な Cauchy 分布に従う確率変数の和はふたたび Cauchy 分布に従い、位置と尺度がそれぞれ足し算されるので、同じ Cauchy 分布に従う独立な観測値の標本平均はもとと同じ分布に従い、どの定数にも確率収束しない。一様に分布する角の正接や、独立な 2 つの標準正規分布の比として現れ、大数の法則・中心極限定理の仮定を外したときの代表的な反例になる。
Cauchy 分布は、密度
$$
f_{\mu,\gamma}(x)=\frac{\gamma}{\pi\bigl(\gamma^2+(x-\mu)^2\bigr)}\qquad(x\in\mathbb{R})
$$
をもつ確率分布である($\mu$ は実数、$\gamma>0$)。密度のグラフは $x=\mu$ について対称な山の形で、正規分布に似て見えるが、密度が $\lvert x\rvert^{-2}$ の程度でしか減らないため、平均も分散ももたない。
Cauchy 分布の最も著しい性質は、独立な Cauchy 分布に従う確率変数の和がふたたび Cauchy 分布に従い、位置と尺度がそれぞれ足し算されることである。その結果、同じ Cauchy 分布に従う独立な観測値をいくつ平均しても、平均は 1 回の観測と同じ分布に従い、大数の法則 も 中心極限定理 も成り立たない。この記事では、この和の公式を初等的な積分で証明し、Cauchy 分布の作り方(回転する光線、正規分布の比、逆数)と、大数の法則が成り立たないことを示す。
$\mu\in\mathbb{R}$、$\gamma>0$ とする。密度 $f_{\mu,\gamma}$ をもつ分布を、位置 $\mu$、尺度 $\gamma$ の Cauchy 分布といい、$C(\mu,\gamma)$ と書く。$C(0,1)$ を標準 Cauchy 分布という。
$t=(x-\mu)/\gamma$ と置換すると $\int_{-\infty}^xf_{\mu,\gamma}=\frac1\pi\int_{-\infty}^{(x-\mu)/\gamma}\frac{dt}{1+t^2}$ なので、$X\sim C(\mu,\gamma)$ の分布関数は
$$
F(x)=\frac12+\frac1\pi\arctan\frac{x-\mu}{\gamma}
$$
である($\arctan$ は $(-\frac\pi2,\frac\pi2)$ に値をとる 逆正接関数)。$x\to\infty$ で $F(x)\to1$ なので、$f_{\mu,\gamma}$ は確かに確率密度である。$F(\mu)=\frac12$、$F(\mu\pm\gamma)=\frac12\pm\frac14$ なので、$\mu$ は中央値、$\mu\pm\gamma$ は四分位点である。また、密度の最大値は $f(\mu)=\frac1{\pi\gamma}$ で、その半分になるのは $x=\mu\pm\gamma$ のときである。$\gamma$ は「山の半分の高さでの半幅」であり、分散の代わりに広がりを測る量になる。
$X\sim C(\mu,\gamma)$、$a\ne0$、$b\in\mathbb{R}$ なら、$aX+b\sim C(a\mu+b,\lvert a\rvert\gamma)$ である。とくに $Z\sim C(0,1)$ なら $\mu+\gamma Z\sim C(\mu,\gamma)$ である。
要点:密度の 1 次変換の公式に代入して整理する。
確率密度関数 の定理「単調な変換による密度」により、$aX+b$ は密度 $\frac1{\lvert a\rvert}f_{\mu,\gamma}\bigl(\frac{y-b}a\bigr)$ をもつ。分母と分子に $a^2$ を掛けると$$\frac1{\lvert a\rvert}\cdot\frac{\gamma}{\pi\bigl(\gamma^2+(\frac{y-b}{a}-\mu)^2\bigr)}=\frac{\lvert a\rvert\gamma}{\pi\bigl((\lvert a\rvert\gamma)^2+(y-b-a\mu)^2\bigr)}=f_{a\mu+b,\lvert a\rvert\gamma}(y)$$である。$\square$
$X\sim C(\mu,\gamma)$、$r>0$ とする。$E[\lvert X\rvert^r]< \infty$ であることと $r< 1$ は同値である。とくに $X$ は平均も分散ももたない。
要点:密度が $\lvert x\rvert^{-2}$ と同程度に減るので、$\lvert x\rvert^rf(x)$ の可積分性は $\int_1^\infty x^{r-2}\,dx< \infty$ と同じになる。
$\lvert x\rvert\ge2\lvert\mu\rvert+\gamma$ では $\frac{x^2}{4}\le(x-\mu)^2\le\gamma^2+(x-\mu)^2\le4x^2$ なので、正の定数 $A,B$ で $A\lvert x\rvert^{-2}\le f_{\mu,\gamma}(x)\le B\lvert x\rvert^{-2}$ となる。有界な範囲の積分は有限なので、確率密度関数 の定理「密度による期待値の公式」により、$E[\lvert X\rvert^r]< \infty$ は $\int_1^\infty x^{r-2}\,dx< \infty$、すなわち $r< 1$ と同値である。$\square$
$f_{0,1}$ は偶関数なので $\int_{-R}^Rxf_{0,1}(x)\,dx=0$ がすべての $R$ で成り立つ。しかし期待値は $\int x^+f$ と $\int x^-f$ が両方有限のときに限って定まり、ここでは両方 $\infty$ なので、$E[X]$ は $0$ ではなく「定まらない」。確率分布の中央値 の反例「Cauchy 分布」が示すように、平均がなくても中央値 $\mu$ は意味をもつ。
要点:1 は $\tan$ による変数変換、2 は $t$ 分布の自由度 1 の場合と符号の対称性、3 は分布関数の直接の計算による。
1。 $\varphi=\tan$ は $(-\frac\pi2,\frac\pi2)$ 上で連続微分可能で $\varphi'=1+\tan^2>0$、像は $\mathbb{R}$、逆関数は $\psi=\arctan$ で $\psi'(y)=\frac1{1+y^2}$ である。確率密度関数 の定理「単調な変換による密度」により、$\tan\Theta$ は密度 $\frac1\pi\cdot\frac1{1+y^2}=f_{0,1}(y)$ をもつ。
2。 $P(Z'=0)=0$ なので $Z/Z'$ は確率 $1$ で定まる。まず $Z/\lvert Z'\rvert\sim C(0,1)$ である。実際、$V:=Z'^2$ は自由度 $1$ のカイ二乗分布に従い(t分布 の定理「カイ二乗分布の再生性」の 1)、$Z$ と独立なので、t分布 の定理「$t$ 分布の密度」により $Z/\sqrt V=Z/\lvert Z'\rvert$ は自由度 $1$ の $t$ 分布に従い、その密度は同記事の例「自由度 1:Cauchy 分布」のとおり $f_{0,1}$ である。
次に、$\varepsilon:=\operatorname{sgn}Z'$ とおくと、組 $(\varepsilon Z,\lvert Z'\rvert)$ は組 $(Z,\lvert Z'\rvert)$ と同じ同時分布をもつ。Borel 集合 $A,B$ について、$Z$ と $Z'$ の独立性と、$-Z$ が $Z$ と同じ分布をもつことから$$\begin{aligned}P(\varepsilon Z\in A,\ \lvert Z'\rvert\in B)&=P(Z\in A)P(Z'>0,\ \lvert Z'\rvert\in B)+P(-Z\in A)P(Z'< 0,\ \lvert Z'\rvert\in B)\\&=P(Z\in A)P(\lvert Z'\rvert\in B)=P(Z\in A,\ \lvert Z'\rvert\in B)\end{aligned}$$であり、直積集合で一致する 2 つの確率測度は Dynkinのπ-λ定理 の定理「π系の上で一致する測度の一意性」により一致する。$Z/Z'=\varepsilon Z/\lvert Z'\rvert$ は組 $(\varepsilon Z,\lvert Z'\rvert)$ の関数なので、$Z/\lvert Z'\rvert$ と同じ分布、すなわち $C(0,1)$ に従う。
3。 $P(X=0)=0$ なので $1/X$ は確率 $1$ で定まる。$y>0$ について、$0< 1/X\le y$ と $X\ge1/y$ は同値で、$\arctan(1/y)=\frac\pi2-\arctan y$ なので$$P(1/X\le y)=P(X< 0)+P(X\ge1/y)=\frac12+\Bigl(\frac12-\frac1\pi\arctan\frac1y\Bigr)=\frac12+\frac1\pi\arctan y$$である。$y< 0$ についても、$1/X\le y$ と $1/y\le X< 0$ は同値で、$\arctan(1/y)=-\frac\pi2-\arctan y$ なので、$P(1/X\le y)=F(0)-F(1/y)=\frac12+\frac1\pi\arctan y$ を得る。$y=0$ では $P(1/X\le0)=P(X< 0)=\frac12$ である。分布関数が $C(0,1)$ のものと一致する。$\square$
1 は次のように読める。壁から距離 $1$ の点に光源を置き、壁に垂直な方向から測った角 $\Theta$ が一様に分布するように光線を出すと、光線が壁に当たる点の位置は標準 Cauchy 分布に従う(GrS06 Example 5.11、pp. 218–219)。光源までの距離を $\gamma$ にし、壁の上の原点を $\mu$ だけずらせば $C(\mu,\gamma)$ になる(prop-cauchy-affine)。
和の密度は畳み込み積分で与えられる(確率密度関数 の定理「独立な和の密度は畳み込み」)。Cauchy 分布の密度は複素数を使って 1 次分数の和に分けられるので、畳み込み積分は次の補題に帰着する。
$p,q$ を実数でない複素数とする。
要点:$\frac1{y-p}$ の実部は対数、虚部は逆正接で積分でき、虚部だけが $\pi\operatorname{sgn}(\operatorname{Im}p)$ を残す。2 は部分分数分解で 1 に帰着する。
1。 $p=s+it$($s,t$ は実数、$t\ne0$)と書くと$$\frac1{y-p}=\frac{(y-s)+it}{(y-s)^2+t^2}$$である。実部の積分は $\frac12\log\frac{(R-s)^2+t^2}{(R+s)^2+t^2}$ で、$R\to\infty$ で $0$ に近づく。虚部の積分は $\arctan\frac{R-s}{t}-\arctan\frac{-R-s}{t}$ で、$R\to\infty$ で $\frac\pi2\operatorname{sgn}t-\bigl(-\frac\pi2\operatorname{sgn}t\bigr)=\pi\operatorname{sgn}t$ に近づく。
2。 $\lvert y-p\rvert\ge\lvert\operatorname{Im}p\rvert$ と、$\lvert y\rvert\to\infty$ で $\lvert y-p\rvert/\lvert y\rvert\to1$ であることから、正の定数 $c$ で $\lvert(y-p)(y-q)\rvert\ge c(1+y^2)$ となり、積分は絶対収束する。したがって積分は $\lim_{R\to\infty}\int_{-R}^R$ に等しい。$p=q$ なら、$\frac{d}{dy}\bigl(-\frac1{y-p}\bigr)=\frac1{(y-p)^2}$ より $\int_{-R}^R\frac{dy}{(y-p)^2}=-\frac1{R-p}-\frac1{R+p}\to0$ である。$p\ne q$ なら、部分分数分解 $\frac1{(y-p)(y-q)}=\frac1{p-q}\bigl(\frac1{y-p}-\frac1{y-q}\bigr)$ と 1 により、積分は $\frac{i\pi}{p-q}\bigl(\operatorname{sgn}\operatorname{Im}p-\operatorname{sgn}\operatorname{Im}q\bigr)$ に等しく、これは主張の値である。$\square$
$X_1\sim C(\mu_1,\gamma_1)$ と $X_2\sim C(\mu_2,\gamma_2)$ が独立なら、
$$
X_1+X_2\sim C(\mu_1+\mu_2,\ \gamma_1+\gamma_2)
$$
である。
段 1(位置を $0$ にする)。 $Y_j:=X_j-\mu_j$ とおくと、prop-cauchy-affine により $Y_j\sim C(0,\gamma_j)$ であり、$Y_1,Y_2$ は独立である。$Y_1+Y_2\sim C(0,\gamma_1+\gamma_2)$ を示せば、もう一度 prop-cauchy-affine を使って $X_1+X_2=(Y_1+Y_2)+(\mu_1+\mu_2)$ の分布が分かる。以下 $a:=\gamma_1$、$b:=\gamma_2$、$P_c:=f_{0,c}$ と書く。
段 2(1 次分数に分ける)。 $\frac1{u-ic}-\frac1{u+ic}=\frac{2ic}{u^2+c^2}$ なので、すべての実数 $u$ と $c>0$ について
$$
P_c(u)=\frac1{2\pi i}\Bigl(\frac1{u-ic}-\frac1{u+ic}\Bigr)
$$
である。$x$ を固定し、$y$ の関数として書くと
$$
P_a(x-y)=\frac1{2\pi i}\Bigl(\frac1{y-(x+ia)}-\frac1{y-(x-ia)}\Bigr),\qquad P_b(y)=\frac1{2\pi i}\Bigl(\frac1{y-ib}-\frac1{y+ib}\Bigr)
$$
である。
段 3(積分する)。 確率密度関数 の定理「独立な和の密度は畳み込み」により、$Y_1+Y_2$ は密度 $h(x):=\int P_a(x-y)P_b(y)\,dy$ をもつ。段 2 の 2 つの式を掛けると、$\frac1{(2\pi i)^2}=-\frac1{4\pi^2}$ と、4 つの項
$$
\frac{1}{(y-(x+ia))(y-ib)},\quad-\frac{1}{(y-(x+ia))(y+ib)},\quad-\frac{1}{(y-(x-ia))(y-ib)},\quad\frac{1}{(y-(x-ia))(y+ib)}
$$
の和の積になる。どの項も lem-cauchy-integral の 2 により絶対収束するので、項ごとに積分してよい。1 つめと 4 つめの項は、分母の 2 つの点の虚部が同じ符号なので積分は $0$ である。2 つめの項では $p=x+ia$(虚部が正)、$q=-ib$(虚部が負)なので積分は $-\frac{2\pi i}{x+i(a+b)}$、3 つめの項では $p=ib$、$q=x-ia$ なので積分は $-\frac{2\pi i}{-x+i(a+b)}=\frac{2\pi i}{x-i(a+b)}$ である。よって $c:=a+b$ として
$$
h(x)=-\frac1{4\pi^2}\cdot2\pi i\Bigl(\frac1{x-ic}-\frac1{x+ic}\Bigr)=-\frac{i}{2\pi}\cdot\frac{2ic}{x^2+c^2}=\frac{c}{\pi(x^2+c^2)}=P_{a+b}(x)
$$
であり、$Y_1+Y_2\sim C(0,a+b)$ である。$\square$
この積分は GrS06 Example 7.6(pp. 294–295)では結果だけが示され、同書 §10.3(pp. 400–401)では特性関数で確かめられている。$X\sim C(\mu,\gamma)$ の特性関数は $E[e^{itX}]=e^{i\mu t-\gamma\lvert t\rvert}$ であり($\mu=0$、$\gamma=1$ の場合は Dur19 Example 3.3.16、p. 131)、積 $e^{-\gamma_1\lvert t\rvert}e^{-\gamma_2\lvert t\rvert}=e^{-(\gamma_1+\gamma_2)\lvert t\rvert}$ が thm-cauchy-stable に対応する。この記事では特性関数と分布の一対一対応を使わず、上の初等的な計算で証明した。
$X_1,\dots,X_n$ が独立で $X_j\sim C(\mu_j,\gamma_j)$ とし、$c_1,\dots,c_n$ を $0$ でない実数とする。
要点:1 次変換と再生性を項の個数についての帰納法で使う。
prop-cauchy-affine により $c_jX_j\sim C(c_j\mu_j,\lvert c_j\rvert\gamma_j)$ であり、$c_1X_1,\dots,c_nX_n$ は独立である。$c_1X_1+\cdots+c_{k-1}X_{k-1}$ と $c_kX_k$ も独立なので(Dur19 Theorem 2.1.10、p. 47)、thm-cauchy-stable を $k=2,\dots,n$ と順に使えば 1 を得る。2 は 1 で $c_j=\frac1n$ とおけば $C(\mu,\gamma)$ である。$\square$
$X_1,X_2,\dots$ が独立で、どれも $C(\mu,\gamma)$ に従うとする。このとき、すべての実数 $c$ と $\varepsilon>0$ について
$$
P\bigl(\lvert\bar X_n-c\rvert\ge\varepsilon\bigr)=1-\frac1\pi\Bigl(\arctan\frac{c+\varepsilon-\mu}{\gamma}-\arctan\frac{c-\varepsilon-\mu}{\gamma}\Bigr)
$$
は $n$ によらない正の数である。とくに $\bar X_n$ はどの定数にも確率収束せず、確率 $1$ でどの定数にも収束しない。
cor-cauchy-mean の 2 により $\bar X_n\sim C(\mu,\gamma)$ なので、左辺は $1-F(c+\varepsilon)+F(c-\varepsilon)$($F$ は $C(\mu,\gamma)$ の分布関数。$F$ は連続)に等しく、これは右辺である。$\arctan$ の値は $(-\frac\pi2,\frac\pi2)$ にあるので、括弧の中は $\pi$ より小さく、右辺は正である。よって $n\to\infty$ で $0$ に近づかず、$\bar X_n$ は $c$ に確率収束しない。確率 $1$ で $\bar X_n\to c$ なら、指示関数 $\mathbf{1}\{\lvert\bar X_n-c\rvert\ge\varepsilon\}$ は確率 $1$ で $0$ に近づき $1$ 以下なので、優収束定理 によりその期待値 $P(\lvert\bar X_n-c\rvert\ge\varepsilon)$ は $0$ に近づく。これは上に反するので、確率 $1$ で $c$ に収束することもない。$\square$
大数の法則 の弱法則は、平均が存在すれば標本平均が平均に確率収束することを主張する(Dur19 Theorem 2.2.14、p. 64)。Cauchy 分布は平均をもたない(prop-cauchy-moments)ので、この仮定を満たさない。thm-cauchy-no-lln は、この仮定が単なる証明の都合ではなく、外すと結論が本当に崩れることを示している(Dur19 Example 2.2.15、p. 65)。たとえば $\mu=0$、$\gamma=1$、$c=0$、$\varepsilon=1$ では $P(\lvert\bar X_n\rvert\ge1)=1-\frac2\pi\arctan1=\frac12$ が、$n=1$ でも $n=10^6$ でも変わらない。
標準 Cauchy 分布では $P(\lvert X\rvert>x)=1-\frac2\pi\arctan x$ である。標準正規分布 $N(0,1)$ と比べると次のようになる(正規分布の値は数値計算による)。
| $x$ | $C(0,1)$:$P(\lvert X\rvert>x)$ | $N(0,1)$:$P(\lvert Z\rvert>x)$ |
|---|---|---|
| $1$ | $0.5$ | $0.317$ |
| $2$ | $0.295$ | $0.0455$ |
| $3$ | $0.205$ | $0.00270$ |
| $5$ | $0.126$ | $5.7\times10^{-7}$ |
| $10$ | $0.0635$ | $1.5\times10^{-23}$ |
$x\to\infty$ で $\arctan x=\frac\pi2-\arctan\frac1x$ と $\arctan\frac1x\sim\frac1x$ から $P(\lvert X\rvert>x)\sim\frac{2}{\pi x}$ であり、裾は $x^{-1}$ の程度でしか減らない(Dur19 Example 2.2.15、p. 65 と同じ計算)。正規分布の裾は $e^{-x^2/2}$ の程度で減る(正規分布 の命題「裾の確率の評価」)。Cauchy 分布に従う観測を 20 回すれば、そのうち 1 回程度は中央値から尺度の $10$ 倍以上離れる。
$X_1,\dots,X_n$ が独立で $N(0,1)$ に従えば、$\bar X_n\sim N(0,\frac1n)$ であり(正規分布 の系「標本平均の分布」)、$n=100$ では $P(\lvert\bar X_n\rvert>0.2)=P(\lvert Z\rvert>2)\approx0.046$ と小さくなる。$X_j\sim C(0,1)$ では cor-cauchy-mean により $\bar X_n\sim C(0,1)$ のままで、$P(\lvert\bar X_n\rvert>0.2)=1-\frac2\pi\arctan0.2\approx0.874$ はどの $n$ でも変わらない。正規分布では尺度が $1/\sqrt n$ 倍、Cauchy 分布では $n\cdot\frac1n=1$ 倍になる(cor-cauchy-mean の 1 で $c_j=\frac1n$)。
位置 $\mu$ を観測から推し量るとき、Cauchy 分布では標本平均は役に立たない(thm-cauchy-no-lln)。一方、中央値 $\mu$ は分布関数 $F$ だけで決まり、$F(\mu-\varepsilon)< \frac12< F(\mu+\varepsilon)$ がすべての $\varepsilon>0$ で成り立つ。各観測が $\mu+\varepsilon$ を超えるかどうかは確率 $1-F(\mu+\varepsilon)< \frac12$ の独立な試行なので、大数の法則 により、観測の半分以上が $\mu+\varepsilon$ を超える確率は $n\to\infty$ で $0$ に近づく。$\mu-\varepsilon$ を下回る側も同様なので、観測値の中央値は $\mu$ に確率収束する。平均をもたない分布でも、中央値は位置の推定に使える(確率分布の中央値)。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| $X_1,X_2$ が独立(thm-cauchy-stable) | $X_1\sim C(0,1)$、$X_2:=-X_1$ | $X_1+X_2\sim C(0,2)$ |
| 各 $X_j$ が Cauchy 分布に従う(cor-cauchy-mean の 2) | $X_j$ が独立で $N(0,1)$ に従う | $\bar X_n$ が $X_1$ と同じ分布に従う |
| $E[\lvert X_1\rvert]< \infty$(大数の法則 の弱法則) | $X_j$ が独立で $C(0,1)$ に従う | $\bar X_n$ がある定数に確率収束する |
| 分散が有限(中心極限定理) | $X_j$ が独立で $C(0,1)$ に従う | $S_n/\sqrt n$($S_n:=X_1+\cdots+X_n$)の分布関数がある分布関数に収束する |
1 行目:$X_1+X_2=0$ が確率 $1$ で成り立ち、密度をもたないので $C(0,2)$ に従わない。$X_1,X_2$ はどちらも $C(0,1)$ に従い、壊れたのは独立性だけである。$X_2:=X_1$ とすると $X_1+X_2=2X_1\sim C(0,2)$ となって結論は偶然成り立つので、独立性を外したときに結論が成り立つかどうかは場合による。
2 行目:$\bar X_n\sim N(0,\frac1n)$ で、$n\ge2$ では $N(0,1)$ と異なる(ex-cauchy-vs-normal)。独立性と同じ分布の仮定は保たれている。
3 行目は thm-cauchy-no-lln そのものである。
4 行目:cor-cauchy-mean の 1 により $S_n/\sqrt n\sim C(0,\sqrt n)$ なので、各 $x$ で $P(S_n/\sqrt n\le x)=\frac12+\frac1\pi\arctan\frac{x}{\sqrt n}\to\frac12$ である。極限の関数は定数 $\frac12$ で、$x\to\infty$ で $1$ に近づかないから分布関数ではない。確率が $\pm\infty$ の方へ逃げていく。$\sqrt n$ の代わりに $n$ で割れば、$S_n/n\sim C(0,1)$ はつねに同じ分布をもつ。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する