Cramér–von Mises検定(Cramér–von Mises test)とは、経験分布関数 $F_n$ と仮説の分布関数 $F_0$ のずれの 2 乗を積分した統計量 $W_n^2=n\int(F_n-F_0)^2\,dF_0$ を用いる適合度検定である。重み $1/(F_0(1-F_0))$ を付けて裾のずれを強調したものを Anderson–Darling 検定という。$F_0$ が連続なら統計量の分布は $F_0$ によらず、平均は $1/6$、分散は $(4n-3)/(180n)$ である。統計量は余弦関数や Legendre 多項式による展開で独立な和の 2 乗の重み付きの和にちょうど等しく、そこから極限分布 $\sum_kZ_k^2/(k^2\pi^2)$、$\sum_kZ_k^2/(k(k+1))$ が中心極限定理で導かれる。
前提知識: Kolmogorov–Smirnov検定, 分位点, 中心極限定理, 正規直交基底
データが仮説の分布に従うかを確かめるとき、Kolmogorov–Smirnov検定 は経験分布関数と仮説の分布関数の縦の差の 最大値 を見る。差が 1 か所で大きいときには敏感だが、全体に少しずつずれているときには気づきにくい。そこで差の 2 乗を全体で積分 した量を統計量にするのが Cramér–von Mises 検定 である。積分に重み $\frac1{t(1-t)}$ を付けて分布の裾のずれを強調したものを Anderson–Darling 検定 という(重みの意味、極限分布の固有値、一致性は Anderson–Darling検定 で扱う)。
この記事では、2 つの統計量の分布が仮説の連続な分布関数によらないこと、有限回で計算する公式、正確な平均と分散を示す。主定理は極限分布で、統計量が独立な標準正規変数の 2 乗の重み付きの和
$$
W_n^2\ \Rightarrow\ \sum_{k=1}^\infty\frac{Z_k^2}{k^2\pi^2},\qquad A_n^2\ \Rightarrow\ \sum_{k=1}^\infty\frac{Z_k^2}{k(k+1)}
$$
に分布収束することを、統計量を余弦関数と Legendre多項式 で展開する恒等式から直接証明する。例題で Kolmogorov–Smirnov 検定と結果が分かれる場合を示し、反例で使ってよい条件の意味を確かめる。
記号は Kolmogorov–Smirnov検定 に合わせる。$X_1,\dots,X_n$ を実数値の確率変数、$F_n$ をその経験分布関数とする。
分布関数 $F_0$ を 1 つ定め、帰無仮説を「$X_1,\dots,X_n$ は独立で、どれも分布関数 $F_0$ に従う」とする。
$$
W_n^2:=n\int_{-\infty}^\infty\bigl(F_n(x)-F_0(x)\bigr)^2\,dF_0(x),\qquad
A_n^2:=n\int_{-\infty}^\infty\frac{\bigl(F_n(x)-F_0(x)\bigr)^2}{F_0(x)\bigl(1-F_0(x)\bigr)}\,dF_0(x)
$$
をそれぞれ Cramér–von Mises 統計量、Anderson–Darling 統計量 という($A_n^2$ の被積分関数は分母が $0$ になる点で $0$ と読む)。統計量が臨界値 $c$ を超えるとき帰無仮説を棄てる検定を、それぞれ Cramér–von Mises 検定、Anderson–Darling 検定 という。$c$ は有意水準 $\alpha$ に対して帰無仮説のもとで棄却の確率が $\alpha$ 以下になるように選ぶ。
$dF_0$ は分布関数 $F_0$ の定める確率測度についての積分である。$W_n^2$ は「仮説の分布から見て典型的な点 $x$ での、経験分布関数のずれの 2 乗」の平均に $n$ を掛けたものである。$\sqrt n(F_n(x)-F_0(x))$ の分散は $F_0(x)(1-F_0(x))$ なので、$A_n^2$ はずれをその標準偏差で割ってから 2 乗して平均したものにあたる。裾では $F_0(1-F_0)$ が小さいので、裾のずれが大きく数えられる。
使ってよい条件は Kolmogorov–Smirnov 検定と同じである。
以下 $u_{(1)}\le\cdots\le u_{(n)}$ は $u_i:=F_0(X_i)$ を小さい順に並べたものとする。
| 量 | 式 | 使える条件 | 根拠 |
|---|---|---|---|
| 一様分布への帰着 | $W_n^2=n\int_0^1(G_n(u)-u)^2du$、$A_n^2=n\int_0^1\frac{(G_n(u)-u)^2}{u(1-u)}du$($G_n$ は $u_1,\dots,u_n$ の経験分布関数) | (ii) | prop-cvm-free |
| $W_n^2$ の計算 | $\dfrac1{12n}+\displaystyle\sum_{i=1}^n\Bigl(u_{(i)}-\frac{2i-1}{2n}\Bigr)^2$ | (ii) | prop-cvm-formula |
| $A_n^2$ の計算 | $-n-\dfrac1n\displaystyle\sum_{i=1}^n(2i-1)\bigl(\log u_{(i)}+\log(1-u_{(n+1-i)})\bigr)$ | (ii)、$0< u_i< 1$ | prop-cvm-formula |
| 平均 | $E[W_n^2]=\frac16$、$E[A_n^2]=1$ | (i)(ii) と帰無仮説 | prop-cvm-moments |
| 分散 | $\operatorname{Var}W_n^2=\frac{4n-3}{180n}$、$\operatorname{Var}A_n^2=\frac{2\pi^2}3-6+\frac{10-\pi^2}n$ | 同上 | prop-cvm-moments |
| 展開 | $W_n^2=\sum_k\frac{Y_{n,k}^2}{k^2\pi^2}$、$A_n^2=\sum_k\frac{V_{n,k}^2}{k(k+1)}$ | (ii) | prop-cvm-series |
| 極限分布 | $\sum_k\frac{Z_k^2}{k^2\pi^2}$、$\sum_k\frac{Z_k^2}{k(k+1)}$($Z_k$ は独立な標準正規) | (i)(ii) と帰無仮説 | thm-cvm-limit |
| 漸近の臨界値($10\%,5\%,1\%$) | $W^2$:$0.3473,\ 0.4614,\ 0.7435$。$A^2$:$1.9330,\ 2.4924,\ 3.8781$ | 同上、$n$ が大きい | 計算 |
$F_0$ が連続なら、$u_i:=F_0(X_i)$ の経験分布関数を $G_n$ として
$$
W_n^2=n\int_0^1\bigl(G_n(u)-u\bigr)^2du,\qquad A_n^2=n\int_0^1\frac{\bigl(G_n(u)-u\bigr)^2}{u(1-u)}\,du
$$
である。帰無仮説のもとで $u_1,\dots,u_n$ は独立で $(0,1)$ 上の一様分布に従うので、$W_n^2$ と $A_n^2$ の分布は $F_0$ によらない。
経験分布関数の書き直し。 データを固定する。$X_i\le x$ なら $F_0(X_i)\le F_0(x)$ なので $F_n(x)\le G_n(F_0(x))$ である。等号が成り立たないのは、ある $i$ で $x< X_i$ かつ $F_0(x)=F_0(X_i)$ となるときに限る。そのような $x$ の集合は、各 $i$ について $F_0$ が一定の区間 $I_i$ であり、$F_0$ が連続なので $dF_0$ についての測度は $0$ である。よって $dF_0$ についてほとんど至るところ $F_n(x)=G_n(F_0(x))$ である。
$h(u):=(G_n(u)-u)^2$($W_n^2$)または $h(u):=\frac{(G_n(u)-u)^2}{u(1-u)}$($A_n^2$)とすると、被積分関数は $dF_0$ についてほとんど至るところ $h(F_0(x))$ に等しい。$Y$ を分布関数 $F_0$ に従う確率変数とすると、$F_0(Y)$ は $(0,1)$ 上の一様分布に従うので
$$
\int h\bigl(F_0(x)\bigr)\,dF_0(x)=E\bigl[h(F_0(Y))\bigr]=\int_0^1h(u)\,du
$$
である($h\ge0$ なので値が $+\infty$ でも成り立つ)。最後に、帰無仮説のもとで $u_i=F_0(X_i)$ が一様分布に従うことは 分位点 の定理「分位点変換と確率積分変換」の 2 による。$\square$
$F_0$ が連続のとき、$W_n^2$ と $A_n^2$ は公式の表の 2 行目と 3 行目の式で与えられる($A_n^2$ はすべての $u_i$ が $0< u_i< 1$ のとき有限で、そうでなければ $+\infty$)。
要点:$G_n$ は隣り合う $u_{(i)}$ の間で一定なので、各区間で多項式($A_n^2$ では部分分数)を積分し、$u_{(j)}$ ごとにまとめ直す。
$u_{(0)}:=0$、$u_{(n+1)}:=1$、$c_i:=\frac in$ とおく。$[u_{(i)},u_{(i+1)})$ の上で $G_n=c_i$ である。
$W_n^2$。 $\int_{u_{(i)}}^{u_{(i+1)}}(c_i-u)^2du=\frac13\bigl[(u_{(i+1)}-c_i)^3-(u_{(i)}-c_i)^3\bigr]$ を $i=0,\dots,n$ で足し、$u_{(j)}$ ごとにまとめる。端の項は $(1-c_n)^3=0$、$(0-c_0)^3=0$ なので$$W_n^2=\frac n3\sum_{j=1}^n\bigl[(u_{(j)}-c_{j-1})^3-(u_{(j)}-c_j)^3\bigr]$$である。$m_j:=\frac{2j-1}{2n}$、$a_j:=u_{(j)}-m_j$、$\delta:=\frac1{2n}$ とすると $u_{(j)}-c_{j-1}=a_j+\delta$、$u_{(j)}-c_j=a_j-\delta$ で、$(a+\delta)^3-(a-\delta)^3=6a^2\delta+2\delta^3$ である。よって $W_n^2=\frac n3\sum_j\bigl(\frac{3a_j^2}n+\frac1{4n^3}\bigr)=\sum_ja_j^2+\frac1{12n}$ である。
$A_n^2$。 部分分数 $\frac{(c-u)^2}{u(1-u)}=\frac{c^2}u+\frac{(1-c)^2}{1-u}-1$ により、$\int_a^b\frac{(c-u)^2}{u(1-u)}du=c^2\log\frac ba-(1-c)^2\log\frac{1-b}{1-a}-(b-a)$ である($i=0$ では $c_0=0$ なので $\log u_{(0)}$ の項は現れず、$i=n$ では $\log(1-u_{(n+1)})$ の項は現れない)。$i=0,\dots,n$ で足して $\log u_{(j)}$、$\log(1-u_{(j)})$ ごとにまとめると、係数は $c_{j-1}^2-c_j^2=-\frac{2j-1}{n^2}$ と $-\bigl((1-c_{j-1})^2-(1-c_j)^2\bigr)=-\frac{2(n-j)+1}{n^2}$ であり、$-(b-a)$ の和は $-1$ である。よって$$A_n^2=-n-\frac1n\sum_{j=1}^n\Bigl[(2j-1)\log u_{(j)}+\bigl(2(n-j)+1\bigr)\log(1-u_{(j)})\Bigr]$$で、第 2 項で $j$ を $n+1-i$ に置き換えると表の式になる。$\square$
(i)(ii) と帰無仮説のもとで、すべての $n\ge1$ について
$$
E[W_n^2]=\frac16,\quad\operatorname{Var}W_n^2=\frac{4n-3}{180n},\qquad E[A_n^2]=1,\quad\operatorname{Var}A_n^2=2\Bigl(\frac{\pi^2}3-3\Bigr)+\frac{10-\pi^2}n
$$
である。
要点:統計量を $\frac1n\sum_{i,j}h(U_i,U_j)$ と書くと、核 $h$ は片方の変数で平均すると $0$ になるので、対角の項と非対角の項の分散を別々に計算すればよい。
prop-cvm-free により $U_1,\dots,U_n$ を独立な一様分布として $G_n$ をその経験分布関数とする。$f_a(t):=\mathbf 1_{\{a\le t\}}-t$ とおくと $G_n(t)-t=\frac1n\sum_if_{U_i}(t)$ なので、$$W_n^2=\frac1n\sum_{i,j}h(U_i,U_j),\qquad h(a,b):=\int_0^1f_a(t)f_b(t)\,dt=\frac13-\max(a,b)+\frac{a^2+b^2}2$$である。$E[f_U(t)]=t-t=0$ なので、$a$ を固定すると $E[h(a,U)]=0$ である。
平均。 $i\ne j$ の項の平均は $0$ で、$E[h(U,U)]=\int_0^1(\frac13-u+u^2)du=\frac16$。
分散。 $D:=\frac1n\sum_ih(U_i,U_i)$、$O:=\frac1n\sum_{i\ne j}h(U_i,U_j)$ とする。$O$ の各項は、添字の少なくとも一方 $l$ について $U_l$ で条件付けた期待値が $0$ になるので、$\operatorname{Cov}(D,O)=0$ であり、$O$ の中で添字の対 $\{i,j\}$ が異なる 2 項も無相関である。よって$$\operatorname{Var}W_n^2=\frac1n\operatorname{Var}h(U,U)+\frac{2(n-1)}n\,E\bigl[h(U,V)^2\bigr]$$($U,V$ は独立な一様分布)である。$\operatorname{Var}h(U,U)=\int_0^1(\frac13-u+u^2)^2du-\frac1{36}=\frac1{30}-\frac1{36}=\frac1{180}$。また $f_a$ の正規直交系 $\sqrt2\sin(k\pi t)$ についての係数は $\frac{\sqrt2\cos(k\pi a)}{k\pi}$ なので(prop-cvm-series の証明の計算で $n=1$ としたもの)、Parsevalの等式 から $h(a,b)=\sum_k\frac{2\cos(k\pi a)\cos(k\pi b)}{k^2\pi^2}$ であり、$\sqrt2\cos(k\pi\cdot)$ が正規直交系であることから $E[h(U,V)^2]=\sum_k\frac1{k^4\pi^4}=\frac1{90}$ である。合わせて $\frac1{180n}+\frac{2(n-1)}{90n}=\frac{4n-3}{180n}$ を得る。
$A_n^2$。 核を $h_A(a,b):=\int_0^1\frac{f_a(t)f_b(t)}{t(1-t)}dt$ に替えて同じ計算をする。$h_A(a,a)=\int_0^a\frac t{1-t}dt+\int_a^1\frac{1-t}tdt=-1-\log a-\log(1-a)$ なので、平均は $\int_0^1h_A(u,u)du=1$、分散は $\int_0^1(1+\log u+\log(1-u))^2du-1=4-\frac{\pi^2}3$ である。prop-cvm-series の Legendre の正規直交系で同様に $E[h_A(U,V)^2]=\sum_k\frac1{k^2(k+1)^2}=\frac{\pi^2}3-3$ となる($\frac1{k^2(k+1)^2}=\frac1{k^2}+\frac1{(k+1)^2}-\frac2{k(k+1)}$ を足す)。合わせて $\frac{4-\pi^2/3}n+\frac{2(n-1)}n(\frac{\pi^2}3-3)$ が表の式に等しい。$\square$
$n\to\infty$ で分散は $\frac1{45}$ と $\frac{2\pi^2}3-6\approx0.5797$ に近づき、thm-cvm-limit の極限分布の分散 $2\sum_k(k\pi)^{-4}=\frac1{45}$、$2\sum_k(k(k+1))^{-2}$ と一致する。
極限分布を求める鍵は、統計量が有限の $n$ でも「独立な和の 2 乗の重み付きの和」にちょうど等しいことである。$[0,1]$ 上の関数
$$
\phi_k(u):=\sqrt2\cos(k\pi u),\qquad p_k(u):=\sqrt{2k+1}\,P_k(2u-1)\qquad(k\ge1)
$$
を使う。$P_k$ は $k$ 次の Legendre多項式 である。$\{\phi_k\}$ と $\{p_k\}$ はそれぞれ $L^2(0,1)$ の正規直交系で、どの関数も $\int_0^1\phi_k\,du=\int_0^1p_k\,du=0$ を満たす($p_k$ については同じ記事の定理「直交性と大きさ」を $x=2u-1$ と変数変換し、$p_0=1$ との直交を使う)。
$q_k(t):=\int_0^tp_k(s)\,ds$、$e_k(t):=\sqrt{k(k+1)}\,\dfrac{q_k(t)}{\sqrt{t(1-t)}}$($k\ge1$)とおくと、
$$
t(1-t)\,p_k'(t)=-k(k+1)\,q_k(t)\qquad(0\le t\le1)
$$
であり、$\{e_k\}_{k\ge1}$ は $L^2(0,1)$ の正規直交基底である。
微分方程式。 Legendre多項式 の定理「Legendre の微分方程式」$\frac d{dx}\bigl((1-x^2)P_k'(x)\bigr)=-k(k+1)P_k(x)$ に $x=2t-1$ を代入すると、$1-x^2=4t(1-t)$、$\frac d{dx}=\frac12\frac d{dt}$ により $\frac d{dt}\bigl(t(1-t)p_k'(t)\bigr)=-k(k+1)p_k(t)$ となる。$0$ から $t$ まで積分すれば式を得る。とくに $q_k(0)=q_k(1)=0$ で、$\lvert q_k(t)\rvert\le C_kt(1-t)$ である。
正規直交性。 部分積分と $q_j(0)=q_j(1)=0$ により
$$
\int_0^1\frac{q_jq_k}{t(1-t)}\,dt=-\frac1{k(k+1)}\int_0^1q_j\,p_k'\,dt=\frac1{k(k+1)}\int_0^1p_jp_k\,dt=\frac{\delta_{jk}}{k(k+1)}
$$
である。
完全性。 $g\in L^2(0,1)$ がすべての $e_k$ と直交するとし、$h(t):=g(t)/\sqrt{t(1-t)}$、$\Psi(s):=\int_s^{1/2}h(t)\,dt$ とおく。Cauchy–Schwarz の不等式で $\lvert\Psi(s)\rvert\le\|g\|_2\bigl(\int_s^{1/2}\frac{dt}{t(1-t)}\bigr)^{1/2}$ なので $\Psi$ は $(0,1)$ で連続、$\Psi(s)^2\le\|g\|_2^2\,\bigl\lvert\log\frac{1-s}s\bigr\rvert$ なので $\Psi\in L^2(0,1)$ である。$q_k(t)=\int_0^tp_k=-\int_t^1p_k$ を $t< \frac12$ と $t>\frac12$ で使い分けて Fubiniの定理 を当てると($\lvert h\rvert\,t(1-t)$ は可積分)、
$$
0=\int_0^1h\,q_k\,dt=\int_0^1p_k(s)\,\Psi(s)\,ds\qquad(k\ge1)
$$
である。Legendre多項式 の系「Legendre 展開の平均 2 乗収束」と、連続関数が $L^2(0,1)$ で稠密であること(部分和は直交射影なので、連続関数で近似してから展開すればよい)により $\{p_k\}_{k\ge0}$ は $L^2(0,1)$ の正規直交基底なので、$\Psi$ はほとんど至るところ定数で、連続性と $\Psi(\frac12)=0$ から $\Psi\equiv0$ である。Lebesgueの微分定理 によりほとんど至るところ $h=-\Psi'=0$、よって $g=0$ である。$\square$
$0\le u_1,\dots,u_n\le1$ を任意の点とし、$G_n$ をその経験分布関数とする。
$$
Y_{n,k}:=\frac1{\sqrt n}\sum_{i=1}^n\phi_k(u_i),\qquad V_{n,k}:=\frac1{\sqrt n}\sum_{i=1}^np_k(u_i)
$$
とおくと
$$
n\int_0^1\bigl(G_n(t)-t\bigr)^2dt=\sum_{k=1}^\infty\frac{Y_{n,k}^2}{k^2\pi^2}
$$
であり、すべての $u_i$ が $0< u_i< 1$ なら
$$
n\int_0^1\frac{\bigl(G_n(t)-t\bigr)^2}{t(1-t)}\,dt=\sum_{k=1}^\infty\frac{V_{n,k}^2}{k(k+1)}
$$
である。prop-cvm-free と合わせると、$F_0$ が連続なら $u_i=F_0(X_i)$ として左辺はそれぞれ $W_n^2$、$A_n^2$ である。
$f_a(t):=\mathbf 1_{\{a\le t\}}-t$ とおくと $g:=G_n(t)-t=\frac1n\sum_if_{u_i}$ である。
$W_n^2$。 $s_k(t):=\sqrt2\sin(k\pi t)$($k\ge1$)は $L^2(0,1)$ の正規直交基底である($[-1,1]$ へ奇関数として延ばした Fourier級数 による)。$\int_0^1t\sin(k\pi t)\,dt=-\frac{\cos k\pi}{k\pi}$ から
$$
\langle f_a,s_k\rangle=\sqrt2\Bigl(\int_a^1\sin(k\pi t)\,dt-\int_0^1t\sin(k\pi t)\,dt\Bigr)=\sqrt2\,\frac{\cos(k\pi a)-\cos k\pi+\cos k\pi}{k\pi}=\frac{\phi_k(a)}{k\pi}
$$
なので $\langle g,s_k\rangle=\frac{Y_{n,k}}{\sqrt n\,k\pi}$ である。Parsevalの等式 $\int_0^1g^2=\sum_k\langle g,s_k\rangle^2$ に $n$ を掛ければよい。
$A_n^2$。 $t< \min_iu_i$ では $g(t)=-t$、$t\ge\max_iu_i$ では $g(t)=1-t$ なので、$g/\sqrt{t(1-t)}\in L^2(0,1)$ である。lem-cvm-legendre-basis の式 $\frac{q_k}{t(1-t)}=-\frac{p_k'}{k(k+1)}$ により
$$
\Bigl\langle\frac g{\sqrt{t(1-t)}},e_k\Bigr\rangle=\sqrt{k(k+1)}\int_0^1\frac{g\,q_k}{t(1-t)}\,dt=-\frac1{\sqrt{k(k+1)}}\int_0^1g\,p_k'\,dt
$$
であり、$\int_0^1f_a\,p_k'\,dt=\bigl(p_k(1)-p_k(a)\bigr)-\bigl(p_k(1)-\int_0^1p_k\,dt\bigr)=-p_k(a)$ から、これは $\frac{V_{n,k}}{\sqrt n\sqrt{k(k+1)}}$ に等しい。lem-cvm-legendre-basis と Parsevalの等式 から結論を得る。$\square$
$X_1,X_2,\dots$ が独立で同じ連続な分布関数 $F_0$ に従うとき、$Z_1,Z_2,\dots$ を独立な標準正規変数として
$$
W_n^2\ \Rightarrow\ W^2:=\sum_{k=1}^\infty\frac{Z_k^2}{k^2\pi^2},\qquad A_n^2\ \Rightarrow\ A^2:=\sum_{k=1}^\infty\frac{Z_k^2}{k(k+1)}\qquad(n\to\infty)
$$
である($\Rightarrow$ は 分布収束)。$W^2$、$A^2$ の分布関数は連続なので、すべての $x$ で $P(W_n^2\le x)\to P(W^2\le x)$、$P(A_n^2\le x)\to P(A^2\le x)$ である。
2 つの場合をまとめて示す。$(\psi_k,\lambda_k)$ を $(\phi_k,\frac1{k^2\pi^2})$ または $(p_k,\frac1{k(k+1)})$ とする。どちらも $\psi_k$ は $[0,1]$ で有界、$\int_0^1\psi_k=0$、$\int_0^1\psi_j\psi_k=\delta_{jk}$ で、$\lambda_k>0$、$\tau_K:=\sum_{k>K}\lambda_k\to0$($K\to\infty$)である($\sum_{k>K}\frac1{k(k+1)}=\frac1{K+1}$)。prop-cvm-free により $U_i:=F_0(X_i)$ は独立な一様分布で、確率 $1$ で $0< U_i< 1$ である。prop-cvm-series により、$T_{n,k}:=\frac1{\sqrt n}\sum_{i=1}^n\psi_k(U_i)$ として統計量は
$$
S_n:=\sum_{k=1}^\infty\lambda_kT_{n,k}^2
$$
に等しい。目標の極限を $S:=\sum_k\lambda_kZ_k^2$ と書き、$S_{n,K}:=\sum_{k\le K}\lambda_kT_{n,k}^2$、$S_K:=\sum_{k\le K}\lambda_kZ_k^2$ とおく。
1. 残りの項は小さい。 $\psi_k(U_i)$($i=1,\dots,n$)は独立で平均 $0$、分散 $1$ なので $E[T_{n,k}^2]=1$ であり、$R_{n,K}:=S_n-S_{n,K}\ge0$ は $E[R_{n,K}]=\tau_K$ を満たす。Markovの不等式 により、すべての $n$ と $\varepsilon>0$ で $P(R_{n,K}>\varepsilon)\le\tau_K/\varepsilon$ である。
2. 有限個の項。 $K$ を固定する。ベクトル $(\psi_1(U_i),\dots,\psi_K(U_i))$($i=1,2,\dots$)は独立で同じ分布に従い、平均 $0$、共分散行列は単位行列である。中心極限定理 の $\mathbb R^K$ 版(Dur19 Theorem 3.10.7)により $(T_{n,1},\dots,T_{n,K})$ は独立な標準正規変数の組 $(Z_1,\dots,Z_K)$ に分布収束する。$S_K$ の分布は連続である($\lambda_1Z_1^2$ は密度をもち、残りの和 $\sum_{2\le k\le K}\lambda_kZ_k^2$ と独立なので、和の分布は 畳み込み で密度をもつ)。よって集合 $\{y\in\mathbb R^K\mid\sum_k\lambda_ky_k^2\le x\}$ の境界 $\{\sum_k\lambda_ky_k^2=x\}$ の極限の分布での確率は $0$ で、Portmanteau定理 から $P(S_{n,K}\le x)\to P(S_K\le x)$(すべての $x$)である。
3. 極限の性質。 $E[S]=\sum_k\lambda_k< \infty$ なので $S< \infty$ が確率 $1$ で成り立ち、$S_K\uparrow S$ である。よって事象 $\{S_K\le x\}$ は $K$ について減少して $\{S\le x\}$ に縮み、$P(S_K\le x)\downarrow P(S\le x)$ である。2 と同じ理由で $S$ の分布も連続である。
4. はさみうち。 $S_{n,K}\le S_n\le S_{n,K}+R_{n,K}$ なので、$x\in\mathbb R$、$\varepsilon>0$ について
$$
P(S_{n,K}\le x-\varepsilon)-\frac{\tau_K}\varepsilon\ \le\ P(S_n\le x)\ \le\ P(S_{n,K}\le x)
$$
である。$n\to\infty$ とし、2 と $S_K\le S$ を使うと
$$
P(S\le x-\varepsilon)-\frac{\tau_K}\varepsilon\ \le\ \liminf_nP(S_n\le x)\ \le\ \limsup_nP(S_n\le x)\ \le\ P(S_K\le x)
$$
である。$K\to\infty$ とすると 3 により右端は $P(S\le x)$、左端は $P(S\le x-\varepsilon)$ になる。最後に $\varepsilon\downarrow0$ とすれば、$S$ の分布の連続性から $P(S\le x-\varepsilon)\to P(S< x)=P(S\le x)$ である。$\square$
この証明は、Brown 橋や関数空間での弱収束を使わずに済む。$W^2$ の極限は、Brown 橋 $B^\circ$ の 2 乗積分 $\int_0^1(B^\circ_t)^2dt$ と同じ分布である(Brown橋 の命題「正弦係数の独立性」)。経験過程 $\sqrt n(G_n(t)-t)$ が Brown 橋に分布収束すること(経験過程、Donskerの定理)から $W_n^2$ の極限を導く道もあるが、そこでは 2 乗積分が道の連続な関数であることを使う。$A_n^2$ の重みは端で発散するので、この道では端の寄与を別に評価しなければならない。上の展開ではその評価が $\tau_K=\frac1{K+1}$ という 1 行に収まっている。
独立性から、$W^2$ の特性関数は $\prod_k\bigl(1-\frac{2is}{k^2\pi^2}\bigr)^{-1/2}$、$A^2$ のものは $\prod_k\bigl(1-\frac{2is}{k(k+1)}\bigr)^{-1/2}$ である。積を $3000$ 項で打ち切り、残りの項を平均で置き換えて分布関数を数値的に反転すると、上側 $10\%,5\%,1\%$ の点は $W^2$ で $0.3473,\ 0.4614,\ 0.7435$、$A^2$ で $1.9330,\ 2.4924,\ 3.8781$ である。$400$ 項の和 $\sum_k\lambda_kZ_k^2$ を $20$ 万回模擬した分位点も小数第 2 位まで一致する。$W^2$ の平均は $\frac16$、$A^2$ の平均は $1$ で、5% 点はそれぞれ平均の約 $2.8$ 倍、$2.5$ 倍である。
| 知りたいこと | 向いている統計量 | 理由 |
|---|---|---|
| 分布の中央付近の位置のずれ | $W_n^2$ または Kolmogorov–Smirnov | 重みが一様で、ずれが中央で最大になる |
| 裾の厚さ・裾の外れ値 | $A_n^2$ | 重み $\frac1{u(1-u)}$ が端で大きい(ex-cvm-exp) |
| ずれが 1 か所に集中しているか | Kolmogorov–Smirnov | 最大値は局所的なずれをそのまま拾う |
使う公式:prop-cvm-formula、prop-cvm-free。
答え:$n=1$ では $u=F_0(X_1)$ は一様分布に従い、$W_1^2=\frac1{12}+(u-\frac12)^2$ は $[\frac1{12},\frac13]$ に値をとる。$P(W_1^2>w)=1-2\sqrt{w-\frac1{12}}$($\frac1{12}\le w\le\frac13$)で、有意水準 $5\%$ の臨界値は $\frac1{12}+0.475^2\approx0.3090$ である。$A_1^2=-1-\log u-\log(1-u)$ の最小値は $u=\frac12$ での $2\log2-1\approx0.3863$ で、$5\%$ の臨界値は $u< 0.025$ または $u>0.975$ に当たる $-1-\log0.025-\log0.975\approx2.7142$ である。
$W_1^2>w\iff\lvert u-\frac12\rvert>\sqrt{w-\frac1{12}}$ で、その確率は $1-2\sqrt{w-\frac1{12}}$。$=0.05$ を解いて $\sqrt{w-\frac1{12}}=0.475$。$A_1^2$ は $u(1-u)$ の減少関数なので、上側 $5\%$ は $u$ の両端 $2.5\%$ ずつに当たる。$100$ 万回の模擬で棄却率はどちらも $0.0501$。
10 個の寿命 $0.001,\ 0.004,\ 0.30,\ 0.45,\ 0.60,\ 0.80,\ 1.00,\ 1.30,\ 7.00,\ 8.50$ が分布関数 $F_0(x)=1-e^{-x}$ に従うかを有意水準 $5\%$ で検定する。
使う公式:prop-cvm-formula、rem-cvm-critical。
答え:$W_{10}^2\approx0.0578$、$A_{10}^2\approx2.905$、Kolmogorov–Smirnov 統計量は $\sqrt{10}D_{10}\approx0.630$ である。$W^2$ と KS では棄却しない($p$ 値は約 $0.84$ と $0.75$)が、$A_{10}^2>2.4924$ なので Anderson–Darling 検定では棄却する($p$ 値は約 $0.032$)。データは小さすぎる値 2 個と大きすぎる値 2 個を含み、中央はよく合っている。$A^2$ の値の大部分は、小さい 2 個の直後の区間 $[0.0040,0.2592)$ と大きい 2 個の直前の区間 $[0.7275,0.9991)$ から来る。
$u_{(i)}$ は $0.0010,0.0040,0.2592,0.3624,0.4512,0.5507,0.6321,0.7275,0.9991,0.9998$。$W^2$ の和の項 $(u_{(i)}-\frac{2i-1}{20})^2$ は $i=2$ の $0.0213$ と $i=9$ の $0.0222$ が大きく、合計 $0.0495$ に $\frac1{120}$ を足して $0.0578$。$A^2$ を区間ごとの積分に分けると、$[u_{(2)},u_{(3)})$ が $1.012$、$[u_{(8)},u_{(9)})$ が $1.594$ で、全体 $2.905$ の $90\%$ を占める。$W^2$ では同じ 2 区間の寄与は $0.026$ と $0.028$ にすぎない。正確な $p$ 値は一様分布の模擬($n=10$、$40$ 万回)による。漸近の $p$ 値は $W^2$ で $0.83$、$A^2$ で $0.031$。
帰無仮説を標準正規分布、$n=20$、有意水準 $5\%$(正確な臨界値)として、3 つの検定が対立仮説を見つける確率を模擬(各 $20$ 万回)で比べる。
使う公式:prop-cvm-free、prop-cvm-formula。
答え:
| 真の分布 | $W^2$ | $A^2$ | KS |
|---|---|---|---|
| 平均を $0.5$ ずらした正規分布 | $0.558$ | $0.582$ | $0.487$ |
| 標準偏差 $1.5$ の正規分布 | $0.175$ | $0.475$ | $0.178$ |
| 自由度 $3$ の t分布 | $0.078$ | $0.332$ | $0.071$ |
位置のずれでは 3 つとも同程度だが、裾が厚くなる変化では $A^2$ がずっと強い。尺度だけが変わると $F_n-F_0$ は中央で $0$ に近く、両側で逆符号になるので、一様な重みでは拾いにくい。$n=20$ の正確な 5% の臨界値は $W^2$ で $0.4561$、$A^2$ で $2.4975$ で、漸近の値に近い。
各行は条件 (i)〜(iii) のうち 1 つだけを外し、臨界値 $W_n^2>0.4614$(名目の有意水準 $5\%$)の検定がずれることを示す。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| (ii) $F_0$ が連続 | $F_0$ は値 $0,1$ を確率 $\frac12$ ずつとる分布、データもこの分布 | $W_n^2=\frac n2(F_n(0)-\frac12)^2$ で $E[W_n^2]=\frac18\ne\frac16$。$W_n^2\Rightarrow\frac{Z^2}8$ で、棄却の確率は $P(\lvert Z\rvert>1.9212)\approx0.0547$ に近づき、$5\%$ を超える(KS と違い保守的にならない) |
| (iii) $F_0$ を前もって決める | データは標準正規分布、$n=50$。$F_0$ を標本平均と標本標準偏差の正規分布にする | $E[W_n^2]\approx0.059$、95% 点は約 $0.125$ で、$0.4614$ を超えることは $10$ 万回の模擬で一度もない |
| (i) 独立 | $X_t=0.6X_{t-1}+\varepsilon_t$(定常な AR(1)、$\varepsilon_t$ は独立な標準正規)、各 $X_t$ の分布 $N(0,\frac1{1-0.36})$ を $F_0$ とし、$n=200$ | 棄却の確率は約 $0.33$、$E[W_n^2]\approx0.47$ |
1 行目:$F_0$ が跳ぶ点は $0,1$ だけなので $dF_0$ の積分は 2 点の和で、$x=1$ では $F_n=F_0=1$。$nF_n(0)$ は二項分布 $B(n,\frac12)$ に従い、$E[n(F_n(0)-\frac12)^2]=\frac14$。中心極限定理 から $\sqrt n(F_n(0)-\frac12)\Rightarrow\frac Z2$。$n=50$ の模擬($20$ 万回)で棄却率 $0.065$。prop-cvm-free の証明は「$F_0(Y)$ が一様分布」を使い、不連続な $F_0$ ではそれが成り立たない。2 行目:推定した母数で標準化すると経験分布関数が $F_0$ に引き寄せられ、統計量が小さくなる。この場合は推定の方法ごとに別の数表が要る。3 行目:正の自己相関でデータが片側にまとまり、$F_n$ の揺れが大きくなる。$4$ 万回の模擬。
| 誤り | 正しくは | なぜ |
|---|---|---|
| $W_n^2$ を $\frac1n\sum(F_n-F_0)^2$ のように $n$ を付けずに比べる | 定義どおり $n$ を掛けた量を $0.4614$ と比べる | thm-cvm-limit は $n$ 倍した量の極限 |
| $W^2$ と $A^2$ の臨界値を取り違える | $5\%$ で $0.4614$ と $2.4924$ | 平均がそれぞれ $\frac16$ と $1$ |
| 母数を推定してから同じ数表を使う | 推定法に合わせた数表を使う | 反例の表の 2 行目 |
| 離散分布でも保守的になるとみなす | 正確な分布を別に求める | 反例の表の 1 行目は名目の水準を超える |
| $A^2$ の計算で $u=0$ や $1$ を許す | $\log F_0$、$\log(1-F_0)$ を直接求める | $\log0$ で $A^2=+\infty$ になる |
2 つの標本 $X_1,\dots,X_m$、$Y_1,\dots,Y_n$ を比べる版では、合わせた標本の経験分布関数 $H_{m+n}$ について $\frac{mn}{m+n}\int(F_m-G_n)^2dH_{m+n}$ を使う。帰無仮説のもとでの分布は、Kolmogorov–Smirnov検定 の 2 標本の場合と同じく、並び方の数え上げで求まる。円周上のデータでは、始点の選び方によらないように $F_n-F_0$ からその平均を引いてから 2 乗積分する Watson の統計量が使われる。
統計量の名前は、差の 2 乗の積分を適合度の尺度に用いた H. Cramér と R. von Mises に、重み付きの形は AD52 に由来する。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する