Feldman–Hájekの定理(Feldman–Hájek theorem)とは、同じ空間の上の 2 つの Gauss 測度は互いに同値か互いに特異かのどちらかであり、同値になるのは、共分散が定数倍の範囲で比べられ、平均の差が Cameron–Martin 空間に入り、共分散の比が恒等写像から Hilbert–Schmidt 作用素の分だけしかずれないときに限る、という定理である。Brown 運動 $W$ と $2W$ の分布は互いに特異で、Brown 運動に Cameron–Martin 空間の方向の乱数の傾きを加えた分布はもとの分布と同値である。
前提知識: Gauss測度, Cameron–Martin空間, Hilbert–Schmidt作用素, Radon–Nikodymの定理
Feldman–Hájekの定理(Feldman–Hájek theorem)とは、同じ空間の上の 2 つの Gauss測度 は、互いに同値(互いに絶対連続)であるか互いに特異であるかのどちらかで、その中間はないという定理と、どちらになるかを平均と共分散で判定する条件である。$\mathbb{R}$ の上の $N(0,1)$ と $N(0,4)$ は密度がどちらも正なので同値である。ところが Brown運動 $W$ と $2W$ の分布は、同じ形の共分散をもつにもかかわらず互いに特異である。2 進の分割に沿う増分の 2 乗和は、確率 $1$ で前者では $t$、後者では $4t$ に近づき、1 本の道を見るだけでどちらの分布から来たかが確実に分かるからである。
無限次元では、同値になるのは例外的な場合だけである。判定条件は 3 つで、共分散が互いに定数倍の範囲で比べられること、平均の差が Cameron–Martin空間 に入ること、共分散の比が恒等写像から Hilbert–Schmidt作用素 の分だけしかずれないことである。共分散が同じで平均だけが違う場合が Cameron–Martin空間 の記事の定理「Cameron–Martin の定理」で、この記事の定理はそれを共分散の違いまで広げたものである。統計学では、互いに特異であることは、Gauss 過程の 1 本の標本から未知の母数(分散の倍率など)が誤差なく決まることを意味する。
この記事では、条件を有限個の線形汎関数で述べた形の定理(thm-fh-main)を、角谷静夫による積測度の判定(lem-fh-kakutani)と、条件が満たされないときの仮説検定の構成(lem-fh-test)によって証明する。
$E$ を実可分 Banach空間、$E^*$ をその連続な線形汎関数の全体とし、$\mu,\nu$ を $E$ 上の Gauss 測度とする。Gauss測度 の記事に従い、$\ell\in E^*$ の $\mu$ のもとでの平均を $m_\mu(\ell)$、共分散を $q_\mu(\ell_1,\ell_2)$、$q_\mu(\ell):=q_\mu(\ell,\ell)$ と書く。$\nu$ についても同様である。$\ell\in E^*$ は $\mu$ のもとで $N(m_\mu(\ell),q_\mu(\ell))$ に従う。
2 つの確率測度が 同値 とは互いに絶対連続であること、互いに特異 とは $\mu(B)=0$、$\nu(B)=1$ となる Borel 集合 $B$ があることをいう(記号 $\mu\sim\nu$、$\mu\perp\nu$)。
3 つの条件を次のように定める。
$\mu,\nu$ を可分な Banach 空間 $E$ 上の Gauss 測度とする。$\mu$ と $\nu$ は同値であるか互いに特異であるかのどちらかである。同値であるための必要十分条件は、(FH1)・(FH2)・(FH3) がすべて成り立つことである。
条件の意味は次のとおりである。
J. Feldman は、恒等写像が誘導する $L^2(\mu)$ と $L^2(\nu)$ の閉部分空間の間の対応が、有界で有界な逆をもち $\sqrt{T^*T}-I$ が Hilbert–Schmidt 型である作用素 $T$ になることを同値の条件とした(Fel58 p. 703 の定理)。J. Hájek は、有限個の時刻での分布の $J$ ダイバージェンスの上限が有限であることを条件とした(Haj58 の英文要約、p. 617)。
$P_k,Q_k$($k=1,2,\dots$)を $\mathbb{R}$ 上の互いに同値な確率測度とし、$\rho_k:=\int\sqrt{dQ_k/dP_k}\,dP_k$ とおく。$\prod_k\rho_k>0$ なら、$\mathbb{R}^{\mathbb{N}}$ 上の積測度 $P:=\bigotimes_kP_k$ と $Q:=\bigotimes_kQ_k$ は同値である。
要点:$G_n:=\prod_{k\le n}\sqrt{f_k(x_k)}$($f_k:=dQ_k/dP_k$)は $L^2(P)$ の Cauchy 列で、極限 $G$ について $Q=G^2P$ になる。
$\rho_k$ は $P_k$ と $Q_k$ の Hellinger 親和度で、Hellinger 距離 $H$ とは $H(P_k,Q_k)^2=2-2\rho_k$ で結ばれる(Hellinger距離)。$P$ のもとで座標は独立で $\int f_kdP_k=1$ なので、$n< m$ について $E_P[G_nG_m]=\prod_{n< k\le m}\rho_k$、$E_P[G_n^2]=1$ である。よって $\|G_m-G_n\|_{L^2(P)}^2=2-2\prod_{n< k\le m}\rho_k$ である。無限積 $\prod\rho_k$ が正の値に収束するので、末尾の積は $1$ に近づき、$G_n$ は Cauchy 列で、ある $G$ に $L^2(P)$ で収束する。$\lvert G_n^2-G^2\rvert\le\lvert G_n-G\rvert(G_n+G)$ と Cauchy–Schwarz の不等式から $G_n^2\to G^2$ は $L^1(P)$ でも成り立つ。最初の $n_0$ 個の座標で決まる筒集合 $C$ と $n\ge n_0$ について $Q(C)=\int_CG_n^2\,dP$ なので、$n\to\infty$ として $Q(C)=\int_CG^2\,dP$ である。筒集合は積が閉じた族で積の $\sigma$ 代数を生成するので、Dynkinのπ-λ定理 により $Q=G^2P$、とくに $Q\ll P$ である。$\rho_k$ は $P_k$ と $Q_k$ について対称なので、$P\ll Q$ も同様である。$\square$
各 $j\ge1$ について $\mu(B_j)\le2^{-j}$、$\nu(E\setminus B_j)\le2^{-j}$ となる Borel 集合 $B_j$ があれば、$\mu\perp\nu$ である。
$B:=\bigcap_m\bigcup_{j\ge m}B_j$ とおく。Borel–Cantelliの補題 から $\mu(B)=0$ である。$E\setminus B=\bigcup_m\bigcap_{j\ge m}(E\setminus B_j)$ で、$\nu\bigl(\bigcap_{j\ge m}(E\setminus B_j)\bigr)\le2^{-m}$ なので $\nu(E\setminus B)=0$ である。$\square$
$B_j$ は「$\nu$ から来たと判定する」棄却域で、$\mu(B_j)$ と $\nu(E\setminus B_j)$ は 2 種類の誤りの確率である。誤りをいくらでも小さくできる検定の列があれば、2 つの測度は特異になる。
1 次元の正規分布どうしの $\rho$ は計算でき、
$$
\int_{\mathbb{R}}\sqrt{\varphi_{0,1}\,\varphi_{d,\lambda}}\,dx=\Bigl(\frac{2\sqrt\lambda}{1+\lambda}\Bigr)^{1/2}\exp\Bigl(-\frac{d^2}{4(1+\lambda)}\Bigr)
$$
である($\varphi_{d,\lambda}$ は $N(d,\lambda)$ の密度。指数の中を平方完成する)。$1-\bigl(\frac{2\sqrt\lambda}{1+\lambda}\bigr)^2=\frac{(\lambda-1)^2}{(1+\lambda)^2}$ で $-\log\rho=-\frac14\log\bigl(1-\frac{(\lambda-1)^2}{(1+\lambda)^2}\bigr)+\frac{d^2}{4(1+\lambda)}$ の 2 項はどちらも $0$ 以上なので、$\lambda_k$ が正の定数の間にあれば、$\prod_k\rho_k>0$ は $\sum_k(\lambda_k-1)^2< \infty$ かつ $\sum_kd_k^2< \infty$ と同値である。
条件のどれかが満たされなければ $\mu\perp\nu$(1〜3)、すべて成り立てば $\mu\sim\nu$(4)であることを示す。互いに特異な測度は同値でないので、これで両方の主張が従う。$\ell^\circ:=\ell-m_\mu(\ell)$ と書く。$\ell_1,\dots,\ell_n\in E^*$ が $q_\mu(\ell_i,\ell_j)=\delta_{ij}$ を満たせば、$\mu$ のもとで $(\ell_1^\circ,\dots,\ell_n^\circ)$ は独立に $N(0,1)$ に従う(無相関な多変量正規分布)。
1.(FH1) が満たされない場合。 $\mu$ と $\nu$ を入れ替えてよいので、$q_\nu(\ell)/q_\mu(\ell)$($q_\mu(\ell)=0< q_\nu(\ell)$ なら $\infty$ とする)の上限が $\infty$ であるとする。各 $j$ について $q_\nu(\ell_j)=1$、$q_\mu(\ell_j)\le16^{-j}$ となる $\ell_j$ がとれる。$B_j:=\{\lvert\ell_j^\circ\rvert>2^{-j}\}$ とおくと、Chebyshevの不等式 から $\mu(B_j)\le16^{-j}/4^{-j}=4^{-j}$ である。$\nu$ のもとで $\ell_j^\circ$ は分散 $1$ の正規分布に従い、その密度は $1/\sqrt{2\pi}$ 以下なので $\nu(E\setminus B_j)\le2\cdot2^{-j}/\sqrt{2\pi}< 2^{-j}$ である。lem-fh-test により $\mu\perp\nu$ である。
2.(FH1) が成り立ち (FH2) が満たされない場合。 $d(\ell):=m_\nu(\ell)-m_\mu(\ell)$ とおく。$q_\mu(\ell)=0$ かつ $d(\ell)\ne0$ の $\ell$ があれば、(FH1) から $q_\nu(\ell)=0$ で、$\ell$ は $\mu$-a.s. に $m_\mu(\ell)$、$\nu$-a.s. に $m_\nu(\ell)$ に等しいので特異である。そうでなければ、各 $j$ について $q_\mu(\ell_j)=1$、$d(\ell_j)^2\ge4c\cdot2^j$ となる $\ell_j$ がとれる。$B_j:=\{\lvert\ell_j^\circ\rvert\ge\lvert d(\ell_j)\rvert/2\}$ とおくと、Chebyshev の不等式から $\mu(B_j)\le4/d(\ell_j)^2\le2^{-j}$、$\nu(E\setminus B_j)\le\nu\bigl(\lvert\ell_j-m_\nu(\ell_j)\rvert>\lvert d(\ell_j)\rvert/2\bigr)\le4c/d(\ell_j)^2\le2^{-j}$ である。
3.(FH1) が成り立ち (FH3) が満たされない場合。 $j$ を固定し、$s_0:=16c^2\cdot2^j$ とおく。$q_\mu(\ell_i,\ell_k)=\delta_{ik}$ で $\sum_{i,k}(G_{ik}-\delta_{ik})^2\ge2s_0$ となる $\ell_1,\dots,\ell_n$ をとる($G:=(q_\nu(\ell_i,\ell_k))$)。直交行列 $U$ で $UGU^{\top}=\operatorname{diag}(\lambda_i)$ とし、$f_i:=\sum_kU_{ik}\ell_k$ とおくと、$q_\mu(f_i,f_k)=\delta_{ik}$、$q_\nu(f_i,f_k)=\lambda_i\delta_{ik}$、$\sum_i(\lambda_i-1)^2=\sum_{i,k}(G_{ik}-\delta_{ik})^2$ で、(FH1) から $\lambda_i\in[c^{-1},c]$ である。$\lambda_i>1$ の $i$ にわたる $(\lambda_i-1)^2$ の和と、$\lambda_i< 1$ の $i$ にわたる和の一方は $s_0$ 以上である。後者なら、$f_i/\sqrt{\lambda_i}$ は $\nu$ について正規直交で、$\mu$ のもとでの分散 $\lambda_i^{-1}\in(1,c]$ について $(\lambda_i^{-1}-1)^2\ge(\lambda_i-1)^2$ なので、$\mu$ と $\nu$ を入れ替えて前者の場合に帰着する。
そこで $I:=\{i:\lambda_i>1\}$、$c_i:=\lambda_i-1\in(0,c]$、$s:=\sum_{i\in I}c_i^2\ge s_0$ とし、
$$
T:=\sum_{i\in I}c_i\bigl((f_i^\circ)^2-1\bigr),\qquad B_j:=\{T\ge s/2\}
$$
とおく。$\mu$ のもとで $f_i^\circ$ は独立に $N(0,1)$ に従うので $E_\mu T=0$、$\operatorname{Var}_\mu T=2s$ で、$\mu(B_j)\le2s/(s/2)^2=8/s$ である。$\nu$ のもとでは $f_i^\circ=\sqrt{\lambda_i}Z_i+d_i$($Z_i$ は独立に $N(0,1)$、$d_i:=d(f_i)$)なので、$r:=\sum_{i\in I}c_id_i^2$ とおくと
$$
E_\nu T=s+r,\qquad\operatorname{Var}_\nu T=\sum_{i\in I}c_i^2\bigl(2\lambda_i^2+4\lambda_id_i^2\bigr)\le4c^2\Bigl(\frac s2+r\Bigr)
$$
である($Z^2$ と $Z$ は無相関、$c_i,\lambda_i\le c$)。Chebyshev の不等式から $\nu(E\setminus B_j)\le\nu\bigl(T-E_\nu T< -(\frac s2+r)\bigr)\le4c^2/(\frac s2+r)\le8c^2/s$ である。$s\ge16c^2\cdot2^j$ なので、どちらも $2^{-j}$ 以下であり、lem-fh-test により $\mu\perp\nu$ である。
4.3 条件が成り立つ場合。 $V:=\{\ell^\circ:\ell\in E^*\}$ とし、$K$ を $V$ の $L^2(\mu)$ での閉包とする。$v=\ell^\circ$ について $E_\nu[v^2]=q_\nu(\ell)+d(\ell)^2\le(c+M)\|v\|_{L^2(\mu)}^2$、$\|v\|_{L^2(\mu)}^2=q_\mu(\ell)\le c\,E_\nu[v^2]$ なので、2 つの $L^2$ ノルムは $V$ の上で同値である。よって恒等写像は $K$ から $L^2(\nu)$ への、有界な逆をもつ有界線形写像 $J$ に延びる。$V$ の上の $\nu$ の共分散 $b(\ell^\circ,\ell'^\circ):=q_\nu(\ell,\ell')$ は $K$ 上の有界な双線形形式に延びるので、$\langle Au,w\rangle_{L^2(\mu)}=b(u,w)$ となる有界な自己共役作用素 $A$ があり、(FH1) から $\langle Au,u\rangle\ge c^{-1}\|u\|^2$ である。$V$ の可算な稠密部分集合に Gram–Schmidt の直交化を施して、$V$ の元からなる $K$ の正規直交基底 $(e_k)$ をとると、(FH3) から $\sum_{i,k\le n}\langle(A-I)e_i,e_k\rangle^2\le D$ なので $\|A-I\|_{HS}^2\le D$ である(逆向きの不等式も、正規直交な組への射影を考えれば成り立つ)。Hilbert–Schmidt 作用素はコンパクトなので、スペクトル定理 により $K$ の正規直交基底 $(f_k)$ で $Af_k=\lambda_kf_k$、$\sum_k(\lambda_k-1)^2\le D$、$\lambda_k\ge c^{-1}$ となるものがある。
$f_k$ に $L^2(\mu)$ で収束する $v_n\in V$ をとると、$v_n=Jv_n$ は $L^2(\nu)$ で $Jf_k$ に収束する。部分列に移って両方の測度で概収束させ、$F_k:=\limsup_nv_n$(Borel 関数)とおくと、$F_k=f_k$($\mu$-a.s.)、$F_k=Jf_k$($\nu$-a.s.)である。正規分布の極限は正規分布なので(Gauss測度 の補題「正規分布の極限は正規分布」)、$\mu$ のもとで $(F_k)$ は独立に $N(0,1)$ に従い、$\nu$ のもとで $(F_k)$ は独立に $N(\delta_k,\lambda_k)$ に従う。ここで $\delta_k:=\lim_nd(\ell_n)$($v_n=\ell_n^\circ$)で、(FH2) から $d$ は $K$ 上の有界な線形汎関数 $u\mapsto\langle u,g\rangle$ に延び、$\delta_k=\langle f_k,g\rangle$、$\sum_k\delta_k^2=\|g\|^2\le M$ である。$\Phi:=(F_k)_k\colon E\to\mathbb{R}^{\mathbb{N}}$ とおくと、$\Phi_*\mu=\bigotimes_kN(0,1)$、$\Phi_*\nu=\bigotimes_kN(\delta_k,\lambda_k)$ で、lem-fh-kakutani の後の計算から $\Phi_*\mu\sim\Phi_*\nu$ である。
最後に $E$ に戻す。$\ell\in E^*$ について $\ell^\circ=\sum_ka_kf_k$($L^2(\mu)$)で、$J$ の連続性から $\ell^\circ=\sum_ka_kJf_k$($L^2(\nu)$)でもある。部分和 $\sum_{k\le N}a_kF_k$ は $\Phi$ で決まる関数で、部分列が $\mu$-a.s. かつ $\nu$-a.s. に $\ell^\circ$ に収束する。$E$ の Borel 集合族は可算個の $\ell_m\in E^*$ で生成される(Gauss測度 の定理「特性汎関数は測度を決める」の証明)。$\mu(B\triangle B')=\nu(B\triangle B')=0$ となる $B'\in\sigma(\Phi)$ がある Borel 集合 $B$ の全体は $\sigma$ 代数で、$\{\ell_m\le t\}$ を含むので、すべての Borel 集合からなる。$h:=d(\Phi_*\nu)/d(\Phi_*\mu)$ とし、$B'=\Phi^{-1}(C)$ とすると
$$
\nu(B)=\Phi_*\nu(C)=\int_Ch\,d(\Phi_*\mu)=\int_Bh\circ\Phi\,d\mu
$$
なので $\nu\ll\mu$ である。$\mu$ と $\nu$ を入れ替えて $\mu\ll\nu$ も得る。$\square$
証明の 1〜3 は、Feldman が Fel58 の序文(p. 699)で C. Stein の示唆として触れている、仮説検定による証明の筋道である。4 の、2 つの共分散を同時に対角化して独立な座標に写す議論は Feldman の証明と同じ型だが、ここでは角谷の判定(lem-fh-kakutani)を直接使う形に書き下ろした。
$E=\ell^2$ とし、$a_k,b_k>0$、$\sum_ka_k< \infty$、$\sum_kb_k< \infty$、$(m_k)\in\ell^2$ とする。独立に $N(0,1)$ に従う $\xi_k$ で、$\mu$ を $\sum_k\sqrt{a_k}\xi_ke_k$ の分布、$\nu$ を $\sum_k(m_k+\sqrt{b_k}\xi_k)e_k$ の分布とする。このとき
$$
\mu\sim\nu\iff\sum_k\Bigl(\frac{b_k}{a_k}-1\Bigr)^2< \infty\ \text{かつ}\ \sum_k\frac{m_k^2}{a_k}< \infty
$$
で、そうでなければ $\mu\perp\nu$ である。実際、$\ell_k:=\langle\cdot,e_k\rangle/\sqrt{a_k}$ は $\mu$ について正規直交で、$q_\nu(\ell_i,\ell_k)=\frac{b_k}{a_k}\delta_{ik}$ なので $D\ge\sum_{k\le n}(b_k/a_k-1)^2$ である。この級数が収束すれば $b_k/a_k\to1$ で、$q_\nu(\langle\cdot,h\rangle)=\sum_kb_kh_k^2$、$q_\mu(\langle\cdot,h\rangle)=\sum_ka_kh_k^2$ から (FH1) が成り立ち、$\ell_k$ が $K$ を張って $A\ell_k^\circ=\frac{b_k}{a_k}\ell_k^\circ$ なので $D=\sum_k(b_k/a_k-1)^2$ である(rem-fh-conditions の 3)。$\ell=\langle\cdot,h\rangle$ について $d(\ell)=\sum_km_kh_k$、$q_\mu(\ell)=\sum_ka_kh_k^2$ で、Cauchy–Schwarz の不等式から $M=\sum_km_k^2/a_k$ である。
Wiener 測度の例では、$\mu$ を標準 Brown 運動 $W$ の $C_0[0,1]$ 上の分布とする。その Cameron–Martin 空間は $H^1_0$ で、$e(t):=t$ は $\|e\|_{H^1_0}=1$ をもつ(Cameron–Martin空間 の定理「Wiener 測度の Cameron–Martin 空間」)。
2・3 の共分散を計算する。$\ell\in E^*$ について、Cameron–Martin空間 の等式 (R) から $E[\ell(W)W_1]=\ell(e)$ なので、Brown 橋では $q_\nu(\ell)=q_\mu(\ell)-\ell(e)^2$、$W+\xi h$ では $q_\nu(\ell)=q_\mu(\ell)+\ell(h)^2$ である。$\mu$ について正規直交な $\ell_1,\dots,\ell_n$ では $q_\nu(\ell_i,\ell_j)-\delta_{ij}=\mp\ell_i(h)\ell_j(h)$(Brown 橋では $h=e$)で、(FH3) の和は $\bigl(\sum_i\ell_i(h)^2\bigr)^2$ である。$h=e\in H_\mu$ なら、(R) から $\ell_i(e)=\langle\ell_i,\hat e\rangle_{L^2(\mu)}$ で、Bessel の不等式から和は $\|e\|^4=1$ 以下、また $\ell(e)^2\le q_\mu(\ell)$ なので $W+\xi e$ では $q_\mu\le q_\nu\le2q_\mu$ である。平均はどれも $0$ なので、$W+\xi e$ は 3 条件を満たし、同値である。$h(t)=\sqrt t\notin H^1_0$(Cameron–Martin空間 の例「$\sqrt t$ だけ動かすと特異になる」)なら、上限による特徴づけから $\ell(h)^2/q_\mu(\ell)$ の上限は $\infty$ で、(FH1) が満たされない。$\square$
2 の Brown 橋は (FH2)・(FH3) を満たし(和は $1$ 以下)、(FH1) だけが満たされない。(FH1) が (FH3) から従わないことを示す例である。3 は、Cameron–Martin空間 の方向にだけ乱数で揺らしても測度は変わらず(同値のまま)、その外の方向に揺らすと特異になることを示す。
| 主張 | 外す条件 | 例 | 成り立たなくなること |
|---|---|---|---|
| 同値か特異かの二者択一 | $\nu$ が Gauss 測度 | $E=\mathbb{R}$、$\mu=N(0,1)$、$\nu=\frac12N(0,1)+\frac12\delta_0$ | $\nu(\{0\})=\frac12$、$\mu(\{0\})=0$ で同値でない。$\mu(B)=0$ なら $\nu(B)\le\frac12$ なので特異でもない |
| (FH3):Hilbert–Schmidt | コンパクトに弱める | ex-fh-diagonal で $b_k/a_k=1+k^{-1/2}$、$m=0$ | $A-I$ は固有値 $k^{-1/2}\to0$ のコンパクト作用素だが、$\sum_k k^{-1}=\infty$ なので特異 |
| (FH1) | (FH2)・(FH3) だけにする | ex-fh-wiener の 2(Brown 橋) | (FH2)・(FH3) は成り立つが特異 |
| (FH2) | 共分散だけを比べる | $W$ と $W+h$($h(t)=\sqrt t$) | 共分散は同じだが特異(Cameron–Martin空間 の定理「Cameron–Martin の定理」) |
J. Feldman(Fel58)と J. Hájek(Haj58)が 1958 年に独立に、任意の添字集合をもつ Gauss 過程の分布について二者択一を示した。Feldman は、角谷静夫による無限積測度の二者択一(1948 年)の一般化として結果を位置づけ、平均が $0$ でない場合まで同値の条件を与えた(Fel58 pp. 699, 703)。Hájek は $J$ ダイバージェンスを使い、分散の倍率の変更と Gauss–Markov 過程の平行移動に応用した(Haj58 英文要約、pp. 617–618)。Wiener 測度の倍率の変更で測度が特異になることは、R. H. Cameron と W. T. Martin が 1947 年に示していた(Haj58 の文献 [1]、Fel58 p. 699 の記述による)。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する