Slepianの補題

同義語:Slepianの不等式スレピアンの補題Slepian's lemmaSlepian's inequality

概要

Slepianの補題(Slepian's lemma)とは、中心化された Gauss ベクトル $X,Y$ で各成分の分散が等しく、成分どうしの共分散が $E[X_iX_j]\ge E[Y_iY_j]$ を満たすなら、すべての $\tau$ で $P(\max_iX_i\ge\tau)\le P(\max_iY_i\ge\tau)$ が成り立つという比較定理である。相関の強い成分ほど最大値は小さい。分散の仮定を外し、増分 $E(X_i-X_j)^2$ の大小だけを仮定すると、期待値の比較 $E\max_iX_i\le E\max_iY_i$ が成り立つ(Sudakov–Fernique の不等式)。どちらも Gauss 分布の部分積分と、共分散を線形に結ぶ補間で証明され、Gauss 行列の作用素ノルムの評価などに使われる。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 多変量正規分布, Gauss過程, 部分積分

Slepianの補題(Slepian's lemma)は、中心化された Gauss 確率ベクトルの最大値の大きさを、共分散の大小で比べる不等式である。2 つの中心化 Gauss ベクトル $X=(X_1,\dots,X_n)$、$Y=(Y_1,\dots,Y_n)$ の各成分の分散が等しく、$X$ の成分どうしの共分散が $Y$ のそれ以上なら、すべての $\tau$ について
$$ P\Bigl(\max_iX_i\ge\tau\Bigr)\le P\Bigl(\max_iY_i\ge\tau\Bigr) $$
が成り立つ。成分が互いに強く相関しているほど、最大値は小さくなる。
Gauss過程 の上限 $\sup_tX_t$ の大きさは、確率過程の連続性、ランダム行列のノルム、統計の多重検定などで基本的な量である。上限の分布は一般には計算できないが、Slepian の補題を使うと、扱いやすい別の Gauss 過程(独立な成分の過程など)との比較で評価できる。分散の仮定を外し、期待値どうしの比較に限ったものが Sudakov–Fernique の不等式で、こちらは増分の大きさ $E(X_i-X_j)^2$ だけで決まる。
この記事では、Gauss 分布の部分積分と、2 つの Gauss ベクトルを結ぶ補間とによって、両方の不等式を証明する。

結果内容扱い
lem-sl-ibpGauss 分布の部分積分証明
lem-sl-interpGauss 補間の微分公式証明
thm-sl-mainSlepian の補題(主定理)証明
thm-sl-sfSudakov–Fernique の不等式証明
ex-sl-matrixGauss 行列の作用素ノルムの評価証明
thm-sl-gordonGordon の不等式証明
thm-sl-sudakovSudakov の下界引用

設定と主定理

以下、$\mathbb R^n$ の値の確率変数 $X$ が 中心化 Gauss ベクトル であるとは、$X$ が平均 $0$ の 多変量正規分布 に従うことをいう(共分散行列が退化していてもよい)。共分散行列を $\Sigma^X=(\Sigma^X_{ij})$、$\Sigma^X_{ij}:=E[X_iX_j]$ と書く。$Y$ についても同様とする。成分どうしの距離を
$$ d_X(i,j):=\bigl(E(X_i-X_j)^2\bigr)^{1/2}=\bigl(\Sigma^X_{ii}+\Sigma^X_{jj}-2\Sigma^X_{ij}\bigr)^{1/2} $$
と書く。$d_X$ は添字の集合の上の擬距離で、Gauss過程 の 標準擬距離 とよばれる。

Slepian の補題

$X$、$Y$ を $\mathbb R^n$ の中心化 Gauss ベクトルとし、
$$ \Sigma^X_{ii}=\Sigma^Y_{ii}\quad(1\le i\le n),\qquad\Sigma^X_{ij}\ge\Sigma^Y_{ij}\quad(i\ne j) $$
とする。このとき、任意の実数 $\tau_1,\dots,\tau_n$ について
$$ P\bigl(X_i< \tau_i\ (1\le i\le n)\bigr)\ge P\bigl(Y_i< \tau_i\ (1\le i\le n)\bigr) $$
である。とくに、任意の実数 $\tau$ について
$$ P\Bigl(\max_iX_i\ge\tau\Bigr)\le P\Bigl(\max_iY_i\ge\tau\Bigr),\qquad E\Bigl[\max_iX_i\Bigr]\le E\Bigl[\max_iY_i\Bigr] $$
である。

証明の所在

証明は、次の節の 2 つの補題を用意したあと、節「主定理の証明」で与える(prf-sl-main)。

分散が等しいとき $d_X(i,j)^2=2\Sigma^X_{ii}-2\Sigma^X_{ij}$ なので、共分散の仮定は「$d_X(i,j)\le d_Y(i,j)$ がすべての $i,j$ で成り立つ」と同じである。増分の小さい過程ほど、最大値は小さい。
$Y$ を独立な成分にとると、次が得られる。

正の相関をもつ場合

$X$ を中心化 Gauss ベクトルとし、$E[X_iX_j]\ge0$($i\ne j$)とする。任意の実数 $\tau_1,\dots,\tau_n$ について
$$ P\bigl(X_i< \tau_i\ (1\le i\le n)\bigr)\ge\prod_{i=1}^nP(X_i< \tau_i) $$
である。

$Y_1,\dots,Y_n$ を独立で $Y_i$ が $X_i$ と同じ分布 $N(0,\Sigma^X_{ii})$ に従うものとすると、$\Sigma^Y_{ij}=0\le\Sigma^X_{ij}$($i\ne j$)である。thm-sl-main の右辺は独立性から積に分かれる。$\square$

Gauss の部分積分と補間

証明の道具は 2 つの補題である。関数 $f\colon\mathbb R^n\to\mathbb R$ が 多項式の増大度 をもつとは、定数 $C,m$ があって $\lvert f(x)\rvert\le C(1+\lvert x\rvert)^m$ がすべての $x$ で成り立つことをいう。

Gauss 分布の部分積分

$X$ を $\mathbb R^n$ の中心化 Gauss ベクトルとし、$f\colon\mathbb R^n\to\mathbb R$ を $C^1$ 級で、$f$ と偏導関数がどれも多項式の増大度をもつとする。このとき
$$ E[X_if(X)]=\sum_{j=1}^n\Sigma^X_{ij}\,E[\partial_jf(X)]\qquad(1\le i\le n) $$
である。

1 次元に帰着する

1 次元の場合。 $Z\sim N(0,1)$、$\varphi(z):=(2\pi)^{-1/2}e^{-z^2/2}$ とし、$g\colon\mathbb R\to\mathbb R$ を $C^1$ 級で $g$、$g'$ が多項式の増大度をもつとする。$\varphi'(z)=-z\varphi(z)$ なので、$[-R,R]$ の上の 部分積分 により
$$ \int_{-R}^Rg(z)\,z\varphi(z)\,dz=-\bigl[g\varphi\bigr]_{-R}^R+\int_{-R}^Rg'(z)\varphi(z)\,dz $$
である。$g(\pm R)\varphi(\pm R)\to0$($R\to\infty$)であり、$\lvert g(z)z\rvert\varphi(z)$ と $\lvert g'(z)\rvert\varphi(z)$ は可積分なので、$E[Zg(Z)]=E[g'(Z)]$ を得る。
一般の場合。 $A:=(\Sigma^X)^{1/2}$(半正定値な対称行列の平方根)とし、$Z=(Z_1,\dots,Z_n)$ を独立な標準正規変数の組とすると、$AZ$ は $X$ と同じ分布をもつ。よって
$$ E[X_if(X)]=\sum_{k}A_{ik}\,E\bigl[Z_kf(AZ)\bigr] $$
である。$Z_k$ 以外の座標を固定して $z_k\mapsto f(Az)$ に 1 次元の場合を当て、残りの座標で積分すると(多項式の増大度から Fubini の定理が使える)、$E[Z_kf(AZ)]=\sum_jA_{jk}E[\partial_jf(AZ)]$ である。$\sum_kA_{ik}A_{jk}=(A^2)_{ij}=\Sigma^X_{ij}$ なので結論を得る。$\square$

2 つの Gauss ベクトルを、共分散を線形に結ぶ道でつなぐ。

Gauss 補間

$X$、$Y$ を独立な $\mathbb R^n$ の中心化 Gauss ベクトルとし、$Z(u):=\sqrt uX+\sqrt{1-u}\,Y$($0\le u\le1$)とおく。$f$ を $C^2$ 級で、$f$ と 1 階・2 階の偏導関数がどれも多項式の増大度をもつとする。このとき $\phi(u):=E[f(Z(u))]$ は $[0,1]$ で連続、$(0,1)$ で微分可能で、
$$ \phi'(u)=\frac12\sum_{i,j=1}^n\bigl(\Sigma^X_{ij}-\Sigma^Y_{ij}\bigr)\,E\bigl[\partial_i\partial_jf(Z(u))\bigr] $$
である。

微分してから部分積分を当てる

$\lvert Z(u)\rvert\le\lvert X\rvert+\lvert Y\rvert$ なので、$f(Z(u))$ は $u$ によらない可積分な関数 $C(1+\lvert X\rvert+\lvert Y\rvert)^m$ で抑えられ、優収束定理 から $\phi$ は $[0,1]$ で連続である。
$u\in(0,1)$ では
$$ \frac{d}{du}f(Z(u))=\sum_i\partial_if(Z(u))\Bigl(\frac{X_i}{2\sqrt u}-\frac{Y_i}{2\sqrt{1-u}}\Bigr) $$
であり、$u$ が $[a,b]\subset(0,1)$ を動くとき右辺は $u$ によらない可積分な関数で抑えられる。平均値の定理と優収束定理により、$\phi$ は微分可能で、期待値と微分を交換してよい。
$X_i$ を含む項を計算する。$Y$ を固定すると、$x\mapsto\partial_if(\sqrt ux+\sqrt{1-u}\,Y)$ は lem-sl-ibp の仮定を満たし、その $x_j$ による偏導関数は $\sqrt u\,\partial_j\partial_if(\cdots)$ である。$X$ と $Y$ は独立なので、lem-sl-ibp を $X$ について当ててから $Y$ で積分すると
$$ E\Bigl[\frac{X_i}{2\sqrt u}\partial_if(Z(u))\Bigr]=\frac12\sum_j\Sigma^X_{ij}E\bigl[\partial_i\partial_jf(Z(u))\bigr] $$
である。$Y_i$ を含む項も同様に $-\frac12\sum_j\Sigma^Y_{ij}E[\partial_i\partial_jf(Z(u))]$ になる。$i$ について和をとれば結論を得る。$\square$

$Z(u)$ の共分散行列は $u\Sigma^X+(1-u)\Sigma^Y$ で、$Z(0)=Y$、$Z(1)=X$ である。lem-sl-interp は、共分散を $\Sigma^Y$ から $\Sigma^X$ へ動かしたときの期待値の変化率が、共分散の差と $f$ の Hesse 行列の内積であることを述べている。$f$ の混合偏導関数の符号と共分散の差の符号がそろえば、$\phi$ は単調になる。

主定理の証明

指示関数を滑らかな関数の積で近づける

主張は $X$ と $Y$ それぞれの分布だけによるので、直積の確率空間をとって $X$ と $Y$ は独立としてよい。
段 1:滑らかな近似。 $\psi\colon\mathbb R\to[0,1]$ を $C^\infty$ 級の非減少関数で、$s\le0$ で $\psi(s)=0$、$s\ge1$ で $\psi(s)=1$ となるものとする(たとえば $e^{-1/s}$ から作る標準的な関数)。$\delta>0$ を固定し、
$$ h_i(x):=\psi\Bigl(\frac{\tau_i-x}\delta\Bigr),\qquad f(x):=\prod_{i=1}^nh_i(x_i) $$
とおく。$h_i$ は非増加で、$x\le\tau_i-\delta$ では $1$、$x\ge\tau_i$ では $0$ である。よって
$$ \mathbf 1\{x_i< \tau_i-\delta\ (\forall i)\}\le f(x)\le\mathbf 1\{x_i< \tau_i\ (\forall i)\} $$
である(これを挟み込みと呼ぶ)。$f$ は有界で、偏導関数も有界である。
段 2:混合偏導関数の符号。 $i\ne j$ について
$$ \partial_i\partial_jf(x)=h_i'(x_i)\,h_j'(x_j)\prod_{k\ne i,j}h_k(x_k)\ge0 $$
である。$h_i'\le0$、$h_j'\le0$ で、残りの因子は非負だからである。
段 3:補間。 lem-sl-interp の和のうち $i=j$ の項は、$\Sigma^X_{ii}=\Sigma^Y_{ii}$ なので $0$ である。$i\ne j$ の項は、$\Sigma^X_{ij}-\Sigma^Y_{ij}\ge0$ と段 2 から非負である。よって $\phi'\ge0$ で、$\phi$ は $[0,1]$ で連続なので $\phi(1)\ge\phi(0)$、すなわち $E[f(X)]\ge E[f(Y)]$ である。
段 4:極限。 段 1 の挟み込みから
$$ P\bigl(X_i< \tau_i\ (\forall i)\bigr)\ge E[f(X)]\ge E[f(Y)]\ge P\bigl(Y_i< \tau_i-\delta\ (\forall i)\bigr) $$
である。$\delta\downarrow0$ とすると、事象 $\{Y_i< \tau_i-\delta\ (\forall i)\}$ は増加して $\{Y_i< \tau_i\ (\forall i)\}$ に近づくので、右辺は $P(Y_i< \tau_i\ (\forall i))$ に収束する。これで第 1 の主張が示された。
段 5:最大値。 $\tau_i=\tau$ とおいて余事象をとると $P(\max_iX_i\ge\tau)\le P(\max_iY_i\ge\tau)$ である。$\lvert\max_iX_i\rvert\le\sum_i\lvert X_i\rvert$ なので $\max_iX_i$ は可積分で、可積分な確率変数 $M$ について
$$ E[M]=\int_0^\infty P(M\ge\tau)\,d\tau-\int_{-\infty}^0P(M< \tau)\,d\tau $$
である。$M=\max_iX_i$ と $M=\max_iY_i$ を比べると、第 1 項は $Y$ のほうが大きく、第 2 項($P(M< \tau)=1-P(M\ge\tau)$)は $Y$ のほうが小さい。よって $E[\max_iX_i]\le E[\max_iY_i]$ である。$\square$

添字の集合 $T$ が可算なときは、有限集合の増加列 $T_1\subset T_2\subset\cdots$、$\bigcup_kT_k=T$ をとると、$\{\sup_{t\in T}X_t>\tau\}$ は $\{\max_{t\in T_k}X_t>\tau\}$ の増加する和である。$P(\max_{T_k}X_t>\tau)=\lim_{\delta\downarrow0}P(\max_{T_k}X_t\ge\tau+\delta)$ なので、thm-sl-main から $P(\sup_TX_t>\tau)\le P(\sup_TY_t>\tau)$ を得る。$\sup_TY_t$ が可積分なら、単調収束定理 により期待値の不等式 $E[\sup_TX_t]\le E[\sup_TY_t]$ も成り立つ。経路が連続な過程では、$T$ を可算な稠密部分集合に替えればよい。

Sudakov–Fernique の不等式

分散の仮定を外すと、裾の確率の比較は成り立たなくなる(節「反例:仮定を外すと成り立たないこと」)。それでも期待値どうしの比較は、増分の大小だけから成り立つ。

Sudakov–Fernique の不等式

$X$、$Y$ を $\mathbb R^n$ の中心化 Gauss ベクトルとし、すべての $i,j$ について $d_X(i,j)\le d_Y(i,j)$ とする。このとき
$$ E\Bigl[\max_iX_i\Bigr]\le E\Bigl[\max_iY_i\Bigr] $$
である。

最大値を対数和指数で近づける

$X$ と $Y$ は独立としてよい。$\beta>0$ について
$$ f_\beta(x):=\frac1\beta\log\sum_{i=1}^ne^{\beta x_i},\qquad p_i(x):=\frac{e^{\beta x_i}}{\sum_ke^{\beta x_k}} $$
とおく。$e^{\beta\max_ix_i}\le\sum_ke^{\beta x_k}\le ne^{\beta\max_ix_i}$ から
$$ \max_ix_i\le f_\beta(x)\le\max_ix_i+\frac{\log n}\beta $$
である。$\partial_if_\beta=p_i$、$\partial_i\partial_jf_\beta=\beta(\delta_{ij}p_i-p_ip_j)$ で、$f_\beta$ は高々 1 次の増大度、偏導関数は有界である。
$\sum_ip_i=1$ を満たす $p$ と対称行列 $\sigma$ について
$$ \sum_{i,j}\sigma_{ij}(\delta_{ij}p_i-p_ip_j)=\sum_{i,j}\sigma_{ii}p_ip_j-\sum_{i,j}\sigma_{ij}p_ip_j=\frac12\sum_{i\ne j}(\sigma_{ii}+\sigma_{jj}-2\sigma_{ij})p_ip_j $$
である(第 1 の等号で $p_i=p_i\sum_jp_j$ を使い、第 2 の等号で $i$ と $j$ について対称化した。$i=j$ の項は $0$ である)。$\sigma:=\Sigma^X-\Sigma^Y$ とすると $\sigma_{ii}+\sigma_{jj}-2\sigma_{ij}=d_X(i,j)^2-d_Y(i,j)^2\le0$ なので、lem-sl-interp から
$$ \phi'(u)=\frac\beta4\sum_{i\ne j}\bigl(d_X(i,j)^2-d_Y(i,j)^2\bigr)E\bigl[p_i(Z(u))\,p_j(Z(u))\bigr]\le0 $$
であり、$E[f_\beta(X)]\le E[f_\beta(Y)]$ である。$f_\beta$ と最大値の上の評価から
$$ E\Bigl[\max_iX_i\Bigr]\le E[f_\beta(X)]\le E[f_\beta(Y)]\le E\Bigl[\max_iY_i\Bigr]+\frac{\log n}\beta $$
で、$\beta\to\infty$ とすればよい。$\square$

分散が等しいとき、$d_X\le d_Y$ は thm-sl-main の仮定と同じなので、thm-sl-sf は thm-sl-main の期待値の部分を含む。一般の場合は、裾の比較の代わりに期待値の比較だけが残る。

Gauss 行列の作用素ノルム

$A$ を成分が独立な $N(0,1)$ の $m\times n$ 行列とする。作用素ノルム について
$$ E\| A\|\le\sqrt m+\sqrt n $$
である。
証明. $S^{k-1}$ を $\mathbb R^k$ の単位球面とし、$(v,w)\in T:=S^{n-1}\times S^{m-1}$ について $X_{vw}:=\langle Av,w\rangle$ とおくと、$\| A\|=\sup_TX_{vw}$ である。$X_{vw}=\sum_{i,j}A_{ij}w_iv_j$ なので
$$ E(X_{vw}-X_{v'w'})^2=\sum_{i,j}(w_iv_j-w'_iv'_j)^2=\| wv^{\mathsf T}-w'v'^{\mathsf T}\|_F^2=2-2\langle v,v'\rangle\langle w,w'\rangle $$
である。比較の相手として、独立な $g\sim N(0,I_n)$、$h\sim N(0,I_m)$ による $Y_{vw}:=\langle g,v\rangle+\langle h,w\rangle$ をとると、$E(Y_{vw}-Y_{v'w'})^2=\lvert v-v'\rvert^2+\lvert w-w'\rvert^2=4-2a-2b$ である($a:=\langle v,v'\rangle$、$b:=\langle w,w'\rangle$)。差は
$$ (4-2a-2b)-(2-2ab)=2(1-a)(1-b)\ge0 $$
で、$d_X\le d_Y$ が成り立つ。$T$ の可算な稠密部分集合の有限部分集合に thm-sl-sf を当て、上の注意のとおり極限をとる(どちらの過程も $(v,w)$ について連続である)と
$$ E\| A\|\le E\sup_{v}\langle g,v\rangle+E\sup_w\langle h,w\rangle=E\lvert g\rvert+E\lvert h\rvert\le\sqrt n+\sqrt m $$
を得る。最後は $E\lvert g\rvert\le(E\lvert g\rvert^2)^{1/2}=\sqrt n$ による。$\square$

$m=n$ なら $E\| A\|\le2\sqrt n$ で、Wignerの半円則 の尺度 $\sqrt n$ と合う。この評価は Ver18 Theorem 7.3.1(p. 168)である。

Gordon の不等式と Sudakov の下界

補間の方法は、最大値の最小値(min-max)にも使える。添字を $U\times T$($U$、$T$ は有限集合)の組 $(u,t)$ とする。

Gordon の不等式

$X=(X_{ut})$、$Y=(Y_{ut})$ を $U\times T$ を添字とする中心化 Gauss ベクトルとし、すべての $u,v\in U$、$t,s\in T$ について
$$ E X_{ut}^2=E Y_{ut}^2,\qquad E(X_{ut}-X_{us})^2\le E(Y_{ut}-Y_{us})^2,\qquad E(X_{ut}-X_{vs})^2\ge E(Y_{ut}-Y_{vs})^2\ (u\ne v) $$
とする。このとき任意の実数 $\tau$ について
$$ P\Bigl(\min_{u\in U}\max_{t\in T}X_{ut}\ge\tau\Bigr)\le P\Bigl(\min_{u\in U}\max_{t\in T}Y_{ut}\ge\tau\Bigr) $$
である。

行ごとの積の補間

要点:$f(x):=\prod_u\bigl(1-\prod_th(x_{ut})\bigr)$($h$ は prf-sl-main の $h_i$ と同じ形)に lem-sl-interp を当てると、混合偏導関数の符号が同じ行で非正、異なる行で非負になり、$\phi'\le0$ となる。

詳しい証明を開く

prf-sl-main の $\psi$ と $\delta>0$ について $h(x):=\psi((\tau-x)/\delta)$、$g_u(x):=\prod_{t\in T}h(x_{ut})$、$f(x):=\prod_{u\in U}(1-g_u(x))$ とおく。$g_u$ は $\max_tx_{ut}< \tau-\delta$ なら $1$、$\max_tx_{ut}\ge\tau$ なら $0$ なので、$\mathbf 1\{\min_u\max_tx_{ut}\ge\tau\}\le f(x)\le\mathbf 1\{\min_u\max_tx_{ut}\ge\tau-\delta\}$ である。

$\partial_{ut}g_u=h'(x_{ut})\prod_{s\ne t}h(x_{us})\le0$ である。同じ行の $t\ne s$ では $\partial_{ut}\partial_{us}f=-h'(x_{ut})h'(x_{us})\prod_{r\ne t,s}h(x_{ur})\prod_{v\ne u}(1-g_v)\le0$ であり、異なる行 $u\ne v$ では $\partial_{ut}\partial_{vs}f=(\partial_{ut}g_u)(\partial_{vs}g_v)\prod_{w\ne u,v}(1-g_w)\ge0$ である。

分散が等しいので、仮定は同じ行で $\Sigma^X\ge\Sigma^Y$、異なる行で $\Sigma^X\le\Sigma^Y$ と同じである。lem-sl-interp の和は、対角の項が $0$、同じ行の項が(非負)×(非正)、異なる行の項が(非正)×(非負)で、$\phi'\le0$ である。よって $P(\min_u\max_tX_{ut}\ge\tau)\le E[f(X)]\le E[f(Y)]\le P(\min_u\max_tY_{ut}\ge\tau-\delta)$ であり、$\delta\downarrow0$ とすればよい(右辺の事象は減少して $\{\min_u\max_tY_{ut}\ge\tau\}$ に近づく)。$\square$

$U$ が 1 点なら thm-sl-gordon は thm-sl-main の最大値の形に戻る。Gordon の不等式はランダム行列の最小特異値の下からの評価に使われる。
最後に、Sudakov–Fernique の不等式を独立な成分の過程との比較に使うと、上限の期待値の下界が得られる。$T$ の部分集合 $N$ が $\varepsilon$ 分離 であるとは、$N$ の相異なる 2 点 $t,s$ がつねに $d_X(t,s)>\varepsilon$ を満たすことをいう。$T$ を $d_X$ の半径 $\varepsilon$ の閉球で覆うのに必要な最小の個数を 被覆数 $\mathcal N(T,d_X,\varepsilon)$ という。

Sudakov の下界

絶対定数 $c>0$ があって、任意の中心化 Gauss 過程 $(X_t)_{t\in T}$ と $\varepsilon>0$ について
$$ E\sup_{t\in T}X_t\ge c\,\varepsilon\sqrt{\log\mathcal N(T,d_X,\varepsilon)} $$
である(左辺は有限部分集合の上の最大値の期待値の上限と解釈する)。

所在と証明の筋

これは Ver18 Theorem 7.4.1(p. 171)で、この記事では証明しない。証明の筋は、極大な $\varepsilon$ 分離集合 $N$ の上で $X$ を独立な $N(0,\varepsilon^2/2)$ の族 $Y$ と比べ($d_Y(t,s)=\varepsilon< d_X(t,s)$)、thm-sl-sf を当てて、独立な標準正規変数 $N$ 個の最大値の期待値が $\sqrt{\log N}$ の程度であることを使うものである。上限の期待値の上界は、増分の擬距離による別の議論(連鎖の方法)で与えられる。

反例:仮定を外すと成り立たないこと

主張外す仮定反例成り立たなくなること
thm-sl-main の裾の比較分散が等しいこと$n=2$、$X=(2\xi,2\xi)$、$Y$ は独立な $N(0,1)$ の組、$\tau=3$$P(\max X\ge3)=0.0668\ldots>P(\max Y\ge3)=0.00269\ldots$
thm-sl-main の裾の比較Gauss 性$X=(\eta,\eta)$($\eta=\pm1$ を確率 $1/2$ ずつ)、$Y$ は独立な $N(0,1)$ の組、$\tau=1$$P(\max X\ge1)=1/2>P(\max Y\ge1)=0.2921\ldots$
thm-sl-main・thm-sl-sf の期待値の比較Gauss 性$X$ は独立で $[-\sqrt3,\sqrt3]$ の一様分布に従う 2 成分、$Y$ は独立な $N(0,1)$ の組(共分散はどちらも単位行列)$E\max X=\sqrt3/3=0.5773\ldots>E\max Y=1/\sqrt\pi=0.5641\ldots$
thm-sl-sf増分の大小の向き第 1 行の $X$ と $Y$ を入れ替える($d_X=\sqrt2>d_Y=0$)$E\max X=1/\sqrt\pi>E\max Y=0$
表の確かめ

各行の数値は、標準正規分布の分布関数 $\Phi$ と一様分布の最大値の計算で確かめられる。

計算を開く

第 1 行:$X$ の分散は $4$、$Y$ は $1$ で、$d_X(1,2)=0\le d_Y(1,2)=\sqrt2$ である。$P(2\xi\ge3)=1-\Phi(1.5)=0.0668\ldots$、$P(\max Y\ge3)=1-\Phi(3)^2=0.00269\ldots$ である($\Phi$ は標準正規分布の分布関数)。この例でも thm-sl-sf の結論 $E\max X=0\le E\max Y$ は成り立つ。

第 2 行:$X$ は平均 $0$、共分散行列の成分がすべて $1$ で、$Y$ と分散が等しく、共分散は $1\ge0$ である。$P(\max Y\ge1)=1-\Phi(1)^2=0.2921\ldots$ である。

第 3 行:$[-a,a]$ の一様分布の分散は $a^2/3$ なので $a=\sqrt3$ で分散 $1$ である。独立な 2 つの最大値は、$[0,1]$ の一様分布 2 つの最大値(期待値 $2/3$)を $[-a,a]$ に写したもので、期待値は $-a+2a\cdot\frac23=a/3$ である。$E\max(Y_1,Y_2)=\frac12E\lvert Y_1-Y_2\rvert=\frac12\cdot\sqrt2\cdot\sqrt{2/\pi}=1/\sqrt\pi$ である($\max(a,b)=\frac{a+b}2+\frac{\lvert a-b\rvert}2$)。

歴史と出典

出典

thm-sl-main は D. Slepian(1962 年、Bell System Technical Journal の片側障壁の問題の論文)に、thm-sl-sf は V. N. Sudakov(1971 年)と X. Fernique(1976 年の講義録)に、thm-sl-gordon は Y. Gordon(1985 年)に帰せられる(Ver18 §7.8, pp. 186–187)。補間による証明は J.-P. Kahane の方法に S. Chatterjee の平滑化を組み合わせたもので、Ver18 §7.2(Lemma 7.2.7, p. 163、Theorem 7.2.9, p. 165、Theorem 7.2.11, p. 166)に沿う。この記事では、部分積分と補間の補題に増大度の仮定を付けて微分と期待値の交換を確かめ、近似の段(prf-sl-main の段 1・段 4)と、異なる閾値 $\tau_i$ への一般化を書き足した。thm-sl-gordon は Ver18 では演習(Exercise 7.2.14, pp. 167–168)で、証明はこの記事で書き下ろした。ex-sl-matrix の不等式 $\| wv^{\mathsf T}-w'v'^{\mathsf T}\|_F^2\le\lvert v-v'\rvert^2+\lvert w-w'\rvert^2$ の証明(積 $2(1-a)(1-b)$ による)もこの記事のものである。

関連項目

参考文献

[1]
Roman Vershynin, High-Dimensional Probability: An Introduction with Applications in Data Science, 1st ed., Cambridge University Press, 2018, Theorem 7.2.1(p. 161)、Lemma 7.2.7(p. 163)、Theorem 7.2.9(p. 165)、Theorem 7.2.11(p. 166)、Exercise 7.2.14(pp. 167–168)、Theorem 7.3.1(p. 168)、Theorem 7.4.1(p. 171)、§7.8(pp. 186–187)。番号・頁は著者公開の第 1 版による

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する