Wasserstein距離(Wasserstein distance)とは、距離空間の上の確率測度の間の距離で、一方の測度を他方へ運ぶ最小の費用の $p$ 乗根 $W_p(\mu,\nu)=(\inf_\pi\int d(x,y)^p\,d\pi)^{1/p}$ で定める。$\pi$ は周辺分布が $\mu,\nu$ の結合を動く。完備可分な空間では最適な結合が存在し、貼り合わせの補題により $W_p$ は $p$ 次モーメントが有限な測度の上の距離になる。$p=1$ では Lipschitz 関数の積分の差の上限に等しく(Kantorovich–Rubinstein の定理)、$W_p$ の収束は弱収束と $p$ 次モーメントの収束を合わせたものと同値である。
前提知識: Polish空間, Prokhorovの定理, Minkowskiの不等式
Wasserstein 距離(Wasserstein distance)は、距離空間の上の確率測度の間の距離で、一方の測度を他方へ運ぶのに要する最小の費用で測る。点の間の距離 $d$ と $p\ge1$ から
$$
W_p(\mu,\nu)=\Bigl(\inf_\pi\int d(x,y)^p\,d\pi(x,y)\Bigr)^{1/p}
$$
と定める。$\pi$ は周辺分布が $\mu,\nu$ である測度を動く。
全変動距離では、$\delta_0$ と $\delta_{\varepsilon}$($\varepsilon\ne0$)は $\varepsilon$ がどんなに小さくても離れたままである。Wasserstein 距離では、この 2 つの距離はちょうど $\lvert\varepsilon\rvert$ である。質量をどれだけの距離だけ動かすかを測るので、台が重ならない測度の間でも底の空間の幾何を反映する。
この記事の内容は次のとおりである。
$(X,d)$ を完備可分な距離空間とし、$\mathcal{P}(X)$ を $X$ の上の Borel 確率測度の全体とする。$p\in[1,\infty)$ について
$$
\mathcal{P}_p(X):=\Bigl\{\mu\in\mathcal{P}(X)\Bigm|\int d(x,x_0)^p\,d\mu(x)< \infty\Bigr\}
$$
とおく。三角不等式から、この条件は基点 $x_0\in X$ の取り方によらない。
$\mu,\nu\in\mathcal{P}(X)$ とする。$X\times X$ の上の Borel 確率測度 $\pi$ で、すべての Borel 集合 $A,B\subset X$ について
$$
\pi(A\times X)=\mu(A),\qquad\pi(X\times B)=\nu(B)
$$
を満たすものを、$\mu$ と $\nu$ の 結合(coupling)という。結合の全体を $\Pi(\mu,\nu)$ と書く。
積の測度 $\mu\otimes\nu$ は結合なので、$\Pi(\mu,\nu)$ は空でない。確率変数の言葉では、結合とは、分布が $\mu$ である $Y$ と分布が $\nu$ である $Z$ の同時分布のことである。
$p\in[1,\infty)$、$\mu,\nu\in\mathcal{P}_p(X)$ について
$$
W_p(\mu,\nu):=\Bigl(\inf_{\pi\in\Pi(\mu,\nu)}\int_{X\times X}d(x,y)^p\,d\pi(x,y)\Bigr)^{1/p}
$$
を $\mu,\nu$ の $p$ 次の Wasserstein 距離 という。下限を達成する $\pi$ を 最適な結合 という。
$d(x,y)^p\le2^{p-1}(d(x,x_0)^p+d(y,x_0)^p)$ を結合で積分すると、右辺は $\mu,\nu$ のモーメントで書けるので、$W_p(\mu,\nu)$ は有限である。
質量を写像 $T$ で運ぶ問題では、$T$ による $\mu$ の押し出しが $\nu$ になる必要がある。$X=\mathbb{R}$、$\mu=\delta_0$、$\nu=\frac12(\delta_{-1}+\delta_1)$ なら、そのような写像はない。結合は 1 点の質量を分けて運ぶことを許すので、$\Pi(\mu,\nu)$ は空にならず、しかも凸集合になる。
$\mu,\nu\in\mathcal{P}_p(X)$ について、最適な結合が存在する。
緊密性。 $\varepsilon>0$ とする。Prokhorovの定理 の系「Polish 空間の上の 1 つの測度」により、コンパクト集合 $K_1,K_2\subset X$ で $\mu(X\setminus K_1)\le\varepsilon/2$、$\nu(X\setminus K_2)\le\varepsilon/2$ となるものがある。$\pi\in\Pi(\mu,\nu)$ について
$$
\pi\bigl((X\times X)\setminus(K_1\times K_2)\bigr)\le\pi((X\setminus K_1)\times X)+\pi(X\times(X\setminus K_2))\le\varepsilon
$$
である。$K_1\times K_2$ はコンパクトなので、$\Pi(\mu,\nu)$ は緊密である。
極限の測度。 $\pi_k\in\Pi(\mu,\nu)$ を費用が下限に近づく列とする。$X\times X$ は完備可分なので、Prokhorovの定理 により、部分列(同じ記号で書く)が $\pi\in\mathcal{P}(X\times X)$ に弱収束する。$f\in C_b(X)$ について
$$
\int f(x)\,d\pi(x,y)=\lim_k\int f(x)\,d\pi_k(x,y)=\int f\,d\mu
$$
である。$C_b(X)$ の関数の積分は有限測度を決める(Prokhorovの定理 の補題「連続関数による有限測度の決定」)ので、$\pi$ の第 1 周辺分布は $\mu$ である。第 2 周辺分布も同様で、$\pi\in\Pi(\mu,\nu)$ である。
費用。 $N\in\mathbb{N}$ について $c_N:=\min(d^p,N)$ は $X\times X$ の上の有界連続関数なので
$$
\int c_N\,d\pi=\lim_k\int c_N\,d\pi_k\le\lim_k\int d^p\,d\pi_k=W_p(\mu,\nu)^p
$$
である。$N\to\infty$ として単調収束定理を使うと、$\int d^p\,d\pi\le W_p(\mu,\nu)^p$ である。$\square$
三角不等式を示すには、2 つの結合をつなぐ必要がある。$\mu_1$ から $\mu_2$ へ運び、続けて $\mu_2$ から $\mu_3$ へ運ぶ計画を、1 つの測度にまとめる。
$\mu_1,\mu_2,\mu_3\in\mathcal{P}(X)$、$\pi_{12}\in\Pi(\mu_1,\mu_2)$、$\pi_{23}\in\Pi(\mu_2,\mu_3)$ とする。$X^3$ の上の Borel 確率測度 $\gamma$ で、座標 $(x_1,x_2)$ への押し出しが $\pi_{12}$、座標 $(x_2,x_3)$ への押し出しが $\pi_{23}$ であるものがある。
$X$ は完備可分なので、$\pi_{12}$ を確率測度とする確率空間 $X\times X$ の上で、$x_1$ の $x_2$ についての正則条件付き分布がとれる(Dur19 Theorem 2.1.22、Theorem 4.1.18。この記事では証明しない)。すなわち、$\kappa_1\colon X\times\mathcal{B}(X)\to[0,1]$ で、各 $A$ について $y\mapsto\kappa_1(y,A)$ は Borel 可測、$\mu_2$ についてほとんどすべての $y$ で $\kappa_1(y,\cdot)$ は確率測度であり、
$$
\pi_{12}(A\times B)=\int_B\kappa_1(y,A)\,d\mu_2(y)
$$
を満たすものがある。確率測度にならない $y$ の集合は、ある Borel な $\mu_2$ 零集合に含まれる。その零集合の上の値を 1 つの確率測度に取り替えても上の性質は保たれるので、すべての $y$ で確率測度としてよい。同様に、$\pi_{23}$ について $x_3$ の $x_2$ についての核 $\kappa_3$ で
$$
\pi_{23}(B\times C)=\int_B\kappa_3(y,C)\,d\mu_2(y)
$$
を満たすものをとる。
Borel 集合 $E\subset X^3$ について
$$
\gamma(E):=\int_X\Bigl(\int\!\!\int\mathbf{1}_E(x,y,z)\,\kappa_1(y,dx)\,\kappa_3(y,dz)\Bigr)d\mu_2(y)
$$
とおく。外側の被積分関数の可測性を確かめる。$E=A\times B\times C$ なら、それは $\mathbf{1}_B(y)\kappa_1(y,A)\kappa_3(y,C)$ で Borel 可測である。$X^3$ の Borel 集合族は直方体が生成する($X$ は第 2 可算)。可測性をもつ $E$ の全体は差と増大列の和で閉じるので、Dynkin の $\pi$-$\lambda$ 定理によりすべての $E$ で可測である。単調収束定理から $\gamma$ は測度で、$\gamma(X^3)=1$ である。
最後に、$\gamma(A\times B\times X)=\int_B\kappa_1(y,A)\,d\mu_2(y)=\pi_{12}(A\times B)$ である。長方形の全体は $X\times X$ の Borel 集合族を生成する $\pi$ 系なので、座標 $(x_1,x_2)$ への押し出しは $\pi_{12}$ である。$\gamma(X\times B\times C)=\pi_{23}(B\times C)$ も同様である。$\square$
$p\in[1,\infty)$ とする。$W_p$ は $\mathcal{P}_p(X)$ の上の距離である。
有限性は定義のあとで見た。$(x,y)\mapsto(y,x)$ による押し出しは $\Pi(\mu,\nu)$ から $\Pi(\nu,\mu)$ への費用を変えない全単射なので、$W_p(\mu,\nu)=W_p(\nu,\mu)$ である。$\mu$ の $x\mapsto(x,x)$ による押し出しは費用 $0$ の結合なので、$W_p(\mu,\mu)=0$ である。
非退化性。 $W_p(\mu,\nu)=0$ とする。thm-wd-optimal の最適な結合 $\pi$ は $\int d^p\,d\pi=0$ を満たすので、$\pi$ についてほとんどいたるところ $x=y$ である。$f\in C_b(X)$ について
$$
\int f\,d\mu=\int f(x)\,d\pi(x,y)=\int f(y)\,d\pi(x,y)=\int f\,d\nu
$$
である。よって $\mu=\nu$ である。
三角不等式。 $\mu_1,\mu_2,\mu_3\in\mathcal{P}_p(X)$ とし、$\pi_{12}\in\Pi(\mu_1,\mu_2)$、$\pi_{23}\in\Pi(\mu_2,\mu_3)$ を最適な結合とする。lem-wd-gluing の $\gamma$ をとる。座標 $(x_1,x_3)$ への押し出しは $\Pi(\mu_1,\mu_3)$ に属するので、$d$ の三角不等式と $L^p(\gamma)$ の Minkowskiの不等式 から
$$
\begin{aligned}
W_p(\mu_1,\mu_3)&\le\|d(x_1,x_3)\|_{L^p(\gamma)}\le\|d(x_1,x_2)+d(x_2,x_3)\|_{L^p(\gamma)}\\
&\le\|d(x_1,x_2)\|_{L^p(\gamma)}+\|d(x_2,x_3)\|_{L^p(\gamma)}=W_p(\mu_1,\mu_2)+W_p(\mu_2,\mu_3)
\end{aligned}
$$
である。最後の等号は、$\gamma$ の押し出しが最適な結合であることによる。$\square$
$\mu=\sum_ia_i\delta_{x_i}$、$\nu=\sum_jb_j\delta_{y_j}$ とする($x_i$ は相異なり、$y_j$ も相異なる)。結合 $\pi$ は $\pi_{ij}:=\pi(\{(x_i,y_j)\})$ で定まり、これは 輸送問題 の輸送計画である。よって $W_p(\mu,\nu)^p$ は、費用 $c_{ij}=d(x_i,y_j)^p$、供給量 $a_i$、需要量 $b_j$ の輸送問題の最小値である。
点の個数が等しく $a_i=b_j=1/n$ のときは、輸送計画の全体は二重確率行列の $1/n$ 倍である。線形の関数は頂点で最小になるので、輸送問題 の系「Birkhoff–von Neumann の定理」から
$$
W_p\Bigl(\frac1n\sum_i\delta_{x_i},\frac1n\sum_i\delta_{y_i}\Bigr)^p=\min_\sigma\frac1n\sum_id(x_i,y_{\sigma(i)})^p
$$
である。$\sigma$ は置換を動く。
$X=\mathbb{R}^n$、$\mu,\nu\in\mathcal{P}_1(\mathbb{R}^n)$ とし、平均を $m_\mu,m_\nu$ とする。$\lvert m_\mu-m_\nu\rvert\le W_1(\mu,\nu)$ である。$a\in\mathbb{R}^n$ とし、$\nu$ を $\mu\in\mathcal{P}_p(\mathbb{R}^n)$ の $a$ だけの平行移動とすると、$W_p(\mu,\nu)=\lvert a\rvert$ である。
結合 $\pi$ について $\lvert m_\mu-m_\nu\rvert=\lvert\int(x-y)\,d\pi\rvert\le\int\lvert x-y\rvert\,d\pi$ である。平行移動の場合、$x\mapsto(x,x+a)$ による $\mu$ の押し出しから $W_p\le\lvert a\rvert$ で、prop-wd-basic の (2) と前半から $W_p\ge W_1\ge\lvert a\rvert$ である。$\square$
$\mu=N(m_1,s_1^2)$、$\nu=N(m_2,s_2^2)$($s_1,s_2\ge0$)について
$$
W_2(\mu,\nu)^2=(m_1-m_2)^2+(s_1-s_2)^2
$$
である。
$(Y,Z)$ の同時分布が結合なら、$E[(Y-Z)^2]=(m_1-m_2)^2+s_1^2+s_2^2-2\operatorname{Cov}(Y,Z)$ である。Cauchy–Schwarz の不等式から $\operatorname{Cov}(Y,Z)\le s_1s_2$ なので、費用は命題の右辺以上である。$G$ を標準正規分布に従う確率変数として $Y=m_1+s_1G$、$Z=m_2+s_2G$ とおくと等号が成り立つ。$\square$
$p=1$ の距離は、Lipschitz 関数の積分の差の上限に等しい。Kantorovich の双対定理を使う。連続な費用 $c$ が下に有界で $c(x,y)\le a(x)+b(y)$($a\in L^1(\mu)$、$b\in L^1(\nu)$)を満たすとき
$$
\min_{\pi\in\Pi(\mu,\nu)}\int c\,d\pi=\sup\Bigl\{\int\varphi\,d\mu+\int\psi\,d\nu\Bigm|\varphi\in L^1(\mu),\ \psi\in L^1(\nu),\ \varphi(x)+\psi(y)\le c(x,y)\Bigr\}
$$
である。右辺の上限は、ある $\varphi$ と $\psi(y)=\inf_x(c(x,y)-\varphi(x))$ の組で達成される(AG13 Theorem 1.17。この記事では証明しない。$X$ がコンパクトなら 最適輸送 で証明する)。有限の場合の 輸送問題 の双対定理にあたる。
$\mu,\nu\in\mathcal{P}_1(X)$ について
$$
W_1(\mu,\nu)=\sup\Bigl\{\int f\,d\mu-\int f\,d\nu\Bigm|f\colon X\to\mathbb{R}\text{ は定数 }1\text{ の Lipschitz 関数}\Bigr\}
$$
である。
$f$ を定数 $1$ の Lipschitz 関数とする。$\lvert f(x)\rvert\le\lvert f(x_0)\rvert+d(x,x_0)$ なので $f$ は $\mu,\nu$ で積分できる。$\pi\in\Pi(\mu,\nu)$ について
$$
\int f\,d\mu-\int f\,d\nu=\int(f(x)-f(y))\,d\pi\le\int d\,d\pi
$$
なので、右辺の上限は $W_1(\mu,\nu)$ 以下である。
逆を示す。$c=d$ は $a=d(\cdot,x_0)$、$b=d(\cdot,x_0)$ について上の条件を満たす。双対定理の組 $(\varphi,\psi)$ をとる。$\psi\in L^1(\nu)$ なので、$\psi(y_0)>-\infty$ となる $y_0$ がある。各 $x$ で $d(x,y)-\varphi(x)\ge d(x,y_0)-\varphi(x)-d(y,y_0)$ なので、下限をとって $\psi(y)\ge\psi(y_0)-d(y,y_0)>-\infty$ である。$\varphi\in L^1(\mu)$ なので $\varphi(x_1)$ が有限な点 $x_1$ があり、$\psi(y)\le d(x_1,y)-\varphi(x_1)< \infty$ である。よって $\psi$ は実数値である。同じ不等式の $y,y_0$ を任意の 2 点と見ると $\lvert\psi(y)-\psi(y')\rvert\le d(y,y')$ である。
$f:=-\psi$ は定数 $1$ の Lipschitz 関数である。$\varphi(x)+\psi(y)\le d(x,y)$ で $y=x$ とすると、$\varphi\le-\psi=f$ である。よって
$$
W_1(\mu,\nu)=\int\varphi\,d\mu+\int\psi\,d\nu\le\int f\,d\mu-\int f\,d\nu
$$
である。$\square$
特に、$f$ が定数 $L$ の Lipschitz 関数なら $\lvert\int f\,d\mu-\int f\,d\nu\rvert\le L\,W_1(\mu,\nu)$ である。この評価だけなら、双対定理を使わず証明の前半から得られる。
$\mu,\nu\in\mathcal{P}_1(\mathbb{R})$ の分布関数を $F,G$ とすると、$W_1(\mu,\nu)=\int_{\mathbb{R}}\lvert F(t)-G(t)\rvert\,dt$ である。
要点:Lipschitz 関数の積分の差を、導関数と分布関数の差の積分に書き直し、thm-wd-kr を使う。
$f$ を定数 $1$ の Lipschitz 関数とすると、$f$ は絶対連続で $\lvert f'\rvert\le1$ である。$f(x)-f(0)=\int_0^xf'(t)\,dt$ を $\mu$ で積分し、$\int\lvert x\rvert\,d\mu< \infty$ なので Fubini の定理を使うと$$\int f\,d\mu=f(0)+\int_0^\infty f'(t)(1-F(t))\,dt-\int_{-\infty}^0f'(t)F(t)\,dt$$である。$\nu$ についても同様にして引くと、$\int f\,d\mu-\int f\,d\nu=\int_{\mathbb{R}}f'(t)(G(t)-F(t))\,dt$ である。これは $\int\lvert F-G\rvert\,dt$ 以下で、$f(x):=\int_0^x\operatorname{sgn}(G(t)-F(t))\,dt$ のとき等号が成り立つ。thm-wd-kr から結論を得る。$\square$
有限集合 $X$ に $x\ne y$ なら $d(x,y)=1$ の距離を入れると、定数 $1$ の Lipschitz 関数は値の幅が $1$ 以下の関数である。thm-wd-kr の上限は $\max_A(\mu(A)-\nu(A))$ になり、$W_1$ は全変動距離に等しい。全変動距離は、点の間の距離を見ずに質量の違いだけを測る距離である。
$p\in[1,\infty)$、$\mu_n,\mu\in\mathcal{P}_p(X)$、$x_0\in X$ とする。次は同値である。
(a) $W_p(\mu_n,\mu)\to0$ である。
(b) $\mu_n$ は $\mu$ に弱収束し、$\int d(x,x_0)^p\,d\mu_n\to\int d(x,x_0)^p\,d\mu$ である。
要点:(a) から (b) は基点の Dirac 測度との三角不等式と Lipschitz 関数の評価で示す。(b) から (a) は、小さな集合の分割の上で質量を合わせて結合を作り、裾はモーメントの収束で抑える。
(a) から (b)。 prop-wd-basic の (1) と三角不等式から、$\lvert W_p(\mu_n,\delta_{x_0})-W_p(\mu,\delta_{x_0})\rvert\le W_p(\mu_n,\mu)\to0$ で、これはモーメントの収束である。
弱収束を示す。開集合 $G$ について、$f_k(x):=\min(1,k\,d(x,X\setminus G))$ は Lipschitz 関数で、$k\to\infty$ のとき $\mathbf{1}_G$ に単調に増加する。thm-wd-kr のあとの評価と prop-wd-basic の (2) から $\int f_k\,d\mu_n\to\int f_k\,d\mu$ なので、$\liminf_n\mu_n(G)\ge\int f_k\,d\mu$ である。$k\to\infty$ として $\liminf_n\mu_n(G)\ge\mu(G)$ である。連続関数 $f$ が $0\le f\le1$ なら、$\int f\,d\mu=\int_0^1\mu(f>t)\,dt$ と Fatou の補題から $\liminf_n\int f\,d\mu_n\ge\int f\,d\mu$ である。$1-f$ にも当てると $\int f\,d\mu_n\to\int f\,d\mu$ である。$C_b(X)$ の関数は定数倍と定数の加算でこの形にできる。
(b) から (a)。 $\varepsilon\in(0,1)$ とする。
裾の評価。 $g(x):=d(x,x_0)$、$h_R:=g^p-\min(g,R)^p\ge0$ とおく。$\min(g,R)^p$ は有界連続なので、(b) から $\int h_R\,d\mu_n\to\int h_R\,d\mu$ である。$R$ を大きくとって $\int h_R\,d\mu< \varepsilon$ とする。$g>2R$ では $h_R\ge g^p/2$ なので、十分大きな $n$ で$$\int_{\{g>2R\}}g^p\,d\mu_n\le2\varepsilon,\qquad\int_{\{g>2R\}}g^p\,d\mu\le2\varepsilon$$である。$\delta\in(0,\varepsilon)$ を $(2R)^p\delta< \varepsilon$ ととる。$\sigma\le\mu_n$ または $\sigma\le\mu$ で全質量が $\delta$ 以下の測度について、上の評価から$$\int g^p\,d\sigma\le(2R)^p\delta+2\varepsilon\le3\varepsilon$$である。
分割。 中心 $c$ を固定すると、集合 $\{d(x,c)=r\}$($r>0$)は互いに素なので、$\mu$ 測度が正の $r$ は可算個である。可算な稠密集合の各点 $c_i$ について、半径 $r_i\in(\varepsilon/2,\varepsilon)$ の開球 $B_i$ を $\mu(\partial B_i)=0$ となるようにとる。$A_i:=B_i\setminus\bigcup_{j< i}B_j$ とおくと、$A_i$ は互いに素で $X$ を覆い、直径は $2\varepsilon$ 以下で、$\mu(\partial A_i)=0$ である。$k$ を $\mu(\bigcup_{i\le k}A_i)>1-\delta/2$ ととる。Prokhorovの定理 の補題「開集合の上の下半連続性」を $A_i$ の開核と補集合の開核に当てると、$\mu_n(A_i)\to\mu(A_i)$ である。
結合の構成。 $a_i:=\min(\mu(A_i),\mu_n(A_i))$ とする。$a_i>0$ なる $i\le k$ について、$\mu$ を $A_i$ に制限して全質量を $a_i$ に縮めた測度を $\mu^i$、$\mu_n$ についての同様の測度を $\mu_n^i$ とする。残りを $\rho:=\mu-\sum_i\mu^i$、$\rho_n:=\mu_n-\sum_i\mu_n^i$ とおくと、どちらも正の測度で、全質量は共通の $m=1-\sum_ia_i$ である。$n$ が大きければ $m\le\delta$ である。$$\pi_n:=\sum_i\frac1{a_i}\mu^i\otimes\mu_n^i+\frac1m\rho\otimes\rho_n$$は $\mu,\mu_n$ の結合である($m=0$ なら第 2 項はない)。第 1 項の台では $d< 2\varepsilon$ である。第 2 項では、$d^p\le2^{p-1}(g(x)^p+g(y)^p)$ と $\sigma=\rho,\rho_n$ の上の評価を使う。よって$$W_p(\mu,\mu_n)^p\le(2\varepsilon)^p+2^{p-1}\Bigl(\int g^p\,d\rho+\int g^p\,d\rho_n\Bigr)\le(2\varepsilon)^p+2^{p+2}\varepsilon$$である。$\varepsilon$ は任意なので $W_p(\mu_n,\mu)\to0$ である。$\square$
$X$ が有界なら (b) のモーメントの条件は弱収束から従うので、$W_p$ は $\mathcal{P}(X)$ の弱収束を距離づける。$X$ がコンパクトなら、Prokhorovの定理 の系「コンパクト距離空間の確率測度の全体」により、$(\mathcal{P}(X),W_p)$ はコンパクトである。一般の場合、$(\mathcal{P}_2(X),W_2)$ は完備可分な距離空間で、部分集合が相対コンパクトであることは、緊密で 2 次モーメントが一様可積分であることと同値である(AG13 Theorem 2.7。この記事では証明しない)。
全変動距離の収束は弱収束より強いが、$W_p$ の収束はそれと比較できない。$\delta_{1/n}$ は $\delta_0$ に $W_p$ で収束するが、全変動距離は $1$ のままである。逆の向きは、節「反例:条件を外すと成り立たないこと」の表の 1 行目の $\mu_n$ で見られる。全変動距離は $\frac1n\to0$ だが、$W_p(\mu_n,\delta_0)=1$ である。
$\mu_0,\mu_1\in\mathcal{P}_p(\mathbb{R}^n)$ とし、$\pi$ を最適な結合とする。$t\in[0,1]$ について $e_t(x,y):=(1-t)x+ty$、$\mu_t:=(e_t)_\#\pi$ とおくと、$s,t\in[0,1]$ について
$$
W_p(\mu_s,\mu_t)=\lvert s-t\rvert\,W_p(\mu_0,\mu_1)
$$
である。
$(e_s,e_t)_\#\pi$ は $\mu_s,\mu_t$ の結合で、$\lvert e_s(x,y)-e_t(x,y)\rvert=\lvert s-t\rvert\,\lvert x-y\rvert$ なので、$W_p(\mu_s,\mu_t)\le\lvert s-t\rvert\,W_p(\mu_0,\mu_1)$ である。$s\le t$ のとき
$$
W_p(\mu_0,\mu_1)\le W_p(\mu_0,\mu_s)+W_p(\mu_s,\mu_t)+W_p(\mu_t,\mu_1)
$$
の右辺の第 1・3 項を上界で抑えると、$W_p(\mu_s,\mu_t)\ge(t-s)W_p(\mu_0,\mu_1)$ である。$\square$
各質量が始点から終点へ等速で直線上を動く。$p=2$ で $\mu_0$ が Lebesgue 測度に絶対連続なら、最適な結合は凸関数の勾配である写像で与えられる(正確な仮定と証明は Brenierの定理 にある)。
$p=2$ のとき、この曲線はある速度場について超関数の意味で 連続の方程式 の解である(AG13 Theorem 2.29)。$\mu_0,\mu_1$ を結ぶ弱連続な超関数の解の全体について、連続の方程式 の命題「運動の費用による上界」の右辺の下限をとると $W_2$ に等しく、これが Benamou–Brenier の公式である(AG13 Proposition 2.30。この記事では証明しない)。この見方では $(\mathcal{P}_2(\mathbb{R}^n),W_2)$ を形式的に Riemann 多様体のように扱え、Fokker–Planck方程式 は自由エネルギーのWasserstein勾配流として読める。
| 主張 | 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|---|
| thm-wd-weak の (b) から (a) | モーメントの収束 | $X=\mathbb{R}$、$\mu_n=(1-\frac1n)\delta_0+\frac1n\delta_{n^{1/p}}$、$\mu=\delta_0$ | 弱収束するが $W_p(\mu_n,\mu)=1$ |
| $W_p$ の有限性 | $\mu\in\mathcal{P}_p(X)$ | $p=1$、$\mu$ は Cauchy 分布、$\nu=\delta_0$ | $W_1(\mu,\nu)=\infty$ |
| 三角不等式 | $p\ge1$ | $p=\frac12$、$X=\mathbb{R}$、$\delta_0$、$\frac12(\delta_0+\delta_1)$、$\delta_1$ | $\frac14+\frac14< 1$ |
| thm-wd-kr の形 | $p=1$ | $p=2$、$X=\mathbb{R}$、$\delta_0$ と $\frac12(\delta_0+\delta_2)$ | 上限は $1$、$W_2=\sqrt2$ |
| $p=2$ の最適な結合の一意性 | $\mu$ の絶対連続性 | $p=2$、$X=\mathbb{R}^2$、$\frac12(\delta_{(0,0)}+\delta_{(1,1)})$ と $\frac12(\delta_{(1,0)}+\delta_{(0,1)})$ | すべての結合が最適 |
| 最適な結合の存在 | 費用の下半連続性 | $X=[0,1]$、$\mu=\nu$ は Lebesgue 測度、$c(x,y)=\lvert x-y\rvert$($x\ne y$)、$c(x,x)=1$ | 下限 $0$ が達成されない |
モーメント:$\mu_n$ と $\delta_0$ の結合は 1 つだけで、費用は $\frac1n(n^{1/p})^p=1$ である。$f\in C_b$ について $\int f\,d\mu_n\to f(0)$ である。モーメントは $1$ のままで $0$ に近づかない。
三角不等式:$\delta_0$ と $\frac12(\delta_0+\delta_1)$ の費用は $\frac12$ で、その $1/p=2$ 乗は $\frac14$ である。$\frac12(\delta_0+\delta_1)$ と $\delta_1$ も同じである。$\delta_0$ と $\delta_1$ の値は $1$ である。$p< 1$ のときは、$1/p$ 乗をとらない $\inf\int d^p\,d\pi$ が距離になる。$d^p$ が距離だからである。
Kantorovich–Rubinstein:prop-wd-basic の (1) から $W_1=1$、$W_2=\sqrt{\frac12\cdot4}=\sqrt2$ である。定数 $1$ の Lipschitz 関数の上限は $W_1$ なので $1$ である。
一意性:表の 2 つの測度では、台の上の点の組の距離はどれも $1$ なので、すべての結合の費用は $1$ である。$\mu$ が Lebesgue 測度に絶対連続で $p=2$ なら、最適な結合はただ 1 つである(AG13 Theorem 1.26)。$p=1$ では直線の上でも一意性が成り立たない。$X=\mathbb{R}$、$\frac12(\delta_0+\delta_1)$ と $\frac12(\delta_1+\delta_2)$ の結合の台は $x\le y$ の範囲にあるので、費用は $\int(y-x)\,d\pi=1$ で結合によらない。
存在:$c>0$ なので、どの結合でも費用は正である。$y=x+\varepsilon$($\operatorname{mod}1$)の結合の費用は $2\varepsilon$ 以下である。
この距離は Kantorovich(1942)に遡り、その後くり返し再発見された。Wasserstein の名は Vasershtein(1969)の再導入による。$p=1$ の場合は輸送距離(transportation metric)とも呼ばれる(LPW17 第 14 章 Notes)。
貼り合わせの補題と $p=2$ の距離の公理は AG13 Lemma 2.1、Theorem 2.2 にある。この記事の thm-wd-optimal、lem-wd-gluing、thm-wd-metric、thm-wd-weak は一般の $p$ の場合をここで証明した。thm-wd-weak の $p=2$ の場合は AG13 Theorem 2.7 にある。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する