射影定理(Hilbert空間)

前提知識: Hilbert空間, 内積空間, 凸集合

射影定理（Hilbert projection theorem）は、Hilbert空間 $H$ の空でない閉じた凸集合 $C$ と点 $x\in H$ に対して、$C$ の中に $x$ に最も近い点 $P_Cx$ がただ 1 つ存在し、その点が不等式
$$ \operatorname{Re}\langle x-P_Cx,\,y-P_Cx\rangle\le0\qquad(y\in C) $$
で特徴づけられることを述べる定理である。$C$ が閉部分空間 $U$ なら、不等式は $x-P_Ux$ が $U$ と直交するという等式になり、$H=U\oplus U^\perp$ という直交分解が得られる。
平面で点から直線に垂線を下ろすと、垂線の足が最も近い点になる。射影定理はこれを無限次元に広げたものであり、Riesz の表現定理、Lax–Milgram の定理、条件付き期待値、最小 2 乗法など、Hilbert 空間を使う多くの議論の出発点になる。最も近い点がとれることには空間の完備性・集合の閉性と凸性・ノルムが内積から来ることがそれぞれ効いており、どれを外しても成り立たない。この記事では定理と変分不等式による特徴づけを証明し、射影の非拡大性、距離関数の微分、具体的な集合への射影の公式を調べる。

主張

以下、$H$ は $\mathbb K=\mathbb R$ または $\mathbb C$ 上の Hilbert 空間で、内積 $\langle\cdot,\cdot\rangle$ は第 1 変数について線形、$\|x\|=\langle x,x\rangle^{1/2}$ とする。部分集合 $C\subset H$ について $d_C(x):=\inf_{y\in C}\|x-y\|$ と書く。展開の式
$$ \|u+v\|^2=\|u\|^2+2\operatorname{Re}\langle u,v\rangle+\|v\|^2 $$
と平行四辺形の等式 $\|u+v\|^2+\|u-v\|^2=2\|u\|^2+2\|v\|^2$ を断らずに使う。

1 の点 $p$ を $P_Cx$ と書き、$P_C\colon H\to C$ を $C$ への射影（最近点写像、距離射影）という。$x\in C$ なら $P_Cx=x$ なので $P_C\circ P_C=P_C$ である。2 は、$x$ から $P_Cx$ へ戻るベクトル $x-P_Cx$ と、$P_Cx$ から $C$ の点へ向かうベクトル $y-P_Cx$ のなす角が直角以上であることを表す。このような不等式を変分不等式という。
2 の後半の証明から、$\|x-y\|^2\ge d_C(x)^2+\|y-P_Cx\|^2$（$y\in C$）が分かる。とくに、$\|x-y_n\|\to d_C(x)$ となる $C$ の点列は $P_Cx$ に収束する。最小化する列が勝手に収束することは、Hilbert 空間の最適化の議論でよく使われる。
この定理と証明は Axl26 8.28（p. 226）、変分不等式による特徴づけは Bre11 Theorem 5.2（p. 132）にある。

閉部分空間への射影

閉部分空間 $U$ は閉凸集合なので、射影 $P_U$ が定まる。$y$ が $U$ を動くとき $y-p$ も $U$ 全体を動くので、変分不等式は直交性に変わる。

1 と 2 の線形性は Axl26 8.37（p. 228）と Bre11 Corollary 5.4（p. 134）、3 は Axl26 8.43（p. 231）、5 は Axl26 8.41・8.42（p. 230）にある。2 の 3 つの性質（線形・冪等・自己共役）で $P_U$ は特徴づけられ、そのような作用素の性質は 直交射影 の記事が詳しく扱う。
$U$ が有限次元なら、正規直交基底 $e_1,\dots,e_m$ によって $P_Ux=\sum_{k=1}^m\langle x,e_k\rangle e_k$ である（右辺を $p$ とおくと $\langle x-p,e_j\rangle=0$ なので 1 による）。このときは $H$ が完備でなくても、有限次元の $U$ が完備なので結論が成り立つ（内積空間 の記事の定理「直交分解と最良近似」）。

射影の連続性と距離関数

閉部分空間への射影は線形でノルム $1$ 以下だった。一般の閉凸集合への射影は線形でないが、距離を縮めない。

1 の形の不等式を満たす写像を強非拡大（firmly nonexpansive）という。$\|Px-Py\|\le\|x-y\|$ は Bre11 Proposition 5.3（p. 134）にある。この性質は、射影と縮小写像を組み合わせて Stampacchiaの定理 を証明するとき（同書 Theorem 5.6、p. 138）や、射影を繰り返す反復法の収束を調べるときに使われる。
距離関数 $d_C$ は一般の集合でも $|d_C(x)-d_C(y)|\le\|x-y\|$ を満たすが、閉凸集合では 2 乗が滑らかになる。

$C=\{0\}$ なら $d_C(x)^2=\|x\|^2$ で勾配は $2x$ である。凸でない集合では $d_C^2$ が微分できない点がある。$\mathbb R$ の 2 点集合 $C=\{-1,1\}$ では、$d_C(x)^2=(|x|-1)^2$ は $x=0$ で左右の微分係数が $2$ と $-2$ になり、ちょうど最も近い点が 2 つある点で微分できない。

例

確率空間 $(\Omega,\mathcal F,P)$ の上で、2 乗可積分な確率変数の空間 $L^2(\mathcal F)$ から、部分 σ-加法族 $\mathcal G$ について可測なものの閉部分空間 $L^2(\mathcal G)$ への射影が、条件付き期待値 $E[X\mid\mathcal G]$ である。$\mathcal G$ が確率正の有限個の事象 $A_1,\dots,A_m$ への分割で生成されるときは、$L^2(\mathcal G)$ は直交する $\mathbf 1_{A_i}$ で張られ、射影は $\sum_iE[X\mathbf 1_{A_i}]P(A_i)^{-1}\mathbf 1_{A_i}$、すなわち各事象の上での平均である。

応用：Riesz の表現定理

射影定理の最も基本的な応用は、有界線形汎関数の表現である。$\varphi\colon H\to\mathbb K$ を $0$ でない有界線形汎関数とする。$U:=\ker\varphi$ は $H$ と異なる閉部分空間なので、cor-hpt-subspace の 3 により $U^\perp\ne\{0\}$ であり、$0$ でない $z\in U^\perp$ がとれる。$x\in H$ について $\varphi(x)z-\varphi(z)x\in U$ なので $\langle\varphi(x)z-\varphi(z)x,z\rangle=0$、すなわち
$$ \varphi(x)=\Bigl\langle x,\ \frac{\overline{\varphi(z)}}{\|z\|^2}z\Bigr\rangle $$
である。こうして $\varphi$ はある元との内積で表される（Rieszの表現定理、Axl26 8.47、p. 233）。同じ考え方で、Lax–Milgramの定理 と Stampacchiaの定理 は、射影と Banachの不動点定理 を組み合わせて証明される（Bre11 Theorem 5.6・Corollary 5.8、pp. 138–140）。

条件を外した反例

thm-hpt-main の条件を 1 つずつ外すと、最も近い点が存在しないか、ただ 1 つでなくなる。各行は左の列の条件だけを破っている。

ノルムが内積から来ない Banach 空間でも、一様凸Banach空間 なら閉凸集合への最も近い点はただ 1 つ存在する（同記事の命題「閉凸集合への最近点の一意存在」、Bre11 Remark 2、p. 134）。ただし、部分空間への最近点写像が線形になるとは限らない。次元 $3$ 以上の実ノルム空間では、すべての 2 次元部分空間にノルム $1$ の線形な射影があることは、ノルムが内積から来ることと同値である（角谷の定理(内積空間)）。

関連項目

• 前提: Hilbert空間, 内積空間, 凸集合
• 比較: 直交射影, 正射影と射影行列, 一様凸Banach空間, 角谷の定理(内積空間)
• 応用: Rieszの表現定理, Stampacchiaの定理, Lax–Milgramの定理, 条件付き期待値, 最小二乗法