直交射影

同義語:直交射影作用素orthogonal projection

概要

直交射影(orthogonal projection)とは、内積空間 $V$ が部分空間 $U$ とその直交補空間の直和 $V=U\oplus U^\perp$ に分かれるとき、各ベクトルの $U$ 成分をとる線形作用素 $P_U$ のことである。$P_Ux$ は $U$ の中で $x$ に最も近い点であり、$P_U$ は $P_U^2=P_U$ と自己随伴性 $P_U^*=P_U$ を満たす。逆に $P^2=P$ を満たす線形写像は、自己随伴であるとき、またノルムを増やさないときに限り直交射影である。有限次元の部分空間と Hilbert 空間の閉部分空間は直交射影をもち、最小 2 乗法や Fourier 級数の部分和はその例である。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 内積空間, 直交補空間

点から平面へ垂線を下ろすと、その足は平面の中で点に最も近い点になる。この「垂線の足をとる」操作を、内積空間の部分空間への写像として扱ったものが直交射影である。部分空間 $U$ と直交補空間 $U^\perp$ に空間が $V=U\oplus U^\perp$ と分かれるとき、各ベクトルの $U$ 成分をとる写像 $P_U$ は線形で、$P_U^2=P_U$(2 回射影しても変わらない)と $P_U^*=P_U$(自己随伴)を満たし、$P_Ux$ は $U$ の中で $x$ に最も近い点を与える。逆に、$P^2=P$ を満たす線形写像のうち直交射影であるものは、自己随伴であること、あるいはベクトルを長くしないこと($\|Px\|\le\|x\|$)で特徴づけられる。最小 2 乗法、Fourier 級数の部分和、微分形式の調和部分は、どれもある部分空間への直交射影である。

定義

以下、$F$ は実数体 $\mathbb{R}$ または複素数体 $\mathbb{C}$ とし、$a\in F$ の複素共役を $\bar a$ と書く($F=\mathbb{R}$ なら $\bar a=a$)。内積 $\langle\cdot,\cdot\rangle$ は 内積空間 の記事と同じく第 1 変数について線形、第 2 変数について共役線形とし、$\|x\|:=\sqrt{\langle x,x\rangle}$ とおく。内積空間 $V$ の部分空間 $U$ の直交補空間を $U^\perp:=\{x\in V\mid\text{すべての }u\in U\text{ で }\langle x,u\rangle=0\}$ と書く。$U\cap U^\perp=\{0\}$ はつねに成り立つ($x\in U\cap U^\perp$ なら $\langle x,x\rangle=0$)。

直交射影

$V$ を $F$ 上の内積空間、$U$ を $V$ の部分空間とし、$V=U\oplus U^\perp$(すなわち $V=U+U^\perp$)が成り立つとする。各 $x\in V$ をただ 1 通りに
$$ x=u+w\qquad(u\in U,\ w\in U^\perp) $$
と書き、$P_Ux:=u$ とおく。写像 $P_U\colon V\to V$ を $U$ への 直交射影(orthogonal projection)という。

$V=U\oplus U^\perp$ が成り立つ代表的な場合は次の 2 つである。

  • $U$ が有限次元のとき($V$ は無限次元でもよい)。$U$ の正規直交基底 $e_1,\dots,e_m$ をとると $P_Ux=\sum_{k=1}^m\langle x,e_k\rangle e_k$ である(直交補空間 の定理「有限次元の部分空間の直交分解」、内積空間 の定理「直交分解と最良近似」)。
  • $V$ が Hilbert空間 で $U$ が閉部分空間のとき(Hilbert空間 の定理「直交射影と直交分解」)。
    どちらでもないと、直交射影がないことがある(後の節「Hilbert 空間と閉部分空間」)。一方、直交射影があるなら部分空間は必ず閉じている。
直交射影をもつ部分空間は閉

内積空間 $V$ の部分空間 $U$ が $V=U\oplus U^\perp$ を満たすなら、$U=(U^\perp)^\perp$ であり、特に $U$ は $V$ の閉集合である。

$U\subset(U^\perp)^\perp$ は定義から明らかである。$x\in(U^\perp)^\perp$ を $x=u+w$($u\in U$、$w\in U^\perp$)と書くと、$u\in U\subset(U^\perp)^\perp$ なので $w=x-u\in(U^\perp)^\perp$ である。$w$ は $U^\perp$ にも属するので自分自身と直交し、$w=0$、$x=u\in U$ である。直交補空間はつねに閉集合である(直交補空間 の命題「直交補空間は閉部分空間」)ので、$U=(U^\perp)^\perp$ は閉である。$\square$

$\mathbb{R}^n$ で行列を使って扱う「正射影」「射影行列」は、この直交射影の行列表示である(正射影と射影行列)。有限次元の計算はそちらに譲り、この記事では直交射影を線形作用素として調べる。

用語

直交射影は正射影とも呼ばれる。単に「射影」というと $P^2=P$ を満たす線形写像(冪等な写像)全体を指すことが多く、直交射影はその特別な場合である(thm-op-characterization)。また、Hilbert 空間の空でない閉凸集合 $C$ に対し、各点に $C$ の中で最も近い点を対応させる写像も $C$ への直交射影と呼ばれる(Axl20 Definition 8.34)。$C$ が閉部分空間ならこの記事の定義と一致するが、一般の凸集合では線形でない。

例

$\mathbb{R}^3$ の直線と平面

$\mathbb{R}^3$(標準内積)で $a=(1,2,2)^{\top}$、$\|a\|=3$ とし、直線 $L:=\operatorname{span}\{a\}$ を考える。$e:=a/3$ は $L$ の正規直交基底なので
$$ P_Lx=\langle x,e\rangle e=\frac{\langle x,a\rangle}{9}\,a,\qquad P_L=\frac19aa^{\top}=\frac19\begin{pmatrix}1&2&2\\2&4&4\\2&4&4\end{pmatrix} $$
である。$x=(3,0,0)^{\top}$ なら $P_Lx=\frac13(1,2,2)^{\top}$ で、$x-P_Lx=\frac13(8,-2,-2)^{\top}$ は $a$ と直交する。平面 $\Pi:=a^\perp=\{x\mid x_1+2x_2+2x_3=0\}$ は $L^\perp$ であり、$(L^\perp)^\perp=L$ なので $P_\Pi=I-P_L$、$P_\Pi x=\frac13(8,-2,-2)^{\top}$ である(thm-op-basic の 4)。

偶関数の部分空間

$L^2(-1,1)$(Lebesgue 測度に関して 2 乗可積分な関数の空間。$\langle f,g\rangle=\int_{-1}^1f\bar g\,dx$ で Hilbert 空間になる。Hilbert空間 の例「2 乗可積分関数の空間」)の中で、偶関数(ほとんどいたるところ $f(-x)=f(x)$)全体を $E$、奇関数全体を $O$ とする。このとき
$$ P_Ef(x)=\frac{f(x)+f(-x)}2 $$
であり、$E^\perp=O$ である。
実際 $f=\frac{f(x)+f(-x)}2+\frac{f(x)-f(-x)}2$ は偶関数と奇関数の和であり、偶関数 $g$ と奇関数 $h$ の積 $g\bar h$ は奇関数なので $\int_{-1}^1g\bar h\,dx=0$、つまり $O\subset E^\perp$ である。逆に $k\in E^\perp$ を偶部分 $k_e$ と奇部分 $k_o$ に分けると $0=\langle k,k_e\rangle=\|k_e\|^2+\langle k_o,k_e\rangle=\|k_e\|^2$ なので $k=k_o\in O$ である。よって $L^2(-1,1)=E\oplus E^\perp$ で、$P_E$ は偶部分をとる写像である。たとえば $f=e^x$ では $P_Ef=\cosh x$、$f-P_Ef=\sinh x$ で、$\int_{-1}^1e^{2x}dx=\|\cosh\|^2+\|\sinh\|^2$(約 $3.627=2.813+0.813$)となる。

Fourier 級数の部分和と調和形式

区間 $[-\pi,\pi]$ 上の連続関数に内積 $\int_{-\pi}^{\pi}f(x)g(x)\,dx$ を入れると、Fourier 級数の $N$ 次の部分和 $S_Nf$ は、$1,\cos x,\sin x,\dots,\cos Nx,\sin Nx$ の張る $2N+1$ 次元の部分空間への $f$ の直交射影である(Fourier係数と最良近似 の命題「部分和は正射影である」)。したがって $S_Nf$ は、次数 $N$ 以下の三角多項式の中で平均 2 乗の意味で $f$ に最も近い。
コンパクトな向きづけられた Riemann 多様体の $k$ 次微分形式の空間は、$L^2$ 内積について調和形式の空間 $\mathcal{H}^k$ とその直交補空間に分かれ、$\mathcal{H}^k$ への直交射影 $H$ が各形式の「調和部分」を与える(Hodge分解 の定理「調和形式による表現」。証明は同記事が挙げる文献による)。$\mathcal{H}^k$ は有限次元なので、滑らかな形式の空間が完備でなくても $H$ は定義できる。

基本性質

直交射影の基本性質

内積空間 $V$ の部分空間 $U$ が $V=U\oplus U^\perp$ を満たすとし、$P:=P_U$ とする。

  1. $P$ は線形で、$P^2=P$、$\operatorname{im}P=U$、$\ker P=U^\perp$ である。$u\in U$ なら $Pu=u$ である。
  2. (自己随伴性)すべての $x,y\in V$ について $\langle Px,y\rangle=\langle x,Py\rangle=\langle Px,Py\rangle$ である。
  3. すべての $x\in V$ について $\|x\|^2=\|Px\|^2+\|x-Px\|^2$ である。特に $\|Px\|\le\|x\|$ で、$P$ は有界であり、作用素ノルムは $U\ne\{0\}$ なら $\|P\|=1$ である。
  4. $V=U^\perp\oplus(U^\perp)^\perp$ であり、$U^\perp$ への直交射影は $P_{U^\perp}=I-P$ である。
  5. (最良近似)すべての $x\in V$、$u\in U$ について $\|x-u\|^2=\|x-Px\|^2+\|Px-u\|^2$ であり、$Px$ は $U$ の中で $x$ に最も近いただ 1 つの点である。

各 $x$ の分解を $x=Px+(x-Px)$($Px\in U$、$x-Px\in U^\perp$)と書く。
1:$x,y\in V$、$a,b\in F$ について、$aPx+bPy\in U$、$a(x-Px)+b(y-Py)\in U^\perp$ で、和は $ax+by$ なので、分解の一意性から $P(ax+by)=aPx+bPy$ である。$u\in U$ は $u=u+0$ と分解されるので $Pu=u$ である。$Px\in U$ だから $P^2x=Px$ である。定義から $\operatorname{im}P\subset U$ で、$Pu=u$ から $U\subset\operatorname{im}P$ である。$Px=0$ は $x=0+x$、すなわち $x\in U^\perp$ と同じなので $\ker P=U^\perp$ である。
2:$Px\perp y-Py$ なので $\langle Px,y\rangle=\langle Px,Py\rangle+\langle Px,y-Py\rangle=\langle Px,Py\rangle$ である。同様に $\langle x,Py\rangle=\langle Px,Py\rangle+\langle x-Px,Py\rangle=\langle Px,Py\rangle$ である。
3:$Px$ と $x-Px$ は直交するので、三平方の定理($\|a+b\|^2=\|a\|^2+\|b\|^2+2\operatorname{Re}\langle a,b\rangle$ で $\langle a,b\rangle=0$ の場合)から等式が従う。$U\ne\{0\}$ なら $0\ne u\in U$ について $\|Pu\|=\|u\|$ なので $\|P\|=1$ である。
4:prop-op-closed により $(U^\perp)^\perp=U$ である。$x=(x-Px)+Px$ は $x-Px\in U^\perp$、$Px\in U=(U^\perp)^\perp$ という分解なので、$V=U^\perp\oplus(U^\perp)^\perp$ であり、$U^\perp$ 成分は $x-Px$ である。
5:$x-u=(x-Px)+(Px-u)$ で、$x-Px\in U^\perp$、$Px-u\in U$ は直交するので、3 と同じく三平方の定理から等式を得る。右辺は $u=Px$ のときに限り最小である。$\square$

5 は 内積空間 の定理「直交分解と最良近似」の 3 や 正射影と射影行列 の定理「正射影は最も近い点」と同じ内容で、ここでは直交分解があるすべての場合に述べた。2 の等式は、$P$ が「自分自身の随伴」であることを意味する。有限次元なら、正規直交基底に関する $P$ の表現行列が Hermite 行列(実数なら対称行列)であることと同じである。
部分空間が有限次元なら、正規直交基底か一般の基底で直交射影を計算できる。

基底による公式

内積空間 $V$ の有限次元の部分空間 $U$ と $x\in V$ について、次が成り立つ。

  1. $e_1,\dots,e_m$ が $U$ の正規直交基底なら、$P_Ux=\sum_{k=1}^m\langle x,e_k\rangle e_k$ である。
  2. $u_1,\dots,u_m$ が $U$ の基底なら、Gram 行列 $G:=\bigl(\langle u_j,u_i\rangle\bigr)_{1\le i,j\le m}$ は正則で、$c:=G^{-1}b$、$b:=\bigl(\langle x,u_1\rangle,\dots,\langle x,u_m\rangle\bigr)^{\top}$ とおくと $P_Ux=\sum_{j=1}^mc_ju_j$ である。
  3. 特に $V=F^n$(標準内積 $\langle x,y\rangle=y^*x$)で、$A$ を 1 次独立な $m$ 本の列をもつ $n\times m$ 行列、$U=\operatorname{im}A$ とすると、$P_U=A(A^*A)^{-1}A^*$ である。ここで $A^*$ は共役転置である。

$p=\sum_jc_ju_j\in U$ が $P_Ux$ であることは、$x-p\in U^\perp$、すなわち各 $i$ で $\langle x-p,u_i\rangle=0$ であることと同じである(分解の一意性)。この条件は $\sum_jc_j\langle u_j,u_i\rangle=\langle x,u_i\rangle$、つまり $Gc=b$ である。
$G$ の正則性:$Gc=0$ なら $\bigl\|\sum_jc_ju_j\bigr\|^2=\sum_{i,j}c_j\overline{c_i}\langle u_j,u_i\rangle=\sum_i\overline{c_i}(Gc)_i=0$ なので $\sum_jc_ju_j=0$、1 次独立性から $c=0$ である。よって 2 が成り立つ。1 は $G=I$、$c=b$ の場合である。3 は、$u_j$ を $A$ の第 $j$ 列とすると $G=A^*A$、$b=A^*x$ で、$P_Ux=Ac=A(A^*A)^{-1}A^*x$ となることによる。$\square$

実数の場合の 3 は 正射影と射影行列 の定理「正射影の公式と直交分解」である。1 の公式は基底が正規直交であることを使う。たとえば $U=\mathbb{R}^2$ の基底 $u_1=(1,0)$、$u_2=(1,1)$ に同じ式を使うと、$x=(1,0)$ に対して $\langle x,u_1\rangle u_1+\langle x,u_2\rangle u_2=(2,1)$ となり、$P_Ux=x$ と一致しない。複素数の場合の 3 の例として、$\mathbb{C}^3$ で $u_1=(1,i,0)^{\top}$、$u_2=(0,1,1)^{\top}$ の張る平面への直交射影は、3 から
$$ P=\frac13\begin{pmatrix}2&-i&i\\ i&2&1\\ -i&1&2\end{pmatrix} $$
で、$P^*=P$、$P^2=P$ を満たす。

冪等な作用素の中での特徴づけ

$P^2=P$ を満たす線形写像 $P\colon V\to V$ は、$V=\operatorname{im}P\oplus\ker P$ という(直交とは限らない)直和分解に沿って $\operatorname{im}P$ 成分をとる写像である($x=Px+(x-Px)$ で、$P(x-Px)=0$)。このうちどれが直交射影かを、次の定理が判定する。空間の完備性も、$P$ の有界性も仮定しない。

直交射影の特徴づけ

$V$ を内積空間、$P\colon V\to V$ を $P^2=P$ を満たす線形写像とする。次は同値である。

  1. $P$ は直交射影である。すなわち、ある部分空間 $U$ について $V=U\oplus U^\perp$ かつ $P=P_U$ である。
  2. $\ker P$ と $\operatorname{im}P$ は直交する。
  3. $P$ は自己随伴である:すべての $x,y\in V$ について $\langle Px,y\rangle=\langle x,Py\rangle$。
  4. すべての $x\in V$ について $\|Px\|\le\|x\|$。
    このとき $U=\operatorname{im}P$、$U^\perp=\ker P$ である。

1 ⇒ 3 と 1 ⇒ 4 は thm-op-basic の 2・3 である。
3 ⇒ 2:$x\in\ker P$、$y\in\operatorname{im}P$ とし、$y=Pz$ と書くと $\langle x,y\rangle=\langle x,Pz\rangle=\langle Px,z\rangle=0$ である。
2 ⇒ 1:$U:=\operatorname{im}P$ とおく。各 $x$ は $x=Px+(x-Px)$ と書け、$Px\in U$、$x-Px\in\ker P$ で、2 から $\ker P\subset U^\perp$ である。よって $V=U+U^\perp$、$U\cap U^\perp=\{0\}$ なので $V=U\oplus U^\perp$ であり、この分解の $U$ 成分が $Px$ だから $P=P_U$ である。$\ker P=U^\perp$ は thm-op-basic の 1 による。
4 ⇒ 2:$u\in\operatorname{im}P$、$w\in\ker P$ とする。$u=Pz$ なら $Pu=P^2z=u$ なので、任意の $t\in F$ について $P(u+tw)=u$ であり、4 から
$$ \|u\|^2\le\|u+tw\|^2=\|u\|^2+2\operatorname{Re}\bigl(\overline t\,\langle u,w\rangle\bigr)+|t|^2\|w\|^2 $$
である。$s>0$ として $t=-s\langle u,w\rangle$ とおくと $\overline t\langle u,w\rangle=-s\lvert\langle u,w\rangle\rvert^2$ なので、$0\le-2s\lvert\langle u,w\rangle\rvert^2+s^2\lvert\langle u,w\rangle\rvert^2\|w\|^2$、両辺を $s$ で割って
$$ 2\lvert\langle u,w\rangle\rvert^2\le s\,\lvert\langle u,w\rangle\rvert^2\|w\|^2 $$
がすべての $s>0$ で成り立つ。$s\to0$ とすると $\langle u,w\rangle=0$ である。$\square$

4 ⇒ 2 の証明は、「$u$ から $\ker P$ の方向へ少しずらすと、$u$ に写るのに長さが縮む」ことを使っている。$\ker P$ が $\operatorname{im}P$ と直交していなければ、そのようなずらし方がある。有限次元の場合は Axl24 の Exercises 6C の 9・10 と Exercises 7A の 20 にあたる。
$P\ne0$ が冪等なら $\operatorname{im}P$ の $0$ でない元 $u$ で $\|Pu\|=\|u\|$ なので、つねに作用素ノルムは $\|P\|\ge1$ である。したがって 4 は「$\|P\|=1$(または $P=0$)」と言い換えられ、直交射影でない冪等な有界作用素は必ず $\|P\|>1$ である。
直線 U への直交射影 Pv と、方向 (1,-1) に沿った斜めの射影 Qv 直線 U への直交射影 Pv と、方向 (1,-1) に沿った斜めの射影 Qv

反例:斜めの射影

$\mathbb{R}^2$ の $Q=\begin{pmatrix}1&1\\0&0\end{pmatrix}$ は $Q^2=Q$ を満たし、像は $x$ 軸、核は $(1,-1)$ の向きの直線である。像と核は直交しない($\langle(1,0),(1,-1)\rangle=1\ne0$)ので、thm-op-characterization により $Q$ は直交射影でない。$Q$ は冪等性を満たすが自己随伴性を満たさず、$\|Qx\|\le\|x\|$ と最良近似が崩れる。

  • ノルム:$Q^{\top}Q=\begin{pmatrix}1&1\\1&1\end{pmatrix}$ の固有値は $2,0$ なので $\|Q\|=\sqrt2>1$ で、$x=\frac1{\sqrt2}(1,1)$ では $\|Qx\|=\sqrt2>1=\|x\|$ である。
  • 最良近似:図の $v=(1,\frac32)$ では $Qv=(\frac52,0)$、$\|v-Qv\|=\frac3{\sqrt2}\approx2.12$ だが、直交射影 $Pv=(1,0)$ では $\|v-Pv\|=\frac32$ である。
    一般に、$x$ 軸の上へ、$x$ 軸となす角が $\theta$($0<\theta<\pi$)の方向に沿って射影する写像は $P_\theta=\begin{pmatrix}1&-\cot\theta\\0&0\end{pmatrix}$ で、$\|P_\theta\|=1/\sin\theta$ である。$\theta=\pi/2$ のときだけ直交射影で、ノルムが $1$ になる。
    ノルムの計算を開く

    $P_\theta(\cos\theta,\sin\theta)^{\top}=(\cos\theta-\cot\theta\sin\theta,0)^{\top}=0$ なので核はその方向で、$P_\theta$ は $(1,0)$ を固定する。$P_\theta^{\top}P_\theta=\begin{pmatrix}1&-\cot\theta\\-\cot\theta&\cot^2\theta\end{pmatrix}$ の固有値は、トレース $1+\cot^2\theta=1/\sin^2\theta$ と行列式 $0$ から $1/\sin^2\theta$ と $0$ である。よって $\|P_\theta\|=1/\sin\theta$ である。$\theta=3\pi/4$(方向 $(-1,1)$、すなわち $(1,-1)$ の向き)で $\cot\theta=-1$ となって $Q$ に戻り、$\|Q\|=1/\sin(3\pi/4)=\sqrt2$ である。

同じ例は 正射影と射影行列 の例「反例:$P^2=P$ でも対称でなければ最も近い点を与えない」でも扱われている。特徴づけの各条件と、似た写像との違いをまとめると次のとおりである。

直交射影 $P_U$斜めの射影(冪等)閉凸集合への最近点写像
線形はいはい一般にいいえ
$P^2=P$はいはいはい
自己随伴はいいいえ意味をもたない
$\Vert Px\Vert\le\Vert x\Vert$はいいいえ$0\notin C$ なら $x=0$ で破れる
$Px$ が最も近い点はいいいえはい
例$\frac19aa^{\top}$$Q$閉単位球への $x\mapsto x/\max(1,\Vert x\Vert)$

2 つの直交射影の積と和

直交射影を組み合わせたものが、また直交射影になるかどうかは、2 つの部分空間の位置関係で決まる。

積と和

内積空間 $V$ の部分空間 $U,W$ が $V=U\oplus U^\perp=W\oplus W^\perp$ を満たすとし、$P:=P_U$、$Q:=P_W$ とする。

  1. $PQ$ が直交射影であるための必要十分条件は $PQ=QP$ である。このとき $PQ=P_{U\cap W}$ である。
  2. $P+Q$ が直交射影であるための必要十分条件は $U\perp W$($U$ の元と $W$ の元がすべて直交する)であり、これは $PQ=0$ とも同値である。このとき $P+Q=P_{U+W}$ である。
  3. $W\subset U$ であることと、$PQ=Q$ であることと、$QP=Q$ であることは同値である。

要点:自己随伴な $P,Q$ について $\langle PQx,y\rangle=\langle x,QPy\rangle$(以下 (*))なので、$PQ$ の随伴は $QP$ である。1 は、積が自己随伴であることと可換であることが同じだから、thm-op-characterization の 3 から従う。2 は、$(P+Q)^2=P+Q+PQ+QP$ と、$W$ の元 $x$ について $\|Px\|^2+\|x\|^2=\langle(P+Q)x,x\rangle\le\|x\|^2$ となることから従う。

詳しい証明を開く

(*) は $\langle PQx,y\rangle=\langle Qx,Py\rangle=\langle x,QPy\rangle$ による(thm-op-basic の 2)。

1:$PQ$ が直交射影なら自己随伴なので、(*) から $\langle x,PQy\rangle=\langle x,QPy\rangle$ がすべての $x,y$ で成り立ち、$x=PQy-QPy$ とおいて $PQ=QP$ を得る。逆に $PQ=QP$ なら $(PQ)^2=PQPQ=P^2Q^2=PQ$ で、(*) から $\langle PQx,y\rangle=\langle x,PQy\rangle$ なので、thm-op-characterization の 3 ⇒ 1 により $PQ$ は $\operatorname{im}PQ$ への直交射影である。$x\in U\cap W$ なら $PQx=x$ なので $U\cap W\subset\operatorname{im}PQ$、逆に $PQx=P(Qx)\in U$ かつ $PQx=Q(Px)\in W$ なので $\operatorname{im}PQ=U\cap W$ である。

2:まず $U\perp W$ と $PQ=0$ が同値であることを示す。$PQ=0$ は $W=\operatorname{im}Q\subset\ker P=U^\perp$ と同じであり、これは $U\perp W$ ということである。このとき (*) から $\langle x,QPy\rangle=\langle PQx,y\rangle=0$ なので $QP=0$ でもある。$U\perp W$ なら $(P+Q)^2=P+PQ+QP+Q=P+Q$ で、$P+Q$ は自己随伴なので直交射影である。$x=u+w$($u\in U$、$w\in W$)なら $(P+Q)x=u+w$ なので $U+W\subset\operatorname{im}(P+Q)\subset U+W$ である。逆に $R:=P+Q$ が直交射影なら、$\langle Rx,x\rangle=\langle R^2x,x\rangle=\langle Rx,Rx\rangle=\|Rx\|^2\le\|x\|^2$(thm-op-basic の 2・3)である。一方 $\langle Rx,x\rangle=\langle Px,x\rangle+\langle Qx,x\rangle=\|Px\|^2+\|Qx\|^2$ である。$x\in W$ とすると $Qx=x$ なので $\|Px\|^2+\|x\|^2\le\|x\|^2$、よって $Px=0$ である。したがって $W\subset\ker P=U^\perp$、すなわち $U\perp W$ である。

3:$W\subset U$ なら、$P$ は $U$ の元を動かさないので $P(Qx)=Qx$、つまり $PQ=Q$ である。$PQ=Q$ なら $W=\operatorname{im}Q=\operatorname{im}PQ\subset U$ である。$QP=Q$ と $PQ=Q$ の同値は、(*) で両辺の随伴をとればよい($\langle QPx,y\rangle=\langle x,PQy\rangle$)。$\square$

可換な場合と可換でない場合

$\mathbb{R}^3$ の $xy$ 平面と $yz$ 平面への直交射影 $P=\operatorname{diag}(1,1,0)$、$Q=\operatorname{diag}(0,1,1)$ は可換で、$PQ=\operatorname{diag}(0,1,0)$ は交わり($y$ 軸)への直交射影である。
$\mathbb{R}^2$ の $x$ 軸への $P_1=\begin{pmatrix}1&0\\0&0\end{pmatrix}$ と直線 $y=x$ への $P_2=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}$ は可換でない。積 $P_2P_1=\frac12\begin{pmatrix}1&0\\1&0\end{pmatrix}$ は冪等でない(正射影と射影行列 の例「反例:射影の積は射影とは限らない」)。和 $P_1+P_2=\begin{pmatrix}3/2&1/2\\1/2&1/2\end{pmatrix}$ の固有値は $1\pm\frac{\sqrt2}2$ で、$1$ を超える固有値 $1+\frac{\sqrt2}2$ があるので、thm-op-basic の 3 により直交射影でない。2 直線が直交しないことが原因である。

Hilbert 空間と閉部分空間

無限次元の部分空間では、直交射影があるかどうかは空間と部分空間の両方による。Hilbert 空間では、閉であることが必要十分である。

Hilbert 空間での存在

$H$ を Hilbert空間、$U$ を $H$ の部分空間とする。$U$ への直交射影が存在する($H=U\oplus U^\perp$)ための必要十分条件は、$U$ が閉であることである。このとき、$P_Ux$ は $U$ の中で $x$ に最も近いただ 1 つの点である。

$U$ が閉なら、Hilbert空間 の定理「直交射影と直交分解」の 3 により $H=U\oplus U^\perp$ である(証明は、閉凸集合への最短点の存在を平行四辺形の等式と完備性から示し、最短点との差が $U$ と直交することを確かめるものである)。逆に $H=U\oplus U^\perp$ なら、prop-op-closed により $U$ は閉である。最後の主張は thm-op-basic の 5 である。$\square$

閉部分空間 $U$ が可算個の元からなる正規直交基底 $(e_k)_{k\ge1}$ をもつなら、$P_Ux=\sum_{k=1}^\infty\langle x,e_k\rangle e_k$(ノルムで収束)である(Axl20 8.71)。有限個の $e_1,\dots,e_n$ の張る部分空間への直交射影は、この級数の部分和である。
次の 2 つの例では、それぞれ閉性と完備性の一方が欠けて、直交射影が存在しない。

  • 閉でない部分空間:$\ell^2$ の中の、有限個の項以外が $0$ の数列全体 $c_{00}$ は、$c_{00}^\perp=\{0\}$($y\perp c_{00}$ なら $y_k=\langle y,e_k\rangle=0$)なので $c_{00}\oplus c_{00}^\perp=c_{00}\ne\ell^2$ である。$c_{00}$ は $\ell^2$ で稠密で、閉でない。一般に稠密な真の部分空間 $U$ では $U^\perp=\{0\}$ なので(Hilbert空間 の系「稠密な部分空間の判定」)、直交射影はない。
  • 完備でない空間:$c_{00}$ に $\ell^2$ の内積を入れた内積空間の中では、閉部分空間 $\{x\mid\sum_nx_n/n=0\}$ への直交射影が存在しない(直交補空間 の例「反例:完備でない内積空間」)。

最小 2 乗法

連立 1 次方程式 $Ac=y$ が解をもたないとき、$\|y-Ac\|$ を最小にする $c$ を求めるのが最小 2 乗法である。$Ac$ は $A$ の列空間 $\operatorname{im}A$ を動くので、thm-op-basic の 5 により、最小になるのは $Ac=P_{\operatorname{im}A}\,y$ のときであり、prop-op-formula の 3 から $c=(A^*A)^{-1}A^*y$(正規方程式 $A^*Ac=A^*y$ の解)である(実数の場合は 正射影と射影行列 の定理「最小二乗解と正規方程式」)。列が 1 次独立でなくても、Moore–Penrose 逆行列 $A^+$ を使えば $AA^+$ が $\operatorname{im}A$ への直交射影になる(Moore–Penrose逆行列 の命題「射影としての特徴づけ」)。
prop-op-formula の 3 の行列 $A(A^*A)^{-1}A^*$ が直交射影であることは、thm-op-characterization からも直接分かる。$R:=A(A^*A)^{-1}A^*$ とおくと $R^2=A(A^*A)^{-1}(A^*A)(A^*A)^{-1}A^*=R$、$R^*=R$ であり、$RA=A$ から $\operatorname{im}A\subset\operatorname{im}R\subset\operatorname{im}A$ なので、$R$ は $\operatorname{im}A$ への直交射影である。

4 点への直線のあてはめ

Vandermondeの行列式 の例「4 点に直線をあてはめる」では、点 $t=(0,1,3,4)$、値 $y=(1,2,2,4)$ に直線 $c_1+c_2t$ をあてはめ、$c=(\frac{21}{20},\frac35)$ を得た。行列 $A$ の列は $(1,1,1,1)^{\top}$ と $(0,1,3,4)^{\top}$ で、あてはめた値の列
$$ Ac=\frac1{20}(21,33,57,69)^{\top} $$
は $y$ の $\operatorname{im}A$ への直交射影であり、残差 $y-Ac=\frac1{20}(-1,7,-17,11)^{\top}$ は 2 本の列のどちらとも直交する(成分の和は $0$、$t$ との内積は $\frac1{20}(0+7-51+44)=0$)。直交射影の行列
$$ R=A(A^{\top}A)^{-1}A^{\top}=\frac1{20}\begin{pmatrix}13&9&1&-3\\9&7&3&1\\1&3&7&9\\-3&1&9&13\end{pmatrix} $$
は対称で $R^2=R$、トレースは $\dim\operatorname{im}A=2$ である。

反例:条件を外すと

外す条件反例成り立たなくなること
自己随伴(冪等は満たす)$Q=\begin{pmatrix}1&1\\0&0\end{pmatrix}$$\Vert Px\Vert\le\Vert x\Vert$、最良近似
冪等(自己随伴は満たす)折り返し $\begin{pmatrix}0&1\\1&0\end{pmatrix}$直交射影であること(固有値 $-1$ をもつ)
2 つの射影の可換性$x$ 軸と直線 $y=x$ への $P_1,P_2$積 $P_2P_1$ が直交射影であること
2 つの部分空間の直交性同じ $P_1,P_2$和 $P_1+P_2$ が直交射影であること
部分空間の閉性$\ell^2$ の中の $c_{00}$直交射影の存在
空間の完備性$c_{00}$ の閉部分空間 $\{x\mid\sum_nx_n/n=0\}$直交射影の存在

1 行目は ex-op-oblique、3・4 行目は ex-op-two、5・6 行目は前節で確かめた。2 行目の折り返し $X$ は対称だが $X^2=I\ne X$ で、直交射影の固有値は $0$ か $1$ に限る($Px=\lambda x$、$x\ne0$ なら $\lambda x=P^2x=\lambda^2x$ より $\lambda\in\{0,1\}$)ので、固有値 $-1$ をもつ $X$ は直交射影でない(正射影と射影行列 の例「反例:対称でも $P^2=P$ でなければ射影ではない」)。

関連項目

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する