直交射影(orthogonal projection)とは、内積空間 $V$ が部分空間 $U$ とその直交補空間の直和 $V=U\oplus U^\perp$ に分かれるとき、各ベクトルの $U$ 成分をとる線形作用素 $P_U$ のことである。$P_Ux$ は $U$ の中で $x$ に最も近い点であり、$P_U$ は $P_U^2=P_U$ と自己随伴性 $P_U^*=P_U$ を満たす。逆に $P^2=P$ を満たす線形写像は、自己随伴であるとき、またノルムを増やさないときに限り直交射影である。有限次元の部分空間と Hilbert 空間の閉部分空間は直交射影をもち、最小 2 乗法や Fourier 級数の部分和はその例である。
点から平面へ垂線を下ろすと、その足は平面の中で点に最も近い点になる。この「垂線の足をとる」操作を、内積空間の部分空間への写像として扱ったものが直交射影である。部分空間 $U$ と直交補空間 $U^\perp$ に空間が $V=U\oplus U^\perp$ と分かれるとき、各ベクトルの $U$ 成分をとる写像 $P_U$ は線形で、$P_U^2=P_U$(2 回射影しても変わらない)と $P_U^*=P_U$(自己随伴)を満たし、$P_Ux$ は $U$ の中で $x$ に最も近い点を与える。逆に、$P^2=P$ を満たす線形写像のうち直交射影であるものは、自己随伴であること、あるいはベクトルを長くしないこと($\|Px\|\le\|x\|$)で特徴づけられる。最小 2 乗法、Fourier 級数の部分和、微分形式の調和部分は、どれもある部分空間への直交射影である。
以下、$F$ は実数体 $\mathbb{R}$ または複素数体 $\mathbb{C}$ とし、$a\in F$ の複素共役を $\bar a$ と書く($F=\mathbb{R}$ なら $\bar a=a$)。内積 $\langle\cdot,\cdot\rangle$ は 内積空間 の記事と同じく第 1 変数について線形、第 2 変数について共役線形とし、$\|x\|:=\sqrt{\langle x,x\rangle}$ とおく。内積空間 $V$ の部分空間 $U$ の直交補空間を $U^\perp:=\{x\in V\mid\text{すべての }u\in U\text{ で }\langle x,u\rangle=0\}$ と書く。$U\cap U^\perp=\{0\}$ はつねに成り立つ($x\in U\cap U^\perp$ なら $\langle x,x\rangle=0$)。
$V$ を $F$ 上の内積空間、$U$ を $V$ の部分空間とし、$V=U\oplus U^\perp$(すなわち $V=U+U^\perp$)が成り立つとする。各 $x\in V$ をただ 1 通りに
$$
x=u+w\qquad(u\in U,\ w\in U^\perp)
$$
と書き、$P_Ux:=u$ とおく。写像 $P_U\colon V\to V$ を $U$ への 直交射影(orthogonal projection)という。
$V=U\oplus U^\perp$ が成り立つ代表的な場合は次の 2 つである。
内積空間 $V$ の部分空間 $U$ が $V=U\oplus U^\perp$ を満たすなら、$U=(U^\perp)^\perp$ であり、特に $U$ は $V$ の閉集合である。
$U\subset(U^\perp)^\perp$ は定義から明らかである。$x\in(U^\perp)^\perp$ を $x=u+w$($u\in U$、$w\in U^\perp$)と書くと、$u\in U\subset(U^\perp)^\perp$ なので $w=x-u\in(U^\perp)^\perp$ である。$w$ は $U^\perp$ にも属するので自分自身と直交し、$w=0$、$x=u\in U$ である。直交補空間はつねに閉集合である(直交補空間 の命題「直交補空間は閉部分空間」)ので、$U=(U^\perp)^\perp$ は閉である。$\square$
$\mathbb{R}^n$ で行列を使って扱う「正射影」「射影行列」は、この直交射影の行列表示である(正射影と射影行列)。有限次元の計算はそちらに譲り、この記事では直交射影を線形作用素として調べる。
直交射影は正射影とも呼ばれる。単に「射影」というと $P^2=P$ を満たす線形写像(冪等な写像)全体を指すことが多く、直交射影はその特別な場合である(thm-op-characterization)。また、Hilbert 空間の空でない閉凸集合 $C$ に対し、各点に $C$ の中で最も近い点を対応させる写像も $C$ への直交射影と呼ばれる(Axl20 Definition 8.34)。$C$ が閉部分空間ならこの記事の定義と一致するが、一般の凸集合では線形でない。
$\mathbb{R}^3$(標準内積)で $a=(1,2,2)^{\top}$、$\|a\|=3$ とし、直線 $L:=\operatorname{span}\{a\}$ を考える。$e:=a/3$ は $L$ の正規直交基底なので
$$
P_Lx=\langle x,e\rangle e=\frac{\langle x,a\rangle}{9}\,a,\qquad P_L=\frac19aa^{\top}=\frac19\begin{pmatrix}1&2&2\\2&4&4\\2&4&4\end{pmatrix}
$$
である。$x=(3,0,0)^{\top}$ なら $P_Lx=\frac13(1,2,2)^{\top}$ で、$x-P_Lx=\frac13(8,-2,-2)^{\top}$ は $a$ と直交する。平面 $\Pi:=a^\perp=\{x\mid x_1+2x_2+2x_3=0\}$ は $L^\perp$ であり、$(L^\perp)^\perp=L$ なので $P_\Pi=I-P_L$、$P_\Pi x=\frac13(8,-2,-2)^{\top}$ である(thm-op-basic の 4)。
$L^2(-1,1)$(Lebesgue 測度に関して 2 乗可積分な関数の空間。$\langle f,g\rangle=\int_{-1}^1f\bar g\,dx$ で Hilbert 空間になる。Hilbert空間 の例「2 乗可積分関数の空間」)の中で、偶関数(ほとんどいたるところ $f(-x)=f(x)$)全体を $E$、奇関数全体を $O$ とする。このとき
$$
P_Ef(x)=\frac{f(x)+f(-x)}2
$$
であり、$E^\perp=O$ である。
実際 $f=\frac{f(x)+f(-x)}2+\frac{f(x)-f(-x)}2$ は偶関数と奇関数の和であり、偶関数 $g$ と奇関数 $h$ の積 $g\bar h$ は奇関数なので $\int_{-1}^1g\bar h\,dx=0$、つまり $O\subset E^\perp$ である。逆に $k\in E^\perp$ を偶部分 $k_e$ と奇部分 $k_o$ に分けると $0=\langle k,k_e\rangle=\|k_e\|^2+\langle k_o,k_e\rangle=\|k_e\|^2$ なので $k=k_o\in O$ である。よって $L^2(-1,1)=E\oplus E^\perp$ で、$P_E$ は偶部分をとる写像である。たとえば $f=e^x$ では $P_Ef=\cosh x$、$f-P_Ef=\sinh x$ で、$\int_{-1}^1e^{2x}dx=\|\cosh\|^2+\|\sinh\|^2$(約 $3.627=2.813+0.813$)となる。
区間 $[-\pi,\pi]$ 上の連続関数に内積 $\int_{-\pi}^{\pi}f(x)g(x)\,dx$ を入れると、Fourier 級数の $N$ 次の部分和 $S_Nf$ は、$1,\cos x,\sin x,\dots,\cos Nx,\sin Nx$ の張る $2N+1$ 次元の部分空間への $f$ の直交射影である(Fourier係数と最良近似 の命題「部分和は正射影である」)。したがって $S_Nf$ は、次数 $N$ 以下の三角多項式の中で平均 2 乗の意味で $f$ に最も近い。
コンパクトな向きづけられた Riemann 多様体の $k$ 次微分形式の空間は、$L^2$ 内積について調和形式の空間 $\mathcal{H}^k$ とその直交補空間に分かれ、$\mathcal{H}^k$ への直交射影 $H$ が各形式の「調和部分」を与える(Hodge分解 の定理「調和形式による表現」。証明は同記事が挙げる文献による)。$\mathcal{H}^k$ は有限次元なので、滑らかな形式の空間が完備でなくても $H$ は定義できる。
内積空間 $V$ の部分空間 $U$ が $V=U\oplus U^\perp$ を満たすとし、$P:=P_U$ とする。
各 $x$ の分解を $x=Px+(x-Px)$($Px\in U$、$x-Px\in U^\perp$)と書く。
1:$x,y\in V$、$a,b\in F$ について、$aPx+bPy\in U$、$a(x-Px)+b(y-Py)\in U^\perp$ で、和は $ax+by$ なので、分解の一意性から $P(ax+by)=aPx+bPy$ である。$u\in U$ は $u=u+0$ と分解されるので $Pu=u$ である。$Px\in U$ だから $P^2x=Px$ である。定義から $\operatorname{im}P\subset U$ で、$Pu=u$ から $U\subset\operatorname{im}P$ である。$Px=0$ は $x=0+x$、すなわち $x\in U^\perp$ と同じなので $\ker P=U^\perp$ である。
2:$Px\perp y-Py$ なので $\langle Px,y\rangle=\langle Px,Py\rangle+\langle Px,y-Py\rangle=\langle Px,Py\rangle$ である。同様に $\langle x,Py\rangle=\langle Px,Py\rangle+\langle x-Px,Py\rangle=\langle Px,Py\rangle$ である。
3:$Px$ と $x-Px$ は直交するので、三平方の定理($\|a+b\|^2=\|a\|^2+\|b\|^2+2\operatorname{Re}\langle a,b\rangle$ で $\langle a,b\rangle=0$ の場合)から等式が従う。$U\ne\{0\}$ なら $0\ne u\in U$ について $\|Pu\|=\|u\|$ なので $\|P\|=1$ である。
4:prop-op-closed により $(U^\perp)^\perp=U$ である。$x=(x-Px)+Px$ は $x-Px\in U^\perp$、$Px\in U=(U^\perp)^\perp$ という分解なので、$V=U^\perp\oplus(U^\perp)^\perp$ であり、$U^\perp$ 成分は $x-Px$ である。
5:$x-u=(x-Px)+(Px-u)$ で、$x-Px\in U^\perp$、$Px-u\in U$ は直交するので、3 と同じく三平方の定理から等式を得る。右辺は $u=Px$ のときに限り最小である。$\square$
5 は 内積空間 の定理「直交分解と最良近似」の 3 や 正射影と射影行列 の定理「正射影は最も近い点」と同じ内容で、ここでは直交分解があるすべての場合に述べた。2 の等式は、$P$ が「自分自身の随伴」であることを意味する。有限次元なら、正規直交基底に関する $P$ の表現行列が Hermite 行列(実数なら対称行列)であることと同じである。
部分空間が有限次元なら、正規直交基底か一般の基底で直交射影を計算できる。
内積空間 $V$ の有限次元の部分空間 $U$ と $x\in V$ について、次が成り立つ。
$p=\sum_jc_ju_j\in U$ が $P_Ux$ であることは、$x-p\in U^\perp$、すなわち各 $i$ で $\langle x-p,u_i\rangle=0$ であることと同じである(分解の一意性)。この条件は $\sum_jc_j\langle u_j,u_i\rangle=\langle x,u_i\rangle$、つまり $Gc=b$ である。
$G$ の正則性:$Gc=0$ なら $\bigl\|\sum_jc_ju_j\bigr\|^2=\sum_{i,j}c_j\overline{c_i}\langle u_j,u_i\rangle=\sum_i\overline{c_i}(Gc)_i=0$ なので $\sum_jc_ju_j=0$、1 次独立性から $c=0$ である。よって 2 が成り立つ。1 は $G=I$、$c=b$ の場合である。3 は、$u_j$ を $A$ の第 $j$ 列とすると $G=A^*A$、$b=A^*x$ で、$P_Ux=Ac=A(A^*A)^{-1}A^*x$ となることによる。$\square$
実数の場合の 3 は 正射影と射影行列 の定理「正射影の公式と直交分解」である。1 の公式は基底が正規直交であることを使う。たとえば $U=\mathbb{R}^2$ の基底 $u_1=(1,0)$、$u_2=(1,1)$ に同じ式を使うと、$x=(1,0)$ に対して $\langle x,u_1\rangle u_1+\langle x,u_2\rangle u_2=(2,1)$ となり、$P_Ux=x$ と一致しない。複素数の場合の 3 の例として、$\mathbb{C}^3$ で $u_1=(1,i,0)^{\top}$、$u_2=(0,1,1)^{\top}$ の張る平面への直交射影は、3 から
$$
P=\frac13\begin{pmatrix}2&-i&i\\ i&2&1\\ -i&1&2\end{pmatrix}
$$
で、$P^*=P$、$P^2=P$ を満たす。
$P^2=P$ を満たす線形写像 $P\colon V\to V$ は、$V=\operatorname{im}P\oplus\ker P$ という(直交とは限らない)直和分解に沿って $\operatorname{im}P$ 成分をとる写像である($x=Px+(x-Px)$ で、$P(x-Px)=0$)。このうちどれが直交射影かを、次の定理が判定する。空間の完備性も、$P$ の有界性も仮定しない。
$V$ を内積空間、$P\colon V\to V$ を $P^2=P$ を満たす線形写像とする。次は同値である。
1 ⇒ 3 と 1 ⇒ 4 は thm-op-basic の 2・3 である。
3 ⇒ 2:$x\in\ker P$、$y\in\operatorname{im}P$ とし、$y=Pz$ と書くと $\langle x,y\rangle=\langle x,Pz\rangle=\langle Px,z\rangle=0$ である。
2 ⇒ 1:$U:=\operatorname{im}P$ とおく。各 $x$ は $x=Px+(x-Px)$ と書け、$Px\in U$、$x-Px\in\ker P$ で、2 から $\ker P\subset U^\perp$ である。よって $V=U+U^\perp$、$U\cap U^\perp=\{0\}$ なので $V=U\oplus U^\perp$ であり、この分解の $U$ 成分が $Px$ だから $P=P_U$ である。$\ker P=U^\perp$ は thm-op-basic の 1 による。
4 ⇒ 2:$u\in\operatorname{im}P$、$w\in\ker P$ とする。$u=Pz$ なら $Pu=P^2z=u$ なので、任意の $t\in F$ について $P(u+tw)=u$ であり、4 から
$$
\|u\|^2\le\|u+tw\|^2=\|u\|^2+2\operatorname{Re}\bigl(\overline t\,\langle u,w\rangle\bigr)+|t|^2\|w\|^2
$$
である。$s>0$ として $t=-s\langle u,w\rangle$ とおくと $\overline t\langle u,w\rangle=-s\lvert\langle u,w\rangle\rvert^2$ なので、$0\le-2s\lvert\langle u,w\rangle\rvert^2+s^2\lvert\langle u,w\rangle\rvert^2\|w\|^2$、両辺を $s$ で割って
$$
2\lvert\langle u,w\rangle\rvert^2\le s\,\lvert\langle u,w\rangle\rvert^2\|w\|^2
$$
がすべての $s>0$ で成り立つ。$s\to0$ とすると $\langle u,w\rangle=0$ である。$\square$
4 ⇒ 2 の証明は、「$u$ から $\ker P$ の方向へ少しずらすと、$u$ に写るのに長さが縮む」ことを使っている。$\ker P$ が $\operatorname{im}P$ と直交していなければ、そのようなずらし方がある。有限次元の場合は Axl24 の Exercises 6C の 9・10 と Exercises 7A の 20 にあたる。
$P\ne0$ が冪等なら $\operatorname{im}P$ の $0$ でない元 $u$ で $\|Pu\|=\|u\|$ なので、つねに作用素ノルムは $\|P\|\ge1$ である。したがって 4 は「$\|P\|=1$(または $P=0$)」と言い換えられ、直交射影でない冪等な有界作用素は必ず $\|P\|>1$ である。
直線 U への直交射影 Pv と、方向 (1,-1) に沿った斜めの射影 Qv
$\mathbb{R}^2$ の $Q=\begin{pmatrix}1&1\\0&0\end{pmatrix}$ は $Q^2=Q$ を満たし、像は $x$ 軸、核は $(1,-1)$ の向きの直線である。像と核は直交しない($\langle(1,0),(1,-1)\rangle=1\ne0$)ので、thm-op-characterization により $Q$ は直交射影でない。$Q$ は冪等性を満たすが自己随伴性を満たさず、$\|Qx\|\le\|x\|$ と最良近似が崩れる。
$P_\theta(\cos\theta,\sin\theta)^{\top}=(\cos\theta-\cot\theta\sin\theta,0)^{\top}=0$ なので核はその方向で、$P_\theta$ は $(1,0)$ を固定する。$P_\theta^{\top}P_\theta=\begin{pmatrix}1&-\cot\theta\\-\cot\theta&\cot^2\theta\end{pmatrix}$ の固有値は、トレース $1+\cot^2\theta=1/\sin^2\theta$ と行列式 $0$ から $1/\sin^2\theta$ と $0$ である。よって $\|P_\theta\|=1/\sin\theta$ である。$\theta=3\pi/4$(方向 $(-1,1)$、すなわち $(1,-1)$ の向き)で $\cot\theta=-1$ となって $Q$ に戻り、$\|Q\|=1/\sin(3\pi/4)=\sqrt2$ である。
同じ例は 正射影と射影行列 の例「反例:$P^2=P$ でも対称でなければ最も近い点を与えない」でも扱われている。特徴づけの各条件と、似た写像との違いをまとめると次のとおりである。
| 直交射影 $P_U$ | 斜めの射影(冪等) | 閉凸集合への最近点写像 | |
|---|---|---|---|
| 線形 | はい | はい | 一般にいいえ |
| $P^2=P$ | はい | はい | はい |
| 自己随伴 | はい | いいえ | 意味をもたない |
| $\Vert Px\Vert\le\Vert x\Vert$ | はい | いいえ | $0\notin C$ なら $x=0$ で破れる |
| $Px$ が最も近い点 | はい | いいえ | はい |
| 例 | $\frac19aa^{\top}$ | $Q$ | 閉単位球への $x\mapsto x/\max(1,\Vert x\Vert)$ |
直交射影を組み合わせたものが、また直交射影になるかどうかは、2 つの部分空間の位置関係で決まる。
内積空間 $V$ の部分空間 $U,W$ が $V=U\oplus U^\perp=W\oplus W^\perp$ を満たすとし、$P:=P_U$、$Q:=P_W$ とする。
要点:自己随伴な $P,Q$ について $\langle PQx,y\rangle=\langle x,QPy\rangle$(以下 (*))なので、$PQ$ の随伴は $QP$ である。1 は、積が自己随伴であることと可換であることが同じだから、thm-op-characterization の 3 から従う。2 は、$(P+Q)^2=P+Q+PQ+QP$ と、$W$ の元 $x$ について $\|Px\|^2+\|x\|^2=\langle(P+Q)x,x\rangle\le\|x\|^2$ となることから従う。
(*) は $\langle PQx,y\rangle=\langle Qx,Py\rangle=\langle x,QPy\rangle$ による(thm-op-basic の 2)。
1:$PQ$ が直交射影なら自己随伴なので、(*) から $\langle x,PQy\rangle=\langle x,QPy\rangle$ がすべての $x,y$ で成り立ち、$x=PQy-QPy$ とおいて $PQ=QP$ を得る。逆に $PQ=QP$ なら $(PQ)^2=PQPQ=P^2Q^2=PQ$ で、(*) から $\langle PQx,y\rangle=\langle x,PQy\rangle$ なので、thm-op-characterization の 3 ⇒ 1 により $PQ$ は $\operatorname{im}PQ$ への直交射影である。$x\in U\cap W$ なら $PQx=x$ なので $U\cap W\subset\operatorname{im}PQ$、逆に $PQx=P(Qx)\in U$ かつ $PQx=Q(Px)\in W$ なので $\operatorname{im}PQ=U\cap W$ である。
2:まず $U\perp W$ と $PQ=0$ が同値であることを示す。$PQ=0$ は $W=\operatorname{im}Q\subset\ker P=U^\perp$ と同じであり、これは $U\perp W$ ということである。このとき (*) から $\langle x,QPy\rangle=\langle PQx,y\rangle=0$ なので $QP=0$ でもある。$U\perp W$ なら $(P+Q)^2=P+PQ+QP+Q=P+Q$ で、$P+Q$ は自己随伴なので直交射影である。$x=u+w$($u\in U$、$w\in W$)なら $(P+Q)x=u+w$ なので $U+W\subset\operatorname{im}(P+Q)\subset U+W$ である。逆に $R:=P+Q$ が直交射影なら、$\langle Rx,x\rangle=\langle R^2x,x\rangle=\langle Rx,Rx\rangle=\|Rx\|^2\le\|x\|^2$(thm-op-basic の 2・3)である。一方 $\langle Rx,x\rangle=\langle Px,x\rangle+\langle Qx,x\rangle=\|Px\|^2+\|Qx\|^2$ である。$x\in W$ とすると $Qx=x$ なので $\|Px\|^2+\|x\|^2\le\|x\|^2$、よって $Px=0$ である。したがって $W\subset\ker P=U^\perp$、すなわち $U\perp W$ である。
3:$W\subset U$ なら、$P$ は $U$ の元を動かさないので $P(Qx)=Qx$、つまり $PQ=Q$ である。$PQ=Q$ なら $W=\operatorname{im}Q=\operatorname{im}PQ\subset U$ である。$QP=Q$ と $PQ=Q$ の同値は、(*) で両辺の随伴をとればよい($\langle QPx,y\rangle=\langle x,PQy\rangle$)。$\square$
$\mathbb{R}^3$ の $xy$ 平面と $yz$ 平面への直交射影 $P=\operatorname{diag}(1,1,0)$、$Q=\operatorname{diag}(0,1,1)$ は可換で、$PQ=\operatorname{diag}(0,1,0)$ は交わり($y$ 軸)への直交射影である。
$\mathbb{R}^2$ の $x$ 軸への $P_1=\begin{pmatrix}1&0\\0&0\end{pmatrix}$ と直線 $y=x$ への $P_2=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}$ は可換でない。積 $P_2P_1=\frac12\begin{pmatrix}1&0\\1&0\end{pmatrix}$ は冪等でない(正射影と射影行列 の例「反例:射影の積は射影とは限らない」)。和 $P_1+P_2=\begin{pmatrix}3/2&1/2\\1/2&1/2\end{pmatrix}$ の固有値は $1\pm\frac{\sqrt2}2$ で、$1$ を超える固有値 $1+\frac{\sqrt2}2$ があるので、thm-op-basic の 3 により直交射影でない。2 直線が直交しないことが原因である。
無限次元の部分空間では、直交射影があるかどうかは空間と部分空間の両方による。Hilbert 空間では、閉であることが必要十分である。
$H$ を Hilbert空間、$U$ を $H$ の部分空間とする。$U$ への直交射影が存在する($H=U\oplus U^\perp$)ための必要十分条件は、$U$ が閉であることである。このとき、$P_Ux$ は $U$ の中で $x$ に最も近いただ 1 つの点である。
$U$ が閉なら、Hilbert空間 の定理「直交射影と直交分解」の 3 により $H=U\oplus U^\perp$ である(証明は、閉凸集合への最短点の存在を平行四辺形の等式と完備性から示し、最短点との差が $U$ と直交することを確かめるものである)。逆に $H=U\oplus U^\perp$ なら、prop-op-closed により $U$ は閉である。最後の主張は thm-op-basic の 5 である。$\square$
閉部分空間 $U$ が可算個の元からなる正規直交基底 $(e_k)_{k\ge1}$ をもつなら、$P_Ux=\sum_{k=1}^\infty\langle x,e_k\rangle e_k$(ノルムで収束)である(Axl20 8.71)。有限個の $e_1,\dots,e_n$ の張る部分空間への直交射影は、この級数の部分和である。
次の 2 つの例では、それぞれ閉性と完備性の一方が欠けて、直交射影が存在しない。
連立 1 次方程式 $Ac=y$ が解をもたないとき、$\|y-Ac\|$ を最小にする $c$ を求めるのが最小 2 乗法である。$Ac$ は $A$ の列空間 $\operatorname{im}A$ を動くので、thm-op-basic の 5 により、最小になるのは $Ac=P_{\operatorname{im}A}\,y$ のときであり、prop-op-formula の 3 から $c=(A^*A)^{-1}A^*y$(正規方程式 $A^*Ac=A^*y$ の解)である(実数の場合は 正射影と射影行列 の定理「最小二乗解と正規方程式」)。列が 1 次独立でなくても、Moore–Penrose 逆行列 $A^+$ を使えば $AA^+$ が $\operatorname{im}A$ への直交射影になる(Moore–Penrose逆行列 の命題「射影としての特徴づけ」)。
prop-op-formula の 3 の行列 $A(A^*A)^{-1}A^*$ が直交射影であることは、thm-op-characterization からも直接分かる。$R:=A(A^*A)^{-1}A^*$ とおくと $R^2=A(A^*A)^{-1}(A^*A)(A^*A)^{-1}A^*=R$、$R^*=R$ であり、$RA=A$ から $\operatorname{im}A\subset\operatorname{im}R\subset\operatorname{im}A$ なので、$R$ は $\operatorname{im}A$ への直交射影である。
Vandermondeの行列式 の例「4 点に直線をあてはめる」では、点 $t=(0,1,3,4)$、値 $y=(1,2,2,4)$ に直線 $c_1+c_2t$ をあてはめ、$c=(\frac{21}{20},\frac35)$ を得た。行列 $A$ の列は $(1,1,1,1)^{\top}$ と $(0,1,3,4)^{\top}$ で、あてはめた値の列
$$
Ac=\frac1{20}(21,33,57,69)^{\top}
$$
は $y$ の $\operatorname{im}A$ への直交射影であり、残差 $y-Ac=\frac1{20}(-1,7,-17,11)^{\top}$ は 2 本の列のどちらとも直交する(成分の和は $0$、$t$ との内積は $\frac1{20}(0+7-51+44)=0$)。直交射影の行列
$$
R=A(A^{\top}A)^{-1}A^{\top}=\frac1{20}\begin{pmatrix}13&9&1&-3\\9&7&3&1\\1&3&7&9\\-3&1&9&13\end{pmatrix}
$$
は対称で $R^2=R$、トレースは $\dim\operatorname{im}A=2$ である。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 自己随伴(冪等は満たす) | $Q=\begin{pmatrix}1&1\\0&0\end{pmatrix}$ | $\Vert Px\Vert\le\Vert x\Vert$、最良近似 |
| 冪等(自己随伴は満たす) | 折り返し $\begin{pmatrix}0&1\\1&0\end{pmatrix}$ | 直交射影であること(固有値 $-1$ をもつ) |
| 2 つの射影の可換性 | $x$ 軸と直線 $y=x$ への $P_1,P_2$ | 積 $P_2P_1$ が直交射影であること |
| 2 つの部分空間の直交性 | 同じ $P_1,P_2$ | 和 $P_1+P_2$ が直交射影であること |
| 部分空間の閉性 | $\ell^2$ の中の $c_{00}$ | 直交射影の存在 |
| 空間の完備性 | $c_{00}$ の閉部分空間 $\{x\mid\sum_nx_n/n=0\}$ | 直交射影の存在 |
1 行目は ex-op-oblique、3・4 行目は ex-op-two、5・6 行目は前節で確かめた。2 行目の折り返し $X$ は対称だが $X^2=I\ne X$ で、直交射影の固有値は $0$ か $1$ に限る($Px=\lambda x$、$x\ne0$ なら $\lambda x=P^2x=\lambda^2x$ より $\lambda\in\{0,1\}$)ので、固有値 $-1$ をもつ $X$ は直交射影でない(正射影と射影行列 の例「反例:対称でも $P^2=P$ でなければ射影ではない」)。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する