6-5 直交射影

読み始める前の問い

部分空間上の点のうち、与えられた点に最も近いものはなぜ垂線の足なのだろうか。
このページでできるようになること
直交射影を最良近似として特徴付け、射影行列を計算できるようになる。

影が最も近い点になる

$W$ の正規直交基底を $e_1,\dots,e_r$ とする。$v$ の $W$ への 直交射影 を
$$P_Wv=\sum_{i=1}^r\langle v,e_i\rangle e_i$$
と定める。$P_Wv\in W$ であり、$v-P_Wv$ は各 $e_j$ と直交するので $W^\perp$ に属する。

証明を読む前の見取り図

任意の候補との差を平行成分と直交成分へ分け、Pythagorasの等式で距離を比較する。

これが「方程式に解がないとき、最も近い解を選ぶ」原理の中核である。

射影作用素の特徴

直交射影 $P=P_W$ は線形で
$$P^2=P,\qquad \operatorname{Im}P=W,\qquad \ker P=W^\perp$$
を満たす。さらに $\langle Px,y\rangle=\langle x,Py\rangle$、すなわち $P^*=P$ である。
逆に有限次元内積空間上の線形写像 $P$ が $P^2=P$ かつ $P^*=P$ を満たせば、$P$ は $\operatorname{Im}P$ への直交射影である。

行列表示と計算

$Q$ の列が $W$ の正規直交基底なら
$$P_W=QQ^*.$$
実際 $Q^*v$ は内積 $\langle v,e_i\rangle$ を並べた座標で、再び $Q$ を掛けるとその線形結合になる。
前ページの
$$e_1=\frac1{\sqrt2}(1,1,0)^\mathsf T,\qquad e_2=\frac1{\sqrt6}(1,-1,2)^\mathsf T$$
が張る $W$ へ $v=(1,0,0)^\mathsf T$ を射影すると
$$P_Wv=\frac1{\sqrt2}e_1+\frac1{\sqrt6}e_2 =\left(\frac23,\frac13,\frac13\right)^\mathsf T.$$
差は $(1/3,-1/3,-1/3)^\mathsf T$ であり、$e_1,e_2$ の双方との内積が $0$ になる。

反例：冪等なら直交射影とは限らない

$$P=\begin{pmatrix}1&1\\0&0\end{pmatrix}$$
は $P^2=P$ だが $P^\mathsf T\ne P$。像は $x$ 軸、核は $\operatorname{span}((-1,1)^\mathsf T)$ で、両者は直交しない。これは斜めの方向に沿う射影である。直交射影には自己随伴性が必要である。

演習

零でない $a\in\mathbb{R}^n$ に対し、超平面 $W=\{x\mid a^\mathsf Tx=0\}$ への直交射影を求めよ。

次ページでは $Ax=b$ に解がない問題を、$\operatorname{Im}A$ への直交射影として解き直す。

このページで回収したもの

幾何的な「影」が一意な最適解になった。冪等性だけでは直交射影にならない限界も分かる。
次へ持ち越す問い
この見方を、次のページではより広い対象またはより計算しやすい形へ移す。