6-4 Gram–Schmidt法とQR分解

$$\newcommand{AA}[0]{\mathscr{A}} \newcommand{abs}[1]{\left\lvert#1\right\rvert} \newcommand{angleb}[1]{\left\langle #1 \right\rangle} \newcommand{Arg}[0]{\operatorname{Arg}} \newcommand{Ba}[0]{\mathbf{a}} \newcommand{BB}[0]{\mathscr{B}} \newcommand{Bb}[0]{\mathbf{b}} \newcommand{Be}[0]{\mathbf{e}} \newcommand{Bu}[0]{\mathbf{u}} \newcommand{Bv}[0]{\mathbf{v}} \newcommand{Bw}[0]{\mathbf{w}} \newcommand{Bx}[0]{\mathbf{x}} \newcommand{By}[0]{\mathbf{y}} \newcommand{Bzr}[0]{\mathbf{0}} \newcommand{C}[0]{\mathbb{C}} \newcommand{CC}[0]{\mathscr{C}} \newcommand{F}[0]{\mathbb{F}} \newcommand{floor}[1]{\left\lfloor#1\right\rfloor} \newcommand{im}[0]{\operatorname{Im}} \newcommand{ind}[0]{\mathrm{ind}} \newcommand{K}[0]{\mathbb{K}} \newcommand{Ker}[0]{\operatorname{Ker}} \newcommand{L}[0]{\mathbb{L}} \newcommand{mmod}[1]{\ \left(\mathrm{mod}\ #1\right)} \newcommand{Mod}[1]{\ \left(\mathrm{mod}\ #1\right)} \newcommand{N}[0]{\mathbf{N}} \newcommand{ord}[0]{\mathrm{ord}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{rank}[0]{\operatorname{rank}} \newcommand{span}[0]{\operatorname{span}} \newcommand{SS}[0]{\mathscr{S}} \newcommand{TT}[0]{\mathscr{T}} \newcommand{UU}[0]{\mathscr{U}} \newcommand{wenvert}[1]{\left\lvert\left\lvert#1\right\rvert\right\rvert} \newcommand{Z}[0]{\mathbb{Z}} $$

読み始める前の問い

斜めに交わる座標軸を、張る空間を変えずに直角な軸へ直せるだろうか。
このページでできるようになること
Gram–Schmidt法を途中式まで実行し、QR分解へまとめられるようになる。

斜めの座標軸を直交させる

一次独立な $v_1,\dots,v_r$ から、同じ部分空間を張る正規直交列を作る。最初に $u_1=v_1$ とし、以後
$$u_k=v_k-\sum_{j=1}^{k-1}\frac{\langle v_k,u_j\rangle}{\langle u_j,u_j\rangle}u_j, \qquad e_k=\frac{u_k}{\|u_k\|}$$
と置く。これが Gram–Schmidt の直交化法 である。

証明を読む前の見取り図

各段階で既存の直交方向への射影を引き、残差がすべてに直交することを示す。

$v_1,\dots,v_r$ が一次独立なら、上の $u_k$ はすべて零でなく互いに直交し、各 $k$ で
$$\operatorname{span}(v_1,\dots,v_k)=\operatorname{span}(e_1,\dots,e_k)$$
である。したがって $e_1,\dots,e_r$ は同じ部分空間の正規直交基底になる。

$k$ に関する帰納法を使う。$u_k$ は $v_k$ から $u_1,\dots,u_{k-1}$ の線形結合を引いたものなので、両方の $k$ 本が張る空間は一致する。
$i< k$ とすると、帰納法により $u_j$ は互いに直交するから
$$ \langle u_k,u_i\rangle =\langle v_k,u_i\rangle- \sum_{j< k}\frac{\langle v_k,u_j\rangle}{\langle u_j,u_j\rangle} \langle u_j,u_i\rangle=0. $$
和で残るのは $j=i$ の項だけで、最初の項と相殺する。もし $u_k=0$ なら $v_k$ は $u_1,\dots,u_{k-1}$、したがって $v_1,\dots,v_{k-1}$ の線形結合となり、元の列の一次独立性に反する。ゆえに正規化できる。

具体計算

$v_1=(1,1,0)^\mathsf T$、$v_2=(1,0,1)^\mathsf T$ とする。
$$u_1=v_1,\qquad e_1=\frac1{\sqrt2}(1,1,0)^\mathsf T.$$
次に
$$ u_2=v_2-\frac{\langle v_2,u_1\rangle}{\langle u_1,u_1\rangle}u_1 =(1,0,1)^\mathsf T-\frac12(1,1,0)^\mathsf T =\frac12(1,-1,2)^\mathsf T. $$
$\|u_2\|=\sqrt6/2$ だから
$$e_2=\frac1{\sqrt6}(1,-1,2)^\mathsf T.$$
内積は $(1-1+0)/\sqrt{12}=0$、各長さは $1$ である。

QR分解

$A$ の列 $v_1,\dots,v_n$ が一次独立とする。Gram–Schmidt 法で得た $e_i$ を列にもつ行列を $Q$ とする。各 $v_j$ は $e_1,\dots,e_j$ の線形結合なので、その係数を第 $j$ 列に並べた行列 $R$ は上三角で
$$A=QR,\qquad Q^*Q=I$$
となる。これを QR 分解という。$R$ の対角成分を正に選べば分解は一意である。

$A=QR=Q'R'$ が二つの分解で、$Q,Q'$ の列が正規直交、$R,R'$ が正の対角をもつ上三角行列とする。左から $Q^*$ を掛けると
$$R=(Q^*Q')R'.$$
よって $Q^*Q'=RR'^{-1}$ は上三角である。一方これはユニタリー行列である。上三角ユニタリー行列は、その列の直交性を最後の列から順に調べれば対角行列で、対角成分の絶対値は $1$ と分かる。$R,R'$ の対角成分が正なので $RR'^{-1}$ の対角成分も正、ゆえにすべて $1$ である。したがって $R=R'$、さらに $Q=Q'$ である。

演習

一次独立な $v_1,\dots,v_r$ に Gram–Schmidt 法を適用する途中で、$u_k=0$ が起こらない理由を、張る空間の等式から説明せよ。

$u_k=0$ なら、定義式を移項して $v_k$ が $u_1,\dots,u_{k-1}$ の線形結合となる。帰納的に両者が張る空間は $\operatorname{span}(v_1,\dots,v_{k-1})$ なので、$v_k$ が先行する $v_i$ の線形結合となる。これは一次独立性に反する。

次ページでは正規直交基底を使い、任意のベクトルを部分空間上の成分と垂直成分へ具体的に分ける。

このページで回収したもの

同じ部分空間を数値的に扱いやすい正規直交基底で表せるようになった。
次へ持ち越す問い
この見方を、次のページではより広い対象またはより計算しやすい形へ移す。

参考文献

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する

Mathpediaを支援する
前のページへ
53 / 57
次のページへ
前ページへ
線形代数学I ― 連立方程式からベクトル空間・線形写像までの表紙
次ページへ