Schur補行列

前提知識: ブロック行列, 行列式, 正則行列, Hermite行列

連立 1 次方程式
$$ \begin{cases}2x+y+z=b_1\\x+2y+z=b_2\\x+y+2z=b_3\end{cases} $$
で、1 本目の式から $x=\frac12(b_1-y-z)$ として残りの 2 本に代入すると、$y,z$ だけの方程式
$$ \begin{pmatrix}\frac32&\frac12\\\frac12&\frac32\end{pmatrix}\begin{pmatrix}y\\z\end{pmatrix}=\begin{pmatrix}b_2-\frac12b_1\\b_3-\frac12b_1\end{pmatrix} $$
が残る。この $2\times2$ の係数行列は、元の係数行列を $M=\begin{pmatrix}A&B\\C&D\end{pmatrix}$（$A=(2)$）と区分けしたときの $D-CA^{-1}B$ である。この行列を $M$ における $A$ の Schur 補行列 という。変数の一部を消去したあとに残る係数行列であり、$M$ の行列式・正則性・階数・逆行列の右下の部分を決める。
$M$ が Hermite 行列で $A$ が正則なときは、Schur 補行列は $M$ の正・負の固有値の個数を受け継ぐ。$A$ の固有値の符号の個数と $D-B^*A^{-1}B$ の固有値の符号の個数を足すと、$M$ の固有値の符号の個数になる（thm-sc-inertia）。とくに $M$ が正定値であることは、$A$ と Schur 補行列がともに正定値であることと同値である。この性質により、Schur 補行列は正定値性の判定、2 次形式の部分的な最小化、多変量正規分布の条件付き分散に現れる。

定義

以下、$K$ は体とし、$M_{m,n}(K)$ を $K$ の元を成分とする $m\times n$ 行列の全体、$M_n(K):=M_{n,n}(K)$ と書く。$I_n$ は $n$ 次の単位行列、$O$ は零行列である。$(p+q)$ 次の正方行列を行も列も $(p,q)$ の型で区分けして
$$ M=\begin{pmatrix}A&B\\C&D\end{pmatrix}\qquad(A\in M_p(K),\ B\in M_{p,q}(K),\ C\in M_{q,p}(K),\ D\in M_q(K)) $$
と書く（ブロック行列）。

$M/D$ は、行と列の順を入れ替えて $D$ を左上に移した行列 $\begin{pmatrix}D&C\\B&A\end{pmatrix}$ における $D$ の Schur 補行列である。そこで以下では主に $M/A$ を扱い、$M/D$ についての主張は入れ替えで得る。$p=1$、$A=(a)$ のときは $M/A=D-\frac1a\,CB$ であり、これは 正定値行列 の記事の補題「Schur 補行列による分解」で使われている形である。

直感

$K^{p+q}$ の列ベクトルを $\binom{x}{y}$（$x\in K^p$、$y\in K^q$）と書くと、方程式 $M\binom xy=\binom uv$ は $Ax+By=u$、$Cx+Dy=v$ である。$A$ が正則なら 1 本目から $x=A^{-1}(u-By)$ が決まり、2 本目に代入すると
$$ (M/A)\,y=v-CA^{-1}u $$
となる。Schur 補行列は「$x$ を消去したあとに $y$ に残る係数行列」であり、ブロック単位の Gauss の消去法の結果である（ブロック行列 の記事の「直感」）。
この見方から次のことが予想できる。$M$ が正則であることは、残った方程式が一意に解けること、すなわち $M/A$ が正則であることと同じはずである。$M$ の階数は、$A$ の分の $p$ に、残った $y$ の方程式の階数を足したものになるはずである。さらに $u=0$ のとき $y=(M/A)^{-1}v$ なので、$M^{-1}$ の右下のブロックは $(M/A)^{-1}$ になるはずである。これらを確かめるのが thm-sc-ldu である。
Hermite 行列の場合には、消去は 2 次形式の平方完成にあたる。$n=2$ の実対称行列なら
$$ ax^2+2bxy+dy^2=a\Bigl(x+\frac bay\Bigr)^2+\Bigl(d-\frac{b^2}a\Bigr)y^2 $$
であり、$y^2$ の係数 $d-\frac{b^2}{a}$ が $1\times1$ の Schur 補行列である。正定値性や符号が $a$ と $d-\frac{b^2}a$ の符号で決まることの一般化が thm-sc-inertia である。

例

基本の分解

$D$ が正則なら、入れ替えにより $M=\begin{pmatrix}I_p&BD^{-1}\\O&I_q\end{pmatrix}\begin{pmatrix}M/D&O\\O&D\end{pmatrix}\begin{pmatrix}I_p&O\\D^{-1}C&I_q\end{pmatrix}$、$\det M=\det D\cdot\det(M/D)$ であり、$M^{-1}$ の左上の $p\times p$ ブロックは $(M/D)^{-1}$ である。$A$ と $D$ の両方が正則なときに 2 つの分解を比べると、$\det(I_m+XY)=\det(I_n+YX)$ や Woodbury の公式が得られる。これらは ブロック行列 の記事の系「行列式の補題」で証明されている。
3 の特別な場合として、$\operatorname{rank}M=\operatorname{rank}A$ となるのは $M/A=O$、すなわち $D=CA^{-1}B$ のときに限る。正則な左上のブロックが $M$ の階数をすべて担うなら、残りのブロック $D$ は $A,B,C$ から決まってしまう。

商の公式

Schur 補行列をとる操作は、段階に分けても一度に行っても同じ結果になる。$(p+r+s)$ 次の正方行列を $(p,r,s)$ の型で
$$ M=\begin{pmatrix}A&B_1&B_2\\C_1&D_{11}&D_{12}\\C_2&D_{21}&D_{22}\end{pmatrix},\qquad E:=\begin{pmatrix}A&B_1\\C_1&D_{11}\end{pmatrix} $$
と区分けする。$A$ が正則なら、$M$ を $(p,\,r+s)$ の型で見た Schur 補行列は
$$ M/A=\begin{pmatrix}D_{11}-C_1A^{-1}B_1&D_{12}-C_1A^{-1}B_2\\D_{21}-C_2A^{-1}B_1&D_{22}-C_2A^{-1}B_2\end{pmatrix} $$
であり、その左上の $r\times r$ ブロックは $E/A$ である。$E$ が正則なら、$M$ を $(p+r,\,s)$ の型で見た Schur 補行列 $M/E$ も定まる。

Hermite 行列の Schur 補行列

この節では $K$ は $\mathbb{R}$ または $\mathbb{C}$ とし、$X^*:=\overline{X}^{\top}$ と書く。$M$ が Hermite行列（$K=\mathbb{R}$ では実対称行列）であることは、$A$ と $D$ が Hermite 行列で $C=B^*$ であることと同値である。このとき $A$ が正則なら $A^{-1}$ も Hermite 行列なので、$M/A=D-B^*A^{-1}B$ も Hermite 行列である。正定値・半正定値の定義と記号 $X\succ0$、$X\succeq0$ は 正定値行列 の記事のとおりとし、$X-Y\succeq0$ を $X\succeq Y$ とも書く。
Hermite 行列 $H$ の正の固有値の個数、負の固有値の個数、固有値 $0$ の重複度（いずれも重複度を込めて数える）をそれぞれ $\pi(H)$、$\nu(H)$、$\delta(H)$ とし、組 $\operatorname{In}(H):=(\pi(H),\nu(H),\delta(H))$ を $H$ の 慣性（inertia）という。正則行列 $P$ について $\operatorname{In}(P^*HP)=\operatorname{In}(H)$ である。実際、Hermite形式 の記事の系「符号と固有値」により $\operatorname{In}(H)$ は Hermite 形式 $h_H(x,y)=y^*Hx$ の直交基底での値の符号の個数に等しく、$h_{P^*HP}(x,y)=h_H(Px,Py)$ なので、$h_{P^*HP}$ の直交基底を $P$ で移すと $h_H$ の直交基底になり、値は変わらない。同記事の定理「Hermite 形式の慣性法則」の 1 によりこの個数は直交基底の選び方によらない（実対称行列は複素の Hermite 行列とみなせばよい。2次形式 の記事の定理「実2次形式の係数の符号の不変性」も同じ内容である）。

この定理は Haynsworth の慣性公式と呼ばれる。ex-sc-inertia はその最小の例である。正定値性は $\operatorname{In}=(n,0,0)$、半正定値性は $\nu=0$ と言い換えられるので（正定値行列 の記事の定理「正定値行列の特徴づけ」と定理「半正定値行列の特徴づけ」の 1 ⇔ 2）、次の判定法が従う。

1 で $p=1$ とし、帰納法を回したものが、首座小行列式による正定値性の判定（Sylvester の判定法）の証明である（正定値行列 の記事の定理「正定値行列の特徴づけ」の証明）。4 の行列式の不等式を繰り返し使うと、半正定値行列 $M$ について $\det M\le m_{11}m_{22}\cdots m_{nn}$（Hadamard の不等式）が得られる（正定値なら、4 を $p=1$ で使うと $\det M\le m_{11}\det D$ で、$D$ も正定値なので帰納法が回る。半正定値で正則でなければ $\det M=0$ であり、対角成分は $0$ 以上である）。

$M$ が内積空間の元 $u_1,\dots,u_p,w_1,\dots,w_q$ の Gram 行列（成分 $\langle\cdot,\cdot\rangle$ を並べた行列。正定値行列 の記事の例「Gram 行列と Hilbert 行列」）で $u_1,\dots,u_p$ が 1 次独立なら、prop-sc-minimum は「$\sum_jy_jw_j$ から $u_1,\dots,u_p$ の張る部分空間 $U$ の元を引いた長さの 2 乗の最小値」を与える。したがって $M/A$ は、各 $w_j$ から $U$ への直交射影を引いた残り $w_j-P_Uw_j$ の Gram 行列である。$q=1$ では $\det M/\det A$ が $w_1$ と $U$ の距離の 2 乗になり、これは Gram–Schmidtの直交化 の記事の定理「Gram 行列式と直交化」の 1 の式である。ex-sc-covariance の条件付き分散も、2 乗平均の意味で $X_1$ の 1 次式で $X_2$ を近似したときの誤差の最小値である。
$A$ が正則でないときは、逆行列の代わりに Moore–Penrose逆行列 $A^+$ を使う。

$A$ が正則なら $A^+=A^{-1}$ で条件 2 は自動的に成り立ち、cor-sc-definite の 2 の「$A\succ0$」の場合を含む。$D-B^*A^+B$ は Schur 補行列の一般化として扱われる。

条件を外した反例

補足

関連項目

• 前提: ブロック行列, 行列式, 正則行列, Hermite行列
• 比較: 正定値行列, Gauss消去法, LU分解
• 直後に読む: Moore–Penrose逆行列, Hermite形式, 多変量正規分布
• 発展: Schurの積定理, Gram–Schmidtの直交化