直交補空間

同義語：直交補orthogonal complement

概要

前提知識: 内積, 内積空間, 直和

何を表す概念か

空間の中の平面 $x+2y-2z=0$ に垂直な方向は、法線ベクトル $(1,2,-2)$ の定数倍に限られる。逆にこの直線に垂直なベクトル全体は、もとの平面に戻る。平面と法線のこの「垂直なもの全体をとる」操作を、一般の内積空間の部分集合に対して行ったものが直交補空間である。
直交補空間は、内積から決まるただ 1 つの「補い方」である。部分空間 $U$ を補って空間全体を直和にする部分空間（補空間）は一般に無数にあるが、$U$ と直交するという条件を課すと 1 つに決まる。有限次元ではつねに $V=U\oplus U^\perp$ となり、行列の核と像、連立 1 次方程式が解をもつ条件、固有空間への分解などが、この分解の言葉で述べられる。無限次元では、空間の完備性と部分空間の閉性がこの分解に効いてくる。

定義

以下、$F$ は実数体 $\mathbb{R}$ または複素数体 $\mathbb{C}$ を表し、$a\in F$ の複素共役を $\bar a$ と書く（$F=\mathbb{R}$ なら $\bar a=a$）。内積 $\langle\cdot,\cdot\rangle$ は内積空間の記事と同じく第 1 変数について線形、第 2 変数について共役線形とし、$\|x\|:=\sqrt{\langle x,x\rangle}$ とおく。$\langle x,y\rangle=0$ のとき $x$ と $y$ は直交するといい、$x\perp y$ と書く。$F^n$ には標準内積 $\langle x,y\rangle=\sum_kx_k\overline{y_k}$ を入れる。

直交補空間

$V$ を $F$ 上の内積空間とし、$S\subset V$ を部分集合とする。$S$ のすべての元と直交する $V$ の元全体
$$ S^\perp:=\{x\in V\mid\text{すべての }s\in S\text{ について }\langle x,s\rangle=0\} $$
を $S$ の直交補空間（orthogonal complement）という。$S=\{s\}$ のときは $s^\perp$ とも書く。$(S^\perp)^\perp$ を $S^{\perp\perp}$ と書く。

$S$ は部分空間でなくてよい。$\langle x,s\rangle=0$ と $\langle s,x\rangle=\overline{\langle x,s\rangle}=0$ は同値なので、どちらの変数に $x$ を入れて定義しても同じである。また $S^\perp$ は $S$ だけでなく、まわりの空間 $V$ とその内積にも依存する（ex-oc-inner-product）。
定義から、次のことがすぐわかる。

$\{0\}^\perp=\emptyset^\perp=V$ である（条件が空か、$\langle x,0\rangle=0$ が自動的に成り立つため）。
$V^\perp=\{0\}$ である（$x\in V^\perp$ なら $\langle x,x\rangle=0$ なので $x=0$）。
$S\cap S^\perp\subset\{0\}$ である（同じ理由）。

例

空間の平面と法線

$V=\mathbb{R}^3$ とし、$a:=(1,2,-2)$、$U:=\{x\in\mathbb{R}^3\mid x_1+2x_2-2x_3=0\}$ とする。定義から $a^\perp=\{x\mid\langle x,a\rangle=0\}=U$ である。逆に $U^\perp$ は直線 $\mathbb{R}a=\{ta\mid t\in\mathbb{R}\}$ である。
実際 $U$ は $u_1:=(2,-1,0)$、$u_2:=(2,0,1)$ で張られる平面で、$y\in U^\perp$ は $2y_1-y_2=0$ と $2y_1+y_3=0$ を満たす（prop-oc-basic の 3 により、張るベクトルとの直交だけを調べればよい）。これを解くと $y=y_1(1,2,-2)$ である。$\dim U+\dim U^\perp=2+1=3$ であり、$U^{\perp\perp}=(\mathbb{R}a)^\perp=a^\perp=U$ となって、もとの平面に戻る。一般に、$\mathbb{R}^n$ の $0$ でないベクトル $a$ について $a^\perp$ は $a$ を法線とする原点を通る超平面である。

行列の行空間と零空間

実行列 $A=\begin{pmatrix}1&2&0&-1\\0&1&1&1\end{pmatrix}$ の零空間 $\ker A=\{x\in\mathbb{R}^4\mid Ax=0\}$ を考える。$Ax=0$ は「$x$ が $A$ の各行と直交する」ことにほかならないので、$A$ の行が張る部分空間（行空間）を $R$ とすると $\ker A=R^\perp$ である。連立方程式を解くと
$$ \ker A=\operatorname{span}\{(2,-1,1,0),\ (3,-1,0,1)\} $$
であり、$\dim R+\dim\ker A=2+2=4$ である。$\mathbb{R}^4$ は行空間と零空間の直和に分かれる。複素行列では、零空間は行を複素共役にしたベクトルたちの直交補空間になる（$\sum_ja_{ij}x_j=\langle x,\overline{a_i}\rangle$ のため）。この関係は thm-oc-adjoint で一般の形にする。

多項式の空間と平均 $0$ の多項式

2 次以下の実係数多項式の空間 $V$ に内積 $\langle p,q\rangle:=\int_{-1}^{1}p(t)q(t)\,dt$ を入れる（内積空間の例「Gram–Schmidtの直交化の計算」と同じ内積）。定数関数全体 $U=\operatorname{span}\{1\}$ の直交補空間は
$$ U^\perp=\Bigl\{p\in V\Bigm|\int_{-1}^{1}p(t)\,dt=0\Bigr\}=\operatorname{span}\Bigl\{t,\ t^2-\frac13\Bigr\} $$
であり、区間 $[-1,1]$ での平均が $0$ の多項式全体である。$p=a+bt+ct^2$ について $\int_{-1}^1p=2a+\frac23c$ なので、条件は $a=-\frac c3$ であり、右辺の表示が得られる。$V=U\oplus U^\perp$ は、$p$ を平均値（定数）と平均 $0$ の部分に分けることにあたる：$p=\frac12\int_{-1}^1p+\Bigl(p-\frac12\int_{-1}^1p\Bigr)$。

数列の空間 $\ell^2$

2 乗総和可能な数列の空間 $\ell^2$（内積 $\langle x,y\rangle=\sum_kx_k\overline{y_k}$。Hilbert空間の例「2 乗総和可能な数列の空間」）で、偶数番目の項がすべて $0$ の数列全体を $U$ とする。このとき $U^\perp$ は奇数番目の項がすべて $0$ の数列全体である（Axl20 Example 8.39）。実際、第 $k$ 成分だけが $1$ の数列を $e_k$ とすると、奇数 $k$ について $e_k\in U$ なので、$y\in U^\perp$ なら $y_k=\langle y,e_k\rangle=0$ である。逆に奇数番目が $0$ の $y$ と $x\in U$ では、各項 $x_k\overline{y_k}$ がすべて $0$ である。

ルート系の鏡映

実内積空間 $V$ の $0$ でないベクトル $\alpha$ に対し、$\alpha^\perp$ は $\alpha$ に直交する超平面であり、$V=\mathbb{R}\alpha\oplus\alpha^\perp$ である（thm-oc-finite）。ルート系の記事の定義「ベクトルに関する鏡映」の鏡映 $s_\alpha(x)=x-\frac{2\langle x,\alpha\rangle}{\langle\alpha,\alpha\rangle}\alpha$ は、この分解の $\alpha^\perp$ の成分をそのままにし、$\mathbb{R}\alpha$ の成分の符号を変える写像である。ルート系の理論では、部分集合の張る部分空間 $V_\Theta$ とその直交補空間 $V_\Theta^\perp$ への分解が繰り返し使われる。

基本性質

まず、空間の次元や完備性によらずに成り立つ性質をまとめる。

直交補空間の基本性質

$V$ を内積空間、$S,T\subset V$ を部分集合とする。

$S^\perp$ は $V$ の部分空間である。
$S\subset T$ ならば $T^\perp\subset S^\perp$ である。
$S^\perp=(\operatorname{span}S)^\perp$ である。ここで $\operatorname{span}S$ は $S$ の元の有限個の線形結合全体である。
$S\subset S^{\perp\perp}$ である。
$S^\perp=(S^{\perp\perp})^\perp$ である。
部分集合 $S_i$（$i\in I$）について $\bigl(\bigcup_iS_i\bigr)^\perp=\bigcap_iS_i^\perp$ である。とくに部分空間 $U,W$ について $(U+W)^\perp=U^\perp\cap W^\perp$ である。

要点：1・3 は内積の第 1 変数の線形性と第 2 変数の共役線形性、2・4・6 は定義の言い換えである。5 は、4 を $S^\perp$ に使った $S^\perp\subset(S^{\perp\perp})^\perp$ と、4 に 2 を使った $(S^{\perp\perp})^\perp\subset S^\perp$ を合わせたものである。

詳しい証明を開く

1：$\langle0,s\rangle=0$ なので $0\in S^\perp$ である。$x,y\in S^\perp$、$a,b\in F$ なら、各 $s\in S$ について $\langle ax+by,s\rangle=a\langle x,s\rangle+b\langle y,s\rangle=0$ なので $ax+by\in S^\perp$ である。

2：$x\in T^\perp$ は $T$ のすべての元と直交するので、とくに $S$ のすべての元と直交する。

3：$S\subset\operatorname{span}S$ なので 2 から $(\operatorname{span}S)^\perp\subset S^\perp$ である。逆に $x\in S^\perp$ とし、$w=\sum_{j=1}^mc_js_j$（$s_j\in S$、$c_j\in F$）を $\operatorname{span}S$ の元とすると、第 2 変数の共役線形性から $\langle x,w\rangle=\sum_j\overline{c_j}\langle x,s_j\rangle=0$ である。

4：$s\in S$ と $x\in S^\perp$ について $\langle s,x\rangle=\overline{\langle x,s\rangle}=0$ なので、$s$ は $S^\perp$ のすべての元と直交する。

5：4 を $S^\perp$ に使うと $S^\perp\subset(S^\perp)^{\perp\perp}=(S^{\perp\perp})^\perp$ である。逆に 4 の $S\subset S^{\perp\perp}$ に 2 を使うと $(S^{\perp\perp})^\perp\subset S^\perp$ である。

6：$x$ が $\bigcup_iS_i$ のすべての元と直交することは、各 $i$ について $S_i$ のすべての元と直交することと同じである。$U\cup W$ の張る部分空間は $U+W$ なので、後半は 3 と前半から従う。$\square$

5 から、直交補空間をとる操作は 2 回で「安定」する。$S\mapsto S^{\perp\perp}$ は $S$ を含み、もう一度 $\perp\perp$ をとっても変わらない。問題は $S^{\perp\perp}$ が $S$ からどれだけ大きくなるかであり、次の命題と以下の節がそれに答える。
内積空間 $V$ は $\|x-y\|$ を距離として距離空間になり、内積は各変数について連続である（$|\langle x,s\rangle-\langle x',s\rangle|\le\|x-x'\|\,\|s\|$。Cauchy–Schwarz の不等式による）。

直交補空間は閉部分空間

内積空間 $V$ の部分集合 $S$ について、$S^\perp$ は $V$ の閉集合である。さらに $\overline{\operatorname{span}S}$ を $\operatorname{span}S$ の閉包とすると $S^\perp=\bigl(\overline{\operatorname{span}S}\bigr)^\perp$ である。とくに $S^{\perp\perp}$ は $\overline{\operatorname{span}S}$ を含む閉部分空間である。

要点：$S^\perp$ は連続関数 $x\mapsto\langle x,s\rangle$（$s\in S$）の零点集合の共通部分なので閉である。$x\in S^\perp$ が $\operatorname{span}S$ の元と直交すれば、内積の連続性からその極限とも直交する。

詳しい証明を開く

$s\in S$ を固定すると $x\mapsto\langle x,s\rangle$ は連続なので、$\{x\mid\langle x,s\rangle=0\}$ は閉集合であり、$S^\perp$ はその共通部分として閉集合である。

後半：$\operatorname{span}S\subset\overline{\operatorname{span}S}$ と prop-oc-basic の 2・3 から $\bigl(\overline{\operatorname{span}S}\bigr)^\perp\subset S^\perp$ である。逆に $x\in S^\perp$ とし、$w\in\overline{\operatorname{span}S}$ を $\operatorname{span}S$ の点列 $w_n$ の極限とする。prop-oc-basic の 3 から $\langle x,w_n\rangle=0$ であり、連続性から $\langle x,w\rangle=\lim_n\langle x,w_n\rangle=0$ である。

最後の主張：$S^{\perp\perp}=(S^\perp)^\perp$ は前半から閉部分空間であり、$S\subset S^{\perp\perp}$（prop-oc-basic の 4）から、$S$ を含む部分空間として $\operatorname{span}S$ を含み、閉集合なのでその閉包も含む。$\square$

したがって、一般の内積空間では $\overline{\operatorname{span}S}\subset S^{\perp\perp}$ であり、等号が成り立つかどうかが次の問題になる。有限次元では閉包も張る操作も目立たなくなり、$S^{\perp\perp}=\operatorname{span}S$ となる（cor-oc-finite-dim）。Hilbert 空間では $S^{\perp\perp}=\overline{\operatorname{span}S}$ となる（thm-oc-hilbert）。完備でない内積空間では、閉部分空間 $U$ についてさえ $U^{\perp\perp}\ne U$ となりうる（ex-oc-c00）。

有限次元の部分空間による直交分解

次の定理では、$U$ が有限次元であることだけを仮定し、まわりの空間 $V$ は無限次元でもよい。

有限次元の部分空間の直交分解

$V$ を内積空間、$U$ を $V$ の有限次元の部分空間とする。

$V=U\oplus U^\perp$ である。すなわち、任意の $x\in V$ は $x=u+w$（$u\in U$、$w\in U^\perp$）とただ 1 通りに書ける。$e_1,\dots,e_m$ を $U$ の正規直交基底とすると $u=\sum_{k=1}^m\langle x,e_k\rangle e_k$ である。
$U^{\perp\perp}=U$ である。
$V$ も有限次元なら、$\dim U^\perp=\dim V-\dim U$ である。

1：これは内積空間の記事の定理「直交分解と最良近似」の 2 である。筋だけ書くと、$U$ は有限次元なので Gram–Schmidt の直交化で正規直交基底 $e_1,\dots,e_m$ がとれ、$u:=\sum_k\langle x,e_k\rangle e_k$、$w:=x-u$ とおくと、各 $j$ で $\langle w,e_j\rangle=\langle x,e_j\rangle-\langle x,e_j\rangle=0$ なので prop-oc-basic の 3 から $w\in U^\perp$ である。一意性は、2 通りの分解の差が $U\cap U^\perp=\{0\}$ に入ることによる。
2：$U\subset U^{\perp\perp}$ は prop-oc-basic の 4 である。逆に $x\in U^{\perp\perp}$ とし、1 により $x=u+w$（$u\in U$、$w\in U^\perp$）と書く。$x$ と $u$ はともに部分空間 $U^{\perp\perp}$ に属するので、$w=x-u\in U^{\perp\perp}$ である。一方 $w\in U^\perp$ なので、$w$ は自分自身と直交し、$w=0$ である。よって $x=u\in U$ である。
3：1 の直和から $\dim V=\dim U+\dim U^\perp$ である（直和の記事の定義「内部直和と直和因子」の状況で、それぞれの基底を合わせたものが $V$ の基底になる）。$\square$

1 の分解の $u$ を $x$ の $U$ への直交射影といい、$P_Ux$ と書く。$P_U$ は線形写像で、$P_Ux$ は $U$ の元の中で $x$ に最も近いただ 1 つの元である（内積空間の記事の定理「直交分解と最良近似」の 3、$\mathbb{R}^n$ では正射影と射影行列の定理「正射影は最も近い点」）。2 から $U^\perp$ の直交補空間は $U$ なので、$x=(x-P_Ux)+P_Ux$ は $U^\perp$ と $U^{\perp\perp}=U$ への分解でもあり、$P_{U^\perp}=I-P_U$ である（$U^\perp$ が無限次元でも、分解の一意性だけからこう定まる）。

有限次元の内積空間での直交補空間

$V$ を有限次元の内積空間とする。

すべての部分集合 $S\subset V$ について $S^{\perp\perp}=\operatorname{span}S$ である。とくに部分空間 $U$ について $U^{\perp\perp}=U$ である。
部分空間 $U$ について、$U^\perp=\{0\}$ であることと $U=V$ であることは同値である。
部分空間 $U,W$ について $(U\cap W)^\perp=U^\perp+W^\perp$ である。
$U\mapsto U^\perp$ は、$V$ の部分空間全体の上の、包含関係を逆にする全単射で、逆写像は自分自身である。

要点：1 は prop-oc-basic の 3 で $\operatorname{span}S$ に置き換えてから thm-oc-finite の 2 を使う。2〜4 は 1 と prop-oc-basic の 2・6 から従う。

詳しい証明を開く

1：prop-oc-basic の 3 から $S^{\perp\perp}=(\operatorname{span}S)^{\perp\perp}$ であり、$\operatorname{span}S$ は有限次元なので thm-oc-finite の 2 からこれは $\operatorname{span}S$ に等しい。

2：$U=V$ なら $U^\perp=V^\perp=\{0\}$ である。逆に $U^\perp=\{0\}$ なら、1 から $U=U^{\perp\perp}=\{0\}^\perp=V$ である。

3：prop-oc-basic の 6 を $U^\perp,W^\perp$ に使い、1 を合わせると $(U^\perp+W^\perp)^\perp=U^{\perp\perp}\cap W^{\perp\perp}=U\cap W$ である。両辺の直交補空間をとり、左辺に 1 を使えばよい。

4：prop-oc-basic の 2 から包含関係を逆にし、1 から $U\mapsto U^\perp$ を 2 回合成すると恒等写像なので、全単射で逆写像は自分自身である。$\square$

随伴写像と核・像

随伴写像

$V,W$ を有限次元の内積空間、$A\colon V\to W$ を線形写像とする。$V$ の正規直交基底 $e_1,\dots,e_n$ をとり、
$$ A^*y:=\sum_{k=1}^n\langle y,Ae_k\rangle e_k\qquad(y\in W) $$
とおくと、$A^*\colon W\to V$ は線形写像で、すべての $x\in V$、$y\in W$ について
$$ \langle Ax,y\rangle=\langle x,A^*y\rangle $$
を満たし、この等式を満たす写像はただ 1 つである。

詳細

$x=\sum_k\langle x,e_k\rangle e_k$ なので $\langle Ax,y\rangle=\sum_k\langle x,e_k\rangle\langle Ae_k,y\rangle=\sum_k\langle x,e_k\rangle\overline{\langle y,Ae_k\rangle}=\langle x,A^*y\rangle$ である。一意性：$\langle x,By\rangle=\langle x,B'y\rangle$ がすべての $x$ で成り立てば、$x=By-B'y$ として $By=B'y$ である。

$A^*$ を $A$ の随伴写像（adjoint）という。$F^n$ から $F^m$ への行列 $A$ では、標準内積について $A^*$ は共役転置行列 $\overline{A}^{\mathsf T}$ である（内積空間の記事の注意「随伴と正規変換の所在」、Axl24 7.1・7.9）。等式を $x,y$ について入れ替えれば $(A^*)^*=A$ もわかる。

核と像の直交関係

随伴写像の核と像

$V,W$ を有限次元の内積空間、$A\colon V\to W$ を線形写像とする。

$\ker A^*=(\operatorname{im}A)^\perp$ である。
$\operatorname{im}A^*=(\ker A)^\perp$ である。
$\ker A=(\operatorname{im}A^*)^\perp$、$\operatorname{im}A=(\ker A^*)^\perp$ である。
したがって $V=\ker A\oplus\operatorname{im}A^*$、$W=\operatorname{im}A\oplus\ker A^*$ と直交する部分空間の直和に分かれる。

1：$y\in W$ について
$$ y\in\ker A^*\iff A^*y=0\iff\text{すべての }x\text{ で }\langle x,A^*y\rangle=0\iff\text{すべての }x\text{ で }\langle Ax,y\rangle=0\iff y\in(\operatorname{im}A)^\perp $$
である（2 つ目の同値は、$x=A^*y$ とすれば $\|A^*y\|^2=0$ となることによる）。
3 の前半：1 を $A^*$ に使うと、$(A^*)^*=A$ から $\ker A=(\operatorname{im}A^*)^\perp$ である。
2：3 の前半の両辺の直交補空間をとると、$\operatorname{im}A^*$ は有限次元の部分空間なので thm-oc-finite の 2 から $(\ker A)^\perp=(\operatorname{im}A^*)^{\perp\perp}=\operatorname{im}A^*$ である。
3 の後半：2 を $A^*$ に使えばよい。最後の直和分解は thm-oc-finite の 1 を $U=\operatorname{im}A^*$ と $U=\operatorname{im}A$ に使ったものである。$\square$

	定義域 $V$ の側	値域 $W$ の側
$A$ で決まる部分空間	$\ker A$	$\operatorname{im}A$
$A^*$ で決まる部分空間	$\operatorname{im}A^*=(\ker A)^\perp$	$\ker A^*=(\operatorname{im}A)^\perp$
分解	$V=\ker A\oplus\operatorname{im}A^*$	$W=\operatorname{im}A\oplus\ker A^*$

$A$ は $\operatorname{im}A^*$ を $\operatorname{im}A$ へ全単射に写す（$\ker A$ との交わりが $\{0\}$ で、$V=\ker A\oplus\operatorname{im}A^*$ だから $A(V)=A(\operatorname{im}A^*)$）。行列 $A\in M_{m,n}(\mathbb{R})$ では $A^*=A^{\mathsf T}$ であり、表の 4 つの部分空間は零空間・行空間・列空間・左零空間である。ex-oc-matrix はその 1 例である。

階数と解の存在

$A\in M_{m,n}(F)$ とする。

$\operatorname{rank}A=\operatorname{rank}A^*$ である。とくに $A$ の行階数と列階数は等しい。
$b\in F^m$ について、連立 1 次方程式 $Ax=b$ が解をもつことと、$A^*y=0$ を満たすすべての $y\in F^m$ について $\langle b,y\rangle=0$ となることは同値である。

1：thm-oc-adjoint の 2 と thm-oc-finite の 3、次元定理から
$$ \operatorname{rank}A^*=\dim(\ker A)^\perp=n-\dim\ker A=\operatorname{rank}A $$
である。$A^*=\overline{A}^{\mathsf T}$ の列は $A$ の行の複素共役であり、各成分を共役にしても線形独立性は変わらないので、$\operatorname{rank}A^*$ は $A$ の行階数に等しい。
2：$Ax=b$ が解をもつことは $b\in\operatorname{im}A$ と同じであり、thm-oc-adjoint の 3 から $\operatorname{im}A=(\ker A^*)^\perp$ である。$\square$

行階数と列階数の一致は、内積を使わずに示すこともできる（階数(線形代数) の記事の定理「列階数と行階数は等しい」、双対空間(線形代数) の記事の系「列ランクと行ランクの一致」）。2 は、方程式が解けないことを「$b$ と直交しない $\ker A^*$ の元」という具体的な証拠で示せることを述べている。

解の存在の判定

$A=\begin{pmatrix}1&1&0\\0&1&1\\1&2&1\end{pmatrix}$（実行列）とする。3 行目は 1 行目と 2 行目の和なので $\operatorname{rank}A=2$ であり、$\ker A^{\mathsf T}$ は $y_1+y_3=0$、$y_1+y_2+2y_3=0$、$y_2+y_3=0$ を解いて $\operatorname{span}\{(1,1,-1)\}$ である。cor-oc-rank の 2 から、$Ax=b$ が解をもつのは $b_1+b_2-b_3=0$ のときに限る。$b=(1,2,3)$ なら解をもち（たとえば $x=(0,1,1)$）、$b=(1,0,0)$ なら解をもたない。後者では $y=(1,1,-1)$ が $A^{\mathsf T}y=0$、$\langle b,y\rangle=1\ne0$ を満たし、解がないことの証拠になる。同じ判定は拡大係数行列の階数でも行える（連立1次方程式の記事の定理「解の存在と階数」）。

不変部分空間

線形写像 $A\colon V\to V$ について、部分空間 $U$ が $A(U)\subset U$ を満たすとき、$U$ は $A$ で不変であるという。

不変部分空間の直交補空間

$V$ を有限次元の内積空間、$A\colon V\to V$ を線形写像、$U$ を部分空間とする。$U$ が $A$ で不変であることと、$U^\perp$ が $A^*$ で不変であることは同値である。

$U$ が $A$ で不変とし、$y\in U^\perp$ とする。任意の $u\in U$ について $Au\in U$ なので $\langle u,A^*y\rangle=\langle Au,y\rangle=0$ であり、$A^*y\in U^\perp$ である。逆は、この議論を $A^*$ と $U^\perp$ に使うと $U^{\perp\perp}$ が $A^{**}=A$ で不変となり、thm-oc-finite の 2 から $U^{\perp\perp}=U$ であることによる。$\square$

前半（$U$ が不変なら $U^\perp$ は $A^*$ で不変）は、$V$ が無限次元でも、随伴をもつ写像について同じ証明で成り立つ。この命題は、正規行列（$AA^*=A^*A$ を満たす行列）が正規直交基底で対角化できることを、次元についての帰納法で示すときの 1 歩になる。

正規行列の対角化での使い方を開く

$AA^*=A^*A$ を満たす $A$（正規）では $\|Ax\|^2=\langle A^*Ax,x\rangle=\langle AA^*x,x\rangle=\|A^*x\|^2$ であり、$A-\lambda I$ も正規なので、$Av=\lambda v$ なら $\|(A^*-\bar\lambda I)v\|=\|(A-\lambda I)v\|=0$、すなわち $A^*v=\bar\lambda v$ である。すると $\operatorname{span}\{v\}$ は $A$ と $A^*$ の両方で不変なので、この命題を両方に使うと $v^\perp$ も $A$ と $A^*$ の両方で不変になり、$A$ を $v^\perp$ に制限したものがまた正規になる。複素数の上では固有ベクトルがつねにあるので、この議論を繰り返すと、正規行列が正規直交基底で対角化できることがわかる（Axl24 7.20・7.21・7.31。証明の組み立ては同書と異なる）。

Hilbert 空間の場合

無限次元の部分空間では、thm-oc-finite の証明の「正規直交基底で $u=\sum_k\langle x,e_k\rangle e_k$ を作る」ところが有限和では済まない。空間が Hilbert空間（内積から定まるノルムについて完備な内積空間）であれば、閉部分空間への直交分解が成り立つ。

Hilbert 空間での直交補空間

$H$ を Hilbert 空間とする。

部分集合 $S\subset H$ について $S^{\perp\perp}=\overline{\operatorname{span}S}$ である。とくに閉部分空間 $U$ について $U^{\perp\perp}=U$ である。
部分空間 $U$ について $H=\overline U\oplus U^\perp$ である。
部分空間 $U$ が $H$ で稠密であることと、$U^\perp=\{0\}$ であることは同値である。

$M:=\overline{\operatorname{span}S}$ は閉部分空間である（部分空間の閉包は部分空間）。Hilbert空間の記事の定理「直交射影と直交分解」の 3・4 により、閉部分空間 $M$ について $H=M\oplus M^\perp$、$M^{\perp\perp}=M$ である。
1：prop-oc-closed から $S^\perp=M^\perp$ なので、$S^{\perp\perp}=M^{\perp\perp}=M$ である。
2：$U$ が部分空間なら $\operatorname{span}U=U$ なので $M=\overline U$ であり、prop-oc-closed から $\overline U^{\,\perp}=U^\perp$ である。よって $H=\overline U\oplus\overline U^{\,\perp}=\overline U\oplus U^\perp$ である。
3：2 から、$\overline U=H$ と $U^\perp=\{0\}$ は同値である（$U^\perp=\{0\}$ なら $H=\overline U\oplus\{0\}$、逆に $\overline U=H$ なら $U^\perp=\overline U^{\,\perp}=H^\perp=\{0\}$）。$\square$

3 は、部分空間が稠密であることを「直交するのは $0$ だけ」という計算しやすい条件で判定できることを述べている（Hilbert空間の記事の系「稠密な部分空間の判定」と同じ内容）。たとえば、有限個の項以外が $0$ の数列全体 $c_{00}$ は $\ell^2$ の部分空間で、ex-oc-l2 と同じ議論で $c_{00}^\perp=\{0\}$ となるので、$\ell^2$ で稠密である。$c_{00}\ne\ell^2$ なので $c_{00}$ は閉でなく、$c_{00}^{\perp\perp}=\{0\}^\perp=\ell^2\ne c_{00}$ である。直交補空間を 2 回とると、部分空間はその閉包に置き換わる。

仮定を外すと成り立たなくなること

外す条件	反例	成り立たなくなること
形式の正定値性	$\mathbb{R}^2$ の $x_1y_1-x_2y_2$ と $U=\operatorname{span}\{(1,1)\}$	$V=U\oplus U^\perp$
部分空間の閉性（Hilbert 空間の中で）	$\ell^2$ の中の $c_{00}$	$U^{\perp\perp}=U$、$H=U\oplus U^\perp$
空間の完備性（閉部分空間でも）	$c_{00}$ の閉部分空間 $\{x\mid\sum_nx_n/n=0\}$	$U^{\perp\perp}=U$、$V=U\oplus U^\perp$
部分空間の有限次元性（完備でない空間で）	同上（$U$ は無限次元）	thm-oc-finite の 1・2

反例：正定値でない対称形式

$\mathbb{R}^2$ に対称双線形形式 $B(x,y):=x_1y_1-x_2y_2$ を入れ、内積の代わりに $B$ で $U^{\perp_B}:=\{y\mid\text{すべての }u\in U\text{ で }B(u,y)=0\}$ を定める。$U:=\operatorname{span}\{(1,1)\}$ とすると、$B((1,1),y)=y_1-y_2$ なので $U^{\perp_B}=\{y\mid y_1=y_2\}=U$ である。したがって $U+U^{\perp_B}=U\ne\mathbb{R}^2$ であり、直和分解は成り立たない。満たす性質は $B$ が対称で、$B(x,y)=0$ がすべての $y$ で成り立つのは $x=0$ のときだけ（非退化）であること、満たさない性質は正定値性である。$(1,1)$ は $B((1,1),(1,1))=0$ を満たす「自分自身と直交する」$0$ でないベクトルであり、証明で使った $U\cap U^\perp=\{0\}$ が崩れている。この例でも $\dim U^{\perp_B}=1=2-1$ にはなっている。

反例：完備でない内積空間

$V:=c_{00}$ に $\ell^2$ の内積を入れた内積空間を考え、$U:=\{x\in V\mid\sum_nx_n/n=0\}$（有限和）とする。$U$ は有界な線形汎関数 $x\mapsto\sum_nx_n/n$ の核なので $V$ の閉部分空間で、$e_1\notin U$ なので $U\ne V$ である。一方、Hilbert空間の記事の例「反例：完備でない内積空間 $c_{00}$」で示されているとおり、$V$ の中で $U^\perp=\{0\}$ である（$y\perp U$ なら $me_m-ne_n\in U$ から $ny_n$ が $n$ によらない定数になり、$y$ は有限個の項以外 $0$ なので $y=0$）。したがって
$$ U^{\perp\perp}=\{0\}^\perp=V\ne U,\qquad U\oplus U^\perp=U\ne V $$
である。満たす性質は $V$ が内積空間で $U$ が閉部分空間であること、満たさない性質は $V$ の完備性である。$U$ は無限次元なので thm-oc-finite も使えない。

注意と他の概念との区別

直交補空間は内積によって決まる

反例：直交補空間は内積に依存する

$\mathbb{R}^2$ に標準内積と、正定値対称行列 $G=\begin{pmatrix}1&1\\1&2\end{pmatrix}$ による内積 $\langle x,y\rangle_G:=x^{\mathsf T}Gy$ の 2 つを考える（$G$ の対角成分は正で $\det G=1>0$ なので正定値である。2次形式の記事の定理「正定値であるための条件」）。$U:=\operatorname{span}\{(1,0)\}$ とすると、標準内積での直交補空間は $\operatorname{span}\{(0,1)\}$ だが、$\langle(1,0),y\rangle_G=y_1+y_2$ なので $\langle\cdot,\cdot\rangle_G$ での直交補空間は $\operatorname{span}\{(1,-1)\}$ である。同じ部分空間でも、内積を取り替えると直交補空間は変わる。

補空間・零化空間との比較

$V$ の部分空間 $U$ に対し、$V=U\oplus W$ を満たす部分空間 $W$ を $U$ の補空間という（直和の記事の定義「内部直和と直和因子」）。補空間は内積なしで定まるが、一般に 1 つに決まらない。たとえば $\mathbb{R}^2$ の $U=\operatorname{span}\{(1,0)\}$ に対し、どの実数 $a$ についても $W_a:=\operatorname{span}\{(a,1)\}$ は補空間であり、そのうち $U$ と直交するのは $a=0$ の $W_0=U^\perp$ だけである。直交補空間は、内積を使って補空間を 1 つ選ぶ方法である。
内積を使わずに「$U$ と直交するもの」を考えると、双対空間 $V^*$ の中の零化空間 $U^0=\{\varphi\in V^*\mid\varphi|_U=0\}$ になる（双対空間(線形代数) の記事の定義「零化空間」）。有限次元の内積空間では、$y\mapsto\langle\cdot,y\rangle$ が $V$ から $V^*$ への全単射であり（Rieszの表現定理の有限次元の場合）、この対応で $U^\perp$ は $U^0$ に写る（Axl24 p. 232）。

	補空間	直交補空間 $U^\perp$	零化空間 $U^0$
使う構造	ベクトル空間	内積	ベクトル空間（双対空間）
属する空間	$V$	$V$	$V^*$
一意性	一般に一意でない	一意	一意
次元（$V$ が有限次元）	$\dim V-\dim U$	$\dim V-\dim U$	$\dim V-\dim U$
部分集合 $S$ にも定義されるか	いいえ	はい（$S^\perp=(\operatorname{span}S)^\perp$）	はい

零化空間の次元の式は双対空間(線形代数) の記事の定理「零化空間の次元」にある。

記号と流儀

$S^\perp$ を「$S$ の直交補空間」と呼ぶのは $S$ が部分空間でないときも同じである。文献によっては $S$ の元と直交する元の集合を $S^\perp$、部分空間 $U$ の場合に限って直交補空間と呼び分ける。不定値の対称形式や、双対空間の元との組 $\langle\varphi,x\rangle=\varphi(x)$ についても同じ記号 $\perp$ が使われるが、そのときは ex-oc-indefinite のように直和分解が成り立つとは限らない。

文献

有限次元の結果は Axl24 の 6.46（直交補空間の定義）・6.47（例）・6.48（基本性質）・6.49（有限次元の部分空間の直交分解）・6.51（次元）・6.52（$U^{\perp\perp}=U$）・6.54（pp. 211–214）、随伴の核と像は 7.6（p. 231）、不変部分空間については Exercises 7A の 4（p. 239）にある。一般の内積空間での定義・$\ell^2$ の例・性質（閉性と $S^\perp=\overline{S}^{\,\perp}$）は Axl20 Definition 8.38・Example 8.39・8.40（p. 229）、Hilbert 空間での $U^{\perp\perp}=\overline U$ と稠密性の判定は 8.41・8.42（p. 230）にある。本記事の証明はこれらを本記事の記号で書き直したもので、prop-oc-basic の 5・6、cor-oc-finite-dim の 3・4、反例は本文で示した。