不変部分空間(invariant subspace)とは、線形変換 $T\colon V\to V$ について $T(W)\subset W$ をみたす部分空間 $W$ のことであり、作用素の族や群の表現については、そのすべての元で保たれる部分空間をいう。核・像・固有空間はその例で、1 次元の不変部分空間は固有ベクトルの張る直線にあたり、不変部分空間に沿って基底をとると表現行列は区分上三角行列になる。有限次元の空間では、巡回ベクトルをもつ線形変換の不変部分空間は最小多項式の約数と 1 対 1 に対応し、無限体の上では不変部分空間が有限個であることと巡回的であることが同値になる。0 でない有限次元の実ベクトル空間の線形変換は 1 次元か 2 次元の不変部分空間をもち、有限群の複素表現では平均をとる射影により不変ベクトルの部分空間の次元が指標の平均で表される。
線形変換 $T\colon V\to V$ を調べるとき、$V$ 全体を一度に見る代わりに、$T$ で自分自身へ写る小さな部分空間 $W$ を見つければ、$T$ を $W$ の上の変換 $T|_W$ と、残りの部分 $V/W$ の上の変換に分けて調べられる。このような $W$ を $T$ の 不変部分空間 という。固有ベクトルの張る直線は最も小さな不変部分空間であり、三角化や Jordan 標準形は、不変部分空間の列や直和分解を見つけることにほかならない。
群が線形に作用するときは、すべての群の元で保たれる部分空間を不変部分空間(部分表現)という。表現論では、群のすべての元で動かないベクトルの全体 $V^G$ を「不変部分空間」と呼ぶこともあるので、この記事では両方を定義する。
この記事の中心は、有限次元の空間についての次の 2 つの定理である。巡回ベクトルをもつ線形変換の不変部分空間は、最小多項式の約数とちょうど 1 対 1 に対応する(thm-inv-cyclic)。また、無限体の上では、不変部分空間が有限個しかないことと巡回ベクトルをもつことが同値になる(thm-inv-finite)。
以下、$K$ を体、$V$ を $K$ 上のベクトル空間とし、$\operatorname{End}(V)$ で $V$ からそれ自身への線形写像(線形変換)の全体を表す。
$T\in\operatorname{End}(V)$ とする。$V$ の部分空間 $W$ が $T(W)\subset W$ をみたすとき、$W$ を $T$ の 不変部分空間(invariant subspace)または $T$ 不変 な部分空間という。このとき $T$ の制限 $T|_W\colon W\to W$ が線形変換として定まる。
$\operatorname{End}(V)$ の部分集合 $\mathcal{T}$ について、すべての $T\in\mathcal{T}$ の不変部分空間であるものを $\mathcal{T}$ の不変部分空間という。群 $G$ の表現 $\rho\colon G\to GL(V)$ については、$\{\rho(g)\mid g\in G\}$ の不変部分空間を $G$ 不変部分空間 といい、これは部分表現(群の表現 の定義「部分表現・既約表現・完全可約」)と同じものである。
群の表現 $\rho\colon G\to GL(V)$ と部分群 $H\subset G$ について
$$
V^H:=\{v\in V\mid \rho(h)v=v\ \text{がすべての}\ h\in H\ \text{で成り立つ}\}
$$
を $H$ の 不変ベクトルの部分空間(固定部分空間)という。
$V^G$ はベクトル 1 本ずつが動かないので $G$ 不変部分空間でもあるが、$G$ 不変部分空間の元が動かないとは限らない。たとえば $V$ 自身はつねに $G$ 不変部分空間である。表現論の文献で「$H$ による不変部分空間」と書かれたときは、多くの場合 $V^H$ を指す(放物型誘導表現 の放物型制限 $V^U$ など)。
$T\in\operatorname{End}(V)$ について、$\{0\}$、$V$、核 $\ker T$、像 $\operatorname{im}T$、固有値 $\lambda$ の固有空間 $\ker(T-\lambda)$ は $T$ の不変部分空間である。多項式 $f\in K[x]$ について $\ker f(T)$ と $\operatorname{im}f(T)$ も不変である(prop-inv-basic の 2)。
$\mathbb{R}^2$ の角 $\theta$ の回転 $R_\theta$($\theta\notin\pi\mathbb{Z}$)の不変部分空間は $\{0\}$ と $\mathbb{R}^2$ だけである。1 次元の不変部分空間は固有ベクトルの張る直線だが(prop-inv-basic の 4)、$R_\theta$ の固有多項式 $x^2-2x\cos\theta+1$ は判別式 $-4\sin^2\theta< 0$ で実根をもたない。同じ行列を $\mathbb{C}^2$ に作用させると、固有値 $e^{\pm i\theta}$ の固有ベクトルが 2 本の不変な直線を張る。
$K$ の標数を $0$ とし、$K[x]$ の上の微分 $D(f)=f'$ を考える。$D$ の不変部分空間は、$\{0\}$、次数 $n$ 以下の多項式の空間 $K[x]_{\le n}$($n\ge0$)、$K[x]$ 全体で尽くされる。
これらが不変であることは、微分で次数が下がることからわかる。逆に $W\neq\{0\}$ を不変部分空間とし、$f\in W$ を $n$ 次の多項式とすると、$f,Df,\dots,D^nf$ は $W$ に属し、標数が $0$ なので $D^kf$ の次数はちょうど $n-k$ である。次数が相異なる $n+1$ 個の多項式は線形独立なので、これらは $(n+1)$ 次元の $K[x]_{\le n}$ を張り、$K[x]_{\le n}\subset W$ である。$W$ の元の次数に上限 $N$ があれば $W=K[x]_{\le N}$、なければ $W=K[x]$ である。
$T\in\operatorname{End}(V)$ とする。
要点:どれも定義を直接確かめればよい。5 の後半は、$T^dv$ が前の $d$ 本で書けると、$T$ を掛けて以後の $T^kv$ もすべて前の $d$ 本で書けることによる。
1:$w=\sum w_i$(有限和、$w_i\in W_i$)なら $Tw=\sum Tw_i\in\sum W_i$。共通部分の元 $w$ はどの $W_i$ でも $Tw\in W_i$ をみたす。
2:$Sv=0$ なら $S(Tv)=T(Sv)=0$。$v=Su$ なら $Tv=S(Tu)\in\operatorname{im}S$。$f(T)$ は $T$ と交換する。
3:$T(W)\subset W$ から帰納的に $T^k(W)\subset W$ であり、$f(T)$ はその線形結合である。
4:$Kv$ が不変なら $Tv=\lambda v$ となる $\lambda\in K$ がある。逆に $Tv=\lambda v$ なら $T(cv)=\lambda cv\in Kv$。
5:$T(T^kv)=T^{k+1}v$ なので $Z(v)$ は不変であり、$v$ を含む不変部分空間はすべての $T^kv$ を含むので $Z(v)$ を含む。$Z(v)$ が有限次元なら、$v,Tv,T^2v,\dots$ は無限に線形独立ではいられないので $d$ が存在する。$d$ の最小性から $v,\dots,T^{d-1}v$ は線形独立である(線形関係があれば、係数が $0$ でない最大の番号 $k< d$ について $T^kv$ が前の $k$ 本で書け、最小性に反する)。$T^dv=\sum_{j< d}a_jT^jv$ に $T^{k}$ を掛けると、$T^{d+k}v$ は $T^kv,\dots,T^{d+k-1}v$ で書けるので、$k$ についての帰納法で、すべての $T^kv$ が $v,\dots,T^{d-1}v$ で書ける。$\square$
$V$ が有限次元で $W$ が $T$ 不変のとき、$W$ の基底を $V$ の基底に延長すると、$T$ の表現行列は区分上三角行列 $\begin{pmatrix}A&B\\O&C\end{pmatrix}$ になり、$A$ は $T|_W$ の、$C$ は商空間の上の誘導写像 $\overline{T}$ の表現行列である。固有多項式は $p_T=p_{T|_W}\,p_{\overline{T}}$ と分解する(商ベクトル空間 の命題「誘導写像と区分上三角行列」)。$W$ が不変な補空間 $W'$($V=W\oplus W'$)をもてば $B=O$ と選べ、表現行列は区分対角になる。不変部分空間の増大列 $\{0\}=W_0\subset W_1\subset\cdots\subset W_n=V$($\dim W_k=k$)があることは、上三角行列で表せることと同値である(三角化 の補題「上三角になる基底と不変部分空間の列」)。
最小多項式(Cayley–Hamiltonの定理 の定義「線形代数の最小多項式」。線形変換については表現行列の最小多項式で、基底の取り方によらない)について、$V$ が有限次元で $W$ が $T$ 不変なら、$m_T(T|_W)=m_T(T)|_W=0$ なので、$T|_W$ の最小多項式は $m_T$ を割り切る(同記事の命題「最小多項式は零化多項式を割り切る」)。
$V$ を有限次元とする。$Z(v)=V$ となる $v\in V$ を $T$ の 巡回ベクトル といい、巡回ベクトルをもつ $T$ を 巡回的 という。たとえば $p(x)=x^n+a_{n-1}x^{n-1}+\cdots+a_0$ の同伴行列($e_k\mapsto e_{k+1}$($k< n$)、$e_n\mapsto-\sum_ja_{j}e_{j+1}$ で定まる行列)では $e_1$ が巡回ベクトルである。
$V$ を $n$ 次元、$T\in\operatorname{End}(V)$ を巡回的とし、$m$ を $T$ の最小多項式とする。
$v$ を巡回ベクトルとし、線形写像 $\varphi\colon K[x]\to V$ を $\varphi(f):=f(T)v$ で定める。$\varphi$ の像は $T^kv$($k\ge0$)の張る空間 $Z(v)=V$ なので、$\varphi$ は全射である。
核。 $f(T)v=0$ なら、すべての $k$ について $f(T)T^kv=T^kf(T)v=0$ であり、$T^kv$ は $V$ を張るので $f(T)=0$ である。逆も明らかなので、$\ker\varphi=\{f\mid f(T)=0\}$ であり、これは最小多項式の倍元の全体 $(m)$ である(Cayley–Hamiltonの定理 の命題「最小多項式は零化多項式を割り切る」)。$K[x]/(m)$ は除法の原理(多項式環 の定理「除法の原理」)により $1,x,\dots,x^{\deg m-1}$ の剰余類を基底にもつので、$\varphi$ が誘導する同型 $K[x]/(m)\cong V$ から $\deg m=n$ を得る。これが 1 である。
不変部分空間とイデアル。 $\varphi(xf)=T\varphi(f)$ に注意する。部分空間 $W\subset V$ に対し $I_W:=\varphi^{-1}(W)$ とおく。$W$ が $T$ 不変なら、$f\in I_W$ のとき $\varphi(xf)=T\varphi(f)\in W$ なので $xf\in I_W$ であり、$I_W$ は $x$ 倍で閉じた部分空間、すなわち $K[x]$ のイデアルである。$I_W\supset\ker\varphi=(m)$ である。多項式環 の定理「体上の多項式環は単項イデアル整域」により $I_W=(e)$ となる最高次係数 $1$ の $e$ がただ 1 つあり、$m\in(e)$ から $e\mid m$ である。$\varphi$ は全射なので $W=\varphi(I_W)$ であり、$W$ は $e$ で決まる。逆に $e\mid m$ なら $\varphi((e))=\{g(T)e(T)v\}=\operatorname{im}e(T)$ は不変部分空間で、$\varphi^{-1}(\varphi((e)))=(e)+(m)=(e)$ である。以上から、$W\mapsto e$ は $T$ の不変部分空間の全体から $m$ の最高次係数 $1$ の約数の全体への全単射で、逆写像は $e\mapsto\operatorname{im}e(T)$ である。
核による表示。 $e\mid m$ とし、$d:=m/e$ とおく。$f\in\varphi^{-1}(\ker d(T))$ は $d(T)f(T)v=0$、すなわち $m\mid df$ と同値で、これは $e\mid f$ と同値である。よって $\varphi^{-1}(\ker d(T))=(e)$、$\ker d(T)=\varphi((e))=\operatorname{im}e(T)$ である。$e\mapsto m/e$ は $m$ の最高次係数 $1$ の約数の全体の上の全単射なので、$d\mapsto\ker d(T)$ も全単射である。
次元と最小多項式。 $w:=e(T)v$ とおくと $\ker d(T)=\operatorname{im}e(T)=Z(w)$ であり、$w$ は $T|_{\ker d(T)}$ の巡回ベクトルである。$g(T)w=0$ は $m\mid ge$、すなわち $d\mid g$ と同値なので、核の段落と同じ議論により $T|_{\ker d(T)}$ の最小多項式は $d$ であり、1 をこの巡回的な変換に当てはめて $\dim\ker d(T)=\deg d$ を得る。これで 2 が示された。
包含。 $d\mid d'$ なら $\ker d(T)\subset\ker d'(T)$ は明らかである。逆に包含があれば、$T|_{\ker d(T)}$ の最小多項式 $d$ は、$d'(T)$ が $\ker d(T)$ の上で $0$ であることから $d'$ を割り切る。$\square$
$K^n$ の上の $J=\lambda I+N$($Ne_1=0$、$Ne_k=e_{k-1}$)は $e_n$ を巡回ベクトルにもち、最小多項式は $(x-\lambda)^n$ である。最高次係数 $1$ の約数は $(x-\lambda)^k$($0\le k\le n$)なので、thm-inv-cyclic により $J$ の不変部分空間はちょうど $n+1$ 個の $\ker N^k=\operatorname{span}(e_1,\dots,e_k)$ であり、包含で一列に並ぶ。一方、相異なる $\lambda_1,\dots,\lambda_n$ を対角成分にもつ対角行列は $e_1+\cdots+e_n$ を巡回ベクトルにもち($T^k(e_1+\cdots+e_n)$ の第 $j$ 座標は $\lambda_j^k$ で、Vandermonde 行列式は $0$ でない)、最小多項式 $\prod_j(x-\lambda_j)$ の約数は $2^n$ 個あり、不変部分空間は座標軸のいくつかが張る $2^n$ 個の部分空間である。
$K$ が無限体なら、$V$ は有限個の真部分空間の合併にならない。
要点:真部分空間 $W_1,\dots,W_k$ の合併が $V$ だとし、$k$ を最小にとる。$W_1$ にだけ属する $x$ と $W_1$ に属さない $y$ を結ぶ直線 $x+\lambda y$ の上の無限個の点が、どの $W_i$ にも入りきらない。
$V=W_1\cup\cdots\cup W_k$($W_i\neq V$)で $k$ が最小とする。$k=1$ はありえないので $k\ge2$ である。最小性から $W_1\not\subset W_2\cup\cdots\cup W_k$ なので、$x\in W_1$ でほかの $W_i$ に属さないものがある。$W_1\neq V$ なので $y\notin W_1$ をとる。$\lambda\in K^\times$ について $x+\lambda y\in W_1$ なら $\lambda y\in W_1$ で矛盾するので、$x+\lambda y$ は $W_2,\dots,W_k$ のどれかに属する。$i\ge2$ と相異なる $\lambda,\lambda'\in K^\times$ で $x+\lambda y,x+\lambda'y\in W_i$ なら、差から $y\in W_i$、したがって $x\in W_i$ となり矛盾する。よって各 $W_i$($i\ge2$)に入る $\lambda$ は高々 1 個で、$K^\times$ が無限集合であることに反する。$\square$
$V$ を有限次元、$T\in\operatorname{End}(V)$ とする。
1:thm-inv-cyclic により、不変部分空間の個数は最小多項式 $m$ の最高次係数 $1$ の約数の個数に等しい。多項式環 の定理「体上の一意分解」により $m=p_1^{a_1}\cdots p_r^{a_r}$($p_i$ は相異なる最高次係数 $1$ の既約多項式)と書け、その約数で最高次係数 $1$ のものは $p_1^{b_1}\cdots p_r^{b_r}$($0\le b_i\le a_i$)に限るので、有限個である。
2:各 $v\in V$ について $Z(v)$ は $T$ 不変部分空間なので(prop-inv-basic の 5)、$\{Z(v)\mid v\in V\}$ は有限集合であり、$V=\bigcup_{v\in V}Z(v)$ は有限個の部分空間の合併である。lem-inv-union により、そのうち 1 つは $V$ に等しい。すなわち $Z(v)=V$ となる $v$ があり、$T$ は巡回的である。$\square$
回転の例(ex-inv-rotation)のように、実ベクトル空間の線形変換は 1 次元の不変部分空間をもつとは限らない。しかし 2 次元までなら必ずある。
$V$ を $0$ でない有限次元の実ベクトル空間、$T\in\operatorname{End}(V)$ とする。
1:$m$ を $T$ の最小多項式とする。$V\neq0$ なので $\deg m\ge1$ である。代数学の基本定理 により $m$ は $\mathbb{C}$ の上で 1 次式の積に分解し、実係数なので虚根 $\alpha$ には共役 $\bar\alpha$ が同じ重複度で伴う。$(x-\alpha)(x-\bar\alpha)=x^2-2(\operatorname{Re}\alpha)x+\lvert\alpha\rvert^2$ は実係数なので、$m$ は実係数の 1 次式と 2 次式の積である。その因子の 1 つを $q$(最高次係数 $1$、$\deg q\in\{1,2\}$)とし、$m=qh$ と書く。$\deg h<\deg m$ なので $h(T)\neq0$ であり、$u:=h(T)w\neq0$ となる $w\in V$ がある。$q(T)u=m(T)w=0$ である。
$q=x-\lambda$ なら $Tu=\lambda u$ であり、$\mathbb{R}u$ が 1 次元の不変部分空間である。$q=x^2+bx+c$ なら $T^2u=-bTu-cu$ なので、$U:=\operatorname{span}(u,Tu)$ は $T(U)\subset U$ をみたし、$u\neq0$ より $\dim U\in\{1,2\}$ である。
2:固有多項式 $p_T$ は奇数次の実係数多項式なので、代数学の基本定理 の補題「実数と複素数についての 2 つの事実」の 1 により実根 $\lambda$ をもつ。固有値 の命題「固有空間と特性方程式」により $\lambda$ は固有値であり、固有ベクトルの張る直線が不変である。$\square$
同じ結論は、$T$ を複素化して複素の固有ベクトルの実部と虚部をとることでも得られる(複素化 の記事の定理「実の線形変換の 2 次元の不変部分空間」)。
$G$ を有限群、$K$ を $\lvert G\rvert\cdot1\neq0$ となる体、$\rho\colon G\to GL(V)$ を有限次元の表現とする。$P:=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rho(g)$ とおく。
1:$\rho(h)P=\frac{1}{\lvert G\rvert}\sum_g\rho(hg)$ で、$g\mapsto hg$ は $G$ の全単射なので $\rho(h)P=P$、同様に $P\rho(h)=P$ である。前者から $\operatorname{im}P\subset V^G$ であり、$v\in V^G$ なら $Pv=\frac{1}{\lvert G\rvert}\sum_gv=v$ なので $V^G\subset\operatorname{im}P$ で、$P$ は $V^G$ の上で恒等写像である。よって $P^2=P$ である。
2:$P^2=P$ なので $V=\operatorname{im}P\oplus\ker P$ であり($v=Pv+(v-Pv)$)、それぞれの基底を並べた基底で $P$ の表現行列は対角成分が $1$($\dim V^G$ 個)と $0$ の対角行列である。よって $\operatorname{tr}P=(\dim V^G)\cdot1$ で、左辺は跡の線形性から $\frac{1}{\lvert G\rvert}\sum_g\operatorname{tr}\rho(g)$ に等しい。
3:
$W$ の補空間を 1 つ選び、それに沿った $W$ への射影を $\pi$($\pi^2=\pi$、$\operatorname{im}\pi=W$)とする。$\pi':=\frac{1}{\lvert G\rvert}\sum_g\rho(g)\pi\rho(g)^{-1}$ とおく。$W$ が $G$ 不変なので $\operatorname{im}\pi'\subset W$ であり、$w\in W$ なら $\rho(g)^{-1}w\in W$ から $\pi'w=w$ である。よって $\pi'^2=\pi'$、$\operatorname{im}\pi'=W$ で、$V=W\oplus\ker\pi'$ である。1 と同じ和のずらしで $\rho(h)\pi'\rho(h)^{-1}=\pi'$ なので、$\ker\pi'$ は $G$ 不変である。$\square$
2 の式は、尖点表現 で使われる、部分群 $U$ について $\dim V^U$ を指標の平均で表す式($G$ を $U$ に替えたもの)である。3 は Maschke の定理であり、複素表現の場合は 群の表現 の定理「有限群の実・複素表現の完全可約性」でも扱われている。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 有限次元(固有値 の命題「代数閉体上の固有値の存在」) | $\mathbb{C}[x]$ の上の $x$ 倍 | 1 次元の不変部分空間がない |
| 係数体が代数閉(同上) | $\mathbb{R}^2$ の $90^\circ$ 回転 | 1 次元の不変部分空間がない |
| 巡回的(thm-inv-cyclic) | 無限体 $K$ の上の $K^2$ の恒等写像 | 不変部分空間が無限個あり、最小多項式 $x-1$ の 2 個の約数と対応しない |
| 係数体が無限(thm-inv-finite の 2) | $\mathbb{F}_2^2$ の恒等写像 | 巡回的でないのに不変部分空間は 5 個 |
| 係数体が実数体(thm-inv-real の 1) | $\mathbb{Q}^3$ の上の $x^3-2$ の同伴行列 | 1 次元・2 次元の不変部分空間がない |
| $\lvert G\rvert$ が $K$ で $0$ でない(prop-inv-average の 3) | $\mathbb{Z}/2$ が $\mathbb{F}_2^2$ に座標の入れ替えで作用 | 不変な直線 $\mathbb{F}_2(1,1)$ に不変な補空間がない |
| $G$ が有限(prop-inv-average の 3) | $\mathbb{Z}$ が $\mathbb{C}^2$ に $n\mapsto\begin{pmatrix}1&n\\0&1\end{pmatrix}$ で作用 | 不変な直線 $\mathbb{C}e_1$ に不変な補空間がない |
各行の対象は、左の列の条件以外の仮定をみたしている。
1 行目:$xf=\lambda f$ なら次数を比べて $f=0$ なので、固有ベクトルがなく、prop-inv-basic の 4 により 1 次元の不変部分空間がない。
2 行目:ex-inv-rotation で $\theta=\pi/2$ とした場合である。
3 行目:恒等写像ではすべての部分空間が不変で、$K$ が無限なら直線 $K(1,\lambda)$($\lambda\in K$)が無限個ある。$Z(v)=Kv$ は高々 1 次元なので巡回的でない。
4 行目:$\mathbb{F}_2^2$ の部分空間は $\{0\}$、3 本の直線、全体の 5 個で、すべて不変である。巡回的でないことは 3 行目と同じ。
5 行目:$x^3-2$ は有理根をもたない 3 次式なので $\mathbb{Q}$ 上既約である。同伴行列 $T$ は $Te_1=e_2$、$Te_2=e_3$、$Te_3=2e_1$ をみたし、$e_1$ を巡回ベクトルにもつ。$T^3-2$ は $T^ke_1$ をすべて $0$ に写すので $T^3-2I=O$ であり、最小多項式は $x^3-2$ を割り切る 3 次式(thm-inv-cyclic の 1)、すなわち $x^3-2$ である。thm-inv-cyclic により不変部分空間は約数 $1$ と $x^3-2$ に対応する $\{0\}$ と $\mathbb{Q}^3$ だけである。
6 行目:$\lvert G\rvert=2=0$($\mathbb{F}_2$ の中)。入れ替えで保たれる直線は、$\mathbb{F}_2^2$ の 3 本の直線のうち $(1,1)$ が張るものだけなので、補空間になる不変な直線がない。
7 行目:$\mathbb{Z}$ は無限群である。不変な直線は共通の固有ベクトルの張る直線で、$\begin{pmatrix}1&1\\0&1\end{pmatrix}$ の固有ベクトルは $e_1$ の $0$ でない倍だけなので、不変な直線は $\mathbb{C}e_1$ だけであり、補空間がない。$\square$
不変部分空間の定義と核・像の例は Axl24 5.2–5.4(p. 133)にある。同書は 1 次元の不変部分空間と固有ベクトルの対応を 5.5 の前(p. 134)で述べ、2 次元以上の空間の線形変換が 2 次元の不変部分空間をもつことを Exercises 5B の 29(p. 153)としている。巡回的な変換の不変部分空間の分類(thm-inv-cyclic)と有限個であるための条件(thm-inv-finite)は、この記事で証明した。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する