Lomonosovの不変部分空間定理

1 は thm-lomo-main を $R=T$ に当てたもの、2 は $T=p(R)$ に当てたものである（$R$ は $p(R)$ と可換）。$\square$

$R\in\mathcal C$ とする。1：$Tx=0$ なら $T(Rx)=R(Tx)=0$ なので $\ker T$ は $R$ で不変である。$\ker T$ は閉じていて、$\{0\}$ でなく、$T\ne0$ なので $E$ でもない。2：$R(Tx)=T(Rx)$ なので $T$ の像は $R$ で不変で、連続性からその閉包も不変である。閉包は $\{0\}$ でなく、仮定から $E$ でもない。3：$Z:=\ker(T-\lambda I)$ について $Tz=\lambda z$ なら $T(Rz)=R(Tz)=\lambda Rz$ なので $R(Z)\subset Z$ である。コンパクト作用素 の定理「Riesz–Schauderの理論」の 1 により $Z$ は有限次元なので、$Z\ne E$ である。$\square$

段 1（軌道の稠密性）．$y\ne0$ について $\mathcal Ay:=\{Sy\mid S\in\mathcal A\}$ は $y=Iy$ を含む部分空間で、$\mathcal A$ が合成で閉じているので $\mathcal A$ の各元で不変である。作用素の連続性からその閉包も $\mathcal A$ の閉不変部分空間で、$\{0\}$ でないから $E$ に等しい。すなわち、すべての $y\ne0$ について $\mathcal Ay$ は $E$ で稠密である。
段 2（球とその像）．$Tx_0\ne0$ となる $x_0$ をとり、$0< r\le\|Tx_0\|/(2\|T\|)$ とする。$\|Tx_0\|\le\|T\|\|x_0\|$ なので $r\le\|x_0\|/2$ である。閉球 $C:=\{x\mid\|x-x_0\|\le r\}$ は空でない閉凸集合で、$x\in C$ なら $\|x\|\ge\|x_0\|-r>0$ なので $0\notin C$ である。また $\|Tx-Tx_0\|\le\|T\|r\le\|Tx_0\|/2$ から $\|Tx\|\ge\|Tx_0\|/2$ である。$T$ はコンパクトで $C$ は有界なので、$Q:=\overline{T(C)}$ はコンパクトで、ノルムの下界は閉包に引き継がれるので $0\notin Q$ である。
段 3（有限個の作用素で $Q$ を $C$ へ戻す）．$y\in Q$ なら $y\ne0$ なので、段 1 により $\|S_yy-x_0\|< r$ となる $S_y\in\mathcal A$ がある。$U_y:=\{z\in E\mid\|S_yz-x_0\|< r\}$ は $y$ を含む開集合である。$Q$ はコンパクトなので、有限個の $y_1,\dots,y_m\in Q$ で $Q\subset U_1\cup\dots\cup U_m$（$U_j:=U_{y_j}$、$S_j:=S_{y_j}$）となる。$\varphi_j(z):=\operatorname{dist}(z,E\setminus U_j)$（$U_j=E$ なら $\varphi_j:=1$）は連続で、$U_j$ の上でだけ正である。$\varphi:=\sum_j\varphi_j$ は $Q$ の上で正である。
段 4（非線形の写像と不動点）．$x\in C$ なら $Tx\in Q$ なので $\varphi(Tx)>0$ であり、
$$ F(x):=\sum_{j=1}^m\frac{\varphi_j(Tx)}{\varphi(Tx)}\,S_j(Tx)\qquad(x\in C) $$
は $C$ 上の連続写像である。係数は $0$ 以上で和が $1$ であり、係数が正の $j$ では $Tx\in U_j$、すなわち $\|S_j(Tx)-x_0\|< r$ なので、
$$ \|F(x)-x_0\|\le\sum_j\frac{\varphi_j(Tx)}{\varphi(Tx)}\|S_j(Tx)-x_0\|< r $$
となり、$F(C)\subset C$ である。さらに $F(C)$ は、コンパクト集合 $[0,1]^m\times Q^m$ の連続写像 $(t_j,q_j)_j\mapsto\sum_jt_jS_jq_j$ による像に含まれるので、相対コンパクトである。Schauderの不動点定理 の定理「Schauderの不動点定理」により、$F(\xi)=\xi$ となる $\xi\in C$ がある。$0\notin C$ なので $\xi\ne0$ である。
段 5（係数の固定）．$c_j:=\varphi_j(T\xi)/\varphi(T\xi)$ とおき、$S:=\sum_jc_jS_j$ とすると、$\mathcal A$ は線形部分空間なので $S\in\mathcal A$ であり、$ST\xi=F(\xi)=\xi$ となる。$\square$

$R$ が非自明な閉不変部分空間をもたないとして矛盾を導く。$\mathcal A:=\{p(R)\mid p\text{ は }\mathbb K\text{ 係数の多項式}\}$ は $I$ を含む部分代数で、閉部分空間が $\mathcal A$ で不変であることと $R$ で不変であることは同値だから、$\mathcal A$ は非自明な閉不変部分空間をもたない。lem-lomo により $S\in\mathcal A$ と $\xi\ne0$ で $ST\xi=\xi$ となるものがある。$Z:=\ker(I-ST)$ とおく。

• $ST$ はコンパクトなので（コンパクト作用素 の定理「コンパクト作用素の全体は閉じたイデアル」の 3）、同記事の定理「Riesz–Schauderの理論」の 1 により $Z$ は有限次元である。$E$ は無限次元なので $Z\ne E$ であり、$\xi\in Z$ から $Z\ne\{0\}$ である。$Z$ は連続写像の核なので閉じている。
• $S$ は $R$ の多項式なので $R$ と可換であり、$R$ は $T$ とも可換なので $R(ST)=(ST)R$ である。$z\in Z$ なら $ST(Rz)=R(STz)=Rz$ なので $Rz\in Z$ である。
  よって $Z$ は $R$ の非自明な閉不変部分空間となり、仮定に反する。$\square$

$T$ が $0$ でない固有値をもつ場合は、prop-lomo-direct の 3 による。
$T$ が $0$ でない固有値をもたない場合：コンパクト作用素 の定理「コンパクト作用素のスペクトル」の 1 により $\sigma(T)\subset\{0\}$ であり、複素 Banach 代数 $L(E)$ でのスペクトル半径公式（Banach環とC*-環のスペクトル理論 の定理「スペクトルの非空性・コンパクト性とスペクトル半径公式」）から $\lim_n\|T^n\|^{1/n}=0$ である。$T$ の可換子 $\mathcal A$ は $I$ を含む部分代数である。$\mathcal A$ が非自明な閉不変部分空間をもたないとすると、lem-lomo により $S\in\mathcal A$ と $\xi\ne0$ で $ST\xi=\xi$ となるものがある。$ST=TS$ なので $(ST)^n=S^nT^n$ であり、
$$ \|\xi\|=\|(ST)^n\xi\|\le\|S\|^n\|T^n\|\|\xi\| $$
から $1\le\|S\|\,\|T^n\|^{1/n}\to0$ となって矛盾する。したがって $\mathcal A$ は非自明な閉不変部分空間 $Z$ をもち、これが求めるものである。$\square$