Engelの定理

積の結合法則 $x(yx)=(xy)x$ から $L_xR_x=R_xL_x$ である。可換な 2 つの線形変換の差なので、2 項展開
$$ (\operatorname{ad}x)^{2m-1}=(L_x-R_x)^{2m-1}=\sum_{j=0}^{2m-1}(-1)^j\binom{2m-1}{j}L_x^{\,2m-1-j}R_x^{\,j} $$
が成り立つ（2 項係数は整数を $K$ の元とみたもの）。$L_x^{\,a}=L_{x^a}$、$R_x^{\,b}=R_{x^b}$ であり、各項で $a+b=2m-1$ だから $a\ge m$ か $b\ge m$ のどちらかが成り立ち、その項は $0$ である。$\square$

$\mathfrak{g}$ は有限次元の $\mathfrak{gl}(V)$ の部分空間なので有限次元である。$\dim\mathfrak{g}$ についての帰納法で、すべての $V$ について同時に示す。$\mathfrak{g}=0$ なら $V$ の $0$ でない任意のベクトルでよい。
段 1（余次元 1 のイデアル）：$\mathfrak{g}\neq0$ とする。$\mathfrak{g}$ の真の部分 Lie 環（$0$ はその 1 つ）のうち次元が最大のもの $\mathfrak{h}$ をとる。$a\in\mathfrak{h}$ について、$\operatorname{ad}a$ は $\mathfrak{g}$ を保ち（$\mathfrak{g}$ は部分 Lie 環）、$\mathfrak{h}$ も保つので、商空間 $\mathfrak{g}/\mathfrak{h}$ の線形変換 $\bar a\colon y+\mathfrak{h}\mapsto[a,y]+\mathfrak{h}$ を引き起こす。Jacobi 恒等式から $\operatorname{ad}[a,b]=[\operatorname{ad}a,\operatorname{ad}b]$ なので（Lie環 の系「随伴表現と内部導分」）、$a\mapsto\bar a$ は Lie 環の準同型 $\mathfrak{h}\to\mathfrak{gl}(\mathfrak{g}/\mathfrak{h})$ であり、その像 $\bar{\mathfrak{h}}$ は部分 Lie 環で $\dim\bar{\mathfrak{h}}\le\dim\mathfrak{h}< \dim\mathfrak{g}$ である。$a$ は冪零なので lem-engel-ad-nilpotent により $\operatorname{ad}a$ は $\mathfrak{gl}(V)$ 上で冪零であり、その $\mathfrak{g}$ への制限も、さらに商 $\mathfrak{g}/\mathfrak{h}$ に引き起こす $\bar a$ も冪零である。$\mathfrak{g}/\mathfrak{h}\neq0$ なので、帰納法の仮定を $\bar{\mathfrak{h}}\subset\mathfrak{gl}(\mathfrak{g}/\mathfrak{h})$ に当てると、$y\in\mathfrak{g}\setminus\mathfrak{h}$ で、すべての $a\in\mathfrak{h}$ について $[a,y]\in\mathfrak{h}$ となるものがある。すると
$$ [\mathfrak{h}+Ky,\ \mathfrak{h}+Ky]\subset[\mathfrak{h},\mathfrak{h}]+[\mathfrak{h},y]\subset\mathfrak{h} $$
なので $\mathfrak{h}+Ky$ は $\mathfrak{h}$ より大きい部分 Lie 環であり、$\mathfrak{h}$ の選び方から $\mathfrak{g}=\mathfrak{h}\oplus Ky$ である。上の式から $[\mathfrak{g},\mathfrak{h}]\subset\mathfrak{h}$ なので、$\mathfrak{h}$ は余次元 $1$ のイデアルである。
段 2（$\mathfrak{h}$ の共通の零ベクトル）：$\mathfrak{h}$ の元はすべて冪零で $\dim\mathfrak{h}< \dim\mathfrak{g}$ なので、帰納法の仮定から
$$ W:=\{v\in V\mid\text{すべての }a\in\mathfrak{h}\text{ について }av=0\} $$
は $0$ でない。
段 3（$y$ は $W$ を保つ）：$w\in W$、$a\in\mathfrak{h}$ について、$[a,y]\in\mathfrak{h}$ なので
$$ a(yw)=y(aw)+[a,y]w=0 $$
である。よって $yW\subset W$ である。$y$ の $W$ への制限は冪零なので、$0\neq w\in W$ をとり $y^kw=0$ となる最小の $k\ge1$ をとると、$v:=y^{k-1}w$ は $0$ でなく $yv=0$ を満たす。$v\in W$ なので $\mathfrak{h}v=0$ でもあり、$\mathfrak{g}=\mathfrak{h}\oplus Ky$ のすべての元が $v$ を $0$ に写す。$\square$

1：$n$ についての帰納法で示す。thm-engel-main の $v$ をとり $V_1:=Kv$ とおく。$n=1$ なら $0\subset V_1=V$ でよい。$n\ge2$ のとき、$\mathfrak{g}V_1=0$ なので $\mathfrak{g}$ は商 $\bar V:=V/V_1$ に作用し、$x\mapsto\bar x$ は Lie 環の準同型 $\mathfrak{g}\to\mathfrak{gl}(\bar V)$ である。その像は部分 Lie 環で、$x^m=0$ なら $\bar x^m=0$ なので元はすべて冪零である。帰納法の仮定から $\bar V$ の列 $0=\bar V_0\subset\cdots\subset\bar V_{n-1}=\bar V$ で $\bar x\bar V_j\subset\bar V_{j-1}$ となるものがある。$V_{j+1}$ を $\bar V_j$ の $V$ での逆像とすると $\dim V_{j+1}=j+1$ であり、$j\ge1$ について $xV_{j+1}\subset V_j$（$\bar V_{j-1}$ の逆像）、さらに $xV_1=0=V_0$ である。基底は $v_i\in V_i\setminus V_{i-1}$ を順にとればよい：$xv_i\in V_{i-1}$ は $v_1,\dots,v_{i-1}$ の 1 次結合なので、$x$ の行列は狭義上三角行列である。
2：1 の列について $x_nV=x_nV_n\subset V_{n-1}$、$x_{n-1}V_{n-1}\subset V_{n-2}$、…と順に当てると、$x_1\cdots x_nV\subset V_0=0$ である。
3：1 の基底で $\mathfrak{g}$ は狭義上三角行列の Lie 環 $\mathfrak{n}_n$ の部分 Lie 環とみなせる。$\mathfrak{n}_n$ は冪零であり（冪零Lie環 の命題「狭義上三角行列の Lie 環の下降中心列」。$n=1$ なら $\mathfrak{n}_1=0$）、冪零 Lie 環の部分 Lie 環は冪零である（同じ記事の命題「冪零 Lie 環の基本性質」の 1）。$\square$

必要性は 冪零Lie環 の命題「冪零 Lie 環の基本性質」の 6 である。
十分性と後半を示す。$\mathfrak{g}=0$ なら明らかなので $n\ge1$ とする。$\operatorname{ad}\colon\mathfrak{g}\to\mathfrak{gl}(\mathfrak{g})$ は Lie 環の準同型なので（Lie環 の系「随伴表現と内部導分」）、像 $\operatorname{ad}\mathfrak{g}$ は $\mathfrak{gl}(\mathfrak{g})$ の部分 Lie 環であり、仮定からその元はすべて冪零である。cor-engel-flag の 1 を $V=\mathfrak{g}$ と $\operatorname{ad}\mathfrak{g}$ に当てると、部分空間の列 $0=\mathfrak{a}_0\subset\cdots\subset\mathfrak{a}_n=\mathfrak{g}$（$\dim\mathfrak{a}_i=i$）で、すべての $x$ について $[x,\mathfrak{a}_i]=\operatorname{ad}x(\mathfrak{a}_i)\subset\mathfrak{a}_{i-1}$ となるものがある。$[\mathfrak{g},\mathfrak{a}_i]\subset\mathfrak{a}_{i-1}\subset\mathfrak{a}_i$ なので各 $\mathfrak{a}_i$ はイデアルであり、この列は長さ $n$ の中心列（冪零Lie環 の定義「中心列と冪零 Lie 環」）である。よって $\mathfrak{g}$ は冪零である。$\square$