Dehn–Nielsen–Baerの定理(Dehn–Nielsen–Baer theorem)とは、種数 $g\ge1$ の向き付け可能な閉曲面 $S_g$ について、向きを逆にするものも含めた微分同相写像のイソトピー類の群 $\operatorname{Mod}^{\pm}(S_g)$ が、基本群への作用によって外部自己同型群 $\operatorname{Out}(\pi_1(S_g))$ に同型になる、という定理である。向きを保つ写像類の群は、交点形式を保つ外部自己同型のなす指数 $2$ の部分群に対応する。トーラスでは両辺が $\operatorname{GL}_2(\mathbb{Z})$ になり、球面や穴のある曲面では同じ形の主張は成り立たない。
前提知識: 写像類群, 基本群, Eilenberg–MacLane空間
Dehn–Nielsen–Baerの定理(Dehn–Nielsen–Baer theorem)とは、種数 $g\ge1$ の向き付け可能な閉曲面 $S_g$ について、向きを逆にするものも含めた微分同相写像のイソトピー類の群(拡大写像類群)$\operatorname{Mod}^{\pm}(S_g)$ が、基本群の外部自己同型群 $\operatorname{Out}(\pi_1(S_g))$ に、基本群への作用によって同型になる、という定理である。向きを保つものだけの 写像類群 $\operatorname{Mod}(S_g)$ は、交点形式を保つ外部自己同型のなす指数 $2$ の部分群 $\operatorname{Out}^+(\pi_1(S_g))$ に対応する。
写像類群は曲面の幾何学的な対称性の群で、外部自己同型群は群の表示だけから決まる代数的な対象である。この定理によって、曲面の写像類を基本群の生成元の行き先として書き下すことができ、逆に群の自己同型を曲面の上の写像として目に見える形にできる。トーラスでは両辺が $\operatorname{GL}_2(\mathbb{Z})$ になり、種数 $2$ 以上では、自由群の外部自己同型群 $\operatorname{Out}(F_n)$ や $\operatorname{GL}_n(\mathbb{Z})$ と並べて、3 つの系列の群の類似を調べる出発点になる(BV06 p. 1)。
この記事では、基本群への作用が準同型として定まること、外部自己同型と自己ホモトピー同値写像のホモトピー類が対応すること、向きと交点形式の関係、トーラスの場合の証明(単射性は 写像類群 の定理「トーラスの写像類群」に帰着する)を述べ、一般の種数で必要な 2 つの位相的な事実(ホモトピー同値写像は微分同相写像とホモトピックであること、ホモトピックな微分同相写像はイソトピックであること)は主張と所在を述べる。
$S$ を連結な閉曲面とし、$x_0\in S$ を基点、$\pi:=\pi_1(S,x_0)$ とする。群 $G$ の自己同型群を $\operatorname{Aut}(G)$、$g\in G$ による内部自己同型 $c_g(x)=gxg^{-1}$ の全体を $\operatorname{Inn}(G)$ とし、$\operatorname{Out}(G):=\operatorname{Aut}(G)/\operatorname{Inn}(G)$ を 外部自己同型群 という(自己同型群)。
$S$ の微分同相写像(向きを逆にするものも含む)をイソトピーで分けた群を 拡大写像類群 $\operatorname{Mod}^{\pm}(S)$ という(写像類群 の注意「定義の流儀」の 2)。$\operatorname{Mod}(S)$ はその指数 $2$ の部分群である。
微分同相写像 $f\colon S\to S$ と、$x_0$ から $f(x_0)$ への道 $\delta$ について、$f_\delta([\gamma]):=[\delta\cdot(f\circ\gamma)\cdot\bar\delta]$($\bar\delta$ は逆の道、道の積は左から順に通る)は $\pi$ の自己同型である。その $\operatorname{Out}(\pi)$ での類 $\Phi([f])$ は $\delta$ の取り方にも、$f$ のイソトピー類の代表元の取り方にもよらず、
$$
\Phi\colon\operatorname{Mod}^{\pm}(S)\longrightarrow\operatorname{Out}(\pi)
$$
は群の準同型である。
要点:基点を動かす道の取り替えは内部自己同型で吸収される。
$f\circ\gamma$ は $f(x_0)$ を基点とする閉道なので、$f_\delta$ は $f_*\colon\pi_1(S,x_0)\to\pi_1(S,f(x_0))$ と 基点の取り替え(基本群) の同型 $\pi_1(S,f(x_0))\to\pi_1(S,x_0)$ の合成で、同型である。別の道 $\delta'$ をとると、$\delta'\cdot\bar\delta$ は $x_0$ を基点とする閉道で、その類を $h$ とすると $f_{\delta'}=c_h\circ f_\delta$ である。$F$ を $f$ から $f'$ へのイソトピーとし、$\eta(t):=F(t,x_0)$ とおく。正方形 $[0,1]^2\ni(s,t)\mapsto F(t,\gamma(s))$ を見ると、$f'\circ\gamma$ は $\bar\eta\cdot(f\circ\gamma)\cdot\eta$ と端点を止めてホモトピックである。よって $f'_{\delta\cdot\eta}=f_\delta$ であり、類は代表元によらない。最後に、$f$ には $\delta$、$k$ には $\epsilon$ をとると、$\epsilon\cdot(k\circ\delta)$ は $x_0$ から $k(f(x_0))$ への道で、$(k\circ f)_{\epsilon\cdot(k\circ\delta)}=k_\epsilon\circ f_\delta$ が定義から確かめられる。よって $\Phi$ は準同型である。$\square$
外部自己同型 $[\varphi]\in\operatorname{Out}(\pi)$ は可換化 $H:=\pi^{\mathrm{ab}}=H_1(S;\mathbb{Z})$ に矛盾なく作用する(内部自己同型は $H$ に自明に作用する)。$S=S_g$ のとき $H$ には交点形式 $\langle\,,\rangle$ がある(写像類群 の命題「シンプレクティック表現」)。
$\varphi_*\colon H\to H$ が $\langle\,,\rangle$ を保つような $[\varphi]\in\operatorname{Out}(\pi_1(S_g))$ の全体を $\operatorname{Out}^+(\pi_1(S_g))$ と書く。
$g\ge1$ とする。lem-dnb-action の準同型
$$
\Phi\colon\operatorname{Mod}^{\pm}(S_g)\longrightarrow\operatorname{Out}(\pi_1(S_g))
$$
は同型である。$\Phi$ は $\operatorname{Mod}(S_g)$ を $\operatorname{Out}^+(\pi_1(S_g))$ に同型に写し、$\operatorname{Out}^+(\pi_1(S_g))$ は指数 $2$ の部分群である。
BV06 p. 1 は $\operatorname{Mod}^{\pm}(S_g)=\operatorname{Out}(\pi_1S_g)$ を Nielsen の古典的な定理として述べ、Mor99 p. 368 は向きを保つ形 $\operatorname{Mod}(S_g)\cong\operatorname{Out}_+(\pi_1S_g)$ を Nielsen に帰している。この記事では、$g=1$ の場合を thm-dnb-torus で 写像類群 の定理「トーラスの写像類群」に帰着させ、$g\ge2$ では証明を 4 段に分けて、prop-dnb-homotopy-equivalences と prop-dnb-orientation を証明し、残る 2 段は rem-dnb-steps で主張と所在を述べる。
$g\ge1$ なら $S_g$ の普遍被覆は平面と同相で可縮なので、$S_g$ は $\pi_1(S_g)$ の Eilenberg–MacLane空間 $K(\pi,1)$ である(Poé79b p. 21 は $S^2$ と射影平面以外のコンパクトな曲面が $K(\pi,1)$ であることをこの形で使う)。
$g\ge1$ とし、$S_g$ の自己 ホモトピー同値 写像の、(基点を止めない)ホモトピーによる類の群を $\mathcal{E}(S_g)$ とする。lem-dnb-action と同じ式で定まる写像
$$
\mathcal{E}(S_g)\longrightarrow\operatorname{Out}(\pi_1(S_g))
$$
は群の同型である。
要点:$K(\pi,1)$ への写像は基本群の準同型でホモトピーを除いて決まり、基点を止めないホモトピーは共役の分だけずれる。
lem-dnb-action の証明は、微分同相写像の代わりに連続写像、イソトピーの代わりにホモトピーとしてもそのまま通るので、写像は矛盾なく定まる準同型である(ホモトピー同値写像の誘導する準同型は同型である)。
全射。Hat02 Proposition 1B.9(p. 90)により、連結な CW 複体 $X$ から $K(G,1)$ 空間 $Y$ への準同型 $\pi_1(X,x_0)\to\pi_1(Y,y_0)$ は、基点を保つ写像で引き起こされ、その写像は基点を止めたホモトピーを除いて一意である。$S_g$ は有限 CW 複体なので、$\varphi\in\operatorname{Aut}(\pi)$ について $f_*=\varphi$、$k_*=\varphi^{-1}$ となる基点つきの写像 $f,k$ がある。$k\circ f$ と $f\circ k$ は恒等写像を引き起こすので、一意性から恒等写像とホモトピックであり、$f$ はホモトピー同値写像である。
単射。ホモトピー同値写像 $f$ の類が $\operatorname{Out}$ で自明だとする。$f(x_0)$ を $x_0$ に写す微分同相写像で恒等写像とイソトピックなもの($f(x_0)$ から $x_0$ への道の近くで点を押し動かすもの)を合成すれば、ホモトピーの類を変えずに $f(x_0)=x_0$ としてよい。このとき $f_*=c_h$($h\in\pi$)である。$h$ を表す閉道 $\delta$ をとり、$f$ を「基点を $\delta$ に沿って 1 周させる」ホモトピー(ホモトピー拡張性質による)で動かすと、得られる写像 $f'$ は $f'_*=c_h^{-1}\circ f_*=\mathrm{id}$ を満たし、基点を保つ。一意性から $f'$ は恒等写像とホモトピックで、したがって $f$ もそうである。$\square$
この命題は Poé79b 定理 3 とその後の 3)(p. 22)の内容で、そこでは自己ホモトピー同値写像の空間の連結成分の集合が $\operatorname{Aut}\pi/\operatorname{Inn}\pi$ に一致すると述べられている。$\Phi$ は、写像類 $[f]$ に $f$ のホモトピー類を対応させる写像 $\operatorname{Mod}^{\pm}(S_g)\to\mathcal{E}(S_g)$ と、この同型の合成である。したがって thm-dnb-main の前半は次の 2 つと同値である。
$g\ge1$ とし、$f$ を $S_g$ の微分同相写像とする。$f$ が向きを保てば $f_*$ は $\langle\,,\rangle$ を保ち、向きを逆にすれば $\langle f_*x,f_*y\rangle=-\langle x,y\rangle$($x,y\in H$)である。したがって $\Phi^{-1}(\operatorname{Out}^+(\pi_1(S_g)))=\operatorname{Mod}(S_g)$ であり、$\operatorname{Out}^+(\pi_1(S_g))$ は $\operatorname{Out}(\pi_1(S_g))$ の真部分群で、$\Phi$ が全射なら指数はちょうど $2$ である。
要点:向きを逆にする写像は、交点ごとの局所符号をすべて反転させる。
向きを保つ場合は 写像類群 の命題「シンプレクティック表現」の 2 である。向きを逆にする $f$ について、向き付けられた単純閉曲線 $a$ と横断的な閉曲線 $c$ をとる。$f$ は $a\cap c$ の点を $f(a)\cap f(c)$ の点に 1 対 1 に写し、各交点 $p$ で $df_p$ は正の基底 $(a'(p),c'(s))$ を負の基底に、負の基底を正の基底に写す。よって 写像類群 の補題「曲線の代数的交点数」の定義から $\hat\imath(f(a),f\circ c)=-\hat\imath(a,c)$ である。同記事の命題「シンプレクティック表現」の証明で $\hat\imath$ が保たれることを使った箇所をこの式に取り替えると、$\langle f_*x,f_*y\rangle=-\langle x,y\rangle$ を得る。$H\neq0$ で $\langle\,,\rangle$ は $0$ でないので、$\langle\,,\rangle$ を保つことと符号を反転させることは両立しない。よって $\Phi([f])\in\operatorname{Out}^+$ は $f$ が向きを保つことと同値である。
指数:$\operatorname{Out}(\pi_1(S_g))$ の元 $[\varphi]$ について、$\varphi_*$ が $\langle\,,\rangle$ を保つか符号を反転させるかで $\pm1$ を対応させる写像を考える。$\Phi$ が全射なら、どの $[\varphi]$ も $\Phi([f])$ の形で、前段によりどちらか一方が起こる。この $\pm1$ は準同型で、核が $\operatorname{Out}^+$ である。閉曲面は向きを逆にする微分同相写像 $r$ をもつ(写像類群 の注意「定義の流儀」の 2)ので、$\Phi([r])$ の値は $-1$ で、核の指数はちょうど $2$ である。$\Phi$ を仮定しなくても、$\operatorname{Out}^+$ は $\Phi([r])$ を含まないので真部分群である。$\square$
向きを保つ外部自己同型を 2 次元ホモロジーへの作用で定めても、上の定義と一致する。交点形式は 1 次のコホモロジーのカップ積と基本類で書けるので、自己ホモトピー同値写像 $f$ について $\langle f_*x,f_*y\rangle=\deg(f)\langle x,y\rangle$ となり(写像度)、写像度の符号が交点形式の符号になるからである。
$T^2=\mathbb{R}^2/\mathbb{Z}^2$ の基本群は $\mathbb{Z}^2$ で可換なので、内部自己同型は恒等写像だけで、$\operatorname{Out}(\mathbb{Z}^2)=\operatorname{Aut}(\mathbb{Z}^2)=\operatorname{GL}_2(\mathbb{Z})$ である。$A\in\operatorname{GL}_2(\mathbb{Z})$ について、$x\mapsto Ax$ は $\mathbb{Z}^2$ を保つので、$T^2$ の微分同相写像 $f_A(x+\mathbb{Z}^2):=Ax+\mathbb{Z}^2$ を引き起こす。
$\Phi\colon\operatorname{Mod}^{\pm}(T^2)\to\operatorname{Out}(\mathbb{Z}^2)=\operatorname{GL}_2(\mathbb{Z})$ は同型で、逆写像は $A\mapsto[f_A]$ である。$\operatorname{Mod}(T^2)$ は $\operatorname{SL}_2(\mathbb{Z})=\operatorname{Out}^+(\mathbb{Z}^2)$ に写る。
要点:向きは行列式の符号で読め、向きを保つ部分は写像類群の記事の定理「トーラスの写像類群」に帰着する。
基本群が可換なので、lem-dnb-action の $f_\delta$ は道 $\delta$ によらず、$H_1(T^2;\mathbb{Z})=\mathbb{Z}^2$ への作用 $f_*$ に等しい。$H_1$ の基底 $e_1,e_2$(座標軸の向きの閉曲線の類)について交点形式は $\langle x,y\rangle=\det(x\ y)$ である(写像類群 の命題「シンプレクティック表現」で $g=1$)。よって $\langle Ax,Ay\rangle=\det A\,\langle x,y\rangle$ であり、$\operatorname{Out}^+(\mathbb{Z}^2)=\operatorname{SL}_2(\mathbb{Z})$ である。
全射。線形写像の持ち上げで閉曲線の類を計算すると $(f_A)_*e_i=Ae_i$ なので、$\Phi([f_A])=A$ である。
単射。$\Phi([f])=I$ とする。$\det I=1$ なので prop-dnb-orientation により $f$ は向きを保つ。写像類群 の定理「トーラスの写像類群」により $[f]\mapsto f_*$ は $\operatorname{Mod}(T^2)$ から $\operatorname{SL}_2(\mathbb{Z})$ への同型なので、$[f]=1$ である。
以上で $\Phi$ は全単射な準同型で、$A\mapsto[f_A]$ は逆写像である。$\operatorname{Mod}(T^2)$ の像が $\operatorname{SL}_2(\mathbb{Z})$ であることは prop-dnb-orientation による。$\square$
単射の部分は、引いた定理を通じて「トーラスのホモトピックな微分同相写像はイソトピックである」という事実(写像類群 の記事では Poé79a §V、p. 11 の引用)に依存している。トーラスでは、どの自己ホモトピー同値写像も線形写像 $f_A$ とホモトピックなことは、持ち上げを $\mathbb{R}^2$ の上で線形写像へ直線的に動かせば直接に分かる。
基本群の自己同型の言葉で写像類群を書く形は、境界や印の点があっても成り立つ。$S_g$ から開円板を 1 つ除いた曲面 $S_{g,1}$ の基本群は、境界の点を基点として階数 $2g$ の自由群 $F_{2g}$ で、標準の基底 $\alpha_1,\beta_1,\dots,\alpha_g,\beta_g$ について境界をまわる元は $\zeta=\prod_i[\alpha_i,\beta_i]$ である。
$g\ge1$ とする。
Mor99 p. 368 は 1・2 を thm-dnb-main とともに Nielsen に帰して述べている。この記事では証明しない。1 では基点が境界にあって動かないので、外部自己同型ではなく自己同型そのものが現れる。1 の同型によって $\operatorname{Mod}(S_{g,1})$ は $\operatorname{Aut}(F_{2g})$ の部分群とみなせ、Torelli群 の Johnson準同型や、自由群の外部自己同型群 との比較はこの形で行われる。2 の群は 1 次ホモロジーではなく基本群への作用で印の点の動きまで記録し、$\operatorname{Aut}^+\to\operatorname{Out}^+$ の核 $\operatorname{Inn}(\pi_1(S_g))\cong\pi_1(S_g)$($g\ge2$)は印の点を曲面の上で 1 周させる写像類にあたる。
$g\ge2$ とし、$\pi_1(S_g)$ の標準の表示 $\langle\alpha_1,\beta_1,\dots,\alpha_g,\beta_g\mid\prod_i[\alpha_i,\beta_i]\rangle$ をとる($\alpha_i,\beta_i$ は標準の曲線 $a_i,b_i$ を基点につないだ閉道)。$\varepsilon=\pm1$ について
$$
\varphi_\varepsilon\colon\ \beta_1\mapsto\beta_1\alpha_1^{\varepsilon},\qquad\text{その他の生成元は固定}
$$
とおくと、$[\alpha_1,\beta_1\alpha_1^{\varepsilon}]=\alpha_1\beta_1\alpha_1^{\varepsilon}\alpha_1^{-1}\alpha_1^{-\varepsilon}\beta_1^{-1}=[\alpha_1,\beta_1]$ なので関係子が保たれ、$\varphi_\varepsilon$ は $\pi_1(S_g)$ の自己同型である(逆写像は $\varphi_{-\varepsilon}$)。Dehn ひねり $T_{a_1}$ は $a_1$ の近くの円環の外では恒等写像なので、$a_1$ と交わらない生成元を動かさず、$a_1$ と 1 回交わる $\beta_1$ には $a_1$ を 1 周する道を挿入する(写像類群 の命題「Dehn ひねりのホモロジーへの作用」の証明の帯の議論)。したがって、向きの付け方で決まる $\varepsilon$ について $\Phi(T_{a_1})=[\varphi_\varepsilon]$ である。$H$ では $[b_1]\mapsto[b_1]+\varepsilon[a_1]$ となり、同命題の公式と一致する。
$S_g$ を空間の中に、曲面と $2g+2$ 点で交わる直線について対称に置き、その直線のまわりの角 $\pi$ の回転 $\iota$ をとると、$\iota$ は向きを保つ位数 $2$ の微分同相写像で、標準の曲線をそれぞれ向きを逆にして写す。よって $\iota_*=-\mathrm{id}_H$ であり、$\Phi([\iota])$ は位数 $2$ の外部自己同型で、$H$ には $-1$ 倍として作用する。$g=1$ では $\iota=f_{-I}$ で、thm-dnb-torus の $-I\in\operatorname{SL}_2(\mathbb{Z})$ にあたる。
thm-dnb-main の仮定を 1 つずつ外すと、次のことが起こる。
| 外す条件 | 例 | 起こること |
|---|---|---|
| $g\ge1$ | 球面 $S^2$ | $\operatorname{Out}(\pi_1(S^2))=1$ だが $\operatorname{Mod}^{\pm}(S^2)\cong\mathbb{Z}/2$ で、$\Phi$ は単射でない |
| 閉曲面である | 3 点を除いた球面 $S_{0,3}$ | $\pi_1\cong F_2$ の外部自己同型で微分同相写像から来ないものがあり、$\Phi$ は全射でない |
| 向きを逆にする写像も許す(後半の主張) | $T^2$ の折り返し $f_B$、$B=\operatorname{diag}(1,-1)$ | $\Phi([f_B])=B\notin\operatorname{SL}_2(\mathbb{Z})$ で、$\operatorname{Mod}(T^2)$ の像に入らない |
要点:1 行目は向き、2 行目は穴をまわる曲線のホモロジー類、3 行目は行列式で確かめる。
1 行目:$S^2$ は単連結なので $\operatorname{Out}(\pi_1(S^2))$ は自明である。$\operatorname{Mod}(S^2)=1$(写像類群 の命題「円板と球面の写像類群」)で、鏡映 $r(x,y,z)=(x,y,-z)$ は向きを逆にするので恒等写像とイソトピックでない(イソトピーの各時刻の写像の向きは連続に変わるので一定である)。よって $\operatorname{Mod}^{\pm}(S^2)$ は位数 $2$ で、$\Phi$ の核は全体である。
2 行目:$S_{0,3}=S^2\setminus\{p_1,p_2,p_3\}$ の基本群は、$p_1,p_2$ をそれぞれ 1 周する閉道 $x,y$ を基底とする自由群で、$p_3$ を 1 周する閉道は $(xy)^{\pm1}$ の共役である。可換化 $H\cong\mathbb{Z}^2$ で、穴を 1 周する閉道の類は $\pm(1,0),\pm(0,1),\pm(1,1)$ のどれかである。$S_{0,3}$ の微分同相写像 $h$ は $S^2$ の同相写像に延びて 3 点を置換するので(小さい穴のまわりの近傍が穴のまわりの近傍に写ることによる)、穴を 1 周する小さい円を、ある穴を 1 周する閉道と自由ホモトピックな閉曲線に写す(Schoenfliesの定理)。したがって $h_*$ は上の 6 つの類の集合を保つ。一方、自己同型 $\varphi\colon x\mapsto x,\ y\mapsto xy$ は $xy$ を $x^2y$ に写し、その類 $(2,1)$ は上の集合にない。内部自己同型は $H$ に自明に作用するので、$[\varphi]$ はどの $\Phi([h])$ とも等しくない。
3 行目:$\det B=-1$ なので $B\notin\operatorname{SL}_2(\mathbb{Z})$ であり、thm-dnb-torus の証明のとおり $\Phi([f_B])=B$ である。
2 行目の現象は、境界や穴のある曲面では、穴をまわる閉道の共役類の集合(周縁構造)を保つことを外部自己同型に課さなければならないことを示している。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する