Nielsen数(Nielsen number)とは、閉多様体などの自己写像 $f$ の不動点を、普遍被覆への持ち上げの共役類ごとの不動点類に分け、指数が $0$ でない本質的な類を数えた整数 $N(f)$ のことである。$N(f)$ は $f$ のホモトピー類だけで決まり、$f$ にホモトピックなどの写像も少なくとも $N(f)$ 個の不動点をもつので、Lefschetz 数より精密な下界を与える。3 次元以上の閉多様体では、Wecken の定理により不動点の最小個数に等しい。トーラス $T^n$ の自己写像が基本群に整数行列 $A$ で働くときは $N(f)=\lvert\det(I-A)\rvert=\lvert L(f)\rvert$ で、これは不動点の最小個数でもある。
前提知識: Lefschetz不動点公式, 被覆空間, 基本群, ホモトピー
Nielsen数(Nielsen number)$N(f)$ は、空間 $X$ の自己写像 $f\colon X\to X$ の不動点を、基本群を手がかりに「本質的に異なる組」に分け、その組の数を数えた整数である。Lefschetz不動点公式 の Lefschetz 数 $L(f)$ は、$L(f)\ne0$ なら $f$ とホモトピックなどの写像も不動点をもつことを教えるが、不動点がいくつあるかについては何も言わない。Nielsen 数は $f$ のホモトピー類だけで決まり、$f$ とホモトピックなどの写像も少なくとも $N(f)$ 個の不動点をもつ。
たとえば $n$ 次元トーラス $T^n=\mathbb R^n/\mathbb Z^n$ の自己写像が基本群 $\mathbb Z^n$ に整数行列 $A$ で作用するとき、$N(f)=\lvert\det(I-A)\rvert=\lvert L(f)\rvert$ であり、$f$ にホモトピックな写像の不動点の個数の最小値もちょうどこの数になる。この記事では、不動点類と Nielsen 数を定義し、不動点類が不動点集合を有限個の開かつ閉な部分に分けることを示したうえで、トーラスについてこの等式を証明する。ホモトピー不変性と、3 次元以上の多様体で $N(f)$ が不動点の最小個数に等しいという Wecken の定理は、主張と帰属を述べる。
同じ J. Nielsen の名を冠する Nielsen–Schreierの定理(自由群の部分群)や Dehn–Nielsen–Baerの定理(写像類群)とは別の話題である。
この記事では、$X$ を境界のない連結なコンパクト $C^\infty$ 多様体(閉多様体)とし、$p\colon\tilde X\to X$ をその 普遍被覆、$\Gamma$ を被覆変換群とする($\Gamma$ は $\pi_1(X)$ と同型である)。$f\colon X\to X$ の不動点集合を $\operatorname{Fix}(f)=\{x\in X\mid f(x)=x\}$ と書き、
$$
\operatorname{MF}(f):=\min\{\#\operatorname{Fix}(g)\mid g\simeq f\}
$$
を $f$ のホモトピー類の 最小不動点数 とする($\simeq$ はホモトピック)。どの連続写像も不動点が有限個の $C^\infty$ 写像にホモトピックなので、$\operatorname{MF}(f)$ は有限である(Whitneyの近似定理 で $C^\infty$ 写像に替え、横断性で不動点を孤立させる。GP74 Ch. 3 §4、p. 120 は向き付けられた多様体で述べているが、その証明は横断性定理だけを使う)。
$f$ の持ち上げは存在し、1 つの持ち上げ $\tilde f$ を固定すると、持ち上げ全体は $\gamma\tilde f$($\gamma\in\Gamma$)とちょうど一通りずつ書ける。これは被覆空間の持ち上げの一意性(2 つの持ち上げは 1 点で一致すれば全体で一致する)による。
1. $x\in\operatorname{Fix}(f)$ とし、$\tilde x\in p^{-1}(x)$ をとる。$p(\tilde f(\tilde x))=f(x)=x$ なので、$\gamma\tilde f(\tilde x)=\tilde x$ となる $\gamma\in\Gamma$ がある($\Gamma$ はファイバーに推移的に働く)。よって $x$ は持ち上げ $\gamma\tilde f$ の不動点類に入る。次に $\tilde f'=\gamma\tilde f\gamma^{-1}$ なら $\operatorname{Fix}(\tilde f')=\gamma\operatorname{Fix}(\tilde f)$ で、$p\gamma=p$ から 2 つの不動点類は等しい。最後に、持ち上げ $\tilde f_1,\tilde f_2$ の不動点類が点 $x$ を共有するとし、$\tilde f_i(\tilde x_i)=\tilde x_i$、$p(\tilde x_i)=x$ とする。$\tilde x_2=\gamma\tilde x_1$ となる $\gamma$ をとると、$\gamma\tilde f_1\gamma^{-1}$ と $\tilde f_2$ はどちらも $f$ の持ち上げで、$\tilde x_2$ を固定する。持ち上げの一意性から $\tilde f_2=\gamma\tilde f_1\gamma^{-1}$ であり、2 つは共役である。
2. $x\in p(\operatorname{Fix}(\tilde f))$、$x=p(\tilde x)$、$\tilde f(\tilde x)=\tilde x$ とする。$x$ の弧状連結な等分被覆近傍 $U$ と、$\tilde x$ を含む $p^{-1}(U)$ の成分 $\tilde U$ をとる($p|_{\tilde U}\colon\tilde U\to U$ は同相)。$f$ は連続で $f(x)=x$ なので、$f(V)\subset U$ となる $x$ の弧状連結な近傍 $V\subset U$ がある。$\tilde V:=(p|_{\tilde U})^{-1}(V)$ とおく。$\tilde f(\tilde V)$ は連結で、$\tilde x$ を含み、$p^{-1}(U)$ に含まれる。$p^{-1}(U)$ の成分は互いに交わらない開集合なので、$\tilde f(\tilde V)\subset\tilde U$ である。$y\in V\cap\operatorname{Fix}(f)$ をとり、$\tilde y\in\tilde V$ を $y$ の上の点とすると、$\tilde f(\tilde y)\in\tilde U$ は $p(\tilde f(\tilde y))=f(y)=y$ をみたすので、$p|_{\tilde U}$ の単射性から $\tilde f(\tilde y)=\tilde y$ である。よって $V\cap\operatorname{Fix}(f)\subset p(\operatorname{Fix}(\tilde f))$ で、不動点類は $\operatorname{Fix}(f)$ の中で開集合である。1 により $\operatorname{Fix}(f)$ は互いに交わらない不動点類の合併なので、各不動点類の補集合(ほかの類の合併)も開集合であり、各不動点類は閉集合でもある。$\operatorname{Fix}(f)$ はコンパクト空間の閉集合なのでコンパクトで、互いに交わらない空でない開集合による被覆は有限個の成員しかもたない。閉集合である各類もコンパクトである。$\square$
1 により、空でない不動点類から持ち上げの類への単射がある(類 $p(\operatorname{Fix}(\tilde f))$ に $\tilde f$ の類を対応させる)。空の不動点類もありうるので、空でない不動点類の個数は $R(f)$ 以下である。2 点 $x_0,x_1\in\operatorname{Fix}(f)$ が同じ類に入ることは、$x_0$ から $x_1$ への道 $c$ で $f\circ c$ が $c$ と端点を止めてホモトピックになるものがあることと同値である(Fel10 §1.1、pp. 2–3)。
$f$ を $C^\infty$ 写像で、不動点が有限個のものとする。各不動点 $x$ には整数の指数 $\operatorname{ind}_x(f)$ が定まる(Lefschetz不動点公式 の注意「出典と証明の筋」。$\det(1-df_x)\ne0$ のとき $\operatorname{ind}_x(f)=\operatorname{sgn}\det(1-df_x)$)。指数は局所座標で定まり、$X$ の向きを使わない(GP74 p. 129)。
不動点が有限個の $C^\infty$ 写像 $f\colon X\to X$ の不動点類 $F$ の 指数 を $\operatorname{ind}(F):=\sum_{x\in F}\operatorname{ind}_x(f)$ とする。$\operatorname{ind}(F)\ne0$ の不動点類を 本質的 といい、本質的な不動点類の個数を $f$ の Nielsen 数 $N(f)$ という。
本質的な類は空でなく、類どうしは交わらないので、$N(f)\le\#\operatorname{Fix}(f)$ である。$X$ が向き付け可能なら、すべての類の指数の和は不動点の指数の和 $L(f)$ に等しい(GP74 Ch. 3 §4 の「Local Computation of the Lefschetz Number」、p. 130)。とくに $L(f)\ne0$ なら $N(f)\ge1$ である。$X$ が単連結なら $\tilde X=X$、持ち上げは $f$ だけで、不動点類は $\operatorname{Fix}(f)$ ただ 1 つなので、$N(f)$ は $L(f)\ne0$ のとき $1$、$L(f)=0$ のとき $0$ である。
この記事では 1 と 3 を証明しない。1 は Fel10 §1.1(pp. 2–3)が述べており、ホモトピー $H=\{h_t\}$ を持ち上げると $f_0$ の持ち上げと $f_1$ の持ち上げの間に共役を保つ全単射ができ、不動点指数のホモトピー不変性によって対応する類の指数が等しくなる、という筋である。2 は、$g$ が不動点が有限個の $C^\infty$ 写像なら 1 と $N(g)\le\#\operatorname{Fix}(g)$ から従う。一般の連続写像 $g$ についても $N(f)$ が不動点の個数の下界であることは Fel10 §1.1(p. 3)が述べている。3 は Wecken(1941–1942)による(Fel10 §1.1、p. 3、KS17 p. 1)。不動点指数は、不動点が有限個とは限らない写像や、コンパクトな多面体の上の写像にも定まり、Nielsen 数はその一般の設定で定義される(Fel10 §1.1)。
境界をもつ 2 次元の多様体では、3 の等式が成り立たない例がある。Jiang(1984)は、境界をもつ曲面(球面から 3 つの円板を除いたもの)の上に $N(f)=0$、$\operatorname{MF}(f)=2$ となる写像を構成した(KS17 p. 1)。
$T^n=\mathbb R^n/\mathbb Z^n$ とし、$p\colon\mathbb R^n\to T^n$ を射影とする。被覆変換は平行移動 $\tau_k(x)=x+k$($k\in\mathbb Z^n$)である。連続写像 $f\colon T^n\to T^n$ の持ち上げ $\tilde f$ について、$\tilde f(x+k)-\tilde f(x)$ は $\mathbb Z^n$ に値をとる $x$ の連続関数なので定数であり、$k$ について加法的だから、整数行列 $A$ で
$$
\tilde f(x+k)=\tilde f(x)+Ak\qquad(x\in\mathbb R^n,\ k\in\mathbb Z^n)
$$
と書ける。$A$ は $f$ が $\pi_1(T^n)=\mathbb Z^n$ に引き起こす準同型の行列で、持ち上げの選び方によらない。ホモトピー $h_t$ の持ち上げについて同じ議論をすると $A$ は $t$ の連続関数で整数値なので、ホモトピックな写像は同じ $A$ をもつ。逆に、同じ $A$ をもつ 2 つの写像の持ち上げ $\tilde f,\tilde g$ について、$(1-t)\tilde f+t\tilde g$ も上の等式をみたすので $T^n$ の写像を定め、$f$ と $g$ をつなぐホモトピーになる。とくに $f$ は線形写像 $f_A(x)=Ax\bmod\mathbb Z^n$ にホモトピックである。
連続写像 $f\colon T^n\to T^n$ の行列を $A$ とする。
$B:=A-I$ とおく。
持ち上げの類. $f$ の持ち上げは $\tilde f-m:=\tau_{-m}\circ\tilde f$($m\in\mathbb Z^n$)である。$\tau_k\circ(\tilde f-m)\circ\tau_{-k}(x)=\tilde f(x-k)-m+k=\tilde f(x)-(m+Bk)$ なので、$\tilde f-m$ と $\tilde f-m'$ が共役であることは $m'-m\in B\mathbb Z^n$ と同値で、持ち上げの類は $\mathbb Z^n/B\mathbb Z^n$ と一対一に対応する。$\det B\ne0$ なら、Smith標準形 $B=UDV$($U,V$ は整数係数の可逆行列、$D=\operatorname{diag}(d_1,\dots,d_n)$)により $\mathbb Z^n/B\mathbb Z^n\cong\bigoplus_i\mathbb Z/d_i\mathbb Z$ で、位数は $\lvert d_1\cdots d_n\rvert=\lvert\det B\rvert$ である(BBPT75 p. 399 と同じ計算)。$\det B=0$ なら $B\mathbb Z^n$ の階数は $n$ より小さく、商は無限である。これで 4 の $R(f)$ の主張が出る。
1. $H^*(T^n;\mathbb Q)$ は $H^1(T^n;\mathbb Q)$ の生成する外積代数である(Hat02 Example 3.16、p. 216)。$H_1(T^n;\mathbb Z)=\pi_1(T^n)=\mathbb Z^n$ で $f_*$ の行列は $A$、$H^1(T^n;\mathbb Q)=\operatorname{Hom}(H_1(T^n),\mathbb Q)$ なので、双対基底について $f^*$ の行列は $A^{\top}$ である。$f^*$ は環準同型だから $H^k=\Lambda^kH^1$ には $\Lambda^kA^{\top}$ で働く。複素数の範囲で $A^{\top}$ を上三角化して対角成分(固有値)を $\lambda_1,\dots,\lambda_n$ とすると、$\Lambda^kA^{\top}$ は基底 $e_{i_1}\wedge\cdots\wedge e_{i_k}$($i_1< \cdots< i_k$)について三角行列で、対角成分は $\lambda_{i_1}\cdots\lambda_{i_k}$ である。よって
$$
L(f)=\sum_{k=0}^n(-1)^k\operatorname{tr}\Lambda^kA^{\top}=\sum_{k=0}^n(-1)^k\sum_{i_1< \cdots< i_k}\lambda_{i_1}\cdots\lambda_{i_k}=\prod_{i=1}^n(1-\lambda_i)=\det(I-A^{\top})=\det(I-A).
$$
2. $\det B\ne0$ とし、$g\simeq f$ とする。$g$ の持ち上げ $\tilde g$ は $\tilde g(x+k)=\tilde g(x)+Ak$ をみたす。$\varphi(x):=\tilde g(x)-Ax$ は $\mathbb Z^n$ 周期的な連続関数なので有界で、$\lvert\varphi\rvert\le M$ とする。$m\in\mathbb Z^n$ を固定し、$\Psi(x):=B^{-1}(m-\varphi(x))$ とおくと、
$$
\tilde g(x)=x+m\iff Bx+\varphi(x)=m\iff x=\Psi(x)
$$
である。$\lvert\Psi(x)-B^{-1}m\rvert\le\|B^{-1}\|M=:r$ なので、$\Psi$ は閉球 $\{x\mid\lvert x-B^{-1}m\rvert\le r\}$ をそれ自身に写し、Brouwerの不動点定理 により不動点 $x_m$ をもつ。$g(p(x_m))=p(x_m+m)=p(x_m)$ なので $p(x_m)\in\operatorname{Fix}(g)$ である。$p(x_m)=p(x_{m'})$ なら $x_{m'}=x_m+k$($k\in\mathbb Z^n$)と書け、
$$
x_m+k+m'=\tilde g(x_{m'})=\tilde g(x_m)+Ak=x_m+m+Ak
$$
から $m'=m+Bk$ を得る。よって $m$ を $\mathbb Z^n/B\mathbb Z^n$ の代表系の上で動かすと、$\lvert\det B\rvert$ 個の相異なる不動点が得られる($x_m$ は持ち上げ $\tilde g-m$ の不動点で、どの不動点類も空でない)。$f_A$ の不動点は、$Bx\in\mathbb Z^n$ をみたす $x$ の $\mathbb Z^n$ を法とする類で、$x\mapsto Bx$ が $B^{-1}\mathbb Z^n/\mathbb Z^n$ から $\mathbb Z^n/B\mathbb Z^n$ への全単射を与えるので、ちょうど $\lvert\det B\rvert$ 個である。
3. $\det B=0$ なら $W:=B\mathbb R^n$ は $\mathbb R^n$ の真の部分空間なので、$W$ に直交する $u\ne0$ がある。$v=su$($s\in\mathbb R$)について、$f_v(x):=Ax+v\bmod\mathbb Z^n$ が不動点をもつのは、ある $x$ で $Bx+v\in\mathbb Z^n$ となるときで、このとき $s\lvert u\rvert^2=\langle u,Bx+v\rangle\in\{\langle u,k\rangle\mid k\in\mathbb Z^n\}$ である。右辺は可算集合なので、そこに入らないように $s$ を選べば $f_v$ は不動点をもたない。$f\simeq f_A\simeq f_v$($Ax+tv$、$0\le t\le1$)である。
4. $\det B\ne0$ なら、2 により $\operatorname{MF}(f)=\lvert\det B\rvert$ である。$f_A$ の持ち上げ $x\mapsto Ax-m$ の不動点は $B^{-1}m$ ただ 1 つなので、$f_A$ の不動点類はそれぞれちょうど 1 点からなる。各不動点で $df=A$ だから指数は $\operatorname{sgn}\det(I-A)\ne0$ で、$\lvert\det B\rvert$ 個の類はすべて本質的であり、$N(f_A)=\lvert\det B\rvert$ である。$f\simeq f_A$ なので thm-nn-invariance の 1 により $N(f)=\lvert\det B\rvert$ である。$\det B=0$ なら 3 により $\operatorname{MF}(f)=0$ で、thm-nn-invariance の 2 から $N(f)=0$ である。どちらの場合も 1 により $\lvert\det B\rvert=\lvert L(f)\rvert$ である。$\square$
この定理は Brooks・Brown・Pak・Taylor(1975)による(BBPT75 Theorem、pp. 398–399)。そこでは 1 を上と同じくコホモロジーの外積代数で示し、$N(f)$ を $1-f_*$ の余核の位数として計算している。上の証明では、$\operatorname{MF}(f)$ の等式をホモトピー不変性を使わずに 2 と 3 だけで示した。
$n=1$ では $A$ は写像度 $d$ で、$N(f)=\lvert1-d\rvert$ である。$S^1\subset\mathbb C$ の写像 $z\mapsto z^d$($d\ne1$)の不動点は $z^{d-1}=1$ の解で、ちょうど $\lvert d-1\rvert$ 個ある。$d=1$ では $N=0$ で、恒等写像は不動点のない回転にホモトピックである。
$S^2$ を Riemann球面 $\mathbb C\cup\{\infty\}$ とみる。$L(\mathrm{id})=2$(Lefschetz不動点公式 の例「球面の恒等写像と対蹠写像」)で、$S^2$ は単連結なので $N(\mathrm{id})=1$ である。$h_t(z)=z+t$($h_t(\infty)=\infty$、$0\le t\le1$)は Möbius変換 の族で $S^2\times[0,1]$ の上で連続であり、恒等写像を $h_1$ につなぐ。$h_1$ の不動点は $\infty$ だけなので、$\operatorname{MF}(\mathrm{id})=1=N(\mathrm{id})< L(\mathrm{id})$ である。
「$f$ にホモトピックなどの写像も $Q(f)$ 個以上の不動点をもつ」という主張は、$Q=N$ なら thm-nn-invariance の 2 により正しい。$Q$ をほかの自然な量に替えると、次のように成り立たない。
| $Q$ に使う量 | 例 | 成り立たない主張 |
|---|---|---|
| $\lvert L(f)\rvert$ | $S^2$ の恒等写像 | 恒等写像にホモトピックな写像はどれも 2 個以上の不動点をもつ |
| $R(f)$ | $S^1$ の恒等写像 | 恒等写像にホモトピックな写像はどれも $R(\mathrm{id})$ 個以上の不動点をもつ |
| $f$ 自身の空でない不動点類の個数 | $S^1$ の恒等写像 | 恒等写像にホモトピックな写像はどれも 1 個以上の不動点をもつ |
1 行目.ex-nn-sphere の $h_1$ は恒等写像にホモトピックで、不動点は 1 個である。
2 行目.$S^1$ の恒等写像は $A=1$、$B=0$ で、持ち上げの類は $\mathbb Z/0\mathbb Z=\mathbb Z$ と対応し $R(\mathrm{id})$ は無限である。一方、角 $\pi$ の回転は恒等写像にホモトピックで不動点をもたない。
3 行目.恒等写像の持ち上げ $x\mapsto x-m$ のうち不動点をもつのは $m=0$ だけなので、空でない不動点類は $S^1$ 全体の 1 個である。それでも 2 行目の回転は不動点をもたない。この類は本質的でなく、ホモトピーで消える。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する