Lefschetz不動点公式
概要
Lefschetz不動点公式（Lefschetz fixed-point formula）とは、コンパクト多様体の自己写像 $f$ の不動点の代数的個数が、コホモロジーへの作用のトレースの交代和 $L(f)=\sum_i(-1)^i\operatorname{tr}(f^*\mid H^i(X))$（Lefschetz 数）に等しいという公式である。$L(f)$ はホモトピー不変な整数で、$L(f)\ne0$ なら $f$ は不動点をもち、横断的な不動点は $\operatorname{sgn}\det(1-df_x)$ で数える。Poincaré 双対と Künneth 公式から $L(f)=(\Gamma_f\cdot\Delta)$ が出て Weil コホモロジーでも成り立ち、Frobenius 写像に適用した Grothendieck の跡公式が合同ゼータ関数の有理性を与える。
前提知識: 特異コホモロジー, 多様体, Poincaré双対, カップ積, Künneth公式, トレース, Weilコホモロジー
動機
コンパクト空間 $X$ の連続写像 $f\colon X\to X$ が不動点（$f(x)=x$ となる点）をもつかどうかは、$f$ の細部に依存する難しい問題に見える。Lefschetz（1926 年、Lef26）は、不動点の「代数的な個数」が $f$ のコホモロジーへの作用のトレースの交代和 $L(f)=\sum_i(-1)^i\operatorname{tr}(f^*\mid H^i(X))$ だけで決まることを発見した。$L(f)$ は $f$ のホモトピー類だけで決まる整数なので、$L(f)\ne0$ なら $f$ とホモトピックなどんな写像も不動点をもつ。Brouwerの不動点定理はその最も簡単な帰結である。
この公式の核心は、$f$ の不動点集合が $X\times X$ の中でグラフ $\Gamma_f$ と対角線 $\Delta$ の交わりとして書けることと、その交点数がPoincaré双対とKünneth公式だけを使ってトレースの交代和に計算できることにある。この計算はコホモロジーの形式的性質しか使わないので、位相空間の特異コホモロジーに限らず、代数多様体の Weilコホモロジー（ℓ進コホモロジーなど）でも同じ公式が成り立つ。Weil は有限体 $\mathbb{F}_q$ 上の多様体の $\mathbb{F}_{q^m}$ 有理点が $q^m$ 乗 Frobenius写像の不動点であることに注目し、不動点公式をもつコホモロジーがあれば合同ゼータ関数の有理性が従うと見抜いた（Weil予想）。Grothendieck は $\ell$ 進コホモロジーでこれを実現した（Grothendieck の跡公式、Gro65）。
仮定と定理
Lefschetz 数
$K$ を体とし、$X$ を位相空間で、係数 $K$ の特異コホモロジー $H^i(X;K)$ がすべての $i$ で有限次元ベクトル空間であり、有限個の $i$ を除いて $0$ であるものとする（コンパクト多様体や有限 CW複体がその例である）。連続写像 $f\colon X\to X$ に対し、
$$
L(f;K):=\sum_{i\ge0}(-1)^i\operatorname{tr}\bigl(f^*\mid H^i(X;K)\bigr)\in K
$$
を $f$ の（係数 $K$ の）Lefschetz 数（Lefschetz number）という。$\operatorname{tr}$ は線形写像のトレースである。$K=\mathbb{Q}$ のときは単に $L(f)$ と書く。
ホモロジー $H_i(X;K)$ への $f_*$ のトレースを使っても同じ値になる。実際、体係数では $H^i(X;K)$ は $H_i(X;K)$ の双対空間で $f^*$ は $f_*$ の転置だから、トレースは等しい。
Lefschetz 数が整数で係数体によらないことは、次の代数的な補題から従う。この補題は Hopf（1929 年、Hop29）による。
$K$ を体、$C_\bullet=(\cdots\to C_{i+1}\xrightarrow{\partial}C_i\xrightarrow{\partial}C_{i-1}\to\cdots)$ を有限次元 $K$ ベクトル空間の鎖複体で、有限個の $i$ を除いて $C_i=0$ であるものとし、$\varphi\colon C_\bullet\to C_\bullet$ を鎖写像とする。このとき
$$
\sum_i(-1)^i\operatorname{tr}(\varphi\mid C_i)=\sum_i(-1)^i\operatorname{tr}\bigl(H_i(\varphi)\mid H_i(C_\bullet)\bigr)
$$
が成り立つ。同じことが余鎖複体についても成り立つ。
まず、有限次元ベクトル空間の完全列 $0\to V'\to V\to V''\to0$ と、これと両立する自己準同型 $\psi',\psi,\psi''$ に対し $\operatorname{tr}\psi=\operatorname{tr}\psi'+\operatorname{tr}\psi''$ である。実際、$V'$ の基底をとって $V$ の基底に延長すれば、$\psi$ の行列はブロック上三角で、対角ブロックが $\psi'$ と $\psi''$ の行列になる。
$Z_i:=\ker(\partial\colon C_i\to C_{i-1})$、$B_i:=\operatorname{im}(\partial\colon C_{i+1}\to C_i)$、$H_i:=Z_i/B_i$ とおく。$\varphi$ は $\partial$ と可換なので $Z_i$ と $B_i$ を保ち、$\varphi$ と両立する 2 つの完全列
$$
0\to Z_i\to C_i\xrightarrow{\partial}B_{i-1}\to0,\qquad 0\to B_i\to Z_i\to H_i\to0
$$
が得られる。跡の加法性から
$$
\operatorname{tr}(\varphi\mid C_i)=\operatorname{tr}(\varphi\mid Z_i)+\operatorname{tr}(\varphi\mid B_{i-1})=\operatorname{tr}(\varphi\mid B_i)+\operatorname{tr}(\varphi\mid H_i)+\operatorname{tr}(\varphi\mid B_{i-1})
$$
である。$(-1)^i$ を掛けて $i$ について和をとると、$\sum_i(-1)^i\operatorname{tr}(\varphi\mid B_i)$ と $\sum_i(-1)^i\operatorname{tr}(\varphi\mid B_{i-1})=-\sum_j(-1)^{j}\operatorname{tr}(\varphi\mid B_j)$ が打ち消し合い、$\sum_i(-1)^i\operatorname{tr}(\varphi\mid C_i)=\sum_i(-1)^i\operatorname{tr}(\varphi\mid H_i)$ を得る。余鎖複体では $\partial$ の向きを逆にして同じ議論をすればよい。$\square$
$X$ を有限 CW複体（またはそれとホモトピー同値な空間、たとえばコンパクト多様体）、$f\colon X\to X$ を連続写像とする。
- $L(f)=L(f;\mathbb{Q})$ は整数であり、任意の体 $K$ に対して $L(f;K)$ は整数 $L(f)$ の $K$ における像に等しい。
- $f\simeq g$（ホモトピック）ならば $L(f)=L(g)$ である。
- 恒等写像 $\mathrm{id}_X$ に対し $L(\mathrm{id}_X)=\chi(X)=\sum_i(-1)^i\dim_{\mathbb{Q}}H^i(X;\mathbb{Q})$ は $X$ の Euler標数である。
2 はコホモロジーのホモトピー不変性 $f^*=g^*$ から直ちに従う。3 は恒等写像のトレースが次元であることによる。1 を示す。胞体近似定理（Hat02 Theorem 4.8）により $f$ は胞体写像 $g$ とホモトピックで、2 により $L(f;K)=L(g;K)$ である。胞体写像 $g$ は胞体鎖複体 $C_\bullet(X;\mathbb{Z})$（各 $C_i$ は $i$ 胞体を基底とする有限階数の自由加群）の鎖写像 $g_\sharp$ を誘導し、その行列 $M_i$ は整数成分である。係数 $K$ の胞体コホモロジーは余鎖複体 $\operatorname{Hom}_{\mathbb{Z}}(C_\bullet(X;\mathbb{Z}),K)$ のコホモロジーであり（Hat02 §3.1、§2.2）、$g^*$ はそこで転置行列 $M_i^{\mathsf T}$ の $K$ における像で作用する。prop-lefschetz-fixed-point-formula-hopf-trace をこの余鎖複体に適用すると
$$
L(g;K)=\sum_i(-1)^i\operatorname{tr}\bigl(M_i^{\mathsf T}\otimes K\bigr)=\Bigl(\sum_i(-1)^i\operatorname{tr}M_i\Bigr)\cdot1_K
$$
となる。右辺の括弧の中は $K$ によらない整数であり、$K=\mathbb{Q}$ ととれば $L(f)$ に等しい。$\square$
位相的な不動点定理
- $X$ を有限単体複体のレトラクト（たとえばコンパクト多様体、有限 CW 複体）、$f\colon X\to X$ を連続写像とする。$L(f)\ne0$ ならば $f$ は不動点をもつ。
- $X$ を境界のないコンパクトな向き付けられた $n$ 次元 $C^\infty$ 多様体（向き付け可能多様体）、$f\colon X\to X$ を $C^\infty$ 写像とし、$f$ のすべての不動点 $x$ が横断的、すなわち接空間の自己準同型 $df_x\colon T_xX\to T_xX$ について $\det(1-df_x)\ne0$ であるとする。このとき不動点は有限個で、
$$ L(f)=\sum_{f(x)=x}\operatorname{sgn}\det(1-df_x) $$
が成り立つ。
1 は Hat02 Theorem 2C.3 に譲る。筋は次のとおりである。$f$ が不動点をもたなければ、コンパクト性から $f(x)$ と $x$ の距離は正の下限をもち、十分細かい細分をとって単体近似定理を適用すれば、$f$ は各単体 $\sigma$ を $\sigma$ と交わらない単体に移す単体写像 $g$ とホモトピックになる。単体鎖複体での $g_\sharp$ の行列は対角成分がすべて $0$ なので $\sum(-1)^i\operatorname{tr}(g_\sharp\mid C_i)=0$ であり、prop-lefschetz-fixed-point-formula-hopf-trace により $L(f)=L(g)=0$ となる。
2 は GP74 第 3 章 §4 に譲る。筋は、後述の thm-lefschetz-fixed-point-formula-diagonal で $L(f)$ が $X\times X$ の中のグラフ $\Gamma_f$ と対角線 $\Delta$ の交点数であることを示し、横断的な交点での局所交点数を rem-lefschetz-fixed-point-formula-local-index のように計算することである。孤立した不動点しかなければ、横断的でなくても各不動点 $x$ に整数の指数 $\operatorname{ind}_x(f)$ が定まり $L(f)=\sum_x\operatorname{ind}_x(f)$ が成り立つ（横断的なら $\operatorname{ind}_x(f)=\operatorname{sgn}\det(1-df_x)$。向き付け不可能でも同じ）（Hat02 §2C、GP74 第 3 章 §4）。
コホモロジーの形式からの導出
thm-lefschetz-fixed-point-formula-topological の 2 の核心は、$L(f)$ を交点数に書き直す等式である。この等式はコホモロジーの形式的性質だけから出るので、次の設定で述べる。
$K$ を体、$n\ge0$ を整数とする。「空間」$X$ と $X\times X$ に対し、次数付き可換な $K$ 代数 $H^*(X)=\bigoplus_{i=0}^{n}H^i(X)$、$H^*(X\times X)=\bigoplus_{j=0}^{2n}H^j(X\times X)$（各次数は有限次元、積はカップ積 $\smile$、$a\smile b=(-1)^{\deg a\deg b}b\smile a$）が与えられ、射影 $p_1,p_2\colon X\times X\to X$、対角線写像 $\Delta\colon X\to X\times X$、$x\mapsto(x,x)$、および自己写像 $f\colon X\to X$ とそのグラフ写像 $\gamma_f:=(\mathrm{id}_X,f)\colon X\to X\times X$ が、次数を保つ $K$ 代数準同型 $p_1^*,p_2^*,\Delta^*,\gamma_f^*,f^*$ を関手的に誘導しているとする（$p_1\circ\Delta=p_2\circ\Delta=\mathrm{id}$、$p_1\circ\gamma_f=\mathrm{id}$、$p_2\circ\gamma_f=f$ に対応して $\Delta^*p_1^*=\Delta^*p_2^*=\mathrm{id}$、$\gamma_f^*p_1^*=\mathrm{id}$、$\gamma_f^*p_2^*=f^*$）。$a,b\in H^*(X)$ に対し外積を $a\times b:=p_1^*a\smile p_2^*b$ と書く。次の 4 条件を仮定する。
- (H1) Künneth公式：$a\otimes b\mapsto a\times b$ は $K$ 線形同型 $H^*(X)\otimes_KH^*(X)\to H^*(X\times X)$ である。
- (H2) Poincaré双対：$K$ 線形写像（跡写像）$\int_X\colon H^n(X)\to K$ と $\int_{X\times X}\colon H^{2n}(X\times X)\to K$ があり、各 $i$ について双線形形式 $H^i(X)\times H^{n-i}(X)\to K$、$(a,b)\mapsto\int_Xa\smile b$ は完全な対である。
- (H3) 跡写像と外積の両立：$a,b\in H^n(X)$ に対し $\int_{X\times X}a\times b=\int_Xa\cdot\int_Xb$ である。
- (H4) 対角線類とグラフ類：$[\Delta],[\Gamma_f]\in H^n(X\times X)$ があり、任意の $\alpha\in H^n(X\times X)$ に対し
$$ \int_{X\times X}\alpha\smile[\Delta]=\int_X\Delta^*\alpha,\qquad\int_{X\times X}\alpha\smile[\Gamma_f]=\int_X\gamma_f^*\alpha $$
が成り立つ。
この設定で、$\int_{X\times X}[\Gamma_f]\smile[\Delta]$ をグラフと対角線の交点数とよび $(\Gamma_f\cdot\Delta)$ と書く（$n$ が偶数なら $[\Delta]\smile[\Gamma_f]$ と書いても同じ値である）。
(H1)〜(H3) から $X\times X$ 上でも Poincaré 双対が成り立ち、(H4) をみたす $[\Delta]$、$[\Gamma_f]$ は存在すれば一意である。
（a）$X$ を境界のないコンパクトな向き付けられた $n$ 次元多様体、$H^*(X)=H^*(X;K)$、$H^*(X\times X)=H^*(X\times X;K)$ を特異コホモロジーとする。(H1) は体係数の Künneth の定理（Hat02 Theorem 3.16）、(H2) は基本類 $[X]$ との対 $\int_Xa=\langle a,[X]\rangle$ に関する Poincaré 双対定理（Hat02 Theorem 3.30）、(H3) は $X\times X$ に積の向きを入れたときの $[X\times X]=[X]\times[X]$ による。(H4) では、$\Delta$ と $\Gamma_f$ は $\Delta$、$\gamma_f$ による $X$ の像なので $X$ から向きを受け継いだ閉部分多様体であり、$[\Delta]$、$[\Gamma_f]$ はその基本類の Poincaré 双対を、(H4) の等式が成り立つように正規化したものである（BT82 §5、§6。文献によっては $\alpha$ と $[Z]$ の順序が逆で、$n$ が奇数なら全体の符号 $(-1)^n$ が異なる）。de Rhamコホモロジーで書けば、(H3) は Fubini の定理、(H4) は $\int_{X\times X}\alpha\wedge\eta_Z=\int_Z\alpha|_Z$ という Poincaré 双対形式 $\eta_Z$ の定義そのものである（BT82 (5.13)）。
（b）$k$ を代数閉体、$X$ を $k$ 上の $d$ 次元の滑らかな射影多様体、$H^*$ を係数体 $K$ の Weilコホモロジーとし、$n=2d$ とおく。(H1)〜(H3) は Weil コホモロジーの公理（有限次元性、Poincaré 双対、Künneth 公式、Kle68 §1.2）とその帰結（跡写像と外積の両立。Weilコホモロジーの記事の命題「一点・0 次コホモロジー・次数・交叉積」）である。(H4) はサイクル類写像 $\mathrm{cl}$ の公理から従う。実際、$\Delta$ と $\Gamma_f$ は $X\times X$ の閉部分多様体で（$X$ は分離的）、$\mathrm{cl}$ は固有射による押し出しと両立し、押し出し $\Delta_*$、$\gamma_{f*}$（Gysin写像）は Poincaré 双対によって $\int_{X\times X}\alpha\smile\Delta_*\beta=\int_X\Delta^*\alpha\smile\beta$ で定義されるので、$[\Delta]:=\mathrm{cl}(\Delta)=\Delta_*\mathrm{cl}(X)=\Delta_*(1)$ と $[\Gamma_f]:=\gamma_{f*}(1)$ が (H4) をみたす。
def-lefschetz-fixed-point-formula-setting の設定で、
$$
\sum_{i=0}^{n}(-1)^i\operatorname{tr}\bigl(f^*\mid H^i(X)\bigr)=\int_{X\times X}[\Gamma_f]\smile[\Delta]=(\Gamma_f\cdot\Delta)
$$
が成り立つ。とくに ex-lefschetz-fixed-point-formula-setting-instances の（a）では $L(f;K)=(\Gamma_f\cdot\Delta)$、（b）では Weil コホモロジーの Lefschetz 数が交点数 $(\Gamma_f\cdot\Delta)$ に等しい。
証明は「証明」の節の prf-lefschetz-fixed-point-formula-diagonal で与える。使うのは (H1)〜(H4) と次数付き可換性だけである（Lefschetz Lef26 の議論を Kleiman Kle68 §1.3 が公理化した形）。
Weil コホモロジーでの公式と Grothendieck の跡公式
$k$ を代数閉体、$X$ を $k$ 上の $d$ 次元の滑らかな射影多様体、$H^*$ を係数体 $K$ の Weil コホモロジー、$u\colon X\to X$ を $k$ 上の射とする。
- $\sum_{i=0}^{2d}(-1)^i\operatorname{tr}(u^*\mid H^i(X))=(\Gamma_u\cdot\Delta)$ であり、右辺は $X\times X$ における $2$ つの $d$ 次元閉部分多様体 $\Gamma_u$ と $\Delta$ の交点数（Chow環における交叉積 $\Gamma_u\cdot\Delta$ の次数）に等しい。
- さらに $u$ の各不動点 $x$ で $\Gamma_u$ と $\Delta$ が横断的に交わる、すなわち $\det(1-du_x)\ne0$ とすると、不動点は有限個で、$\sum_i(-1)^i\operatorname{tr}(u^*\mid H^i(X))=\#\{x\in X(k)\mid u(x)=x\}$ である。
1．ex-lefschetz-fixed-point-formula-setting-instances の（b）により設定 def-lefschetz-fixed-point-formula-setting がみたされるので、thm-lefschetz-fixed-point-formula-diagonal から左辺は $\int_{X\times X}\mathrm{cl}(\Gamma_u)\smile\mathrm{cl}(\Delta)$ に等しい。サイクル類写像は交叉積と両立し（$\mathrm{cl}(Z\cdot W)=\mathrm{cl}(Z)\smile\mathrm{cl}(W)$）、点 $P$ について $\int_{X\times X}\mathrm{cl}(P)=1$ なので（Kle68 §1.2 の公理）、$0$ サイクル $\Gamma_u\cdot\Delta=\sum_Pm_P[P]$ に対し $\int_{X\times X}\mathrm{cl}(\Gamma_u)\smile\mathrm{cl}(\Delta)=\sum_Pm_P$ となり、これが交叉積の次数である（Weilコホモロジーの記事は同じ等式を公理から直接、双対基底の展開で証明している）。
2．$\Gamma_u\cap\Delta$ は集合として不動点集合 $\{(x,x)\mid u(x)=x\}$ である。点 $(x,x)$ での接空間は $T_{(x,x)}\Delta=\{(v,v)\}$、$T_{(x,x)}\Gamma_u=\{(v,du_x(v))\}$ であり、共通部分は $\{(v,v)\mid du_x(v)=v\}=\ker(1-du_x)$ に対応するから、$\det(1-du_x)\ne0$ は $2$ つの接空間の共通部分が $0$、すなわち次元を数えて $T\Delta\oplus T\Gamma_u=T_{(x,x)}(X\times X)$ であることと同値である。よって $\Gamma_u$ と $\Delta$ は各交点で横断的に交わり、交わりは $0$ 次元である。$X\times X$ は射影的なので交わりは有限集合で、横断的な交点での交叉重複度は $1$ である（Ful98 §8.2）。したがって $\Gamma_u\cdot\Delta=\sum_{u(x)=x}[(x,x)]$ となり、1 から主張が従う。$\square$
Frobenius 写像にこれを適用したものが Grothendieck の跡公式である。固有でない場合はコンパクト台コホモロジーを使う。
$X_0$ を有限体 $\mathbb{F}_q$ 上分離的で有限型のスキーム、$X:=X_0\otimes_{\mathbb{F}_q}\bar{\mathbb{F}}_q$、$F\colon X\to X$ を $q$ 乗 Frobenius 写像（$\mathbb{F}_q$ 上の座標を $q$ 乗する $\bar{\mathbb{F}}_q$ 射）、$\ell$ を $q$ を割らない素数とする。$H^i_c(X,\mathbb{Q}_\ell)$ をコンパクト台コホモロジー（ℓ進コホモロジー）とすると、すべての $m\ge1$ について
$$
\#X_0(\mathbb{F}_{q^m})=\sum_{i=0}^{2\dim X}(-1)^i\operatorname{tr}\bigl(F^{m*}\mid H^i_c(X,\mathbb{Q}_\ell)\bigr)
$$
が成り立つ。より一般に $X_0$ 上の構成可能層（$\mathbb{Q}_\ell$ 層）$\mathcal{F}_0$ とその $X$ への引き戻し $\mathcal{F}$ に対し、$F^m$ の不動点 $x$ での茎への作用を $F_x^m\colon\mathcal{F}_{\bar x}\to\mathcal{F}_{\bar x}$ と書くと、$\sum_{x\in X_0(\mathbb{F}_{q^m})}\operatorname{tr}(F_x^m\mid\mathcal{F}_{\bar x})=\sum_i(-1)^i\operatorname{tr}(F^{m*}\mid H^i_c(X,\mathcal{F}))$ である。
一般の形の証明は Grothendieck の SGA 5 と Deligne による整理 SGA4h（Rapport sur la formule des traces、Théorème 3.2）、Mil80 第 VI 章 Theorem 12.3、FK88 第 II 章に譲る。$X_0$ が滑らかで射影的な場合は thm-lefschetz-fixed-point-formula-weil から次のように従う。$\ell$ 進コホモロジー $H^*(X,\mathbb{Q}_\ell)$ は $K=\mathbb{Q}_\ell$ の Weil コホモロジーであり（Kle68 1.2.5、Mil80 第 VI 章）、固有なので $H^i_c=H^i$ である。$F^m$ の不動点は座標がすべて $\mathbb{F}_{q^m}$ に入る点、すなわち $X_0(\mathbb{F}_{q^m})$ の点である。$F$ の微分は $d(t^q)=qt^{q-1}dt=0$ により $0$ なので $d(F^m)_x=0$ であり、$\det(1-d(F^m)_x)=1\ne0$ となって各不動点で横断的である。よって thm-lefschetz-fixed-point-formula-weil の 2 が使え、$\#X_0(\mathbb{F}_{q^m})=\sum_i(-1)^i\operatorname{tr}(F^{m*}\mid H^i(X,\mathbb{Q}_\ell))$ を得る。$F$ がエタール射でなく（純非分離）、その不動点が $\mathbb{F}_{q^m}$ 有理点そのものになることが、この公式を点の個数の計算に使える理由である。
証明
thm-lefschetz-fixed-point-formula-diagonal を証明する。設定 def-lefschetz-fixed-point-formula-setting の記号を使う。まず Poincaré 双対によって双対基底をとる。$H^*(X)$ の斉次な基底 $e_1,\dots,e_N$ をとり、$d_i:=\deg e_i$ とおく。以下 $\int_X$、$\int_{X\times X}$ は最高次以外の次数では $0$ と約束する。(H2) により、各 $i$ に対して $e_i^\vee\in H^{n-d_i}(X)$ で
$$
\int_Xe_i\smile e_j^\vee=\delta_{ij}\quad(\text{すべての }i,j)
$$
をみたすものが一意に存在し、$e_1^\vee,\dots,e_N^\vee$ もまた $H^*(X)$ の斉次な基底である（各 $d$ について、$H^d(X)$ の基底 $\{e_i\mid d_i=d\}$ の完全な対に関する双対基底が $\{e_i^\vee\mid d_i=d\}\subset H^{n-d}(X)$ である）。$f^*$ は次数を保つので、$f^*e_l=\sum_{k:\,d_k=d_l}\mu_{kl}e_k$（$\mu_{kl}\in K$）と書ける。このとき $(\mu_{kl})_{d_k=d_l=d}$ は $f^*\mid H^d(X)$ の基底 $\{e_k\mid d_k=d\}$ に関する行列であり、
$$
\operatorname{tr}\bigl(f^*\mid H^d(X)\bigr)=\sum_{l:\,d_l=d}\mu_{ll}
$$
である。
上の記号で
$$
[\Gamma_f]=\sum_{l=1}^{N}(-1)^{d_l}\,f^*e_l\times e_l^\vee,\qquad[\Delta]=\sum_{l=1}^{N}(-1)^{d_l}\,e_l\times e_l^\vee
$$
が成り立つ。
$[\Delta]$ の式は $f=\mathrm{id}_X$ の場合なので、$[\Gamma_f]$ の式を示せばよい。(H1) により $\{e_i\times e_j^\vee\mid d_i=d_j\}$ は $H^n(X\times X)$ の基底である（$\deg(e_i\times e_j^\vee)=d_i+n-d_j$ が $n$ になるのは $d_i=d_j$ のときに限る）。そこで $[\Gamma_f]=\sum_{i,j}c_{ij}\,e_i\times e_j^\vee$（$c_{ij}\in K$、$d_i\ne d_j$ なら $c_{ij}:=0$）と書き、$d_k=d_l$ なる各組 $(k,l)$ について $\int_{X\times X}(e_k^\vee\times e_l)\smile[\Gamma_f]$ を 2 通りに計算する。
1 通り目．(H4) と $\gamma_f^*(a\times b)=\gamma_f^*p_1^*a\smile\gamma_f^*p_2^*b=a\smile f^*b$ により
$$
\int_{X\times X}(e_k^\vee\times e_l)\smile[\Gamma_f]=\int_Xe_k^\vee\smile f^*e_l=\sum_{m:\,d_m=d_l}\mu_{ml}\int_Xe_k^\vee\smile e_m=\sum_m\mu_{ml}(-1)^{(n-d_k)d_m}\int_Xe_m\smile e_k^\vee=(-1)^{(n-d_k)d_k}\mu_{kl}
$$
である（次数付き可換性と、$d_m=d_l=d_k$ を使った）。
2 通り目．次数付き可換性から $(a\times b)\smile(c\times d)=p_1^*a\smile p_2^*b\smile p_1^*c\smile p_2^*d=(-1)^{\deg b\deg c}(a\smile c)\times(b\smile d)$ である。よって
$$
(e_k^\vee\times e_l)\smile(e_i\times e_j^\vee)=(-1)^{d_ld_i}(e_k^\vee\smile e_i)\times(e_l\smile e_j^\vee)
$$
となる。右辺の外積の 2 つの因子の次数は $n-d_k+d_i$ と $d_l+n-d_j$ である。$d_i\ne d_k$ ならどちらかの次数が $n$ を超えて $H^*(X)$ の中で $0$ になる。$d_i=d_k$（したがって $d_j=d_l$）のときは 2 つの因子がともに $H^n(X)$ に入り、(H3) により
$$
\int_{X\times X}(e_k^\vee\times e_l)\smile(e_i\times e_j^\vee)=(-1)^{d_ld_i}\int_X(e_k^\vee\smile e_i)\cdot\int_X(e_l\smile e_j^\vee)=(-1)^{d_ld_i}(-1)^{(n-d_k)d_i}\delta_{ki}\,\delta_{lj}
$$
となる。$c_{ij}$ で重みづけて足すと、$\int_{X\times X}(e_k^\vee\times e_l)\smile[\Gamma_f]=(-1)^{d_ld_k+(n-d_k)d_k}c_{kl}=(-1)^{nd_k}c_{kl}$ を得る（$d_l=d_k$ を使った）。
2 つの計算を比べると $(-1)^{nd_k}c_{kl}=(-1)^{(n-d_k)d_k}\mu_{kl}$、すなわち $c_{kl}=(-1)^{-d_k^2}\mu_{kl}=(-1)^{d_k}\mu_{kl}$ である。したがって
$$
[\Gamma_f]=\sum_{k,l}(-1)^{d_k}\mu_{kl}\,e_k\times e_l^\vee=\sum_l(-1)^{d_l}\Bigl(\sum_k\mu_{kl}e_k\Bigr)\times e_l^\vee=\sum_l(-1)^{d_l}\,f^*e_l\times e_l^\vee
$$
となる（$\mu_{kl}\ne0$ なら $d_k=d_l$ であることを使った）。$\square$
(H4) を $\alpha=[\Gamma_f]$ に適用し、lem-lefschetz-fixed-point-formula-graph-class と $\Delta^*(a\times b)=a\smile b$ を使うと
$$
\int_{X\times X}[\Gamma_f]\smile[\Delta]=\int_X\Delta^*[\Gamma_f]=\sum_l(-1)^{d_l}\int_Xf^*e_l\smile e_l^\vee=\sum_l(-1)^{d_l}\sum_k\mu_{kl}\int_Xe_k\smile e_l^\vee=\sum_l(-1)^{d_l}\mu_{ll}
$$
である。最後の和を次数 $d$ ごとにまとめると $\sum_{d=0}^{n}(-1)^d\sum_{l:\,d_l=d}\mu_{ll}=\sum_{d=0}^{n}(-1)^d\operatorname{tr}(f^*\mid H^d(X))$ となり、これが示すべき等式である。$\square$
ex-lefschetz-fixed-point-formula-setting-instances の（a）で、$\Gamma_f$ と $\Delta$ が横断的に交わるとき、Poincaré 双対形式の性質「横断的に交わる閉部分多様体の Poincaré 双対のカップ積は交わりの Poincaré 双対である」（BT82 §6）により、$(\Gamma_f\cdot\Delta)=\int_{X\times X}[\Gamma_f]\smile[\Delta]$ は交点 $(x,x)$（$x$ は $f$ の不動点）を向きの符号つきで数えた個数である。点 $(x,x)$ での符号は、$T_{(x,x)}\Gamma_f\oplus T_{(x,x)}\Delta$ に $\Gamma_f$、$\Delta$ の向き（$X$ から $\gamma_f$、$\Delta$ によって移したもの）を並べた向きが $T_{(x,x)}(X\times X)=T_xX\oplus T_xX$ の積の向きと一致するかどうかで決まる。$T_xX$ の基底 $v_1,\dots,v_n$ をとり、$A$ を $df_x$ の行列とすると、$T\Gamma_f$ の基底 $(v_i,Av_i)$ と $T\Delta$ の基底 $(v_i,v_i)$ を並べた行列は、ブロックで
$$
\begin{pmatrix}I&I\\A&I\end{pmatrix}
$$
と書け、第 1 行ブロックの $A$ 倍を第 2 行ブロックから引くと $\begin{pmatrix}I&I\\0&I-A\end{pmatrix}$ になるので、その行列式は $\det(I-A)=\det(1-df_x)$ である。よって局所交点数は $\operatorname{sgn}\det(1-df_x)$ で、thm-lefschetz-fixed-point-formula-topological の 2 の式が得られる。$\Delta$ を先に並べる約束では行列式が $\det(A-I)=(-1)^n\det(1-df_x)$ になり、$n$ が奇数のとき符号が変わるので、交点数と Poincaré 双対の向きの約束は組にして固定する必要がある（GP74 第 3 章 §4 は $\Delta$ を先に並べ、$\det(df_x-I)$ の符号を局所 Lefschetz 数とよぶ）。$n$ が偶数、とくに複素多様体や代数多様体（実次元が偶数）では、どの約束でも同じ値になる。
帰結・補足
例
$S^n$（n次元球面、$n\ge1$）の有理係数コホモロジーは $H^0=H^n=\mathbb{Q}$、他は $0$ である。連続写像 $f\colon S^n\to S^n$ は $H^n$ に写像度 $\deg f$ 倍で作用し、$H^0$ には恒等で作用するので、$L(f)=1+(-1)^n\deg f$ である。恒等写像では $L(\mathrm{id})=1+(-1)^n=\chi(S^n)$ で、$n$ が偶数なら $2$、奇数なら $0$ である。対蹠写像 $a(x)=-x$ は $n+1$ 個の鏡映の合成なので $\deg a=(-1)^{n+1}$ であり（Hat02 §2.2）、$L(a)=1+(-1)^n(-1)^{n+1}=0$ となる。これは $a$ が不動点をもたないことと整合する。逆に $n$ が偶数のとき、不動点をもたない $f\colon S^n\to S^n$ は thm-lefschetz-fixed-point-formula-topological の 1 により $L(f)=1+\deg f=0$、すなわち $\deg f=-1$ をみたす。とくに恒等写像とホモトピックな写像は必ず不動点をもつ。零点のない連続ベクトル場 $v$ があれば $f_t(x)=\cos(t)x+\sin(t)v(x)/\|v(x)\|$（$0\le t\le\pi$）が恒等写像から対蹠写像へのホモトピーを与えるので、偶数次元球面には零点のない連続ベクトル場がない（毛玉の定理）。
複素射影空間 $\mathbb{P}^n(\mathbb{C})$ のコホモロジー環は $H^*(\mathbb{P}^n(\mathbb{C});\mathbb{Q})=\mathbb{Q}[h]/(h^{n+1})$、$\deg h=2$ である（Hat02 Theorem 3.12）。射影線形変換 $g\in PGL_{n+1}(\mathbb{C})$ について、$GL_{n+1}(\mathbb{C})$ は弧状連結なので $g$ は恒等写像とホモトピックで、$L(g)=\chi(\mathbb{P}^n(\mathbb{C}))=n+1\ne0$ である。よってどの $g$ も不動点をもつ。これは $g$ を表す行列 $A$ が固有ベクトルをもつことにほかならない。$A$ の固有値 $\lambda_0,\dots,\lambda_n$ が相異なるときは、不動点は $n+1$ 本の固有直線 $[v_i]$ で、点 $[v_0]$ のまわりの座標 $[v_0+\sum_{i\ge1}w_iv_i]\mapsto(w_1,\dots,w_n)$ で $g$ は $w_i\mapsto(\lambda_i/\lambda_0)w_i$ と書けるから、実 $2n$ 次元の行列式は $\det(1-dg)=\prod_{i\ge1}|1-\lambda_i/\lambda_0|^2>0$ である。各不動点は横断的で指数 $+1$ をもち、thm-lefschetz-fixed-point-formula-topological の 2 の両辺はともに $n+1$ である。
代数閉体 $k$ 上の $\mathbb{P}^n_k$ と Weil コホモロジー $H^*$ でも同じことが成り立つ。$H^*(\mathbb{P}^n_k)=K[h]/(h^{n+1})$、$h=\mathrm{cl}(H)$（$H$ は超平面）であり（Kle68 §1.2）、射影線形変換 $g$ は超平面を超平面に移すので $g^*h=\mathrm{cl}(g^{-1}H)=h$、したがって $g^*=\mathrm{id}$ で Lefschetz 数は $n+1$ である。$k=\bar{\mathbb{F}}_q$ で $F$ を $q$ 乗 Frobenius 写像とすると、超平面 $H=\{\ell=0\}$ の引き戻しは $F^*H=\{\ell^q=0\}=qH$ だから $F^*h=qh$、$F^*h^i=q^ih^i$ であり、
$$
\sum_i(-1)^i\operatorname{tr}(F^*\mid H^i(\mathbb{P}^n_k))=1+q+q^2+\cdots+q^n=\#\mathbb{P}^n(\mathbb{F}_q)
$$
となって thm-lefschetz-fixed-point-formula-grothendieck の両辺が一致する。
閉円板 $D^n=\{x\in\mathbb{R}^n\mid\|x\|\le1\}$ の任意の連続写像 $f\colon D^n\to D^n$ は不動点をもつ（Brouwerの不動点定理）。より一般に、有限単体複体のレトラクトで可縮空間であるものの任意の自己連続写像は不動点をもつ。
$D^n$ は $n$ 単体と同相なので有限単体複体である。$X$ を有限単体複体のレトラクトで可縮なものとすると、$H^0(X;\mathbb{Q})=\mathbb{Q}$、$H^i(X;\mathbb{Q})=0$（$i>0$）であり、$X$ は弧状連結なので $f^*$ は $H^0$ に恒等で作用する。よって $L(f)=1\ne0$ で、thm-lefschetz-fixed-point-formula-topological の 1 により $f$ は不動点をもつ。$\square$
$E=\mathbb{C}/\Lambda$ を複素楕円曲線、$m\ge2$ を整数、$[m]\colon E\to E$ を $z\mapsto mz$ とする。$H_1(E;\mathbb{Z})\cong\Lambda$ で、$[m]_*$ は $\Lambda$ 上 $m$ 倍だから $[m]^*$ は $H^1(E;\mathbb{Q})\cong\mathbb{Q}^2$ 上 $m$ 倍で、トレースは $2m$ である。$H^2(E;\mathbb{Q})$ は $H^1$ の 2 元のカップ積で生成されるので $[m]^*$ は $H^2$ 上 $m^2$ 倍である。よって
$$
L([m])=1-2m+m^2=(m-1)^2
$$
となる。一方、$[m]z=z$ は $(m-1)z\in\Lambda$ と同値なので、不動点集合は $(m-1)$ 等分点の群 $E[m-1]=\frac{1}{m-1}\Lambda/\Lambda\cong(\mathbb{Z}/(m-1))^2$ で、$(m-1)^2$ 個ある。各不動点で $d[m]=m\cdot\mathrm{id}$ なので $\det(1-d[m])=(1-m)^2>0$ であり、横断的で指数は $+1$ である。よって thm-lefschetz-fixed-point-formula-topological の 2 の両辺はともに $(m-1)^2$ である。逆に、Lefschetz 数の計算と不動点定理から $\#E[n]=n^2$（$m=n+1$）が導かれる。
代数閉体 $k$ 上の楕円曲線と Weil コホモロジーでも、$H^1(E)$ が 2 次元で $[m]^*$ が $H^1(E)$ 上 $m$ 倍であること（Weilコホモロジーの記事の系「曲線の Betti 数」と補題「Künneth 公式から従う自己準同型の作用の加法性」）を使えば $L([m])=(m-1)^2$ である。$k$ の標数 $p$ が $m-1$ を割らなければ不動点は横断的で、thm-lefschetz-fixed-point-formula-weil から $\#E[m-1](k)=(m-1)^2$ が得られる（Sil09 III.6.4 と整合する）。
反例
$\mathbb{P}^1(\mathbb{C})=S^2$ 上の正則写像 $f(z)=z+z^2$（$f(\infty)=\infty$）を考える。$f$ は次数 $2$ の有理写像で、正則写像は向きを保つので位相的な写像度も $2$、よって $L(f)=1+2=3$ である。不動点は $z+z^2=z$ の解 $z=0$ と $\infty$ の 2 個で、$3$ ではない。$\infty$ では座標 $w=1/z$ で $f$ は $w\mapsto w^2/(1+w)$ となり微分は $0$、横断的で指数 $+1$ である。$z=0$ では $f'(0)=1$ なので $\det(1-df_0)=0$ となり、横断性が破れている。この不動点の指数は $2$ である。実際、$f_\varepsilon(z)=z+z^2-\varepsilon$（$\varepsilon\ne0$ は小さい複素数）は $z=0$ の近くに 2 つの不動点 $z=\pm\sqrt{\varepsilon}$ をもち、$f_\varepsilon'(z)=1+2z\ne1$ なので各点は横断的で、実行列式は $|1-f_\varepsilon'(z)|^2=4|z|^2>0$、指数は $+1$ である。指数は摂動で不変なので $z=0$ の指数は $1+1=2$ であり、指数の和 $2+1=3=L(f)$ は成り立つ。この例が破るのは横断性であり、破れる含意は「$L(f)$ が不動点の個数に等しい」である。指数つきの公式 $L(f)=\sum_x\operatorname{ind}_x(f)$ は成り立っている。
代数的な例では、標数 $p>0$ の楕円曲線の倍写像 $[m]$ で $p\mid m-1$ のとき $d[m]=m\cdot\mathrm{id}=\mathrm{id}$ となって横断性が破れ、Lefschetz 数は $(m-1)^2$ のままだが不動点の個数 $\#E[m-1](k)$ は $(m-1)^2$ より少ない（Sil09 III.6.4）。
$X=\mathbb{R}$ と平行移動 $f(x)=x+1$ をとる。$\mathbb{R}$ は可縮なので $L(f)=1\ne0$ だが、$f$ は不動点をもたない。破れている仮定は $X$ のコンパクト性（有限単体的複体のレトラクトであること）であり、破れる含意は「$L(f)\ne0$ ならば不動点がある」である。
代数的な例では、$k=\bar{\mathbb{F}}_q$ 上のアフィン直線 $\mathbb{A}^1_k$ と $q$ 乗 Frobenius 写像 $F$ をとる。通常の $\ell$ 進コホモロジーは $H^0(\mathbb{A}^1_k,\mathbb{Q}_\ell)=\mathbb{Q}_\ell$、$H^i=0$（$i>0$）で、トレースの交代和は $1$ だが、$F$ の不動点は $\mathbb{A}^1(\mathbb{F}_q)$ の $q$ 個である。コンパクト台コホモロジーでは $H^2_c(\mathbb{A}^1_k,\mathbb{Q}_\ell)=\mathbb{Q}_\ell(-1)$ に $F^*$ が $q$ 倍で作用し、他の次数は $0$ なので、交代和は $q$ となって thm-lefschetz-fixed-point-formula-grothendieck が成り立つ。固有でない多様体では通常のコホモロジーを使う形の公式が破れ、コンパクト台コホモロジーが必要になる。
ゼータ関数の有理性への応用
跡公式を母関数にまとめると合同ゼータ関数の有理性が出る。使う 2 つの補題は他の記事が所有する。第 1 は、標数 $0$ の体 $K$ 上の有限次元ベクトル空間の自己準同型 $\varphi$ について形式的冪級数環 $K[\![t]\!]$ の中で
$$
\exp\Bigl(\sum_{m\ge1}\operatorname{tr}(\varphi^m)\frac{t^m}{m}\Bigr)=\det(1-\varphi t)^{-1}
$$
が成り立つこと（Weil予想の記事の命題「跡と行列式」。$\varphi$ を代数閉包上で三角化し、固有値ごとに $\exp(\sum_m\alpha^mt^m/m)=(1-\alpha t)^{-1}$ を示す）である。第 2 は、体の拡大 $K\subset L$ について $K[\![t]\!]\cap L(t)=K(t)$ が成り立つこと（合同ゼータ関数の記事の補題「部分体上の有理性」。分母の係数に関する斉次線形方程式系の解空間の次元が係数拡大で変わらないことによる）である。
$X_0$ を有限体 $\mathbb{F}_q$ 上分離的で有限型のスキームとし、$N_m:=\#X_0(\mathbb{F}_{q^m})$、$Z(X_0,t):=\exp\bigl(\sum_{m\ge1}N_mt^m/m\bigr)\in\mathbb{Q}[\![t]\!]$ を合同ゼータ関数とする。$\ell$ を $q$ を割らない素数、$P_i(t):=\det\bigl(1-F^*t\mid H^i_c(X,\mathbb{Q}_\ell)\bigr)\in\mathbb{Q}_\ell[t]$ とおくと
$$
Z(X_0,t)=\prod_{i=0}^{2\dim X}P_i(t)^{(-1)^{i+1}}=\frac{P_1(t)P_3(t)\cdots}{P_0(t)P_2(t)\cdots}
$$
であり、$Z(X_0,t)$ は $\mathbb{Q}(t)$ の元である。
thm-lefschetz-fixed-point-formula-grothendieck により $N_m=\sum_i(-1)^i\operatorname{tr}(F^{m*}\mid H^i_c(X,\mathbb{Q}_\ell))$ である。これを $Z(X_0,t)$ の定義に代入し、$\exp$ が和を積に変えることと、第 1 の補題（$K=\mathbb{Q}_\ell$ は標数 $0$）を各 $H^i_c$ に適用することで、$\mathbb{Q}_\ell[\![t]\!]$ の中で
$$
Z(X_0,t)=\prod_i\exp\Bigl(\sum_m\operatorname{tr}(F^{m*}\mid H^i_c)\frac{t^m}{m}\Bigr)^{(-1)^i}=\prod_iP_i(t)^{(-1)^{i+1}}
$$
を得る。右辺は $\mathbb{Q}_\ell(t)$ の元である。一方 $Z(X_0,t)$ の係数は定義から有理数（実際には閉点による Euler 積表示から整数）である。第 2 の補題を $K=\mathbb{Q}$、$L=\mathbb{Q}_\ell$ に適用して $Z(X_0,t)\in\mathbb{Q}(t)$ を得る。$\square$
有理性は Weil 予想の第 1 の主張であり、Dwork（1960 年、Dwo60）が $p$ 進解析の方法で先に証明し、Grothendieck（1964 年、Gro65）が上の形で $\ell$ 進コホモロジーから導いた。$X_0$ が滑らかで射影的なら $P_i(t)$ は $\mathbb{Z}[t]$ に入り $\ell$ によらない。これは Deligne による Riemann 予想の証明の帰結である（Weil予想）。
この応用では係数体 $\mathbb{Q}_\ell$ の標数が $0$ であることが本質的である。標数 $p$ の体 $k$ を係数とするコホモロジー（たとえば $k$ 上の de Rhamコホモロジー）で Lefschetz 公式が成り立っても、その Lefschetz 数は $k$ の元であり、不動点の個数の $k$ における像、すなわち $p$ を法とした値しか与えない（cor-lefschetz-fixed-point-formula-basic の 1 と同じ状況である）。$k=\bar{\mathbb{F}}_p$ 上の $\mathbb{P}^1$ と Frobenius 写像では、de Rham コホモロジーの Lefschetz 数は $1$（$F^*$ は $H^2_{dR}$ に $F^*(dx)=px^{p-1}dx=0$ により $0$ で作用する）で、不動点の個数 $p+1$ の $k$ における像に一致するが、整数 $p+1$ は復元できない。標数 $0$ の係数環 $W(k)$（Wittベクトル）をもつ $p$ 進のコホモロジーが求められた動機の 1 つがここにある（Gro68c 1.5、1.7）。
関連項目
- 前提: 特異コホモロジー, Poincaré双対, カップ積, Künneth公式, トレース, Euler標数, ホモトピー
- 比較: Brouwerの不動点定理, 写像度, 交点数, Poincaré–Hopfの定理
- 直後に読む: Weilコホモロジー, 合同ゼータ関数, ℓ進コホモロジー, サイクル類写像, コンパクト台コホモロジー
- 発展: Weil予想, エタールコホモロジー, Atiyah–Bottの不動点定理, 結晶コホモロジー, モチーフ
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
