細層

同義語：fine sheaf

概要

前提知識: 層, 層コホモロジー, 1の分割

細層が解決する問題

局所的に作った切断を大域的な切断へまとめたいとき、開集合ごとの切断を単に足すことはできない。各切断は定義域が違い、重なりでの値も一致するとは限らない。1の分割は、この問題を可微分関数に対して解く道具である。細層は同じ操作を、層の切断へ作用する自己準同型として記述する概念である。
重要なのは「切断そのものの台」と「自己準同型の台」を区別することである。細層では、開被覆に従属した自己準同型が局所有限に存在し、その和が恒等射になる。これにより Čech コサイクルを具体的に縮められ、高次の層コホモロジーが消える。滑らかな微分形式の層は代表例であり、de Rham と Dolbeault の複体を計算に使える理由の一つになる。定義と非輪状性は Bredon の Sheaf Theory 第 II 章 §9 に従う。Bre97
以下では $X$ をパラコンパクト Hausdorff 空間、$\mathcal F$ を $X$ 上のアーベル群の層とする。この空間仮定を置くと、任意の開被覆には局所有限な開細分があり、層コホモロジーと開被覆を細かくして得る Čech コホモロジーを比較できる。可微分多様体を使う箇所では、通常どおり Hausdorff・第二可算な滑らかな多様体とする。この場合はパラコンパクトで、滑らかな 1 の分割が存在する。

自己準同型による定義

層の自己準同型 $\theta:\mathcal F\to\mathcal F$ が各点で誘導する茎の写像を $\theta_x:\mathcal F_x\to\mathcal F_x$ とする。その台を
$$ \operatorname{supp}(\theta) =\overline{\{x\in X:\theta_x\ne0\}} $$
と定める。これは切断の台ではなく、写像が零でない場所の閉包である。例えば関数 $\rho$ の掛け算 $s\mapsto\rho s$ から得た自己準同型の台は $\operatorname{supp}(\rho)$ に含まれる。

細層

$\mathcal F$ が細層（fine sheaf）であるとは、$X$ の任意の局所有限開被覆 $\mathcal U=(U_i)_{i\in I}$ に対し、層の自己準同型 $\theta_i:\mathcal F\to\mathcal F$ を選べて、
$$ \operatorname{supp}(\theta_i)\subset U_i, \qquad \sum_{i\in I}\theta_i=\operatorname{id}_{\mathcal F} $$
となることをいう。和は局所有限な和であり、各点の近くでは有限個の項だけが零でない。

開被覆を局所有限に限定するのは定義を実用的にするためである。パラコンパクト性により一般の開被覆を局所有限な開被覆で細分できる。多くの文献は任意の開被覆について、添字を保った局所有限な自己準同型の族を要求する形で述べる。この設定では二つの形を使い分けずに済む。自己準同型の和が恒等射という式は、各開集合の上で切断 $s$ を局所的な部分 $\theta_i(s)$ に分ける式でもある。Bre97
ただし $\theta_i(s)$ が最初から $U_i$ 上だけの切断である、という意味ではない。$\theta_i$ は $X$ 上の層の射であり、任意の開集合 $V$ 上の切断 $s\in\mathcal F(V)$ に作用する。その出力の台は $V\cap U_i$ に入る。この違いが、異なる定義域の切断を扱う証明で役立つ。

滑らかな 1 の分割から作る

滑らかな多様体 $M$ 上の滑らかな実数値関数の層を $\mathcal C_M^\infty$ と書く。滑らかなベクトル束 $E\to M$ の切断の層や、滑らかな $p$-形式の層 $\mathcal A_M^p$ は、いずれも $\mathcal C_M^\infty$-加群の層である。関数を切断に掛けられるという性質が、細層性の直接の原因となる。

滑らかな関数の層の加群は細層

$M$ を Hausdorff・第二可算な滑らかな多様体とし、$\mathcal M$ を $\mathcal C_M^\infty$-加群の層とする。このとき $\mathcal M$ はアーベル群の層として細層である。特に $\mathcal C_M^\infty$、滑らかなベクトル束の切断の層、$\mathcal A_M^p$ は細層である。

1 の分割から自己準同型を構成する

局所有限開被覆 $(U_i)$ を取る。$M$ はパラコンパクトな滑らかな多様体なので、これに従属する滑らかな 1 の分割 $(\rho_i)$ がある。各 $\rho_i$ は非負で $\operatorname{supp}(\rho_i)\subset U_i$、族は局所有限、かつ $\sum_i\rho_i=1$ である。BT82
任意の開集合 $V\subset M$ と $s\in\mathcal M(V)$ に対し、$\theta_i(V)(s)=\rho_i|_V s$ と置く。加群の層の構造によりこの操作は制限写像と可換だから、$\theta_i$ は層の自己準同型である。$\rho_i$ が零である近傍では $\theta_i$ も零であるので、$\operatorname{supp}(\theta_i)\subset\operatorname{supp}(\rho_i)\subset U_i$。さらに任意の切断について
$$ \sum_i\theta_i(V)(s) =\Bigl(\sum_i\rho_i|_V\Bigr)s=s $$
となる。和は局所有限なので、各点の近くで有限和として定義される。従って定義の二条件を満たす。$\mathcal C_M^\infty$ 自身、ベクトル束の切断、微分形式はいずれも同環の加群の層なので、最後の三例も従う。$\square$

二つの開集合で切断を分ける

$M=\mathbb R$、$U=(-\infty,1)$、$V=(0,\infty)$ とする。$U\cup V=\mathbb R$ である。$\operatorname{supp}(\rho_U)\subset U$、$\operatorname{supp}(\rho_V)\subset V$、$\rho_U+\rho_V=1$ となる滑らかな関数を選べば、任意の滑らかな関数や微分形式 $s$ に対し
$$ s=\rho_U s+\rho_V s $$
である。第一項は $U$ に、第二項は $V$ に台をもつ。細層の定義は、この分解を一般の開被覆と一般の層の切断に拡張した形である。

この命題の逆を無条件に使ってはいけない。細層の定義は自己準同型の存在だけを要求し、層が滑らかな関数の加群として与えられることまでは要求しない。また任意の位相空間に 1 の分割があるわけでもない。空間の仮定と、層に掛け算を与える関数の種類の両方が必要である。

高次コホモロジーが消える理由

アーベル群の層 $\mathcal F$ の大域切断は $H^0(X,\mathcal F)$ であり、$H^q(X,\mathcal F)$（$q>0$）はその右導来関手である。非輪状とは、これらの高次群がすべて零になることをいう。細層が非輪状であるという定理には空間の仮定を含める。任意の病的な位相空間へ、そのまま移してはいけない。Bre97

細層の非輪状性

$X$ がパラコンパクト Hausdorff 空間で、$\mathcal F$ がその上の細層なら、すべての $q>0$ に対し
$$ H^q(X,\mathcal F)=0 $$
である。同じ仮定を満たす任意の開集合 $W\subset X$ への制限 $\mathcal F|_W$ も細層なら、$H^q(W,\mathcal F|_W)=0$ も従う。

証明で使う Čech 複体を明示する。開被覆 $\mathcal U=(U_i)$ に対し、$q$ 次コチェインは交叉 $U_{i_0\cdots i_q}=U_{i_0}\cap\cdots\cap U_{i_q}$ 上の切断の族
$$ C^q(\mathcal U,\mathcal F) =\prod_{i_0<\cdots< i_q}\mathcal F(U_{i_0\cdots i_q}) $$
である。差分写像 $\delta:C^q\to C^{q+1}$ は、添字を一つずつ除いた切断の制限を交代符号で足す。$\delta c=0$ は、局所データの重なり方に整合条件があることを意味する。

局所有限な自己準同型で Čech コサイクルを縮める

まず局所有限な開被覆 $\mathcal U=(U_i)$ を取る。細層性から、$\operatorname{supp}(\theta_j)\subset U_j$ かつ $\sum_j\theta_j=\operatorname{id}_{\mathcal F}$ となる自己準同型族を選ぶ。添字の順を固定し、交代的なコチェインを用いる。
$q\ge1$ とし、$c$ を $q$ 次コチェインとする。$i_0,\ldots,i_{q-1}$ の交叉を $V$ と書き、$U_j\cap V$ 上の切断 $\theta_j(c_{j i_0\cdots i_{q-1}})$ を考える。$\theta_j$ の台が $U_j$ に含まれるので、この切断は $V$ 上へ零で延長できる。実際、$V\setminus\operatorname{supp}(\theta_j)$ では茎が零であり、$V\cap U_j$ 上の切断と零切断が重なりで一致するから、層の貼り合わせ公理を使える。そこで
$$ (hc)_{i_0\cdots i_{q-1}} =\sum_j\operatorname{ext}_0\!\left(\theta_j c_{j i_0\cdots i_{q-1}}\right) $$
と置く。各点の近くで和は有限なので、これは $V$ 上の切断を定める。
Čech 差分の交代符号を展開すると、$\delta h+h\delta$ では二つの添字を消す項が互いに相殺し、残る項は $\sum_j\theta_j(c_{i_0\cdots i_q})$ だけである。したがって
$$ (\delta h+h\delta)c=c $$
となる。特に $\delta c=0$ なら $c=\delta(hc)$ であり、局所有限被覆上の正次数 Čech コホモロジーは零である。
一般の開被覆のコサイクルも、パラコンパクト性によって局所有限な細分へ移せる。パラコンパクト Hausdorff 空間では、この細分についての Čech コホモロジーの極限が層コホモロジーに一致する。従って $H^q(X,\mathcal F)=0$（$q>0$）である。開集合 $W$ が同じ空間条件を満たし、制限層も細層である場合も、同じ議論を $W$ 上で繰り返せる。Bre97 $\square$

この計算は、単に「1 の分割があるから高次群は零」と言い換えただけではない。自己準同型の台条件により、交叉上の切断を零で延長できることが要点である。任意の切断が全体へ延長できると仮定してはいない。次節の例は、細層でもそのような延長可能性は失敗することを示す。

脆弱層・軟弱層との区別

三つの名前は高次コホモロジーの消滅を調べる場面で現れるが、定義している操作は違う。脆弱層（flabby または flasque）は、任意の開集合の包含 $V\subset U$ に対する制限 $\mathcal F(U)\to\mathcal F(V)$ が全射である層である。軟弱層（soft）は、閉集合の近くで定義された切断の芽を全体へ延長できる層である。これに対し細層は、開被覆に従属する自己準同型の分割を要求する。Bre97

性質	定義で調べる操作	典型的な使い方
脆弱	開集合上の切断を大きい開集合へ延長	制限写像の全射性から非輪状性を得る
軟弱	閉集合上の切断を全体へ延長	閉集合を使うコホモロジー論で扱う
細層	自己準同型を局所有限に足して恒等射にする	1 の分割と Čech 縮約を使う

細層でも脆弱とは限らない

$\mathcal C^\infty_{\mathbb R}$ は前節の命題によって細層である。しかし $V=(0,1)\subset U=\mathbb R$ 上の切断 $f(x)=1/x$ は、$0$ で連続に延長できない。したがって
$$ \mathcal C^\infty_{\mathbb R}(U) \longrightarrow \mathcal C^\infty_{\mathbb R}(V) $$
は全射でなく、この細層は脆弱層ではない。

ここから「細層には大域的切断が豊富」と「任意の部分開集合の切断が延長する」を混同してはいけないことが分かる。細層性は開被覆全体に適した自己準同型を同時に作る条件であり、個々の開集合で任意に発散する切断を延長する条件ではない。軟弱性も開集合ではなく閉集合に関する延長条件である。パラコンパクト Hausdorff 空間では細層から軟弱性が従うが、脆弱性まで従うわけではない。Bre97

非細層の例と空間仮定

定数層は、値を局所的に一定に保つ層である。連結な円周 $S^1$ 上の実数定数層 $\underline{\mathbb R}$ を考える。$S^1$ はコンパクト Hausdorff、従ってパラコンパクト Hausdorff である。もしこの定数層が細層なら、上の非輪状性定理により $H^1(S^1,\underline{\mathbb R})=0$ となる。しかし実際にはこの群は $\mathbb R$ である。Bre97

円周上の定数層は細層でない

$S^1$ 上の $\underline{\mathbb R}$ は細層でない。

二つの弧で一次コホモロジーを計算する

円周を二つの開いた弧 $U,V$ で覆い、$U,V$ はそれぞれ可縮、$U\cap V$ は二つの互いに交わらない可縮な弧の和となるようにする。定数層の切断は各連結成分で一定なので
$$ \underline{\mathbb R}(U)\oplus \underline{\mathbb R}(V)\cong\mathbb R^2, \qquad \underline{\mathbb R}(U\cap V)\cong\mathbb R^2. $$
二つの交叉成分への Čech 差分は
$$ \delta:\mathbb R^2\longrightarrow\mathbb R^2, \qquad (a,b)\longmapsto(b-a,b-a) $$
である。その像は対角線だから余核は $\mathbb R$ となる。$U,V$ と交叉の各連結成分は可縮なので、定数層の正次数コホモロジーはそこで零である。この被覆は Leray 被覆であり、Čech の一次群が層コホモロジー $H^1(S^1,\underline{\mathbb R})$ を計算する。従ってこの群は $\mathbb R\ne0$。パラコンパクト Hausdorff 空間上の細層は非輪状なので、定数層は細層でない。Bre97 $\square$

同じ円周の上でも、実数値滑らかな関数の層 $\mathcal C^\infty_{S^1}$ は細層である。「係数が実数」というだけで細層性は決まらない。局所定数という制約を保つ切断と、滑らかな関数で掛け算できる切断との違いを見る必要がある。また $\underline{\mathbb R}$ が細層でないことは、層としての性質についての主張であり、各点の茎が単純な実ベクトル空間であることと矛盾しない。
複素多様体 $X$ 上の正則関数の層 $\mathcal O_X$ に、滑らかな 1 の分割を掛けることも一般にはできない。滑らかな関数と正則関数の積は通常正則でないからである。これは上の構成を $\mathcal O_X$ にそのまま適用できない理由である。さらに楕円曲線では $H^1(X,\mathcal O_X)\cong\mathbb C$ なので、$\mathcal O_X$ 自身は細層でない。一方、滑らかな $(0,q)$-形式の層は細層であり、正則関数の層のコホモロジーを計算する分解に使える。Huy05

de Rham 複体での役割

$M$ を Hausdorff・第二可算な滑らかな多様体とする。$\mathcal A_M^p$ を滑らかな $p$-形式の層とすると、前述の命題により各 $\mathcal A_M^p$ は細層である。Poincaré の補題は、各点の十分小さい座標近傍で閉形式が局所的には完全形式になることを述べる。そのため層の列
$$ 0\longrightarrow\underline{\mathbb R} \longrightarrow\mathcal A_M^0 \xrightarrow{d}\mathcal A_M^1 \xrightarrow{d}\mathcal A_M^2\xrightarrow{d}\cdots $$
は正確である。$\underline{\mathbb R}$ は局所定数関数の層であり、$\mathcal A_M^0$ は滑らかな関数の層である。正確性は茎ごとの主張であり、すべての閉形式が大域的に完全であるという主張ではない。BT82

細層分解による de Rham コホモロジーの計算

上の空間条件を満たす $M$ では、de Rham 複体の各項が細層であり、定数層の細層分解をなす。従って
$$ H^q(M,\underline{\mathbb R}) \cong H^q\!\left(\mathcal A_M^\bullet(M),d\right) $$
である。右辺は滑らかな微分形式の大域的な de Rham コホモロジーである。

ここでは「層の列が局所的に正確であること」と「各項の高次層コホモロジーが消えること」の二つを組み合わせている。細層性だけから Poincaré の補題は出ないし、Poincaré の補題だけから大域切断の複体が正しいコホモロジーを計算するわけでもない。非輪状分解の一般定理により、細層分解の大域切断複体のコホモロジーが元の層コホモロジーに一致する。これに特異コホモロジーとの比較を加えたものが de Rhamの定理の層論的な道筋である。Bre97 BT82

円周で「局所的」と「大域的」を比べる

$M=S^1$ では各滑らかな 1-形式は局所的に $df$ と書けるが、全体では必ずしもそうならない。角度形式の周期は非零になりうる。一方、$\mathcal A_{S^1}^0$ と $\mathcal A_{S^1}^1$ は細層なので、それぞれの高次層コホモロジーは零である。非零の $H^1(S^1,\underline{\mathbb R})$ は、細層そのものの高次群ではなく、二項からなる大域的な de Rham 複体のコホモロジーとして現れる。これは定数層が細層でないこととも整合する。

複素幾何と Dolbeault 分解

$X$ を Hausdorff・第二可算な複素多様体とし、$\Omega_X^p$ を正則 $p$-形式の層、$\mathcal A_X^{p,q}$ を滑らかな $(p,q)$-形式の層とする。後者は滑らかな関数の層の加群なので細層である。局所的な $\bar\partial$-Poincaré の補題は
$$ 0\longrightarrow\Omega_X^p \longrightarrow\mathcal A_X^{p,0} \xrightarrow{\bar\partial}\mathcal A_X^{p,1} \xrightarrow{\bar\partial}\cdots $$
が層として正確であることを与える。そこで細層分解の一般原理を使うと
$$ H^q(X,\Omega_X^p) \cong \frac{\ker\bigl(\bar\partial:\mathcal A_X^{p,q}(X) \to\mathcal A_X^{p,q+1}(X)\bigr)} {\operatorname{im}\bigl(\bar\partial:\mathcal A_X^{p,q-1}(X) \to\mathcal A_X^{p,q}(X)\bigr)} $$
を得る。ただし $q=0$ では分母を零と読む。右辺は Dolbeault コホモロジーである。これは Dolbeaultコホモロジーの定理の層論的な説明であり、$X$ がコンパクトであることはこの同型には必要ない。細層性に必要なパラコンパクト性は、ここで採用した多様体の仮定から従う。Huy05
代数幾何の Zariski 位相上の構造層や準連接層には、通常、滑らかな 1 の分割による議論を直接移せない。解析化した複素多様体上で微分形式の細層分解を用いる議論と、スキーム上の準連接層の消滅定理とは、空間と層の条件が違う。両者を比較するときは、どの位相とどの係数層でコホモロジーを取っているかを先に明示する必要がある。

使うときの確認点

細層性は「台が被覆に従属する自己準同型の和が恒等射」として確認する。滑らかな関数の加群なら、1 の分割による掛け算がこの条件を満たす。非輪状性を使うときは空間をパラコンパクト Hausdorff とし、層コホモロジーとの Čech 比較を適用する。正確な複体からコホモロジーを計算する場合は、各項が細層であることに加え、Poincaré の補題などによる層としての正確性も確認する。
とくに、正則関数の層が細層でない場合でも、滑らかな形式の細層分解を使ってその層コホモロジーを計算できる。細層である対象と、その分解で計算したい対象は別でよい。この点が複素解析と層コホモロジーをつなぐ具体的な利点である。

反例：仮定を外すと崩れること

本記事の命題の仮定を一つずつ外し、結論が崩れる反例を並べる。

外す条件	反例	成り立たなくなること
細層（thm-fine-acyclic）	$S^1$ 上の定数層 $\underline{\mathbb R}$	$H^1=0$
滑らかな関数の加群（prop-smooth-modules-fine）	$\mathbb R$ 上の実解析関数の層 $\mathcal C^\omega_{\mathbb R}$	細層である
同上（正則関数へ替える）	楕円曲線上の $\mathcal O_X$	細層である、$H^1=0$
脆弱性は仮定していない	$\mathcal C^\infty_{\mathbb R}$	制限写像 $\mathcal F(U)\to\mathcal F(V)$ が全射
分解が層として完全（prop-fine-de-rham-resolution）	$\mathbb R^2$ 上の $0\to\underline{\mathbb R}\to\mathcal A^0\to\mathcal A^1\to0$	大域切断の複体が $H^q(M,\underline{\mathbb R})$ を計算する

各行の確認は次のとおりである。

細層でない層：prop-constant-circle-not-fine の計算で $H^1(S^1,\underline{\mathbb R})\cong\mathbb R\ne0$ である。$S^1$ はパラコンパクト Hausdorff なので、空間の仮定は満たしている。破れているのは層が細層であるという仮定だけである。
実解析関数の層は細層でない：$\mathcal C^\omega_{\mathbb R}$ が細層だと仮定し、局所有限開被覆 $U=(-\infty,1)$、$V=(0,\infty)$ に対する $\theta_U,\theta_V$ を取る。$\rho_U=\theta_U(1)$、$\rho_V=\theta_V(1)$ は $\mathbb R$ 上の実解析関数で、$\rho_U+\rho_V=1$ である。$\theta_U$ は開集合 $\mathbb R\setminus\operatorname{supp}(\theta_U)\supset[1,\infty)$ の上で零だから、$\rho_U$ は空でない開集合で恒等的に零になり、一致の定理により $\mathbb R$ 全体で零である。同様に $\rho_V$ も $(-\infty,0]$ を含む開集合で零なので恒等的に零である。すると $1=\rho_U+\rho_V=0$ となり矛盾する。実解析関数には台がコンパクトな零でない関数がなく、1 の分割が作れない。
正則関数の層：楕円曲線 $X$ はコンパクトで $H^1(X,\mathcal O_X)\cong\mathbb C\ne0$ なので、thm-fine-acyclic の対偶により $\mathcal O_X$ は細層でない（本文の前節）。正則関数と滑らかな関数の積は正則でないため、prf-smooth-modules-fine の掛け算が $\mathcal O_X$ の自己準同型にならない。
細層でも脆弱とは限らない：ex-fine-not-flabby のとおり、$1/x\in\mathcal C^\infty((0,1))$ は $\mathbb R$ 上の滑らかな関数に延長できない。細層性から脆弱性は従わない。
層として完全でない複体：$\mathbb R^2$ 上で $\mathcal A^2$ を落とした $0\to\underline{\mathbb R}\to\mathcal A^0\xrightarrow{d}\mathcal A^1\to0$ は、各項が細層だが $\mathcal A^1$ の位置で完全でない（$d$ の像は局所的にも閉形式に限られ、たとえば $x\,dy$ は $d(x\,dy)=dx\wedge dy\ne0$ なのでどの点の近くでも完全形式でない）。大域切断の複体の一次コホモロジーは $\mathcal A^1(\mathbb R^2)/d\mathcal A^0(\mathbb R^2)$ で、$x\,dy$ の類は零でない。一方 $\mathbb R^2$ は可縮なので $H^1(\mathbb R^2,\underline{\mathbb R})=0$ であり、一致しない。細層であることと、層として完全であること（Poincaré の補題）の両方が必要である。