Whitney層別(Whitney stratification)とは、多様体の部分集合を互いに交わらない滑らかな部分多様体(層)に分けた局所有限な層別で、境界条件を満たし、任意の $2$ つの層の対が Whitney の条件 (b) を満たすものである。条件 (a) は、低い次元の層 $Y$ に近づくときの高い次元の層 $X$ の接平面の極限が $Y$ の接平面を含むこと、条件 (b) は、$X$ と $Y$ の点を結ぶ割線の極限もその接平面の極限に含まれることで、(b) から (a) が従う。Whitney の傘では $z$ 軸を $1$ つの層にすると原点で (a) が破れ、原点を別の層にすると Whitney 層別になる。劣解析的集合は Whitney 層別をもつ。
前提知識: 可微分多様体, 接空間, Grassmann多様体, 射影空間
Whitney 層別(Whitney stratification)は、特異点をもつ集合を滑らかな部分多様体(層)に分け、層どうしが「正則に」接するように求めたものである。正則さは、低い次元の層 $Y$ に近づくときの高い次元の層 $X$ の接平面と割線の極限についての 2 つの条件、Whitney の条件 (a) と (b) で表される。条件 (a) は「$X$ の接平面の極限が $Y$ の接平面を含む」こと、条件 (b) は「$X$ と $Y$ の点を結ぶ割線の極限も $X$ の接平面の極限に含まれる」ことである。
Whitney 層別は、代数的集合・劣解析的集合・o-極小構造で定義可能な集合に存在し、その上で Thom–Mather の理論により、各層に沿って局所的に位相的な積の形をもつことが示される(Thom–Matherの同位定理)。この記事では、条件 (a)(b) と Whitney 層別を定義し、(b) から (a) が従うことと、(b) の下で層の次元が下がることを証明する。さらに、錐・Whitney の傘・Whitney の 3 次曲面で条件を計算で確かめ、(a) を満たすが (b) を満たさない例を示す。
$\mathbb{R}^n$ の $r$ 次元部分空間の全体を $G_r(\mathbb{R}^n)$ と書く(Grassmann多様体)。部分空間 $T$ への直交射影を $P_T$ と書き、$T_i\to\tau$ を $P_{T_i}\to P_\tau$(行列としての収束)で定める。これは $G_r(\mathbb{R}^n)$ の通常の位相であり、$G_r(\mathbb{R}^n)$ はコンパクトなので、部分空間の列は収束する部分列をもつ。次の事実を繰り返し使う。
$X,Y$ を多様体 $M$ の交わらない部分多様体、$r=\dim X$、$y\in Y$ とする。対 $(X,Y)$ が $y$ で条件 (a) を満たすとは、$X$ の点列 $x_i\to y$ で $T_{x_i}X$ が $r$ 次元部分空間 $\tau\subset T_yM$ に収束するものについて、つねに $T_yY\subset\tau$ となることをいう。
$X,Y$ を $\mathbb{R}^n$ の交わらない部分多様体、$r=\dim X$、$y\in Y$ とする。対 $(X,Y)$ が $y$ で条件 (b) を満たすとは、次が成り立つことをいう:$X$ の点列 $x_i\to y$ と $Y$ の点列 $y_i\to y$ について、$T_{x_i}X$ が $\tau\in G_r(\mathbb{R}^n)$ に収束し、割線 $\overline{x_iy_i}$ が直線 $\ell$ に収束するなら、$\ell\subset\tau$ である。一般の多様体 $M$ では、$y$ のまわりの座標で $\mathbb{R}^n$ に移して定める。
2 つの条件は Whitney による(Mather の講義録 Mat12 Definition 1.1、p. 476、Definition 2.1・2.3、p. 477)。(b) の定義が座標のとり方によらないことは Mat12 Lemma 2.2(p. 477)にあり、$C^1$ 級の座標変換でもよい(vdDM96 p. 5)。対 $(X,Y)$ が $Y$ のすべての点で条件を満たすとき、単に $(X,Y)$ が条件を満たすという。$y$ が $X$ の閉包に入らなければ、条件は自動的に成り立つ。
(a) は接平面だけの条件であり、$Y$ が 1 点なら $T_yY=0$ なので自動的に成り立つ。(b) は $Y$ の点の位置も使う条件で、「$X$ が $Y$ に向かって横から巻き込んでいかない」ことを求める。
$M$ を多様体、$S\subset M$ を部分集合とする。$S$ の層別(stratification)とは、$S$ を互いに交わらない部分多様体(層)の和に分けたものをいう。層別が局所有限であるとは、$M$ の各点に有限個の層としか交わらない近傍があることをいい、境界条件(condition of the frontier)を満たすとは、各層 $X$ について $(\overline{X}\setminus X)\cap S$ が層の和であることをいう。局所有限で境界条件を満たし、任意の 2 つの層の対 $(X,Y)$ が条件 (b) を満たす層別を Whitney 層別という。
この定義は Mat12 §5(p. 480)による。vdDM96 p. 5–6 は閉集合の層別に同じ条件を課している。境界条件の下では、層 $Y$ と $X$ について $Y\cap\overline{X}\neq\emptyset$ なら $Y\subset\overline{X}$ である。このとき $Y< X$ と書く。
対 $(X,Y)$ が $y\in Y$ で条件 (b) を満たすなら、$y$ で条件 (a) も満たす。
条件は局所的なので、$M=\mathbb{R}^n$ としてよい。$x_i\in X$、$x_i\to y$、$T_{x_i}X\to\tau$ とし、$T_yY\not\subset\tau$ と仮定する。$v\in T_yY$ で $v\notin\tau$ となるものをとり、$Y$ の中の $C^1$ 級の曲線 $\gamma$ で $\gamma(0)=y$、$\gamma'(0)=v$ となるものをとる。$X\cap Y=\emptyset$ なので $x_i\neq y$ であり、$t_i:=|x_i-y|^{1/2}>0$ とおくと $t_i\to0$ である。$y_i:=\gamma(t_i)\in Y$ とすると $y_i\to y$ で、
$$
\frac{y_i-x_i}{t_i}=\frac{\gamma(t_i)-y}{t_i}-\frac{x_i-y}{t_i}\longrightarrow v-0=v
$$
となる($|x_i-y|/t_i=t_i\to0$)。$v\neq0$ なので十分大きい $i$ で $y_i\neq x_i$ であり、割線 $\overline{x_iy_i}$ は $v$ の張る直線 $\ell$ に収束する。条件 (b) により $\ell\subset\tau$ となり、$v\notin\tau$ に反する。$\square$
この証明は Mat12 Proposition 2.4(p. 477)の議論を、割線の点列の選び方を明示して書いたものである。
$X,Y$ を交わらない部分多様体とし、$y\in Y\cap\overline{X}$ で対 $(X,Y)$ が条件 (b) を満たすとする。このとき $\dim Y< \dim X$ である。
$M=\mathbb{R}^n$ としてよい。$y\in\overline{X}$ なので $X$ の点列 $x_i\to y$ がある。部分列をとって $T_{x_i}X\to\tau$ としてよい。prop-ws-b-implies-a により $T_yY\subset\tau$ である。
$Y$ は局所閉なので、$\rho>0$ を $K:=Y\cap\overline{B}(y,\rho)$ がコンパクトになるようにとる。$|x_i-y|< \rho/2$ となる $i$ について、$x_i$ に最も近い $K$ の点 $y_i$ をとる。$|x_i-y_i|\le|x_i-y|$ なので $|y_i-y|\le2|x_i-y|< \rho$ であり、$y_i$ は $K$ の内部($Y$ の中での)にあるので、関数 $z\mapsto|x_i-z|^2$ の $Y$ 上の局所最小点である。よって微分が $0$ になり、$x_i-y_i\perp T_{y_i}Y$ である。$X\cap Y=\emptyset$ なので $x_i\neq y_i$ で、$y_i\to y$ である。部分列をとって、単位ベクトル $u_i:=(x_i-y_i)/|x_i-y_i|$ が $u$ に収束するとしてよい。$T_{y_i}Y\to T_yY$($Y$ は $C^1$ 級)なので $u\perp T_yY$ であり、条件 (b) により $u$ の張る直線は $\tau$ に含まれる。
以上から $\tau$ は $T_yY$ と、それに直交する単位ベクトル $u$ を含むので、$\dim X=\dim\tau\ge\dim Y+1$ である。$\square$
これは Mat12 Proposition 2.7(pp. 477–478)である。帰結として、Whitney 層別では $Y< X$ なら $\dim Y< \dim X$ であり、関係 $<$ は層の全体の上の半順序になる(推移律は閉包の推移性から、反対称律は次元から従う。Mat12 p. 480)。また、多様体の閉集合の、局所有限で各層が連結な層別で、すべての層の対が (b) を満たすものは、境界条件を自動的に満たし、Whitney 層別になる(Mat12 Corollary 10.5、p. 498。証明には Thom–Mather の理論を使う)。
以下の例では、$\mathbb{R}^3$ の曲面 $\{F=0\}$ の滑らかな部分 $X$($\nabla F\neq0$ の点)の接平面を法線 $\nabla F$ で調べる。$X$ の点列 $x_i\to y$ で単位法線 $n_i:=\nabla F(x_i)/|\nabla F(x_i)|$ が $n$ に収束すれば $T_{x_i}X=n_i^\perp\to n^\perp$ である。したがって、単位ベクトル $u_i\to u$ について $u_i\cdot n_i\to0$ なら $u\in n^\perp$ となる。
$C:=\{(x,y,z)\mid x^2+y^2=z^2\}$ を $X:=C\setminus\{0\}$ と $O:=\{0\}$ に分ける。$\nabla F=(2x,2y,-2z)$ は $X$ 上で $0$ でないので $X$ は 2 次元の部分多様体で、$\overline{X}\setminus X=O$ である。対 $(X,O)$ は条件 (b) を満たす。実際、$p\in X$ なら $t\mapsto tp$($t>0$)は $X$ の中の曲線なので $p\in T_pX$ であり、$0$ と $x_i$ を結ぶ割線の単位ベクトル $x_i/|x_i|$ は $T_{x_i}X$ に入る。極限をとれば割線の極限 $\ell$ は $\tau$ に含まれる。同じ議論で、原点を除いて滑らかな錐(正の定数倍で閉じた集合)はどれも、原点と残りに分けた層別が Whitney 層別になる。
Whitney の傘 $W:=\{(x,y,z)\mid y^2=zx^2\}$ を考える。$F=y^2-zx^2$ とすると $\nabla F=(-2zx,\ 2y,\ -x^2)$ で、$W$ の上では $x=0$ なら $y=0$ なので、$\nabla F=0$ となる $W$ の点は $z$ 軸 $Z:=\{x=y=0\}$ の点である。$X:=W\setminus Z$ は
$$
(x,w)\longmapsto(x,\ wx,\ w^2)\qquad(x\neq0,\ w\in\mathbb{R})
$$
で単射に助変数表示され($w=y/x$)、2 次元の部分多様体である。$z< 0$ では $y^2+|z|x^2=0$ から $x=y=0$ なので、$X$ は $z\ge0$ の側にあり、$\overline{X}\setminus X=\{(0,0,z)\mid z\ge0\}$ である。$z< 0$ の半直線(「柄」)は $W$ に含まれるが、$X$ の閉包に入らない。
(1) $(X,Z)$ は原点で条件 (a) を満たさない。点 $p_s:=(s,s^3,s^4)$($w=s^2$)は $X$ の点で、$\nabla F(p_s)=(-2s^5,\ 2s^3,\ -s^2)$ だから単位法線は $(0,0,-1)$ に収束する。$T_{p_s}X$ は $xy$ 平面に収束し、$T_0Z$($z$ 軸)を含まない。
(2) 細かく分けると Whitney 層別になる。$Z_+:=\{(0,0,z)\mid z>0\}$、$Z_-:=\{(0,0,z)\mid z< 0\}$、$O:=\{0\}$ とし、$W=X\sqcup Z_+\sqcup Z_-\sqcup O$ とする。境界条件は上の閉包の計算から成り立つ。$(Z_\pm,O)$ は直線の一部と原点なので (b) を満たし、$(X,Z_-)$ は $Z_-\cap\overline{X}=\emptyset$ なので条件が空である。残りは $(X,Z_+)$ と $(X,O)$ である。$X$ の点 $p=(x,wx,w^2)$ での法線は $\partial_x\times\partial_w=(1,w,0)\times(0,x,2w)=(2w^2,\ -2w,\ x)$ で、その長さを $N$ とすると $N\ge\max(2|w|,|x|)$ である。
$(X,Z_+)$:$p_i\to(0,0,c)$($c>0$)、$q_i=(0,0,z_i)\in Z_+$ とする。$p_i-q_i=(x,\ wx,\ w^2-z_i)$ と法線の内積は $x(w^2-z_i)$ で、$|p_i-q_i|\ge|w^2-z_i|$ だから、単位ベクトルどうしの内積の絶対値は $|x|/N\le|x|/(2|w|)$ 以下である。$w^2\to c>0$、$x\to0$ なのでこれは $0$ に収束し、割線の極限は接平面の極限に含まれる。
$(X,O)$:$p_i\to0$ とする。$p_i=(x,wx,w^2)$ と法線の内積は $2w^2x-2w^2x+xw^2=xw^2$ で、$|p_i|\ge|x|$ だから、単位ベクトルどうしの内積の絶対値は $|x|w^2/(N|x|)\le w^2/(2|w|)=|w|/2$ 以下であり、$w\to0$ で $0$ に収束する。
よって $\{X,Z_+,Z_-,O\}$ は Whitney 層別である。複素の場合の同じ現象($zx^2-y^2=0$)は Mat12 Example 1.2(p. 476)に Whitney の例として挙がっている。
$X:=\{p(t)=e^{-t}(\cos t,\sin t)\mid t\in\mathbb{R}\}\subset\mathbb{R}^2$ と $O:=\{0\}$ をとる。$X$ は $\mathbb{R}^2\setminus\{0\}$ の閉集合である 1 次元の部分多様体($p$ は単射なはめ込みで、$|p(t)|=e^{-t}$ が狭義単調)で、$\overline{X}\setminus X=O$ である。$O$ は 1 点なので $(X,O)$ は条件 (a) を満たす。一方、
$$
p'(t)=e^{-t}(-\cos t-\sin t,\ -\sin t+\cos t),\qquad \frac{p(t)\cdot p'(t)}{|p(t)|\,|p'(t)|}=\frac{-e^{-2t}}{e^{-t}\cdot\sqrt2\,e^{-t}}=-\frac{1}{\sqrt2}
$$
なので、接線 $T_{p(t)}X$ と、原点と $p(t)$ を結ぶ割線はつねに角 $\pi/4$ をなす。$t_i\to\infty$ で接線と割線がそれぞれ $\tau$、$\ell$ に収束するとき(部分列をとればそうなる)、$\ell$ と $\tau$ も角 $\pi/4$ をなすので $\ell\not\subset\tau$ である。よって $(X,O)$ は原点で条件 (b) を満たさない。Mat12 Example 2.5(p. 477)も接線と動径が一定の角をなす螺旋を挙げている。
次の例では、層が 2 次元で (a) が $Y$ の全体で成り立ち、(b) だけが 1 点で破れる。
$F:=y^2-x^3-z^2x^2$、$S:=\{F=0\}\subset\mathbb{R}^3$、$Z:=\{x=y=0\}$、$X:=S\setminus Z$ とする。$\nabla F=(-3x^2-2z^2x,\ 2y,\ -2zx^2)$ が $0$ になるのは、$y=0$、$x(3x+2z^2)=0$、$zx^2=0$ のときで、$x\neq0$ なら $z=0$ から $x=0$ となって矛盾するので $x=y=0$ に限る。よって $X$ は 2 次元の部分多様体で、$Z\subset\overline{X}$ である($z$ を固定した切り口 $y^2=x^2(x+z^2)$ は原点を通る曲線)。
(1) $(X,Z)$ は $Z$ のすべての点で条件 (a) を満たす。$X$ の点列が $(0,0,c)$ に収束するとき、単位法線の第 3 成分 $R:=2|z|x^2/|\nabla F|$ が $0$ に収束することを示せばよい。$u:=x+z^2$ とおくと $S$ の上で $y^2=x^2u$、$u\ge0$ であり、$|\nabla F|\ge\max(|x|\,|3u-z^2|,\ 2|x|\sqrt u)$ だから、
$$
R\le\frac{2|z|\,|x|}{\max(|3u-z^2|,\ 2\sqrt u)}
$$
である。$u\ge z^2/6$ なら $2\sqrt u\ge2|z|/\sqrt6$ なので $R\le\sqrt6\,|x|$ である。$u< z^2/6$ なら $|3u-z^2|>z^2/2$ で、$x=u-z^2$ から $5z^2/6< |x|\le z^2$ なので $R\le4|x|/|z|\le4|z|$ である。$c\neq0$ のときは $x\to0$ により後者は起こらなくなり、$R\le\sqrt6|x|\to0$ である。$c=0$ のときは $R\le\max(\sqrt6|x|,4|z|)\to0$ である。
(2) $(X,Z)$ は原点で条件 (b) を満たさない。$p_s:=(-s^2,0,s)$($s\neq0$)は $F(p_s)=s^6-s^6=0$ より $X$ の点で、$q_s:=(0,0,s)\in Z$ である。割線 $\overline{p_sq_s}$ は $x$ 軸の方向 $(1,0,0)$ である。一方 $\nabla F(p_s)=(-s^4,\ 0,\ -2s^5)$ なので単位法線は $(-1,0,0)$ に収束し、$T_{p_s}X$ は $yz$ 平面に収束する。$s\to0$ で割線の極限($x$ 軸)は接平面の極限に含まれない。
複素の場合の同じ例($y^2+x^3-z^2x^2=0$。$x$ を $-x$ に替えると上の形)は Mat12 Example 2.6(p. 477)に Whitney の例として挙がっており、(b) は原点以外の $Z$ の点では成り立つと述べられている。この曲面の $z$ を固定した切り口は、$z\neq0$ では原点に結節点をもつ曲線(小さな輪を含む)、$z=0$ では尖点 $y^2=x^3$ であり、原点の近くの位相が $z=0$ で変わる。このことは Thom–Matherの同位定理 で (b) を外せないことを示す例になる。
Whitney 層別は多くの「素朴な」集合の族に存在する。いずれもこの記事では証明しない。
Whitney 層別の層は、局所的に「同じ形」をしている。$M$ の閉集合 $S$ の Whitney 層別で、同じ層の同じ連結成分の 2 点 $x,x'$ について、層別を保つ $M$ の同相写像 $h$ で $h(x)=x'$ となるものがある(Mat12 §5 の Remark、p. 480。層が 2 つのときの Thom の議論の概略が pp. 480–481 にある)。この一様性は、制御された管状近傍とベクトル場の持ち上げによって示され、その一般形が Thom–Matherの同位定理 である。そこで使われるのが条件 (b) であり、(a) だけでは足りない(ex-ws-cubic)。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| (a)(層を粗くとる) | Whitney の傘で $z$ 軸を 1 つの層にする(ex-ws-umbrella (1)) | 原点での条件 (a)、境界条件 |
| (b)((a) だけを課す) | 対数螺旋と原点(ex-ws-spiral) | 原点での条件 (b) |
| (b)((a) だけを課す) | Whitney の 3 次曲面と $z$ 軸(ex-ws-cubic) | 原点での条件 (b)、切り口の位相の一定性 |
| 境界条件 | $S=[0,1)\cup\{5\}\subset\mathbb{R}$ を $(0,1)$ と $\{0,5\}$ に分ける | 層どうしが「含まれるか交わらないか」のどちらかになること |
最後の行では、各層は部分多様体で、(b) は $\mathbb{R}$ の 1 次元の層については自明に成り立つが、$\{0,5\}\cap\overline{(0,1)}=\{0\}$ は層の和でない。層 $\{0,5\}$ が連結でないことが原因で、閉集合の局所有限な層別なら、連結な層だけを使えば (b) から境界条件が従う(Mat12 Corollary 10.5)。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する