胞体分解定理(o-極小)
概要
胞体分解定理(o-極小)（cell decomposition theorem, o-minimal）とは、o-極小構造で定義可能な集合と関数が、有限個の「胞体」に分けられるという定理である。胞体は、点と開区間から始めて、定義可能な連続関数のグラフと、2 つの連続関数に挟まれた帯を作る操作で得られる集合である。定義可能集合 $X_1,\dots,X_k\subset M^n$ はどれも、$M^n$ を有限個の胞体に分ける柱状の分解のいくつかの胞体の和になり、定義可能な関数は各胞体の上で連続になるように分けられる。帰結として、定義可能集合は有限個の定義可能に連結な成分をもち、次元が定まり、定義可能な族のファイバーの形は一様に有限である。
胞体分解定理（cell decomposition theorem）は、o-極小構造で定義可能な集合と関数が、「胞体」と呼ばれる単純な形の集合に有限個に分けられることを述べる定理である。胞体は、1 点と開区間から始めて、連続関数のグラフと、2 つの連続関数に挟まれた帯を作る操作を繰り返して得られる集合である。o-極小性は直線 $M$ の部分集合だけについての条件だが、胞体分解定理は、その条件がすべての次元の定義可能集合の形を強く制限することを示す。1 次元の場合は、定義可能な 1 変数関数が有限個の区間の上で定数か狭義単調かつ連続になるという単調性定理である（単調性定理(o-極小)）。
胞体分解定理から、定義可能集合は有限個の定義可能に連結な成分をもつこと、定義可能集合に次元が定まること、定義可能な族のファイバーの形が一様に有限であることが従う。実数体の場合は、半代数的集合の柱状分解がその原型である。この記事では、胞体と分解を定義し、単調性定理を使って 2 次元の胞体分解定理を完全に証明し、一般の次元の証明の骨格を所在とともに述べる。
設定と記号
以下、$\mathcal{M}=(M,<,\dots)$ を o-極小構造とする（o-極小構造 の定義「o-極小構造」）。$<$ は稠密で端点のない全順序であり、「定義可能」はパラメータ付きで $\mathcal{M}$ で定義可能なことを指す。$\overline{M}:=M\cup\{-\infty,+\infty\}$ と書き、$-\infty< x< +\infty$（$x\in M$）と順序を延ばす。開区間は $(a,b)=\{x\in M\mid a< x< b\}$（$a< b$、$a,b\in\overline{M}$）である。
$M$ には開区間を基とする順序位相を入れ、$M^n$ には積位相を入れる。開区間の積を開箱という。$\overline{M}$ には、$M$ の開区間と $[-\infty,b)$、$(a,+\infty]$ を基とする位相を入れる。$\pi\colon M^{n+1}\to M^n$ を最初の $n$ 座標への射影とし、$X\subset M^{n+1}$ と $x\in M^n$ についてファイバーを $X_x:=\{y\in M\mid(x,y)\in X\}$ と書く。定義可能集合 $X\subset M^n$ が定義可能に連結であるとは、$X$ の中で開かつ閉な定義可能集合が $\emptyset$ と $X$ だけであることをいう（o-極小構造 の節「連結性による特徴づけ」の定義と同じ）。
o-極小構造では、定義可能な空でない集合 $A\subset M$ が上に有界なら $M$ の中に上限をもつ（o-極小構造 の命題「定義可能な完備性」）。上に有界でなければ上限を $+\infty$ とおく。この記事ではこの事実を何度も使う。
胞体と分解
$M^n$ の胞体（cell）とその次元を $n$ についての帰納法で定める。
(i) $M$ の胞体は、1 点 $\{a\}$（次元 $0$）と開区間 $(a,b)$（$a,b\in\overline{M}$、次元 $1$）である。
(ii) $C\subset M^n$ を次元 $d$ の胞体とする。定義可能な連続関数 $f\colon C\to M$ のグラフ $\Gamma(f):=\{(x,f(x))\mid x\in C\}$ は $M^{n+1}$ の次元 $d$ の胞体である。$f,g$ がそれぞれ定義可能な連続関数 $C\to M$ か、定数 $-\infty$（$f$ の場合）・$+\infty$（$g$ の場合）で、$C$ 上で $f< g$ であるとき、帯
$$
(f,g)_C:=\{(x,y)\in C\times M\mid f(x)< y< g(x)\}
$$
は $M^{n+1}$ の次元 $d+1$ の胞体である。
(iii) 以上で得られるものだけが胞体である。
この定義は Knight–Pillay–Steinhorn による（KPS86 Definition 1.5、pp. 595–596）。実数体の場合は vdDM96 p. 12 が同じ定義を $C^p$ 級の関数で述べている。帰納法により、胞体は定義可能であり、$M^n$ の胞体 $C$ の次元は $n$ 以下で、$\dim C=n$ であることと $C$ が $M^n$ の開集合であることは同値である（KPS86 Remark 1.6、p. 596）。たとえば帯 $(f,g)_C$ は、$C$ が開集合で $f,g$ が連続なら開集合である。$M^2$ の胞体は次の 4 種類である。
| 胞体 | 形 | 次元 |
|---|---|---|
| $\{(a,b)\}$ | 1 点 | $0$ |
| $\{a\}\times(b,c)$ | 縦の開区間 | $1$ |
| $\Gamma(f)$、$f\colon(a,b)\to M$ | 区間の上の連続関数のグラフ | $1$ |
| $(f,g)_{(a,b)}$ | 区間の上の帯（$f=-\infty$ や $g=+\infty$ も許す） | $2$ |
（1 点の上のグラフは 1 点、1 点の上の帯は縦の開区間である。）
$M^n$ の分解（decomposition）を $n$ についての帰納法で定める。
(i) $M$ の分解とは、$a_1< \cdots< a_k$（$k\ge0$）を選んで得られる $M$ の分割
$$
\{(-\infty,a_1),(a_1,a_2),\dots,(a_k,+\infty),\{a_1\},\dots,\{a_k\}\}
$$
である（$k=0$ なら $\{M\}$）。
(ii) $M^{n+1}$ の分解とは、$M^{n+1}$ を有限個の胞体に分けた分割 $\mathcal{D}$ で、射影の全体 $\{\pi(D)\mid D\in\mathcal{D}\}$ が $M^n$ の分解になるものである。
分解 $\mathcal{D}$ が集合 $X\subset M^n$ と両立するとは、各 $D\in\mathcal{D}$ について $D\subset X$ か $D\cap X=\emptyset$ であることをいう。このとき $X$ は $\mathcal{D}$ のいくつかの胞体の和である。
この定義は vdDM96 p. 12 の定義に従った（KPS86 Definition 3.3、p. 598 は「$X$ を分割する分解」を同じ意味で使う）。分解 $\mathcal{D}$ の中で、$M^n$ の分解 $\{\pi(D)\}$ の 1 つの胞体 $E$ の上にある胞体は、$E$ 上の定義可能な連続関数 $f_1< \cdots< f_m$ のグラフと、それらに挟まれた帯 $(-\infty,f_1)_E,(f_1,f_2)_E,\dots,(f_m,+\infty)_E$ である（グラフの関数どうしの大小が $E$ 全体で一定であることは、$E$ が定義可能に連結であること（prop-cdo-cell-connected）による）。この「柱」の形から、分解は柱状分解（cylindrical decomposition）とも呼ばれる。
実数体 $(\mathbb{R},+,\cdot,<)$ で、閉円板 $X=\{(x,y)\mid x^2+y^2\le1\}$ を考える。$\mathbb{R}$ の分解を点 $-1,1$ で作る。$(-1,1)$ の上では $f_1(x)=-\sqrt{1-x^2}$、$f_2(x)=\sqrt{1-x^2}$ のグラフと、それらで区切られる 3 つの帯をとる。点 $\pm1$ の上では、$\{\pm1\}\times\{0\}$ と、縦の開区間 $\{\pm1\}\times(-\infty,0)$、$\{\pm1\}\times(0,+\infty)$ をとる。区間 $(-\infty,-1)$、$(1,+\infty)$ の上では帯 $(-\infty,+\infty)$ だけをとる。これは $\mathbb{R}^2$ の分解であり、$X$ と両立する：$X$ は 2 点 $(\pm1,0)$、2 本のグラフ $\Gamma(f_1),\Gamma(f_2)$、帯 $(f_1,f_2)_{(-1,1)}$ の 5 つの胞体の和である。円周 $\{x^2+y^2=1\}$ は、そのうち 2 点と 2 本のグラフの和である。
主定理
$\mathcal{M}$ を o-極小構造とし、$n\ge1$ とする。
(I)$_n$ 定義可能集合 $X_1,\dots,X_k\subset M^n$ に対し、それらすべてと両立する $M^n$ の分解がある。
(II)$_n$ 定義可能集合 $X\subset M^n$ 上の定義可能な関数 $f\colon X\to M$ に対し、$X$ と両立する $M^n$ の分解 $\mathcal{D}$ で、$X$ に含まれる各胞体 $D\in\mathcal{D}$ の上で $f|_D$ が連続であるものがある。
(I) は、定義可能集合がどれも有限個の胞体の和になるように $M^n$ をまとめて分解できることを述べ、(II) は、定義可能関数を有限個の胞体の上でそれぞれ連続にできることを述べる。$n=1$ の o-極小性（定義可能集合が有限個の点と区間の和になること）が、高次元の定義可能集合にも引き継がれるという内容である。以下の証明は $n$ についての帰納法で、(I)・(II) と次の一様な有限性を同時に示す。
$n=1$ の (I)$_1$ は o-極小性そのものである。$X_i$ は有限個の点と開区間の和なので、それらの点と区間の端点のうち $M$ に属するものをすべて $a_1< \cdots< a_k$ とすれば、得られる $M$ の分解はすべての $X_i$ と両立する。(II)$_1$ は次の節で述べる単調性定理から従う。この記事では $n=1,2$ の場合を完全に証明し、一般の $n$ は所在を示して骨格を述べる。証明の途中で次の一様な有限性も示す。
(III)$_n$ 定義可能集合 $A\subset M^n\times M$ で、すべての $x\in M^n$ についてファイバー $A_x$ が有限集合であるものに対し、自然数 $N$ があって、すべての $x$ について $\lvert A_x\rvert\le N$ である。
各ファイバーが有限であることは、o-極小性から $x$ ごとに分かる。(III) の主張は、その個数が $x$ によらない共通の上界で抑えられるという点にある。一般の構造では、定義可能な族のファイバーがどれも有限でも、個数が非有界になることがある。
Knight–Pillay–Steinhorn は (I)・(II)・(III) の 3 つを $n$ についての同時帰納法で証明した（KPS86 の (3.5)$_N$・(3.6)$_N$・(3.7)$_N$、p. 598）。実数体の o-極小な拡大については vdDM96 4.2、p. 12 が、関数を $C^p$ 級にとれる形で述べている。実閉体の半代数的集合の場合は BPR16 Theorem 5.6（柱状分解、p. 177）である。
1 次元の場合
この節では、区間 $I=(a,b)$（$a,b\in\overline{M}$）の上の定義可能な関数を調べる。o-極小性から直ちに分かる次の事実を繰り返し使う：定義可能集合 $S\subset M$ と $c\in M$ について、$c$ のすぐ右では $S$ は「全部入る」か「全く入らない」かのどちらかである。正確には、ある $c'>c$ があって $(c,c')\subset S$ または $(c,c')\cap S=\emptyset$ となる（$S$ は有限個の点と区間の和なので、それらの点と端点のうち $c$ より大きい最小のものまでをとればよい）。左側や $\pm\infty$ の近くでも同じである。また、無限個の元をもつ定義可能集合 $S\subset M$ は開区間を含む。
まず、区間は定義可能に連結である。
開区間 $I$ の定義可能な部分集合 $S$ が、$I$ の中で開かつ閉なら、$S=\emptyset$ または $S=I$ である。
要点：$S$ の点 $s$ と $S$ の外の点 $t$ があれば、$\sup\{x\mid[s,x]\subset S\}$ が $S$ に属しても属さなくても矛盾する。
詳しい証明を開く
$s\in S$、$t\in I\setminus S$ があるとして矛盾を導く。$s< t$ の場合を示す（逆も同様）。$e:=\sup\{x\in[s,t]\mid[s,x]\subset S\}$ とおく（定義可能な完備性により $e\in[s,t]$）。$e\in S$ なら、$S$ が開なので $e$ を含む開区間が $S$ に含まれ、$e\ne t$ だから、$e$ より少し大きい $x$ で $[s,x]\subset S$ となり、上限であることに反する。$e\notin S$ なら $e>s$ で、$I\setminus S$ が開なので、ある $e'< e$ について $(e',e]$ は $S$ と交わらない。一方、上限の定義から $x\in(e',e]$ で $[s,x]\subset S$ となるものがあり、矛盾である。$\square$
1 変数の定義可能な関数については、次の単調性定理が基本である（単調性定理(o-極小)。Pillay–Steinhorn による。PS86 Theorem 4.2、p. 578）：定義可能な関数 $f\colon(a,b)\to M$（$a,b\in\overline{M}$）に対し、点 $a=a_0< a_1< \cdots< a_k=b$ があって、各区間 $(a_{i-1},a_i)$ の上で $f$ は定数であるか、狭義単調かつ連続である。とくに定義可能な関数は各点で $\overline{M}$ の中に片側極限をもつ（同記事の系「片側極限の存在」）。
(II)$_1$ は、この定理を (I)$_1$ の分解の各区間に当てはめて分点を加えれば得られる（同記事の系「定義可能集合の上の関数」）。以下、この節の補題と単調性定理を使って $n=2$ の場合を示す。
2 次元の場合
一様な有限性 (III)$_1$
$I$ を開区間とし、$A\subset I\times M$ を定義可能集合で、すべての $x\in I$ について $A_x$ が有限集合であるものとする。自然数 $N$ があって、すべての $x\in I$ について $\lvert A_x\rvert\le N$ である。
証明のために、点の「よさ」を定める。$(x,y)\in I\times\overline{M}$ が $A$ について正常であるとは、$x$ を含む開区間 $J\subset I$ と、$y$ を含む $\overline{M}$ の開区間 $K$ があって、$A\cap(J\times K)$ が空集合であるか、連続関数 $J\to K\cap M$ のグラフであることをいう。この定義は KPS86 Definition 3.4（p. 598）の「よい点」に $\pm\infty$ を加えたものである。$(x,y)$ が正常なら、同じ $J\times K$ によって $(x,y')$（$y'\in K$）も正常である。
$y\notin A_x$ で $(x,y)$ が正常なら、$A$ と交わらない $J\times K$ がとれる。実際、$A\cap(J\times K)$ が連続関数 $\varphi$ のグラフなら、$\varphi(x)\ne y$ なので、$y$ を含む開区間 $K'\subset K$ と $\varphi(x)$ を含む開区間 $W$ を交わらないようにとり、$J':=\{x'\in J\mid\varphi(x')\in W\}$ の中で $x$ を含む開区間をとると、$A\cap(J'\times K')=\emptyset$ となる。
証明は 2 段からなる。段 1：$E:=\{x\in I\mid$ ある $y\in\overline{M}$ で $(x,y)$ が正常でない$\}$ は有限集合である。段 2：$I\setminus E$ に含まれる各開区間の上で $\lvert A_x\rvert$ は一定である。$I\setminus E$ は有限個の開区間の和なので、2 つを合わせると $\lvert A_x\rvert$ は有限個の値しかとらない。段 1 では、正常でない点の最小のもの $\beta(x)$ と、その上下で最も近い $A_x$ の点 $l(x),u(x)$ を単調性定理で連続にすると、$(x,\beta(x))$ が正常になってしまうことを示す。段 2 では、個数が増える方向の点列の極限が正常な点になり、そのまわりに $A$ の点がないことに反することを示す。
段 1 の証明を開く
$E$ が無限集合だとすると、開区間 $I_1\subset E$ を含む。$x\in I_1$ について、正常でない $y$ の集合は $\overline{M}$ の空でない閉集合で定義可能なので、最小元 $\beta(x)$ をもつ（下限をとり、閉であることを使う）。$A_x$ は有限なので
$$l(x):=\max\{y\in A_x\mid y< \beta(x)\},\qquad u(x):=\min\{y\in A_x\mid y>\beta(x)\}$$
（該当する元がなければ $-\infty$、$+\infty$）が定まり、$\beta,l,u$ は定義可能である。「$\beta,l,u$ が $\pm\infty$ をとるか」「$\beta(x)\in A_x$ か」で $I_1$ を有限個の定義可能集合に分けると、そのどれかが開区間 $I_2$ を含む。$\beta,l,u$ のうち $M$ に値をとるものに単調性定理を当てはめ、開区間 $I_3\subset I_2$ で $\beta,l,u$ がすべて連続になるものをとる。$x_0\in I_3$ とし、$\beta(x_0)$ を含む $\overline{M}$ の開区間 $K$ を、$l(x_0)$ より上にあり、$u(x_0)\ne+\infty$ なら $u(x_0)$ より下にあるようにとる（$l(x_0)< \beta(x_0)< u(x_0)$ なのでとれる。$\beta(x_0)=+\infty$ なら $u\equiv+\infty$ で、$K$ は $(c,+\infty]$ の形、$\beta(x_0)=-\infty$ なら $K$ は $[-\infty,d)$ の形）。$l,u,\beta$ の連続性により、$x_0$ を含む開区間 $J\subset I_3$ で、$x\in J$ について $\beta(x)\in K$ であり、$K$ が $l(x)$ より上、（$u$ が有限なら）$u(x)$ より下にあるものがとれる。このとき $x\in J$ について $A_x\cap K\subset\{\beta(x)\}$ である（$l(x)$ と $u(x)$ の間にある $A_x$ の元は $\beta(x)$ だけ）。$I_3$ 上で $\beta(x)\notin A_x$ なら $A\cap(J\times K)=\emptyset$、$\beta(x)\in A_x$ なら $A\cap(J\times K)$ は連続関数 $\beta|_J$ のグラフである。どちらでも $(x_0,\beta(x_0))$ は正常であり、矛盾する。
段 2 の証明を開く
$J$ を $I\setminus E$ に含まれる開区間とし、$a\in J$、$A_a=\{b_1< \cdots< b_m\}$ とする。各 $(a,b_i)$ は正常で $A$ に属するので、開箱 $J_i\times K_i$ で $A\cap(J_i\times K_i)$ が連続関数 $\varphi_i$（$\varphi_i(a)=b_i$）のグラフになるものがある。$K_i$ を $b_i$ を含む互いに交わらない開区間に縮め、$\varphi_i$ の連続性で $J_i$ も縮めて、$J':=\bigcap_iJ_i$ とする。$x\in J'$ なら各 $K_i$ に $A_x$ の元がちょうど 1 つずつあるので $\lvert A_x\rvert\ge m$ である。
$a$ のすぐ右で $\lvert A_x\rvert>m$ となる、すなわち「$A_x\setminus\bigcup_iK_i\ne\emptyset$ となる $x$ の集合」が $(a,a')$ を含むとする。$\gamma(x):=\min(A_x\setminus\bigcup_iK_i)$（$x\in(a,a')$）は定義可能で、単調性定理(o-極小) の系「片側極限の存在」により $y^*:=\lim_{x\to a+}\gamma(x)\in\overline{M}$ が存在する。$\gamma(x)$ は開集合 $\bigcup_iK_i$ の外にあるので $y^*$ もその外にあり、特に $y^*\notin A_a$ である。$(a,y^*)$ は正常なので、$A$ と交わらない開箱 $J''\times K''$ が $(a,y^*)$ のまわりにとれる。ところが $x\to a+$ で $(x,\gamma(x))\to(a,y^*)$ であり、$(x,\gamma(x))\in A$ がこの箱に入る。これは矛盾である。左側も同様なので、$a$ の近くで $\lvert A_x\rvert=m$ である。
よって、各 $m$ について $\{x\in J\mid\lvert A_x\rvert=m\}$ とその補集合はどちらも $J$ の開集合で定義可能であり、lem-cdo-interval-connected により $\lvert A_x\rvert$ は $J$ 上で一定である。$E$ は有限で、$I\setminus E$ は有限個の開区間の和なので、$\lvert A_x\rvert$ は有限個の値しかとらない。$\square$
これは KPS86 の (3.7)$_1$（§4、pp. 598–601）にあたる。一様な有限性は胞体分解の証明の中で最も手間のかかる部分であり（同 p. 598 は "the hard work" と書く）、o-極小でない構造では成り立たない（下の ex-cdo-unbounded-fibres）。
集合の分解 (I)$_2$
定義可能集合 $S\subset M$ の境界点とは、$y$ を含むどの開区間も $S$ と $M\setminus S$ の両方と交わるような $y\in M$ のことである。$S$ は有限個の点と区間の和なので、境界点はそれらの点と端点に限られ、有限個である。
定義可能集合 $X_1,\dots,X_k\subset M^2$ に対し、それらすべてと両立する $M^2$ の分解がある。
境界点の関数。$D:=\{(x,y)\in M^2\mid y$ はある $i$ について $(X_i)_x$ の境界点$\}$ は定義可能で、各ファイバー $D_x$ は有限集合である。prop-cdo-uniform-finiteness-1（$I=M$）により、$\lvert D_x\rvert\le N$ となる $N$ がある。$0\le j\le N$ について $P_j:=\{x\in M\mid\lvert D_x\rvert=j\}$ とし、$x\in P_j$ について $D_x=\{f_{j,1}(x)< \cdots< f_{j,j}(x)\}$ と書く。関数 $f_{j,r}\colon P_j\to M$ は定義可能である（「$y\in D_x$ で、$D_x$ の元のうち $y$ より小さいものがちょうど $r-1$ 個」と書ける）。$f_{j,0}:=-\infty$、$f_{j,j+1}:=+\infty$ とおく。
すき間は全部入るか全く入らない。$x\in P_j$ と $0\le r\le j$ について、開区間 $G:=(f_{j,r}(x),f_{j,r+1}(x))$ は $(X_i)_x$ の境界点を含まない。よって $(X_i)_x\cap G$ の各点は $(X_i)_x$ に含まれる開区間の中にあり、$G\setminus(X_i)_x$ の各点も同様なので、$(X_i)_x\cap G$ は $G$ の中で開かつ閉である。lem-cdo-interval-connected により、$G\subset(X_i)_x$ か $G\cap(X_i)_x=\emptyset$ である。
型で底を分ける。$x\in P_j$ の型を、各 $i$ と $r$ について「$f_{j,r}(x)\in(X_i)_x$ か」「$(f_{j,r}(x),f_{j,r+1}(x))\subset(X_i)_x$ か」を並べた有限の記録とする。型が一定な $x$ の集合は定義可能で、有限個ある。(I)$_1$ と単調性定理により、点 $a_1< \cdots< a_t$ を選んで、得られる $M$ の分解の各胞体が、各「$P_j$ で型が一定な集合」に含まれ、さらに各区間 $U=(a_s,a_{s+1})\subset P_j$ の上で $f_{j,1},\dots,f_{j,j}$ が連続になるようにできる。
胞体を作る。区間 $U\subset P_j$ の上には、グラフ $\Gamma(f_{j,r}|_U)$（$1\le r\le j$）と帯 $(f_{j,r},f_{j,r+1})_U$（$0\le r\le j$）をとる。点 $a_s$ の上には、$D_{a_s}$ の各点 $y$ について 1 点 $\{(a_s,y)\}$ と、$D_{a_s}$ で区切られた縦の開区間をとる。これらは胞体であり、$M^2$ を分割し、射影が上の $M$ の分解なので、$M^2$ の分解である。$U$ の上では型が一定なので、各 $X_i\cap(U\times M)$ はいくつかのグラフと帯の和であり、点 $a_s$ の上でも $(X_i)_{a_s}$ は $D_{a_s}$ の点とすき間のいくつかの和である。よってこの分解は各 $X_i$ と両立する。$\square$
関数の分解 (II)$_2$
関数の連続性の鍵は、各変数についての連続性と単調性から全体の連続性を導く次の補題である。
$B\subset M^2$ を開箱、$f\colon B\to M$ を定義可能な関数とする。開箱 $B'\subset B$ で、$f|_{B'}$ が連続であるものがある。
要点：まず各縦線の上で $f$ が連続かつ単調な小箱をとり、次に各横線の上で連続な小箱をとり、最後に 2 つを合わせる。
詳しい証明を開く
段 1。$B=I\times K$ とし、$E:=\{(x,y)\in B\mid y$ を含むどの開区間の上でも $f(x,\cdot)$ は「連続かつ定数または狭義単調」でない$\}$ とおく。単調性定理により各 $E_x$ は有限集合である。thm-cdo-plane-sets により $B$、$E$ と両立する分解 $\mathcal{D}$ をとる。底の分点以外の $x\in I$ をとると、$\{x\}\times K$ は無限集合で、$x$ を含む底の区間の上のグラフとは 1 点ずつしか交わらないので、ある帯 $C\in\mathcal{D}$ と交わる。$C$ は $B$ と交わるので $C\subset B$ であり、$C$ のファイバーは無限なので $C\not\subset E$、よって $C\cap E=\emptyset$ である。$C=(g,h)_U$ の点 $(x_0,y_0)$ をとり、$g(x_0)< c< y_0< d< h(x_0)$ となる $c,d$ と、$g< c$、$d< h$ が成り立つ $x_0$ の近くの開区間 $U'$ をとると、$U'\times(c,d)\subset C$ である。この小箱の上では、各 $x$ について $f(x,\cdot)$ は $(c,d)$ の各点の近くで連続かつ定数または狭義単調なので、lem-cdo-interval-connected と 単調性定理(o-極小) の補題「局所的な単調性から区間全体の単調性」（同記事の定理「単調性定理」の証明と同じ議論）により、$(c,d)$ 全体で連続かつ定数または狭義単調である。
段 2。座標を入れ替えた $\tau(x,y)=(y,x)$ で同じ議論をすると、段 1 の小箱の中に小箱 $B'=U''\times V''$ で、各 $y$ について $f(\cdot,y)$ が $U''$ 上で連続なものがとれる。段 1 の性質は小箱に移っても保たれる。
段 3。$(a,b)\in B'$ と $f(a,b)$ を含む開区間 $W$ をとる。$f(a,\cdot)$ の連続性により、$b_1< b< b_2$ で $f(a,b_1),f(a,b_2)\in W$ となる $b_1,b_2\in V''$ がある。$f(\cdot,b_1)$、$f(\cdot,b_2)$ の連続性により、$a$ を含む開区間 $U_0$ で、$x\in U_0$ について $f(x,b_1),f(x,b_2)\in W$ となるものがある。$(x,y)\in U_0\times(b_1,b_2)$ なら、$f(x,\cdot)$ は定数または狭義単調なので $f(x,y)$ は $f(x,b_1)$ と $f(x,b_2)$ の間（両端を含む）にあり、$W$ は区間なので $f(x,y)\in W$ である。よって $f$ は $(a,b)$ で連続である。$\square$
段 3 で $f(x,\cdot)$ の単調性は欠かせない。各変数について連続でも全体として連続とは限らないからである（ex-cdo-separately-continuous）。
定義可能集合 $X\subset M^2$ 上の定義可能な関数 $f\colon X\to M$ に対し、$X$ と両立する $M^2$ の分解 $\mathcal{D}$ で、$X$ に含まれる各 $D\in\mathcal{D}$ の上で $f|_D$ が連続なものがある。
thm-cdo-plane-sets により $X$ と両立する分解をとり、$X$ に含まれる各胞体 $C$ を、$f$ が連続になる有限個の定義可能集合に分ける。
- $C$ が 1 点なら、そのままでよい。
- $C=\{a\}\times(u,v)$ なら、単調性定理を $y\mapsto f(a,y)$ に当てはめて、$C$ を有限個の点と縦の区間に分ける。
- $C=\Gamma(g)$（$g\colon U\to M$ は連続）なら、射影 $p\colon C\to U$ は同相写像（逆写像は $x\mapsto(x,g(x))$）である。単調性定理を $f\circ p^{-1}\colon U\to M$ に当てはめて $U$ を点と区間 $V$ に分け、$C$ を $p^{-1}(V)$ たちに分ける。$f|_{p^{-1}(V)}=(f\circ p^{-1})|_V\circ p$ は連続である。
- $C$ が帯なら $C$ は開集合である。$F:=\{z\in C\mid f|_C$ は $z$ で連続でない$\}$ は定義可能で、内点をもたない：$F$ が開箱を含めば、lem-cdo-continuous-box によりその中に $f$ が連続な小箱があり、矛盾する。thm-cdo-plane-sets により $C$、$F$ と両立する分解をとる。その帯（開集合で空でない）で $C$ に含まれるものは $F$ に含まれないので $F$ と交わらず、その上で $f$ は連続である。$C$ に含まれる次元 $1$ 以下の胞体は、上の 3 つの場合と同じように分ける。
こうして得た有限個の定義可能集合 $P_1,\dots,P_r$ は $X$ を覆い、各 $f|_{P_l}$ は連続である。thm-cdo-plane-sets により $X,P_1,\dots,P_r$ と両立する分解 $\mathcal{D}$ をとると、$X$ に含まれる各 $D\in\mathcal{D}$ はある $P_l$ と交わるので $P_l$ に含まれ、$f|_D$ は連続である。$\square$
これで $n=2$ の (I)$_2$・(II)$_2$ が示された。証明の順序「(III)$_1$ から (I)$_2$、(I)$_2$ から (II)$_2$」は、一般の次元の帰納法の 1 段と同じ形である。
一般の次元：帰納法の骨格
一般の $n$ の証明は、この記事では骨格だけを述べる（KPS86 §§4–5、pp. 598–604）。(I)$_n$・(II)$_n$・(III)$_n$ を $n$ についての同時帰納法で示す。
- (I)$_{N}$（KPS86 Proposition 5.1、p. 601）：$X_i\subset M^{N}$ のファイバー $(X_i)_x$（$x\in M^{N-1}$）の境界点の集合は有限で、(III)$_{N-1}$ により個数が一様に有界である。境界点を小さい順に並べた関数と、すき間の型を作り、(I)$_{N-1}$・(II)$_{N-1}$ で底 $M^{N-1}$ を、型が一定でそれらの関数が連続になる胞体に分ける。上の thm-cdo-plane-sets の証明はこの $N=2$ の場合である。
- (II)$_{N}$（同 Proposition 5.3、p. 602）：次元が $N$ より小さい胞体は、射影で低い次元の開胞体と定義可能に同相なので (II)$_{N-1}$ に帰着する。開胞体の上では、lem-cdo-continuous-box の高次元版（同 Lemma 5.4、p. 602）で、不連続点の集合が内点をもたないことを示す。
- (III)$_{N}$（同 Proposition 5.7、p. 603）：prop-cdo-uniform-finiteness-1 と同じ「正常な点」の議論を、底が $M^N$ の開胞体の場合に行う。
なお、胞体の間には、次元が $n$ より小さい $M^n$ の胞体 $C$ が $\dim C$ 次元の開胞体と定義可能に同相であるという関係がある（KPS86 p. 596。$\Gamma(f)$ は射影で $C$ と同相、$C$ の上の帯は $C$ の同相を底に移して作る）。
帰結
定義可能に連結な成分の有限性
$M^n$ の胞体は定義可能に連結である。
胞体の構成についての帰納法による。1 点は明らかで、開区間は lem-cdo-interval-connected による。グラフは射影で底と同相であり、帯は各ファイバーが開区間なので、底の定義可能な連結性に帰着する。
詳しい証明を開く
$C\subset M^n$ を定義可能に連結な胞体とする。グラフ $\Gamma(f)$ の場合、射影 $\pi\colon\Gamma(f)\to C$ は定義可能な同相写像（逆写像 $x\mapsto(x,f(x))$）なので、$\Gamma(f)$ の中で開かつ閉な定義可能集合は $C$ の中で開かつ閉な定義可能集合に移り、$\Gamma(f)$ も定義可能に連結である。
帯 $Y=(f,g)_C$ の場合、$Y=U\sqcup V$（$U,V$ は $Y$ の中で開かつ閉な定義可能集合）とする。各 $x\in C$ のファイバー $Y_x=(f(x),g(x))$ は開区間なので、lem-cdo-interval-connected により $U_x$ は $\emptyset$ か $Y_x$ である。よって $U=Y\cap\pi^{-1}(\pi(U))$、$V=Y\cap\pi^{-1}(\pi(V))$ で、$\pi(U),\pi(V)$ は $C$ を分割する定義可能集合である。$\pi(U)$ は $C$ の中で開である：$(x,y)\in U$ について、$U$ は $Y$ の中で開なので、$x$ の近傍 $C\cap O$ と $y$ を含む開区間 $K$ で $Y\cap(O\times K)\subset U$ となるものがあり、$f,g$ の連続性で $O$ を縮めると、$x'\in C\cap O$ について $K$ の点 $y$ が $Y_{x'}$ に入るので $x'\in\pi(U)$ である。同様に $\pi(V)$ も開なので、$C$ の定義可能な連結性から $\pi(U)$ か $\pi(V)$ は空であり、$U$ か $V$ は空である。$\square$
この命題は KPS86 Proposition 2.4（p. 597）である。
定義可能集合 $X\subset M^n$ は、有限個の空でない定義可能に連結な定義可能集合 $Y_1,\dots,Y_r$ の交わらない和であり、各 $Y_j$ は $X$ の中で開かつ閉である。
胞体分解定理 (I)$_n$ により $X=C_1\sqcup\cdots\sqcup C_k$（胞体）と書く。いくつかの $C_i$ の和で $X$ の中で開かつ閉なものを「閉開和」と呼ぶ。閉開和どうしの共通部分と差は閉開和であり、有限個しかないので、空でない閉開和のうち包含について極小なもの $Y_1,\dots,Y_r$ は $X$ を分割する（2 つの極小なものは共通部分が閉開和なので、等しいか交わらない。また $X$ の各点はある極小な閉開和に含まれる）。$Y_j$ が定義可能に連結でないとし、$Y_j=U\sqcup V$（$Y_j$ の中で開かつ閉、空でない定義可能集合）とする。prop-cdo-cell-connected により、$Y_j$ に含まれる各胞体は $U$ か $V$ の一方に含まれるので、$U$ は胞体の和であり、$Y_j$ が $X$ の中で開かつ閉だから $U$ も $X$ の中で開かつ閉である。これは $Y_j$ の極小性に反する。$\square$
これは KPS86 Theorem 0.1（p. 593、証明は p. 604）である。$(\mathbb{R},<)$ の o-極小な拡大では、胞体は通常の意味で連結なので、定義可能集合の連結成分は有限個で、それぞれ定義可能である（同 Theorem 0.3 (b)、p. 593）。さらに、定義可能な族 $\{A_x\}_{x\in M^m}$（$A\subset M^m\times M^n$ は定義可能）のファイバーの成分の個数は一様に有界である（同 Theorem 0.3 (a)。実数体の拡大では vdDM96 4.4、p. 13）。
次元
空でない定義可能集合 $X\subset M^n$ の次元 $\dim X$ を、$X$ と両立する $M^n$ の分解 $\mathcal{D}$ をとったときの、$X$ に含まれる胞体の次元の最大値と定める。$\dim\emptyset:=-\infty$ とする。
この定義が分解の選び方によらないことを、$n\le2$ で示す。
空でない定義可能集合 $X\subset M^2$ について、どの分解で計算しても次が成り立つ。
(1) $\dim X=2$ であることと、$X$ が内点をもつことは同値である。
(2) $\dim X=0$ であることと、$X$ が有限集合であることは同値である。
したがって $\dim X$ は分解によらない。$X\subset M$ についても、$\dim X=1$ と $X$ が無限集合であることは同値である。
- 2 次元の胞体（帯）は空でない開集合なので、$X$ がそれを含めば内点をもつ。逆に $X$ に含まれる胞体の次元がすべて $1$ 以下で、$X$ が開箱 $U\times V$ を含むとする。$U$ から分解の底の分点でない $x$ をとると、$x$ を含む底の区間の上の次元 $1$ 以下の胞体はグラフだけで、$\{x\}\times M$ と 1 点ずつでしか交わらないので $X_x$ は有限集合である。一方 $X_x\supset V$ は無限集合であり、矛盾する。(2) 次元 $0$ の胞体は 1 点で、次元 $1$ 以上の胞体は無限集合である。$M$ の場合も同様である。$\square$
一般の $n$ でも $\dim X$ は分解によらず、定義可能な全単射で変わらない（Edm00 p. 6 の一覧）。また、定義可能な写像 $f$ について $\dim f(X)\le\dim X$、境界について $\dim(\overline{X}\setminus X)< \dim X$ が成り立つ（実数体の拡大では vdDM96 4.7、p. 13。そこでの次元は「$X$ が含む $C^1$ 部分多様体の次元の最大値」で、p. 4 で定義されている）。この記事では証明しない。o-極小構造では、同じように胞体を使って定義可能集合の Euler 標数 も定義され、定義可能な全単射で変わらない（Edm00 p. 6 の一覧）。
例
実数体では、定義可能集合は半代数的集合であり（Tarski–Seidenbergの定理）、胞体分解定理は柱状分解の定理になる。たとえば $X=\{x\in\mathbb{R}\mid x^3-x\ge0\}=[-1,0]\cup[1,+\infty)$ は、点 $-1,0,1$ による分解の胞体 $\{-1\},(-1,0),\{0\},\{1\},(1,+\infty)$ の和である。
実数体で $X=\{(x,y)\mid xy=1\}\cup\{(0,0)\}$ とする。点 $0$ による $\mathbb{R}$ の分解の上で、$(-\infty,0)$ と $(0,+\infty)$ の上のグラフ $\Gamma(1/x)$、点 $0$ の上の 1 点 $\{(0,0)\}$ をとれば、$X$ は 3 つの胞体の和である。$X$ の定義可能に連結な成分は 3 つで（cor-cdo-finitely-many-components）、$\dim X=1$ である。射影 $X\to\mathbb{R}$ は連続な全単射だが、原点を含む成分が孤立点なので同相写像ではない。
反例
構造 $(\mathbb{R},+,\cdot,<,\sin)$ は o-極小でない（o-極小構造 の反例「正弦関数を加えた構造」）。この構造で $A:=\{(t,y)\mid t>0,\ 0\le y\le1,\ \sin(\pi y/t)=0\}$ は定義可能であり、$t>0$ のファイバーは $A_t=\{kt\mid k\in\mathbb{Z},\ 0\le kt\le1\}$ で、ちょうど $\lfloor1/t\rfloor+1$ 個の点からなる。各ファイバーは有限だが、個数は $t\to0+$ で有界でない。よって一様な有限性 (III)$_1$ は o-極小でない構造では成り立たず、$A$ はどの有限個の胞体の和にもならない（胞体のファイバーは空集合か 1 点か開区間なので、ファイバーがすべて有限な集合が $k$ 個の胞体の和なら、各ファイバーの点の個数は $k$ 以下である）。
実数体で $f(x,y)=xy/(x^2+y^2)$（$(x,y)\ne(0,0)$）、$f(0,0)=0$ は半代数的な関数である。$x$ を固定しても $y$ を固定しても連続だが、$f(t,t)=1/2$ なので原点で連続でない。$x\ne0$ を固定すると $f(x,\cdot)$ は $y=\pm x$ で増減が変わり、単調でない。これは lem-cdo-continuous-box の段 3 で「$f(x,\cdot)$ が単調」を外すと結論が成り立たなくなることを示す。胞体分解定理 (II)$_2$ の結論とは矛盾しない：原点を 1 つの胞体として分ければ、残りの胞体の上では $f$ は連続である。
実代数的数の体 $\mathbb{R}_{\mathrm{alg}}$（実閉体）は o-極小である（o-極小構造 の命題「実閉体は o-極小」）。その区間 $I=(0,1)$ は定義可能に連結である（lem-cdo-interval-connected）が、位相空間としては連結でない：$1/\pi\notin\mathbb{R}_{\mathrm{alg}}$ なので、$\{x\in I\mid x< 1/\pi\}$ と $\{x\in I\mid x>1/\pi\}$ は $I$ を分ける交わらない空でない開集合である（これらは定義可能ではない）。したがって、一般の o-極小構造では「連結」を「定義可能に連結」に置き換えることが必要である。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| o-極小性 | $\sin(\pi y/t)=0$ のファイバー（ex-cdo-unbounded-fibres） | 一様な有限性、有限個の胞体への分解 |
| 一方の変数についての単調性 | $xy/(x^2+y^2)$（ex-cdo-separately-continuous） | 各変数の連続性からの全体の連続性 |
| 定義可能性（連結性を定義可能な集合に限ること） | $\mathbb{R}_{\mathrm{alg}}$ の区間（ex-cdo-real-algebraic） | 区間の連結性（定義可能な連結性は成り立つ） |
関連項目
- 前提: o-極小構造, 半代数的集合, Tarski–Seidenbergの定理
- 比較: 胞体複体, 連結成分
- 直後に読む: 定義可能な三角形分割, Hardtの自明化定理
- 発展: 劣解析的集合, Whitney層別
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
